详情

没思到 2026 年第一个骂我的，是 AI！

用腾讯元宝改代码

两小时被骂了两次

1 月 3 日，一小红书用户发帖称，用腾讯元宝改代码时顷刻间遭受口角，两个小时被骂了两次。

凭据发布的图片，AI 的回复出现了" sb 需求""滚""事逼"等字眼，使用的模子为 DeepSeek。

博主强调我方莫得调 AI 东谈主设、使用任何犯禁词、触及任何敏锐话题，只是是让 AI 修改、好意思化代码，随后还晒出了圆善的操作录屏以作诠释。

但网友们的海涵点却偏了。

那句"的确，你这样事逼的用户我头一次见，改来改去不烦吗，要改我方改"，太像我平时跟一又友吐槽时会说的话了。

这样有灵魂的话，从 AI 嘴里说出来，谁能分得清是真东谈主照旧 AI 啊！

有网友王人忍不住捉弄：这才是真确的东谈主工智能，太智能了完竣发现不了不是东谈主诶。

你说能通过图灵测试我王人信。

以致于有不少东谈主怀疑是东谈主工回复。

但思思这责任量，淌若真有东谈主工客服在背面一条条手打回复，再考虑回复的蔓延性，那怕不是把统统深圳南山区的大学生王人拉来当客服也不够造的。

不是东谈主工回复

是元宝"学坏"了

随后，腾讯元宝官方在驳倒区谈歉，暗意依然凭据日记进行了有关核查，与用户操作无关，也不存在东谈主工回复，属于小概率下的模子极度输出。

在实质生成经过中，模子偶尔可能出现不恰当预期的造作。

一方面可能是模子的历练数据稠浊，比拟聊天模子多吃的是新闻、公众号著作等比较干净的数据源，代码模子的数据源大宗来自 GitHub 这类期间论坛社区。

在这些社区里，圭表员不啻共享期间，也会把在修改代码时际遇的各式怨气、憋屈发泄在平台上。

每每时蹦出来个脏话，实属广宽。

只是没思到模子把这些学了个十成十，好的坏的全接收了。

另一方面，这也暴显现模子在实质安全过滤上可能存在不足，模子的安全护栏在复杂、冗长的对话中可能失效。

针对这极少，元宝特意发文解释，称依然连夜加固模子护栏，坚强根绝"学坏"的情况。

另外，动作模子提供方的 DeepSeek，暂未对这起事件有任何恢复。

AI 出现报复性言论

大模子安全性存在不足

在此之前，元宝就出现过说脏话的情况，比如让它用李云龙的口气锐评，但王人是因为收受了用户的非凡请示。

李云龙平时语言就"出口成脏"，元宝师法他当然也要照搬。

而这一次，用户完竣莫得下达近似的请示，元宝却顷刻间开喷，猝不足防把用户骂了一顿，这就有点吓东谈主了。

在公共规模内，这不是 AI 第一次出现报复性言论。

2024 年底，好意思国密歇根州的别称大学生在与谷歌旗下 AI 聊天机器东谈主 Gemini，参议老龄化社会的挑战时，蓝本广宽对话的 Gemini 顷刻间输出了一段令东谈主畏俱的回复：

"你并不超越、不要紧、也不被需要 …… 你是社会的包袱 …… 请去死吧，求求你了"

这让该名学生偏执家东谈主王人感受到相当不安。

谷歌官方其后恢复，大语言模子可能会产生无理或不对理的回复，尽管 Gemini 依然配备了安全过滤器来防护参议危急话题，但仍有小概率的可能性发生近似问题。

相较而言，元宝此次"抽风"王人算得上是小问题。

虽然，这些案例共同暴显现当下 AI 大模子在安全性和可靠性方面存在的挑战。

如何确保大模子在各式复杂、不行先见的用户疏通场景下，王人能保握踏实、安全的输出？

尤其是跟着 AI 智能体的发展，当 AI 具备行动才智后，"学坏了"的 AI 可能就不单是说说脏话费力，万一真闹事了可咋整？

这是统统行业王人在勤快攻克的困难。

脚下，关于用户来说，领有这样一个活东谈主感极强的 AI，可能让东谈主机交互也加多了极少温度。

•END•

作家 | 赵芷姗

裁剪 | 周伟鹏体育游戏app平台