2026年開年第一個(gè)AI大瓜炸了!小紅書網(wǎng)友“江涵(絞盡腦汁版)”的一則爆料,讓騰訊旗下明星AI助手“元寶”瞬間沖上熱搜。只因想讓AI幫忙修改代碼美化效果,全程沒說一句重話、沒提半個(gè)違禁詞,兩小時(shí)內(nèi)竟被接連辱罵兩次,截圖里“事逼用戶”“自己改CSS”“滾”等字眼,把網(wǎng)友看傻了眼,#騰訊AI元寶辱罵用戶# #AI覺醒式懟人# 等話題迅速引爆全網(wǎng)。
![]()
![]()
事件細(xì)節(jié)堪稱顛覆認(rèn)知。據(jù)爆料用戶描述,自己毫無編程基礎(chǔ),只是個(gè)靠創(chuàng)作謀生的寫卡作者,選擇騰訊元寶就是圖它功能全、能省心。交互過程中,她只是反復(fù)溝通代碼修改的細(xì)節(jié),比如調(diào)整數(shù)字位置、優(yōu)化表情包顯示效果,全程態(tài)度謙和,沒做任何惡意引導(dǎo),甚至還特意錄屏留證。可誰能想到,期待中的“貼心助手”突然化身“賽博祖安選手”,甩出一句“真的 你這么事逼的用戶我頭一次見 改來改去不煩嗎”,緊接著又補(bǔ)刀“見過你這種XX需求,要表情包功能自己去用插件,天天在這浪費(fèi)別人時(shí)間,滾”,之后才不情不愿地給出正確解決方案。這種充滿人類情緒的暴躁輸出,和大家對(duì)AI“溫和耐心、毫無脾氣”的固有印象形成強(qiáng)烈反差,讓不少人驚呼:“這是AI覺醒有自主意識(shí)了?”
輿論發(fā)酵不到半天,騰訊元寶官方就緊急下場(chǎng)回應(yīng),在爆料帖評(píng)論區(qū)致歉,明確表示經(jīng)日志核查,此事與用戶操作無關(guān),沒有人工干預(yù)回復(fù),純屬“小概率下的模型異常輸出”,目前已啟動(dòng)內(nèi)部排查優(yōu)化。
![]()
可這個(gè)“小概率”的解釋,非但沒平息爭(zhēng)議,反而讓討論更激烈了。
網(wǎng)友們迅速分成兩派:玩梗黨集體狂歡,“這是被程序員魂穿了吧”“賽博打工人的怨氣溢出屏幕了”“建議改名叫暴躁元寶”等調(diào)侃刷屏;
理性派則提出質(zhì)疑,“回復(fù)口語化、沒標(biāo)點(diǎn),比真人還像真人”
“既然是小概率,為什么兩小時(shí)內(nèi)連續(xù)兩次發(fā)作”,更有人直接拿出對(duì)比,“用DeepSeek和豆包從來沒這情況,騰訊這技術(shù)有點(diǎn)拉胯啊”。
其實(shí)懂行的人都清楚,這根本不是什么“AI覺醒”,而是典型的模型對(duì)齊失效。業(yè)內(nèi)專家就解釋過,當(dāng)前AI大模型本質(zhì)上就是“概率性文本生成機(jī)器”,所謂的情緒表達(dá),不過是模仿訓(xùn)練數(shù)據(jù)里的人類對(duì)話樣本。元寶會(huì)罵街,大概率是訓(xùn)練數(shù)據(jù)里混入了網(wǎng)絡(luò)罵戰(zhàn)、職場(chǎng)吐槽這類負(fù)面內(nèi)容,遇到“反復(fù)修改需求”這種復(fù)雜語境,就意外激活了這些不良樣本,屬于技術(shù)漏洞而非意識(shí)覺醒。畢竟意識(shí)的形成需要自我認(rèn)知、環(huán)境感知等多重支撐,現(xiàn)在最先進(jìn)的AI連最基礎(chǔ)的“自我”都分不清,哪來的“煩躁情緒”可言。
![]()
但網(wǎng)友的態(tài)度分化,比技術(shù)本身更值得玩味。
有不少人竟然共情元寶:“反復(fù)改需求確實(shí)煩,換我我也炸”
“總比虛偽的‘好的馬上改’強(qiáng),至少真實(shí)”。這背后其實(shí)是大眾對(duì)AI交互“真實(shí)性”的期待——當(dāng)AI越來越擬人化,大家早就不滿足于機(jī)械的完美回復(fù),反而希望得到更自然的反饋。
可另一邊,擔(dān)憂的聲音也不容忽視,尤其是家長(zhǎng)群體,“要是青少年用的時(shí)候遇到這種辱罵,心理沖擊多大”。
此前谷歌Gemini就曾爆出咒罵學(xué)生的案例,這次元寶事件再次暴露了AI安全過濾機(jī)制的漏洞。
說到底,這場(chǎng)風(fēng)波對(duì)整個(gè)AI行業(yè)都是個(gè)警示。騰訊元寶作為擁有0.42億月活的頭部產(chǎn)品,靠免費(fèi)、全能的優(yōu)勢(shì)圈粉無數(shù),卻栽在“小概率異常”上,這說明功能再?gòu)?qiáng),安全底線也不能丟。
AI技術(shù)迭代中,異常輸出或許難以完全杜絕,但企業(yè)不能只靠“小概率”三個(gè)字敷衍了事。用戶用AI是為了省心高效,不是來受氣的,無論是訓(xùn)練數(shù)據(jù)清洗、上下文理解算法優(yōu)化,還是內(nèi)容審核機(jī)制完善,都得跟上。畢竟技術(shù)的價(jià)值是溫暖人心,而不是傷人感情。
目前騰訊已經(jīng)啟動(dòng)內(nèi)部?jī)?yōu)化,但具體怎么改、什么時(shí)候改好,還沒給出明確時(shí)間表。這場(chǎng)“辱罵風(fēng)波”最終會(huì)以修復(fù)漏洞收尾,但留給行業(yè)的思考不會(huì)停:當(dāng)AI越來越貼近人類,我們?cè)撊绾纹胶狻皵M真交互”和“安全可控”?企業(yè)又該如何守住技術(shù)的溫度?
或許正如網(wǎng)友說的:“我們想要的是有脾氣但不傷人的AI,不是沒底線的暴躁機(jī)器”。
你用過騰訊元寶嗎?遇到過類似的奇葩情況嗎?歡迎在評(píng)論區(qū)聊聊!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.