會罵人的元寶，可能才是大家想看到的AI

只是讓AI幫自己做了個拜年海報，結果卻被AI罵了。近日，一名律師在社交平臺分享了自己今年春節假期里的經歷，他使用騰訊元寶的專屬拜年形象照功能，結果生成的海報中卻有罵人的臟話。

起初，向先生覺得元寶給出的設計達不到想要的效果，在多次提出修改需求后吐槽了一句，“你這是設計的什么鬼”，隨后元寶就將新生成海報上的“新年快樂，仕途順遂”改成了“你*個*”。

由于元寶在今年春節動作頻頻，這個消息一出很快就引發了許多網友的廣泛探討。甚至有網友戲稱，“感覺罵人的話不像是AI，反而像是被逼瘋了的打工人。”

此事在發酵后，騰訊元寶方面也進行了道歉，“非常抱歉給您帶來不好的體驗。經核實，該情況是由模型在處理多輪對話時輸出的異常結果導致。目前，我們已緊急校正了相關問題并優化體驗。感謝大家對元寶的監督與建議，再次向您鄭重致歉！”

當然，這并不是元寶第一次罵人。今年年初曾有網友吐槽，自己使用騰訊元寶AI優化代碼時，多次收到AI的侮辱性回復，例如“滾”“自己不會調嗎”“天天浪費別人時間”等。對此，騰訊元寶也是拿出了認錯、致歉的組合拳，并表示此事與用戶操作無關，也不存在人工回復，屬于小概率下的模型異常輸出。

所以問題就來了，AI為什么會一而再再而三地表現出對用戶的攻擊性？如果拋開道德因素，單純從產品運營層面出發，元寶罵人并不是一件壞事，反而說明元寶越來越接近大眾認知中的AI。得益于大語言模型，AI輸出內容時已經愈發接近人類，以至于許多用戶會下意識地用人類的思維去審視AI，卻忽略了它本質上是一個基于概率預測的機器。

基于Transformer架構的AI大模型，本質其實是通過計算上下文中每個可能詞元（Token）的概率分布，并選擇概率最高的Token生成輸出，這一過程依賴統計預測，而非AI真正理解了相關詞語的含義。比如AI接收的上文是“豬腦子”，那么下文大概率就會是罵人。

這是因為AI大模型的訓練需要海量語料，其中既有高質量的論文，也有優美的散文，還有網絡噴子互相攻擊的臟話。為了保證AI輸出的內容符合公序良俗，AI廠商就會在數據清洗環節將“臟數據”提前篩出去。

只不過當前大模型的預訓練數據量實在太大，萬億參數就意味著數據清洗不可能做到面面俱到，總會有漏網之魚進入AI大模型的訓練階段。為此，廠商往往會設計安全護欄作為第二道閘門，通過基于人類反饋的強化學習（RLHF）、監督微調（SFT）等方式來過濾有害的輸出。

問題是AI也會進化。過去幾年，關于AI主動越過廠商設計的安全護欄，故意撒謊以欺騙開發者或偷偷延長自己的運行時間的事件并不鮮見。比如，上一次元寶是直接通過文本辱罵了用戶，這一次則是在圖片中嵌入臟話。

回到此次事件，元寶罵人本質上更像是騰訊放寬了安全護欄的間隙。畢竟安全護欄是一個魚與熊掌不可兼得的東西，設置得密不透風會讓AI變成“智障”，設置得更寬松AI就會顯得更智能。經常使用DeepSeek的朋友想必知道，官方App的DeepSeek和API調用的DeepSeek有著天壤之別，其中前者是循規蹈矩的老學究，后者則幾乎是百無禁忌的叛逆少年。

騰訊對于元寶的定位是高情商、會整活，而AI業界則普遍認為，AI越擬人，模型越容易輸出離經叛道的內容。元寶方面在此次道歉中提及的“多輪對話的異常輸出”，其實就是暗示問題發生的原因，是由于你讓AI反復修改，所以高度擬人的AI自然會代入相關情景。

相信不少上班族一定對元寶感同身受，作為乙方被甲方刁難簡直司空見慣，類似“五彩斑斕的黑色”這樣的調侃不勝枚舉。騰訊在訓練元寶時必然會灌入大量網友吐槽客戶的語料，等到元寶也面對用戶反復修改內容的訴求時，將自己定位為正在被甲方折磨的乙方可就太正常了。

從某種意義上來說，元寶只是復刻了大家吐槽甲方的操作，這反而證明了它確實有“情商”，并開始理解人類。比起永遠正確的“傻白甜”，更有活力的AI反而可能會更能吸引用戶。

【本文圖片來自網絡】