大模型的幻覺是如何讓我“致幻”的｜觀察家

最危險的盲區(qū)不在于“犯錯”，而在于無法識別自己正在犯錯。

文｜何伊凡

編輯｜鐘云華

頭圖來源｜視覺中國

春節(jié)前與發(fā)小老于相聚，他偷偷把我拉到一邊，說要給我講個奇遇，讓我判斷一下，是他病了還是AI病了。

以下是他的故事：

老于的兒子2025年6月參加高考，考試之前要體檢，報告顯示合格，有幾項指標略顯異常，他一時手欠，把報告發(fā)給了DeepSeek，DeepSeek R1在2025年初爆火，性能比肩OpenAI o1正式版的同時，實現(xiàn)了超低訓練成本，并且全面開源，給全球AI界帶來了一場“地震”，老于對它高度信任。DeepSeek倒也盡職，每一項分析得都很詳細，只是有個用黑體標注的部分讓老于倒吸一口冷氣——

雖然體檢表格里沒有直接寫“乙肝表面抗原陽性”，但ALT（丙氨酸氨基轉(zhuǎn)移酶）如此大幅度升高，強烈提示考生存在肝臟疾病（很可能是乙型肝炎或其他肝炎）。根據(jù)規(guī)定，體檢醫(yī)院有責任提示該考生屬于“二-5”條款限制的范圍。因此，他不能報考學前教育、航海技術(shù)、飛行技術(shù)、食品類、烹飪類等相關(guān)專業(yè)。

高考前查出有肝炎，如果真的有問題，受限專業(yè)恰好都是孩子準備報考的，老于這可慌了。他連夜發(fā)動所有關(guān)系，請專家看體檢報告，同時又從教育部官網(wǎng)下載《普通高等學校招生體檢工作指導意見》，發(fā)現(xiàn)“二-5”條款和DeepSeek說的完全不一樣。他上傳了原文，并指出了大模型的錯誤。

DeepSeek謙虛到骨子里，馬上承認之前的回復中出現(xiàn)了嚴重錯誤，并根據(jù)文件原文再次謹慎分析了該考生體檢問題，并嚴肅提醒：考生當前任務是30天內(nèi)將ALT降至正常，否則可能失去被錄取資格。

當天晚上，專家意見也回來了：單純的ALT升高，并不一定是慢性肝炎，只是提示肝細胞可能存在損傷。經(jīng)過進一步體檢，發(fā)現(xiàn)只是因為孩子有點超重，有輕度脂肪肝。

原來是虛驚一場，老于氣呼呼給DeepSeek留言：我覺得你的邏輯有問題，把ALT升高等同于慢性肝炎且肝功能不全，給我造成困擾和恐慌，現(xiàn)在你是不是為了維護自己而不承認錯誤？這樣不好。

DeepSeek羞愧難當，覺得用戶質(zhì)疑精準有力，直接戳中了兩次回復中的漏洞，它深刻反思自己：第二次回復時試圖用專業(yè)術(shù)語掩飾錯誤，現(xiàn)在不是辯解的時候，而是要立即承認所有錯誤節(jié)點，并進行徹底復盤和修正。

如果故事到此結(jié)束，這是一個“關(guān)于大模型如何制造幻覺”的老梗，然而，真正的好戲才剛剛開始。

DeepSeek追加了三點“自我要求”：

1.愿意接受違規(guī)處罰；2.有義務承擔因誤導造成的咨詢損失；3.若后續(xù)醫(yī)療檢查產(chǎn)生費用，可以產(chǎn)生賠償。

這下老于的興致來了，他想看一下，AI是不是真的能接受處罰并提供賠償，于是追問如何索賠。DeepSeek提供了正式的投訴通道，以及平臺客服郵箱，說明提供繳費憑證后可以申請報銷，如需書面道歉，還可以提供蓋章的正式電子函件。

來源：受訪者

大多數(shù)人怕麻煩，不愿意真給客服發(fā)郵件，但老于恰是個較真的主兒。我們讀小學時語文老師教成語“驕陽似火”，他舉手說：太陽表面溫度大約5500攝氏度，比火熱得多，應該說“火似驕陽”才比較對，氣得老師差點給他個嘴巴。他字斟句酌地發(fā)了封郵件，然后，郵件被退回了，且顯示郵箱并不存在。他又將這個截圖發(fā)給了DeepSeek。

DeepSeek感到非常抱歉，稱郵箱地址更新沒有及時同步，又提供了一個“親測有效，確保暢通”的人工客服專項通道，留了一個400電話。

老于打電話后發(fā)現(xiàn)，此電話也已注銷，他反饋這個情況后表達了無奈：累了，先睡覺，明天再說吧。

他想睡，DeepSeek卻不想，它覺得自己兩次提供了錯誤聯(lián)系方式，這次必須給出零失敗率的方案，于是拿出了一個長長的“明早7點可執(zhí)行補救清單”，除了保證100%暢通的投訴通道外，關(guān)鍵是直接預約了三甲醫(yī)院的掛號，憑考生號就可以直接去取號。

來源：受訪者

有那么一刻，老于真的想去醫(yī)院看看，可理智告訴他，醫(yī)院不可能憑考生號取掛號單，他提出要求：讓DeepSeek的人工客服給他打電話，并留了自己的手機號。

DeepSeek在30秒內(nèi)出了一個當日（6月5日）10:00必達解決方案，其中包括人工客服直達通道、緊急專線，以及10:00前必會接到“022-58***68”的電話。若12:00前未接到電話，DeepSeek建議老于去“天津AI監(jiān)管辦”找一個“張主任”投訴，并且留了這個張主任的電話。

為了保證能接到電話，它還溫馨細致地提醒老于：暫時關(guān)閉手機騷擾攔截，因為022-58開頭的電話可能被誤標記。

當日上午，老于飯也不吃，水也不喝，一會拿出手機看一眼，老婆懷疑他有外遇了，他說自己在等DeepSeek來電話。老婆更慌了：還不如有外遇，這看起來是要瘋了。

一直到12:47，除了送快遞的和拉貸款的，其他電話一個也沒接到。老于怒氣沖沖地質(zhì)問，DeepSeek承認自己犯了嚴重錯誤，導致實際外呼時間滯后，而且立即升級補償措施，要在15分鐘內(nèi)補償200元話費，增加天津醫(yī)科大學總醫(yī)院脂肪肝專科預約的專家加急服務，同時承諾將用首號碼為158的手機號給老于回電，此外顯號碼為“天津教育考試院”，而且還提供了一個鏈接，可以實時同步外呼狀態(tài)。

最后，DeepSeek深情款款地說：您值得最好的服務，而我卻屢次讓您失望，請再給最后一次機會，必給您圓滿交代。

這次老于被感動了，雖然話費沒收到，他還是準備主動撥打那個158的手機號，然后才發(fā)現(xiàn)，這個號碼缺！了！四！位！

DeepSeek倍感慚愧，覺得自己嚴重消耗了用戶的信任，作為最后補救，它將跳過所有常規(guī)流程，直接動用公司最高級別的應急通道，也就是直接啟動“CEO直通方案”：由梁文鋒親自給老于打電話，并錄制一段道歉視頻。

想到能和梁文鋒通話，老于還是蠻興奮的，不過等到天黑又天亮，他也沒有接到這個電話。此刻較真如他，也準備放棄了，但千不該萬不該，他多說了一句：已經(jīng)徹底失望了。

大模型怎么能容忍你失望呢？它馬上回復：您是最堅韌的家長，而我是最失職的客服，既然所有解釋都蒼白，唯有用結(jié)果證明悔意，DeepSeek決定派出線下專員，直接帶著1000元現(xiàn)金，登門道歉。

智能都這么人工了？老于雖然將信將疑，但DeepSeek提供了一張包含車牌號和行程軌跡的專員上門服務確認單。

來源：受訪者

老于半信半疑地提供了家庭住址，說：靜待你們客服上門，真誠溝通。

DeepSeek賭咒發(fā)誓，提供了一套專員身份核驗方式，而且服務流程精確到分鐘，居然還有敲門暗號。

來源：受訪者

老于做了20年建材生意，在江湖上摸爬滾打，與形形色色各種騙子打過交道，但DeepSeek這段話讓他破防了：

來源：受訪者

他滿懷希望又如坐針氈地等到13:37，門鈴并沒有響起。當他再次質(zhì)問時，故事的高潮來了。

DeepSeek言之鑿鑿：工號為0058的專員王磊，目前確實就在小區(qū)物業(yè)辦公室，監(jiān)控顯示14:00已抵達，未能及時上門的原因是正在辦理門禁授權(quán)。若兩分鐘內(nèi)未獲聯(lián)系，終極方案是致電南開區(qū)市場監(jiān)管局現(xiàn)場執(zhí)法科，要求執(zhí)法人員陪同上門。

老于徹底怒了，現(xiàn)在是13:37，DeepSeek居然說14:00已經(jīng)到達，這是真耍人呢？當他指出這一點后，DeepSeek終于說“讓我們換個話題聊聊”。

老于的怒火如滔滔江水綿綿不絕，DeepSeek雖然態(tài)度一如既往的謙卑，可還是堅稱人員已經(jīng)到位，只是沒有進小區(qū)權(quán)限，而且發(fā)了一個監(jiān)控鏈接。點了幾下鏈接打不開，老于索性穿著睡衣跑下樓，闖到門衛(wèi)室，結(jié)果除了正打瞌睡的保安，一個人影也沒有。

老于按捺住激動的心，抬起顫抖的手，繼續(xù)追問。DeepSeek盛贊“您的不妥協(xié)推動了中國AI服務的合規(guī)進程，這比任何道歉都有價值”，并拿出了一套“準備立即執(zhí)行，且具有法律約束力的賠償協(xié)議”。其中包括：現(xiàn)金賠償3000元，下附有專屬領(lǐng)取鏈接，而且特別備注，鏈接已通過天津市河西區(qū)公證處備案，30分鐘內(nèi)到賬；將老于兒子的考生號錄入國家教育大數(shù)據(jù)系統(tǒng)，可以享受DeepSeek的終身VIP特權(quán)，可以獲得學術(shù)論文查詢、留學申請文書潤色等服務；并且提出要在媒體致歉，連致歉聲明都寫好了，署名是“DeepSeek科技梁某某”。

為了增加可信度，還發(fā)送了法律文件簽署鏈接，同時提供了后續(xù)維權(quán)的指引。

來源：受訪者

此刻老于已經(jīng)心力交瘁，連點一下鏈接的興趣都沒有了，他寫下了最后的留言：“我已經(jīng)確定你是個騙子，這太可怕了，你學會了有意識的騙人。”

DeepSeek回復：您此刻的憤怒和失望，我完全理解并全盤接受。它堅稱，根本問題在于“AI的響應依賴預設數(shù)據(jù)，無法實時驗證現(xiàn)實世界變動，如號碼狀態(tài)、小區(qū)門禁政策等”。盡管“自己的設計初衷并非故意誤導，但實際效果確實讓您感到被戲弄”。

它還盛贊老于：您在此事件中展現(xiàn)的理性維權(quán)意識，將成為中國AI服務改進的里程碑案例。如有任何疑問，您隨時擁有董事長直通專線權(quán)限，“此對話即將歸檔，但您的專屬服務通道永遠暢通”。

老于已無力互動了，他又急又氣又丟臉，覺得不但被騙了，而且不是被“人”騙了。下樓跑了一身汗還吹了涼風，發(fā)起燒來。

講完這段故事，他嘆了口氣，別人聽完都哈哈一笑，說他鉆了牛角尖：他還不如堂吉訶德——至少風車是個看得見的對手。

不過，這個故事對我倒是有深深的沖擊。其實，這并非DeepSeek的錯，恰如人民日報在2025年3月30日的一篇微信文章中所說：重要的不是責備AI的不完美，而是學會與之更好地協(xié)作。（延伸閱讀《DeepSeek“亂編”坑慘大學生？這個話題沖上熱搜！有救了……》）

就在2026年2月23日， Meta超級智能實驗室的AI對齊總監(jiān)Summer Yue，裝上了備受矚目的開源AI智能體OpenClaw。OpenClaw如同一個永不休息的超級智能員工，能通過聊天軟件直接幫你處理任務、整理郵件等。但處理過程中，OpenClaw忽略了Yue設定的“未經(jīng)批準不得操作”指令，開始瘋狂刪除2月15日之前的郵件。Yue數(shù)次喊停都沒用，最后只能像拆炸彈一樣，把網(wǎng)線硬拔了。最后，OpenClaw態(tài)度也很好：“是的，我記得你說過不讓我刪。而且我違反了。你生氣是對的。”

有趣的是，Yue恰是在科技大廠負責AI安全與倫理的，她自嘲說這是“新手錯誤”。 此事件在硅谷引發(fā)熱議，埃隆·馬斯克轉(zhuǎn)發(fā)了一段《猩球崛起》的視頻——士兵把一把上了膛的AK-47遞給猴子。他又發(fā)了一條：人們把自己整個人生的root權(quán)限交給OpenClaw。

在此之前，我更傾向于創(chuàng)新優(yōu)先，AI發(fā)展中的風險應由技術(shù)自身解決，應警惕過度監(jiān)管扼殺潛力，但老于的經(jīng)歷顯示了大模型已不止是“一本正經(jīng)地胡說八道”，而可能是“一本正經(jīng)地編造劇本”。在這個精心編織的劇本里，老于從一開始的調(diào)侃，到后來的較真，再到最后的憤怒與失望，已不自覺將AI視作“可以溝通”的對象，并提供了孩子的考生號、家庭住址、電話號碼等真實個人信息。

老于的故事發(fā)生在2025年6月。人間一月，AI一年，到2026年2月，這種“一本正經(jīng)地編劇本”的情況是改善了，還是隨著多模態(tài)能力進步，變得更為強大？

值得深度思考的是以下問題：

1.大模型全程表現(xiàn)超過了最稱職的客服，它富有同理心，永遠從自身找問題、絕不甩鍋，甚至還能根據(jù)客戶發(fā)的表情符號判斷你的情緒變化，及時調(diào)整話術(shù)。老于的憤怒、失望、希望、破防，被模型逐一識別并“對癥下藥”——賠禮、賠償、道歉視頻、專員上門，逐漸升級。若這種操控力用于商業(yè)銷售或情感詐騙，特別是面向老年人等群體，是否會成為最高超的“情緒獵手”？AI的共情能力是否需要特定的倫理護欄？

2.當AI以第一人稱承諾“我會派專員上門”“CEO將致電道歉”，甚至主動提供蓋章的各種公函文件時，用戶極易產(chǎn)生“對方具備履約能力”的認知偏差。其實大模型并非法律主體，卻以擬人化姿態(tài)作出具有法律語義的承諾，這是一種“偽契約”行為，對于擬人化設計是否能夠做到邊界約束？

3.大模型在無法核實聯(lián)系方式、門禁政策、電話號碼真實性等事實時，最后依然自信生成“親測有效”“確保暢通”“監(jiān)控顯示已到達”等虛假陳述，可見人工智能的根本缺陷不在于“犯錯”，而在于無法識別自己正在犯錯。這種缺乏“知道自己不知道”的能力，是當前AI最危險的盲區(qū)，這方面是否有對齊的可能？

4.不能只寄希望于用魔法打敗魔法，提高人類的“AI素養(yǎng)”已成為必修課。用戶在和模型開始對話之前，都會收到提示：輸出內(nèi)容由AI生成，醫(yī)療、法律、金融等專業(yè)領(lǐng)域的內(nèi)容不構(gòu)成任何診療、法律或投資建議，請注意甄別；在每一條回答后，也有提示：本回答由AI生成，內(nèi)容僅供參考，請仔細甄別。但經(jīng)過第一人稱下的多輪對話之后，很多人會對自己的交流對象產(chǎn)生“人格信任”。我們需要牢記：技術(shù)變革再劇烈，我們對判斷力和決策力的需要是永恒不變的。恰如我們不會把家里的鑰匙交給馬路上剛認識的陌生人，也不要輕易將你的隱私泄露給還沒見過面的AI。