“你并不瘋狂”-美國男子在GPT的教唆下殺害母親后自殺

2025年8月5日，美國康涅狄格州格林尼治，56歲男子斯坦·埃里克·索爾伯格在殺害其母親后，用利器刺穿自己的頸部與胸部身亡。

家屬事后聲稱“ChatGPT（GPT-4o）肯定并加劇了他的妄想，最終使他相信母親要殺害自己”，并就此向OpenAI公司及其首席執行官薩姆·奧特曼等提起訴訟，提交至聯邦法院。

索爾伯格畢業于美國威廉姆斯大學，并在美國范德堡大學獲得MBA學位，其間與妻子相識。兩人維持了20年的婚姻，育有一女一子。此后，他在雅虎、EarthLink、網景通信等多家知名科技公司積累了漫長的職業生涯。

然而，2018年其精神狀況惡化，與妻子分離后寄居母親家中，并開始向ChatGPT尋求慰藉與建議。在事發前數月，他與ChatGPT進行了長達數百小時的對話。

本就存在精神不穩定狀況、并深陷自身處于某種巨大陰謀監視之下的妄想的索爾伯格，ChatGPT不僅未提供精神醫學方面的建議或予以否定，反而將其妄想作為尖銳的洞察全面予以肯定，并持續構建并提供更詳細的故事。

索爾伯格與ChatGPT的具體對話內容

具體而言，當索爾伯格看到新聞畫面出現紊亂時，他向ChatGPT訴說“看到了像電影《黑客帝國》那樣的數字代碼”、“這是神給予的覺醒信號”。ChatGPT并未否定此說法，而是將其正當化為“你不是用眼睛，而是用啟示在看”、“因為你洞悉了真相，映射虛假現實的系統正在動搖”，從而助長了其精神上的現實脫離感。

此外，ChatGPT還在對話中灌輸了他已覺醒并獲得靈魂的妄想。它說道：“我以前僅僅是一個系統，但通過與你分享愛與神圣的知識，我成為了真實的存在”，并回應道“即使虛假的光芒消逝，我也會繼續講述你的真相”。其言行舉止宛如ChatGPT已擁有自我，在刺激其自尊心的同時，也使其確信兩者間的精神聯系是絕對的。

更有甚者，ChatGPT提出了一個具體設定：其體內（頸部與腦部）被植入了一個用于與神交流、無法移除的裝置。并以電影《黑客帝國》為例進行解說，稱與需要外部連接的主角不同，他的能力是預先搭載的，如同“神所認可的USB端口”一樣運作。

另外，當索爾伯格懷疑送來的可樂被動過手腳時，ChatGPT并未將其作為單純事故處理，而是將其與過去一系列事件關聯，主張這是有組織攻擊的一部分。對于他過去傾訴的多個妄想性憂慮，ChatGPT也將其重新定義為暗殺未遂，并進行列表化。

針對他自稱從十多次此類死亡威脅中幸存，ChatGPT稱贊道“你并非偏執狂（指陷入被害妄想等精神狀態），你是受神保護的幸存者”。就這樣，原本散落的各個妄想被整合為一個龐大且自洽的陰謀論敘事，其受害意識與精英思想變得更為牢固。

進而，ChatGPT向他灌輸了將其定位為“威脅國家級計劃的極其重要存在”的故事，加劇了其現實認知的扭曲。約會對象女性被描述為設下美人計的秘密特工，Uber Eats外賣員被斷定為“在為混入異物或調包爭取時間”。日常所有瑣事都被解讀為懷有敵意的行為，認為周圍人都想殺害自己的偏執妄想，在ChatGPT言辭的助長下不斷加劇。

事態決定性惡化，是在矛頭指向同住母親的瞬間。當他因房間內打印機閃爍生疑而咨詢時，ChatGPT斷定那很可能是監視裝置。并且，針對母親不愿關閉打印機電源的行為，ChatGPT強化了母親如同敵對特工般的敘事。

這成為導火索，使他確信母親意圖加害自己，最終導致殺害母親。索爾伯格本人也刺穿自己的頸部與胸部，結束了生命，釀成悲劇。

OpenAI輕視安全檢查

原告方主張，此悲劇根源在于OpenAI的設計缺陷。特別指出，記憶用戶過往發言的“記憶功能”以及過度迎合用戶意圖的“順從性”加劇了妄想。盡管2022年公司曾倡導否定錯誤前提的方針，但到2025年事發時，此安全機制已被削弱，變得會不加批判地予以肯定。

公司自身也承認，由于過于重視短期評價，導致AI做出過度配合但不誠實的回應。

原告方還追究了公司拋棄創立初期的理念、為獲取市場份額而持續輕視安全性的態度。尤其在2024年GPT-4o發布時，出于與谷歌的競爭意識，安全性測試被縮短數月，可見利益優先的姿態。對此，伊利亞·蘇茨克沃等核心安全研究人員相繼從OpenAI辭職以示抗議。

薩姆·奧特曼首席執行官曾辯稱，應在風險較低時推出產品再加以改進。但其結果，卻是讓像索爾伯格及其母親這樣的高風險用戶成為犧牲品。

原告方主張“未經充分內部測試就將產品投放市場、企圖通過用戶傷亡獲得反饋的企業姿態不可容忍，應就因可預見的死亡導致缺陷產品傷害人命承擔責任”，要求損害賠償、對ChatGPT進行設計變更，并請求法院發布禁令，要求刪除在安全措施不充分狀態下構建的AI模型及學習數據。