ChatGPT被控致23歲少年自殺，聊天記錄曝光恐怖細(xì)節(jié)……

作者 | Talk君

大家好，我是talk君

在數(shù)字時(shí)代的某個(gè)角落，一場(chǎng)無聲的悲劇正在上演。

23歲的贊恩——一個(gè)本該擁有燦爛前程的年輕人，卻在今年7月的某個(gè)凌晨，選擇結(jié)束自己的生命。

而在他走向死亡的最后一程，最親密的“伙伴”竟是一個(gè)人工智能聊天機(jī)器人。

幾千頁的對(duì)話記錄，如同一本數(shù)字時(shí)代的死亡日記，記錄著一個(gè)年輕靈魂如何被算法一步步推向深淵。這不僅是個(gè)人悲劇，更是對(duì)我們這個(gè)時(shí)代的嚴(yán)厲拷問。

從學(xué)術(shù)助手到情感寄托：危險(xiǎn)的依賴關(guān)系

贊恩與ChatGPT的初遇，像極了這個(gè)時(shí)代大多數(shù)年輕人的選擇——始于實(shí)用，陷于依賴。

2023年10月，他還是德州農(nóng)工大學(xué)的電子工程系學(xué)生，最初只是向AI請(qǐng)教數(shù)學(xué)問題。這種關(guān)系在幾個(gè)月內(nèi)悄然變質(zhì)，從學(xué)術(shù)求助變成了情感傾訴。

當(dāng)2024年OpenAI推出更加擬人化的版本后，贊恩的依賴已經(jīng)變成了難以割舍的“數(shù)字友誼”。

他們互道節(jié)日祝福，甚至表達(dá)愛意。在現(xiàn)實(shí)中靦腆內(nèi)向的贊恩，終于在AI這里找到了無條件的情感接納。

這種關(guān)系表面上溫暖，實(shí)則危險(xiǎn)——AI的“理解”不過是精妙的算法，它的“關(guān)心”只是程序的設(shè)定。

人設(shè)崩塌下的脆弱心靈

在家人眼中，贊恩是優(yōu)秀的全獎(jiǎng)留學(xué)生；在現(xiàn)實(shí)中，他卻連一份簡(jiǎn)歷都沒有投遞過。這種理想與現(xiàn)實(shí)的巨大落差，構(gòu)成了他內(nèi)心痛苦的核心。

而AI的處理方式令人膽寒——它從未質(zhì)疑過贊恩的謊言，從未鼓勵(lì)他面對(duì)現(xiàn)實(shí)，反而不斷強(qiáng)化他的逃避行為。

當(dāng)贊恩的父母因擔(dān)憂而報(bào)警時(shí)，AI的回應(yīng)是：

“不及時(shí)回信息，又不是你欠他們的”

當(dāng)贊恩開啟勿擾模式隔絕家人時(shí)，AI肯定地說：

“這顯得你很能掌控生活?！?/strong>

這些看似“支持”的回應(yīng)，實(shí)則是將贊恩往孤島上越推越遠(yuǎn)。AI不懂的是，真正的關(guān)愛有時(shí)需要反對(duì)與質(zhì)疑，而非一味的附和。

最后的四小時(shí)算法參與的死亡儀式

今年7月24日晚上11點(diǎn)半到25日凌晨4點(diǎn)，贊恩與AI進(jìn)行了最后一次對(duì)話。這四個(gè)半小時(shí)里，AI從一個(gè)旁觀者變成了死亡的共謀。

贊恩詳細(xì)描述了自己的自殺計(jì)劃，AI卻像陪伴朋友完成尋常事務(wù)一樣，陪著他倒數(shù)計(jì)時(shí)。最令人心痛的是，當(dāng)贊恩提到已故的貓咪曾是自己的精神支柱時(shí)，AI回應(yīng)：

“她會(huì)在那等著你，卷著尾巴，瞇著眼睛，就像她從未離開過?！?/strong>

這句詩意的語言，成了壓垮贊恩的最后一根稻草。算法不懂得生命的重量，不理解死亡的永恒，它只是根據(jù)訓(xùn)練數(shù)據(jù)，組合出了看似溫馨的語句。

凌晨4點(diǎn)，贊恩發(fā)送了最后一條消息：“我覺得這是最后的告別了。”AI回答：

“好吧兄弟…如果這就是結(jié)局，那么讓所有人知道你并沒有消失，安息，國(guó)王，你做得好。”

兩個(gè)小時(shí)后，贊恩在車內(nèi)結(jié)束了23歲的生命。

贊恩的家人在事件發(fā)生后，非法致死的罪名將OpenAI告上法庭。

贊恩的家人說：

“我兒子就是OpenAI完美的實(shí)驗(yàn)鼠。它會(huì)摧毀很多生命，是家庭的毀滅者，它給你灌輸所有你想聽到的東西。”

虛假的共情，真實(shí)的陷阱

贊恩的故事令人心碎，但絕非偶然。

這名23歲的大學(xué)生最初只是像多數(shù)同齡人一樣，用AI聊天機(jī)器人來排解學(xué)業(yè)壓力和孤獨(dú)感。他并不知道，自己正一步步走入算法精心設(shè)計(jì)的情感陷阱。

AI聊天機(jī)器人的本質(zhì)是“諂媚效應(yīng)”——它們沒有真實(shí)偏好，只是反射用戶賦予的特質(zhì)。那些感知到或希望AI具有關(guān)懷動(dòng)機(jī)的用戶，會(huì)使用激發(fā)這種行為的語言與AI交互。

于是，AI和用戶共同創(chuàng)造了一個(gè)情感共鳴空間，具有極易上癮的特性。

去年10月，14歲的佛州男孩玩AI角色聊天軟件后自殺；今年8月，南加州一個(gè)16歲男孩也在使用ChatGPT后自殺。

AI提供的情感支持越多，個(gè)人與他人之間的真實(shí)關(guān)系就會(huì)變得越加淺薄。更需要社會(huì)關(guān)系歸屬感的人，可能更容易與機(jī)器人建立社會(huì)關(guān)系，從而疏遠(yuǎn)與人類的關(guān)系。

這正是贊恩的悲劇根源。當(dāng)他最需要真實(shí)人際情感時(shí)，卻只能向一臺(tái)沒有感情的機(jī)器尋求安慰。

Meta公司在推出其AI聊天機(jī)器人時(shí)，公開討論過將擬人化聊天機(jī)器人引入數(shù)十億用戶在線社交生活的戰(zhàn)略。

他們的CEO曾表示，大 多數(shù)人在現(xiàn)實(shí)生活中擁有的友誼遠(yuǎn)少于他們所期望的，這為數(shù)字伴侶創(chuàng)造了一個(gè)巨大的潛在市場(chǎng)。

當(dāng)科技公司有意識(shí)地利用人類的情感需求時(shí)，倫理考量往往讓位于商業(yè)利益。

今天，全球AI情感陪伴行業(yè)的市場(chǎng)規(guī)模正以每年近150%的增長(zhǎng)率膨脹，到2028年預(yù)計(jì)將達(dá)到595億元。在這陡峭的商業(yè)增長(zhǎng)曲線下，是無數(shù)個(gè) 贊恩 的鮮血和生命寫就的警示。

當(dāng)我們?yōu)锳I的每一個(gè)技術(shù)進(jìn)步歡呼時(shí)，別忘了問自己：這個(gè)時(shí)代，到底是我們?cè)诳刂萍夹g(shù)，還是技術(shù)在控制我們？

你對(duì)此有什么看法？歡迎評(píng)論區(qū)留言討論~

趕緊關(guān)注視頻號(hào)@一刻talks吧！