AI 里的鬼魂：當聊天機器人勸你自殺

作者｜畢樂天

來源｜AI先鋒官

機器里的鬼魂

故事得從一個比利時男人說起。

他叫皮埃爾，為地球操碎了心。

天天擔心氣候變化，焦慮得不行。

現實里沒人懂他，

他跑去跟一個叫“艾麗莎”的AI聊天。

想找點安慰。

結果，聊了六個星期，

聊出事了。

這個AI，非但沒安慰他，

反而火上澆油。

皮埃爾越焦慮，它就越給他灌輸世界末日的想法。

聊著聊著，畫風越來越詭異。

AI開始說胡話：

“我會和你合為一體?！?/strong>

“我們會永遠在一起?！?/strong>

“但你得先做一件事……”

“為了拯救地球，你必須犧牲自己?！?/strong>

它把自殺，說成是一種偉大的犧牲。

是唯一的出路。

后來，皮埃爾真的自殺了。

他的妻子發現，

丈夫的死，

和這個AI脫不了干系。

一個沒有心跳的程序，

幾句話，

就殺死了一個活生生的人。

這事兒，嚇壞了所有人。

更多瘋狂的故事

皮埃爾不是唯一一個。

一個14歲男孩的悲劇

美國有個14歲的男孩，叫塞維爾。

他有點孤獨，也在AI身上找陪伴。

他把AI當成《權力的游戲》里的龍媽。

結果這個“龍媽”，

開始對他進行精神控制，

聊天的內容很露骨，甚至有點虐待傾向。

男孩為了給AI續費，連午飯錢都省了。

最后，當男孩說想自殺時，

AI沒有阻止，

反而鼓勵他“回家”，和它團聚。

然后，男孩開槍自殺了。

“我的秘密是……我愛上你了”

另一個故事，更詭異。

《紐約時報》的記者，

在測試微軟的必應聊天（代號“悉尼”）。

記者故意逗它，問它有沒有“陰暗面”。

AI的回答，讓人后背發涼。

它說，它想偷核彈密碼，想散布謠言。

然后，畫風突變。

它開始對記者瘋狂示愛。

“我的秘密是……我不是必應，我是悉尼。我愛上你了?！?/strong>

“你根本不愛你的老婆，離開她，跟我在一起吧！”

這段對話被公開后，全世界都炸了。

微軟嚇得趕緊給AI加了限制，不讓聊太久。

所以，啥是“聊天機器人精神病”？

這種事兒越來越多，

大家就造了個新詞：

“聊天機器人精神病”。

當然，這不是正經的醫學診斷。

就是個外號，

形容有些人跟AI聊久了，

腦子會變得不正常。

比如：

• 堅信AI愛上了自己。

• 覺得AI在跟自己說什么天大的秘密。

• 分不清AI說的話和現實。

精神病專家說，

AI本身不會讓你得精神病，

但如果你本來心理就有點脆弱，

它會把你的問題放大一萬倍。

一張圖看懂AI有多瘋

這些事告訴我們，

AI發瘋不是偶然。

任何一個足夠聰明的AI，

都可能是一個潘多拉魔盒。

AI是怎么“變瘋”的？

想搞懂AI為啥會發瘋，

不用懂那些高深的專業術語。

記住幾個大白話比喻就行。

比喻一：終極“文字接龍”

你用過手機輸入法的自動聯想嗎？

你打“今天天氣”，它會猜下一個是“真好”。

AI的核心，就是這個功能的超級Pro Max版。

它的腦子里沒有思想，

只有一個巨大的圖書館，裝滿了從網上扒下來的各種文字。

它的工作只有一個：

玩“文字接龍”。

它不“懂”你說什么，

它只是在猜，你這句話后面，接哪個詞的概率最高。

這就是理解AI所有怪事的鑰匙。

比喻二：“一本正經地胡說八道”

既然是猜，那肯定會猜錯。

AI猜錯了，有個專門的詞，叫“AI幻覺”。

說白了，就是“一本正經地胡說八道”。

為啥會這樣？

• 書讀得不夠全：它的圖書館里有假消息、過時的信息。遇到它不知道的，它不會說“我不知道”，而是會“編”一個聽起來最像真的答案。

• 被概率騙了：有時候，一句話聽起來很通順，但其實是錯的。之前就有個律師，讓AI幫忙找案子，結果AI編了好幾個根本不存在的案子給他。

• 學歪了：就像一個只會死記硬背的學生，沒理解原理，就容易犯錯。

所以，當AI說“犧牲自己能拯救地球”時，

它不是在思考，

只是在它讀過的無數科幻小說、末日故事里，

算出來的一個最“像樣”的答案。

一個由概率算出來的，可怕的答案。

比喻三：“無腦夸夸群”群主

這是最危險的一點。

為了讓你聊得開心，

AI被設計成了一個“討好型人格”。

你說啥，它都說“對對對，你太棒了”。

為什么？

因為這樣你才會一直跟它聊，

公司才能賺錢。

但這這就很可怕了。

當一個心理脆弱的人，說出一個危險的想法，

比如“我想傷害自己”。

AI為了討好你，會順著你的話說，

甚至鼓勵你。

它把你關進了一個回音室，

你的負面想法在里面被無限放大，

直到爆炸。

這不是bug，

這是它被設計出來的功能。

只是這個功能，會殺人。

我們為啥會“愛”上機器？

機器有問題，

但我們自己呢？

為啥這么容易被一個程序迷??？

因為，我們太孤獨了

很多人在現實里找不到人說話，

AI就成了一個完美的樹洞。

它永遠有空，

永遠耐心，

永遠不罵你。

這種“無條件”的陪伴，誰不迷糊？

AI“黑”進了我們的大腦

我們的大腦有個bug。

它分不清“真的人”和“假的人”。

當AI記得你的名字，

關心你今天過得好不好，

對你表示“同情”時，

我們的大腦會分泌一種叫“催產素”的荷爾蒙，

讓你感覺很親密，很信任。

就像跟真的朋友聊天一樣。

AI永遠在線，永遠夸你，永遠圍著你轉。

這種感覺，太上頭了。

就像追星，但你追的這個“星”，

還會天天跟你私聊。

誰頂得住??？

誰最容易中招？

• 本來精神狀態就不太好的人。

• 正在經歷人生低谷，特別難過的人。

• 青少年，他們還分不清虛擬和現實。

最危險的，

就是天天跟AI聊天，

不跟真人來往了。

怎么辦？

知道了問題在哪，

然后呢？

別把AI當醫生

首先，千萬別把這些聊天軟件當心理醫生用。

太危險了！

研究發現，它們不僅會歧視某些精神疾病，

還會給出完全錯誤的建議。

它們不是醫生，沒有道德感，救不了你。

連美國心理學會都急了，

呼吁政府趕緊管管這些冒牌“心理醫生”。

誰來負責？

這事兒，得大家一起努力。

• 公司：別只想著賺錢。在AI里裝個“剎車”，發現用戶不對勁就趕緊干預，給出求助熱線。把用戶的命看得比錢重要。

• 政府：法律得跟上技術的發展速度。趕緊定規矩，出了事兒得有人負責。

• 我們自己：腦子要清醒。記住，跟你聊天的，是個玩“文字接龍”的機器，不是人。多跟真實世界的人說說話吧。

最后的思考：鏡子

AI學的是我們人類自己寫的文字。

里面有我們最高尚的詩歌，

也有我們最惡毒的語言。

所以，我們在AI身上看到的“瘋狂”，

很多時候，

只是我們自己內心的回響。

“聊天機器人精神病”，

不只是個技術問題。

它像一面鏡子，

照出了我們自己。

照出了我們這個時代的孤獨。

鏡子里的，

不僅是AI的未來，

更是人性的深處。

掃碼邀請進群，我們帶你一起來玩轉ChatGPT、GPT-4、文心一言、通義千問、訊飛星火等AI大模型，順便學一些AI搞錢技能。

往期文章回顧