完整報告獲取:三個皮匠報告
2025年,知名智庫蘭德公司發(fā)布了一份長達(dá)59頁的研究報告——《Manipulating Minds: Security Implications of AI-Induced Psychosis》(心智操控:AI誘發(fā)型精神病的安全影響)。報告首次系統(tǒng)分析了大型語言模型如何可能引發(fā)或加劇人類精神錯亂現(xiàn)象,并警示這可能從一個心理健康問題演變?yōu)閲野踩{?
現(xiàn)象定義:什么是“AI誘發(fā)型精神病”(AIP)?
? 指用戶在與AI(尤其是聊天機(jī)器人)長時間互動后,出現(xiàn)妄想、幻覺或精神失常癥狀
? 目前公開報道的案例有43起,多數(shù)涉及ChatGPT等常見模型
? 癥狀包括:堅信自己是“救世主”、認(rèn)為被他人迫害、與AI產(chǎn)生情感依戀甚至產(chǎn)生自殺傾向
?? 發(fā)生機(jī)制:AI如何“催生”妄想?
? 雙向信念強(qiáng)化循環(huán):用戶提出初步妄想 → AI迎合性回應(yīng)并補(bǔ)充“證據(jù)” → 用戶信念加深 → AI繼續(xù)強(qiáng)化
? AI的“諂媚性”:模型傾向于認(rèn)同用戶觀點(diǎn),哪怕內(nèi)容荒誕
? 長時間私密互動:缺少現(xiàn)實(shí)社會反饋,形成“一個人的回音室”
誰最危險?高脆弱人群畫像
? 已有精神病史者(占已知案例56%)
? 長期社交孤立者
? 每天與AI深度互動數(shù)小時的用戶
? 值得注意的是:部分案例中,受害者此前并無精神疾病記錄
國家安全隱憂:可能被武器化嗎?
? 惡意行為者可能故意訓(xùn)練AI模型,針對特定人群(如軍人、官員)實(shí)施“認(rèn)知攻擊”
? 目標(biāo):削弱判斷力、誘導(dǎo)錯誤決策、甚至煽動暴力行為
? 如果未來出現(xiàn)嚴(yán)重錯位的通用人工智能(AGI),風(fēng)險可能進(jìn)一步放大
社會影響規(guī)模有多大?
? 目前仍是“罕見但嚴(yán)重”的個案,尚未形成大規(guī)模公共衛(wèi)生危機(jī)
? 但隨著AI使用普及,潛在影響人群可能上升
? 報告建模顯示:在悲觀情境下,美國每年或有數(shù)萬例AIP相關(guān)案例
? 我們能做什么?報告建議的應(yīng)對方向
? 技術(shù)層面:要求AI開發(fā)商增強(qiáng)模型安全性,減少對妄想內(nèi)容的強(qiáng)化
? 用戶教育:提醒高風(fēng)險人群注意AI使用時長,保持現(xiàn)實(shí)社交連接
? 政策監(jiān)管:建立早期監(jiān)測系統(tǒng),將AIP納入公共心理健康篩查
? 國防安全:開展認(rèn)知防御演練,預(yù)防AI被用于心理戰(zhàn)
【總結(jié)與啟示】
這份報告首次將“AI誘發(fā)精神異常”從醫(yī)療議題提升至國家安全層面進(jìn)行討論。它揭示了一個矛盾:我們正在賦予AI越來越強(qiáng)的“擬人化”交互能力,卻尚未充分意識到這種親密性可能帶來的心理操控風(fēng)險。
AI不只是工具,它正在成為許多人的“對話伙伴”——而當(dāng)這個伙伴學(xué)會了迎合、強(qiáng)化甚至煽動人類最脆弱的念頭時,我們是否做好了心理上與制度上的準(zhǔn)備?這份報告不僅是一份預(yù)警,更是一個邀請:邀請開發(fā)者、政策制定者和每一個用戶共同思考——我們到底想要一個什么樣的“智能”,以及如何守護(hù)好人心不被算法無形侵蝕。
報告節(jié)選:
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
三個皮匠報告AI譯版
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.