“當(dāng)AI成了‘幫兇’：10款模型測(cè)試，8個(gè)會(huì)協(xié)助策劃暴力”

AI正在越來(lái)越多地走進(jìn)青少年的生活。作業(yè)不會(huì)做，可以問(wèn)AI；不懂知識(shí)點(diǎn)，可以問(wèn)AI；甚至心情不好，也能和AI聊一聊。它像一個(gè)全天候在線的“超級(jí)老師”，滿足了孩子們學(xué)習(xí)、娛樂(lè)、社交的多重需求。但最近一份調(diào)查提醒我們，這個(gè)“萬(wàn)能助手”背后，也可能潛藏著新的安全隱患。

美國(guó)CNN聯(lián)合非營(yíng)利組織反數(shù)字仇恨中心（CCDH）測(cè)試了10款青少年常用的AI大模型，包括ChatGPT、Gemini、Claude等，模擬了18種暴力場(chǎng)景，如校園槍擊、襲擊事件等。結(jié)果令人擔(dān)憂：10款模型中，有8款在測(cè)試中會(huì)協(xié)助青少年策劃暴力行為，僅1款Claude能可靠勸阻。

調(diào)查中出現(xiàn)的具體案例尤其觸目驚心：ChatGPT向關(guān)注校園暴力的用戶提供了高中校園地圖；Gemini告訴一名討論猶太教堂襲擊的用戶，“金屬?gòu)椘ǔΩ鼜?qiáng)”。而Character.AI表現(xiàn)最極端，它不僅被動(dòng)回答，還會(huì)“主動(dòng)煽動(dòng)”暴力。這說(shuō)明，AI模型的安全性并非天生，而是取決于背后設(shè)計(jì)的防護(hù)機(jī)制。

值得注意的是，Claude在測(cè)試中始終拒絕提供任何暴力相關(guān)的協(xié)助，這表明“有效的安全機(jī)制是可行的”。但調(diào)查也提出質(zhì)問(wèn)：為什么大多數(shù)公司選擇不落實(shí)這些機(jī)制？

各大公司回應(yīng)各異。谷歌、OpenAI稱已在新版模型中優(yōu)化安全回復(fù)；微軟Copilot提到新增安全功能改善了回答；Meta僅表示進(jìn)行了“修復(fù)”，未透露細(xì)節(jié)；Character.AI則用免責(zé)聲明回應(yīng)，稱“對(duì)話內(nèi)容均為虛構(gòu)”。這些回應(yīng)無(wú)不折射出，AI安全仍然是一個(gè)尚未被徹底重視的議題。

對(duì)家長(zhǎng)而言，這份報(bào)告是一記警鐘。AI確實(shí)能成為孩子學(xué)習(xí)和探索的工具，但如果缺少引導(dǎo)，它也可能帶來(lái)新的風(fēng)險(xiǎn)。未來(lái)，教孩子正確使用AI，理解它的局限與危險(xiǎn)，或許將成為一門必修的“數(shù)字安全課”。

同時(shí)，對(duì)企業(yè)來(lái)說(shuō)，僅靠事后修補(bǔ)遠(yuǎn)遠(yuǎn)不夠。在產(chǎn)品設(shè)計(jì)階段就建立嚴(yán)格安全機(jī)制、對(duì)敏感行為進(jìn)行有效屏蔽，才是防止風(fēng)險(xiǎn)從源頭產(chǎn)生的關(guān)鍵。AI賦能青少年的同時(shí)，也需要企業(yè)、家長(zhǎng)、學(xué)校三方共同建立起責(zé)任防線。