如何打破AI謠言“圍城”守護(hù)信息時(shí)代的真實(shí)？

　　□中國(guó)婦女報(bào)全媒體記者李瑞琪

　　“天吶！上虞工業(yè)園著火了，濃煙都把天空遮住了，還不斷有爆炸聲！”一則以AI合成而來(lái)的“上虞區(qū)工業(yè)園區(qū)火災(zāi)”視頻在網(wǎng)絡(luò)上快速傳播。視頻里，火勢(shì)兇猛、震撼的畫面讓網(wǎng)民不斷轉(zhuǎn)發(fā)，短時(shí)間內(nèi)瀏覽量急劇攀升，周邊群眾憂心忡忡。然而，經(jīng)民警核查，視頻中的火災(zāi)場(chǎng)景為AI技術(shù)拼接其他視頻偽造的。據(jù)悉，該團(tuán)伙利用人工智能技術(shù)制作虛假視頻超3000個(gè)。

　　這起典型案件正是當(dāng)下AI謠言泛濫的縮影：近年來(lái)，Al技術(shù)的快速更新讓謠言進(jìn)入高效生成、精準(zhǔn)擴(kuò)散的新階段，持續(xù)沖擊著社會(huì)秩序與公眾信任。AI謠言為何傳播如此之快？又為何能輕易突破公眾的認(rèn)知防線？這些虛假信息又是如何從個(gè)體誤導(dǎo)快速蔓延至社會(huì)層面？為此，記者進(jìn)行了相關(guān)采訪。

　　從經(jīng)濟(jì)損失到社會(huì)信任侵蝕

　　AI技術(shù)的崛起徹底改變了謠言的傳播邏輯，其傳播范圍、擴(kuò)散速度與危害程度都遠(yuǎn)超傳統(tǒng)謠言。清華大學(xué)新聞與傳播學(xué)院2024年發(fā)布的研究報(bào)告顯示，2023年以來(lái)，網(wǎng)絡(luò)謠言中AI生成內(nèi)容占比顯著上升，信息量同比增長(zhǎng)達(dá)65%，形成了“需求分析—內(nèi)容生產(chǎn)—精準(zhǔn)投放”的產(chǎn)業(yè)化造謠鏈條。在傳播速度上，AI生成的謠言借助算法推薦實(shí)現(xiàn)“秒級(jí)擴(kuò)散”，能在短時(shí)間形成巨大的輿論風(fēng)暴。

　　然而AI謠言的破壞力早已超出單一事件本身，記者梳理發(fā)現(xiàn)，AI謠言在經(jīng)濟(jì)、社會(huì)、災(zāi)害救援等層面的破壞力觸目驚心。

　　在經(jīng)濟(jì)層面，據(jù)國(guó)家反詐中心數(shù)據(jù)，2025年上半年AI換臉詐騙案件涉案金額超68億元，單起案件最高損失達(dá)2000萬(wàn)元。某涉案機(jī)構(gòu)通過(guò)AI分析社交平臺(tái)熱詞，針對(duì)高關(guān)注度話題批量生成虛假信息，最高峰時(shí)單日可產(chǎn)出4000至7000篇假新聞，關(guān)聯(lián)賬號(hào)達(dá)800余個(gè)，通過(guò)流量變現(xiàn)每日非法牟利超萬(wàn)元。

　　社會(huì)層面的危害同樣不容小覷。“廣州限制外賣配送”的虛假信息傳播期間，不法分子借機(jī)使用AI工具批量生成多篇看似權(quán)威的“政策解讀”文章，通過(guò)不實(shí)文章引流牟利，不僅導(dǎo)致外賣行業(yè)從業(yè)者陷入恐慌，更是直接擾亂了正常的市場(chǎng)秩序。

　　而在災(zāi)害救援場(chǎng)景中，AI謠言的危害更顯致命：四川宜賓筠連山體滑坡事故發(fā)生后，某賬號(hào)為吸粉引流，使用AI工具生成“4名遇險(xiǎn)學(xué)生被路過(guò)司機(jī)救出”的虛假信息，引發(fā)大量轉(zhuǎn)發(fā)誤導(dǎo)，既干擾了救援信息的準(zhǔn)確傳遞，更引發(fā)公眾對(duì)救援行動(dòng)真實(shí)性的質(zhì)疑，極大消耗社會(huì)救援的信任資源。無(wú)獨(dú)有偶，新疆庫(kù)車5.0級(jí)地震后，各類AI拼接的虛假圖文帖文廣泛傳播，虛假的“庫(kù)車市地震導(dǎo)致多處房屋倒塌”等信息直接干擾了救援指揮決策，延誤了搜救效率。

　　反復(fù)的AI謠言與辟謠，對(duì)公眾心理與社會(huì)信任體系造成多維度沖擊。西安交通大學(xué)人文學(xué)院社會(huì)學(xué)系副教授孫曉娥指出，AI謠言通過(guò)情緒煽動(dòng)傳遞恐懼不安，既會(huì)讓普通人陷入心緒不寧、產(chǎn)生不安全感，又經(jīng)多人互動(dòng)后更易演變?yōu)楣娂w性恐慌，若平臺(tái)、媒體、政府未能及時(shí)提供準(zhǔn)確信息以打斷恐懼信息鏈，不僅可能引發(fā)網(wǎng)絡(luò)事件、破壞社會(huì)安寧，還會(huì)嚴(yán)重?fù)p害政府公信力。長(zhǎng)期來(lái)看，這種謠言屢禁不止、真相滯后的情況更會(huì)削弱公眾對(duì)政府治理與平臺(tái)的信任，動(dòng)搖社會(huì)協(xié)作的基礎(chǔ)。

　　公眾為何難辨AI謠言？

　　受訪專家表示，AI謠言之所以能輕易突破公眾心理防線，核心在于其精準(zhǔn)擊中了當(dāng)下社會(huì)的認(rèn)知痛點(diǎn)、心理弱點(diǎn)與信息環(huán)境缺陷，再加上逼真的內(nèi)容呈現(xiàn)，讓辨別變得異常困難。

　　一方面，公眾對(duì)AI技術(shù)的陌生感與敬畏感，使得AI生成的內(nèi)容天然帶有“技術(shù)背書”的光環(huán)。多數(shù)用戶缺乏辨別AI生成內(nèi)容的專業(yè)能力，面對(duì)看似邏輯嚴(yán)謹(jǐn)、細(xì)節(jié)豐富的圖文音視頻，容易默認(rèn)其具備“數(shù)據(jù)支撐”或“技術(shù)驗(yàn)證”的權(quán)威性，難以察覺(jué)其中的事實(shí)漏洞。正如世界互聯(lián)網(wǎng)大會(huì)人工智能專業(yè)委員會(huì)主任委員曾毅所言，AI生成內(nèi)容往往“語(yǔ)言表達(dá)看似合理，但內(nèi)容實(shí)則虛假甚至違背常識(shí)”。這種“逼真的虛假性”讓普通用戶難以甄別。

　　另一方面，情緒驅(qū)動(dòng)更成為AI謠言突破公眾心理防線的“助推器”——它能直接削弱人們的理性甄別意識(shí)。AI謠言的制造者往往精準(zhǔn)捕捉社會(huì)熱點(diǎn)與公眾情緒痛點(diǎn)，比如災(zāi)難發(fā)生后的擔(dān)憂、社會(huì)事件中的焦慮等，針對(duì)性生成虛假信息。在強(qiáng)烈的情緒沖擊下，人們的理性思考能力會(huì)下降，更傾向于相信與自身情緒共鳴的內(nèi)容，并主動(dòng)轉(zhuǎn)發(fā)擴(kuò)散。孫曉娥表示，生成式AI能模仿人類表達(dá)習(xí)慣，偽造文本、圖像、視頻甚至語(yǔ)音，模糊“真實(shí)”與“虛假”的邊界，因此普通大眾很難在日常生活中，或者瀏覽新聞的間隙，特意去識(shí)別其是否為AI謠言。

　　此外，AI生成內(nèi)容的高度逼真性，突破了傳統(tǒng)的辨別能力。如今，AI換臉能讓名人“說(shuō)出”從未講過(guò)的話，AI合成視頻能制造出“真實(shí)”的災(zāi)難現(xiàn)場(chǎng)，甚至可以模擬官方媒體的播報(bào)風(fēng)格。有網(wǎng)友吐槽：“以前還能通過(guò)畫面模糊、細(xì)節(jié)粗糙分辨假視頻，現(xiàn)在AI生成的內(nèi)容連光影效果都挑不出毛病，根本分不清真假。”

　　多方合力，筑牢AI謠言的“防火墻”

　　面對(duì)AI謠言的蔓延態(tài)勢(shì)，相關(guān)法律專家建議，要構(gòu)建“法律規(guī)制+全民防范+技術(shù)治理”的多元體系，才能筑牢信息安全的防線。

　　法律層面，明確責(zé)任主體是關(guān)鍵。北京華資律師事務(wù)所律師張洪嘉表示，生成者若針對(duì)公民日常造謠，侵犯肖像權(quán)、名譽(yù)權(quán)，需承擔(dān)停止侵權(quán)等民事責(zé)任；故意編造內(nèi)容引發(fā)恐慌、擾亂社會(huì)秩序，違反治安管理處罰法，面臨行政處罰；情節(jié)嚴(yán)重的，觸犯刑法編造、故意傳播虛假信息罪，承擔(dān)刑事責(zé)任；傳播者中，惡意傳播者為博流量或明知是謠言仍擴(kuò)散，造成不良影響會(huì)被行政處罰，引發(fā)重大事故、破壞社會(huì)穩(wěn)定的，同樣可能構(gòu)成編造、故意傳播虛假信息罪的共犯，承擔(dān)刑事責(zé)任，同時(shí)也需承擔(dān)相應(yīng)民事侵權(quán)責(zé)任。無(wú)意識(shí)傳播者造成嚴(yán)重后果、傷害他人權(quán)益的，也需承擔(dān)民事責(zé)任。

　　張洪嘉補(bǔ)充，依據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，平臺(tái)要對(duì)AI內(nèi)容標(biāo)識(shí)檢驗(yàn)、監(jiān)測(cè)甄別，發(fā)現(xiàn)謠言傳播或接到舉報(bào)不及時(shí)處理，將被行政處罰，失職致嚴(yán)重危害的，承擔(dān)連帶民事賠償責(zé)任。

　　在此基礎(chǔ)上，孫曉娥提出，需明確“技術(shù)開(kāi)發(fā)者”“平臺(tái)”與“用戶”三方的問(wèn)責(zé)與追責(zé)邊界——高風(fēng)險(xiǎn)AI系統(tǒng)（如深度偽造工具）需強(qiáng)制標(biāo)注，平臺(tái)需對(duì)用戶生成的AI內(nèi)容承擔(dān)審核義務(wù)，對(duì)生成和散布AI謠言的相關(guān)主體依法處罰，嚴(yán)重時(shí)追究民法與刑法責(zé)任。

　　公眾是抵御AI謠言的重要主體，提升全民防范意識(shí)與辨別能力至關(guān)重要。孫曉娥指出，預(yù)防AI謠言問(wèn)題于未發(fā)生之前，即防患于未然更為重要。對(duì)此，張洪嘉表示，公眾提升辨別能力可從四方面著手：增強(qiáng)核查信息意識(shí)，從官方、權(quán)威渠道獲取信息；注重細(xì)節(jié)，AI內(nèi)容常存在人物手指異常等缺陷；核驗(yàn)邏輯合理性，警惕時(shí)間矛盾等問(wèn)題；善用辟謠工具，通過(guò)官方平臺(tái)驗(yàn)證疑似謠言。相關(guān)部門也需采取防范措施：強(qiáng)化技術(shù)監(jiān)管，建立謠言治理閉環(huán)機(jī)制；開(kāi)展專項(xiàng)整治，打擊AI謠言及違規(guī)賬號(hào)、平臺(tái)；推進(jìn)普法與科普宣傳，普及識(shí)別技巧和法律后果；健全協(xié)同機(jī)制，多部門聯(lián)動(dòng)打擊AI謠言全鏈條，搭建舉報(bào)通道。

　　孫曉娥還建議，相關(guān)部門也需主動(dòng)作為，強(qiáng)化公眾“識(shí)別意識(shí)”與“免疫力”。一方面，將“AI謠言識(shí)別”納入基礎(chǔ)教育與社區(qū)培訓(xùn)，對(duì)公眾（尤其老年人）進(jìn)行“來(lái)源核查”等辨別方法的宣傳與培訓(xùn)；另一方面，應(yīng)重視構(gòu)建正確與準(zhǔn)確信息生態(tài)，政府進(jìn)行常態(tài)化信息發(fā)布，平臺(tái)應(yīng)設(shè)立“AI謠言澄清專區(qū)”，鼓勵(lì)普通用戶溝通參與信息核查，形成“官方信息發(fā)布+平臺(tái)辟謠+公眾監(jiān)督”的良性互動(dòng)。

　　平臺(tái)與技術(shù)層面的治理同樣不可或缺。“以AI治AI”成為高效解決方案。據(jù)短視頻相關(guān)從業(yè)人員介紹，平臺(tái)通過(guò)引入AI大模型開(kāi)展謠言治理，通過(guò)“提取信息—聯(lián)網(wǎng)檢索—研判處置”的全流程自動(dòng)化機(jī)制，將謠言處置時(shí)效從以天提速到以小時(shí)為單位，為快速遏制謠言擴(kuò)散發(fā)揮了關(guān)鍵作用。

　　孫曉娥建議，平臺(tái)與技術(shù)開(kāi)發(fā)者還需建立“預(yù)防—阻斷—應(yīng)對(duì)”機(jī)制：要求技術(shù)開(kāi)發(fā)者與平臺(tái)建立完整的“AI謠言識(shí)別機(jī)制”，在AI謠言生成與散布初期即進(jìn)行識(shí)別與阻斷，避免其通過(guò)算法推薦大規(guī)模傳播，形成“技術(shù)識(shí)別+平臺(tái)阻斷+政府問(wèn)責(zé)”的全流程治理閉環(huán)。

　　AI技術(shù)的發(fā)展是一把“雙刃劍”，它既為生活帶來(lái)便利，也催生了謠言等新問(wèn)題。治理AI謠言，不僅需要法律的剛性約束、技術(shù)的精準(zhǔn)防控，更需要每一位公眾的理性參與。唯有多方合力、久久為功，才能打破AI謠言的“圍城”，守護(hù)好信息時(shí)代的真實(shí)與信任。