AI制造“頂流明星輸十億”謠言吸睛，別讓人工智能走錯了路！

AI制造“頂流明星輸十億”謠言吸睛，別讓人工智能走錯了路！

吃瓜群眾熱議的“有頂流明星在澳門輸了10億”，終于有了結(jié)果。

兩個字：謠言！

并且，是AI生成的謠言。

媒體報道，公安網(wǎng)安部門查明，網(wǎng)民徐某強為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯”的謠言信息，并通過互聯(lián)網(wǎng)平臺對外發(fā)布，造成謠言迅速傳播擴散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜，嚴重擾亂公共秩序。公安機關(guān)根據(jù)相關(guān)法律法規(guī)，對徐某強處以行政拘留8日處罰。
在當(dāng)今時代，AI技術(shù)的迅猛發(fā)展正深刻改變著我們的生活，其強大的生成能力為諸多領(lǐng)域帶來了創(chuàng)新與便利。然而，技術(shù)的進步猶如一把雙刃劍，當(dāng)AI被別有用心之人利用，淪為制造謠言的工具時，所帶來的危害不容小覷。AI制造謠言吸睛，這一現(xiàn)象必須引起我們的高度警惕，別讓人工智能在錯誤的道路上漸行漸遠。
一段時間以來，AI生成謠言的事件頻發(fā)，其影響范圍之廣、危害程度之深令人擔(dān)憂。從自然災(zāi)害到民生健康，從經(jīng)濟領(lǐng)域到公共安全，AI謠言幾乎無孔不入。在自然災(zāi)害發(fā)生時，一些人利用AI制作虛假的現(xiàn)場圖片和視頻，夸大災(zāi)情，制造恐慌氣氛。比如，西藏定日縣地震、廣東冰雹災(zāi)害以及新疆拜城縣地震期間，均出現(xiàn)了AI生成的虛假圖片和不實信息，誤導(dǎo)公眾，干擾救援和救災(zāi)工作的正常開展 。在民生健康領(lǐng)域，“80后死亡率突破5.2%”的虛假報告借助AI偽造的“權(quán)威數(shù)據(jù)”和“專家解讀”視頻，引發(fā)了網(wǎng)絡(luò)集體焦慮，背后竟是個別網(wǎng)民為售賣保健品而蓄意為之 。經(jīng)濟領(lǐng)域同樣未能幸免，“國內(nèi)首例智能駕駛致死案宣判”等謠言，嚴重影響企業(yè)聲譽和市場秩序。
AI之所以容易被用于制造謠言，一方面是其自身存在技術(shù)缺陷，如“AI幻覺”。大語言模型基于概率統(tǒng)計機制，在數(shù)據(jù)缺失或不準確時，會自動編造看似合理實則虛構(gòu)的內(nèi)容。另一方面，AI工具的低門檻和便捷性，使得造謠成本大幅降低。造謠者只需簡單輸入指令，就能批量生產(chǎn)仿真度高的虛假信息，包括以假亂真的圖片和視頻 。此外，監(jiān)管的滯后性與AI技術(shù)的快速發(fā)展形成鮮明反差，使得相關(guān)法律法規(guī)難以對AI謠言及時進行有效約束。

客觀講，造謠成本太低是很重要的因素。“行政拘留8日”，是不是有些隔靴搔癢呢？相關(guān)法規(guī)，應(yīng)該跟進了。
AI謠言的泛濫帶來了諸多嚴重危害。

首先，它誤導(dǎo)公眾輿論，使人們基于虛假信息形成錯誤的認知和判斷，進而影響社會的穩(wěn)定和諧。其次，破壞新聞行業(yè)的信譽，當(dāng)虛假新聞充斥網(wǎng)絡(luò)，公眾對新聞媒體的信任度會大幅下降。再者，損害企業(yè)和個人的聲譽，給當(dāng)事人造成巨大的經(jīng)濟損失和精神傷害。更為嚴重的是，AI謠言可能對社會秩序、國家安全甚至人民群眾的生命財產(chǎn)安全構(gòu)成威脅。
要遏制AI謠言的滋生和傳播，需要多方共同努力。

政府應(yīng)加強對AI技術(shù)的監(jiān)管，完善相關(guān)法律法規(guī)，明確AI技術(shù)使用的邊界和責(zé)任，加大對造謠者的懲處力度。比如，細化《中華人民共和國治安管理處罰法（修訂草案）》對“散布謠言”的認定標準，出臺網(wǎng)絡(luò)謠言行政處罰裁量基準的具體規(guī)定和指導(dǎo)意見 。同時，推動建立多部門協(xié)同監(jiān)管機制，加強對AI技術(shù)研發(fā)、應(yīng)用等全鏈條的監(jiān)督管理。
平臺也應(yīng)肩負起社會責(zé)任，建立健全內(nèi)容審核機制，利用技術(shù)手段加強對AI生成內(nèi)容的識別和監(jiān)測。構(gòu)建負責(zé)任的算法推薦機制，對疑似謠言內(nèi)容實施分級分類管控，減緩謠言的傳播速度 。
公眾則要提高自身的辨別能力和媒介素養(yǎng)，增強對AI謠言的警惕性。遇到所謂的“爆炸性新聞”，做到不輕信、不轉(zhuǎn)發(fā)、不擴散，通過官方平臺驗證信息，發(fā)現(xiàn)AI謠言立即舉報，保存證據(jù)協(xié)助溯源。不當(dāng)“受害者”，更別當(dāng)“幫兇”。
AI技術(shù)的發(fā)展是大勢所趨，它為人類社會帶來的積極影響不可估量。但我們絕不能忽視AI被濫用所帶來的風(fēng)險，尤其是AI制造謠言的問題。

AI，編故事編的不錯，但不能成為制造謠言的工具！