央視法治在線丨?AI造謠 “移花接木” 起底無(wú)底線博流量網(wǎng)絡(luò)亂象

近日，公安部公布了10起打擊整治網(wǎng)絡(luò)謠言典型案例。這些案例涉及的網(wǎng)絡(luò)謠言，不僅損害公 眾的權(quán)益，也擾亂正常的社會(huì)公共秩序。其中四川德陽(yáng)的案件，是有人移花接木，借用真實(shí)的場(chǎng)景，虛構(gòu)案發(fā)地點(diǎn)等信息制造假新聞。迷惑性強(qiáng)，在當(dāng)?shù)匾l(fā)了熱議。

造謠“液化氣罐車(chē)爆炸”

還有“現(xiàn)場(chǎng)”照片

今年8月11日，一個(gè)名叫“忽如一夜春風(fēng)來(lái)文章”的網(wǎng)民在今日頭條上，發(fā)布了一篇《氣罐車(chē)起火爆炸：目擊者驚險(xiǎn)撤離背后的安全警示與行業(yè)反思》的文章。

聲稱(chēng)2025年8月10日，四川省德陽(yáng)市旌陽(yáng)區(qū)東湖街道大地村境內(nèi)，一輛運(yùn)載液化氣罐的貨車(chē)在行駛途中突發(fā)起火爆炸。這篇文章不僅對(duì)爆炸現(xiàn)場(chǎng)進(jìn)行了詳細(xì)描述，還附有一張貨車(chē)燃燒、群眾撤離的圖片。在文章后半部分還分析了事故造成的損失、相關(guān)部門(mén)的救援措施等，并稱(chēng)“由于事發(fā)路段狹窄，消防通道被私家車(chē)占用，導(dǎo)致救援設(shè)備進(jìn)場(chǎng)延誤10分鐘”。乍一看，非常真實(shí)，文章內(nèi)容也引起了網(wǎng)民的關(guān)注和討論。

德陽(yáng)市公安局網(wǎng)安支隊(duì)四大隊(duì)副大隊(duì)長(zhǎng) 王周木：網(wǎng)民的文章中，液化氣罐連環(huán)爆炸，產(chǎn)生了巨大火球，波及周邊村民等這些令人驚悚的語(yǔ)言，引起了很多人的關(guān)注、轉(zhuǎn)發(fā)、評(píng)論，在社會(huì)上引起了巨大的恐慌，我們支隊(duì)立即派人進(jìn)行核實(shí)核查。

民警來(lái)到事發(fā)地點(diǎn)周邊，進(jìn)行了走訪。村民們說(shuō)，他們并不知道有文章中所說(shuō)的爆炸，而且村里只有一條通往鄰近鄉(xiāng)鎮(zhèn)的鄉(xiāng)道，平日里過(guò)往車(chē)輛并不多，液化氣罐貨車(chē)更是少見(jiàn)。

德陽(yáng)市公安局旌陽(yáng)區(qū)分局網(wǎng)安大隊(duì)副指導(dǎo)員 魏驥：我們通過(guò)實(shí)地走訪大地村當(dāng)?shù)厝罕?，并向轄區(qū)交通、應(yīng)急、消防等相關(guān)部門(mén)核實(shí)，確認(rèn)大地村未發(fā)生氣罐車(chē)爆炸事件。

用其他視頻移花接木利用AI編造謠言

民警進(jìn)一步調(diào)查發(fā)現(xiàn)，發(fā)布這篇文章的網(wǎng)民，并不是德陽(yáng)本地人，而是外地的李某。他在平臺(tái)發(fā)布的信息中配圖截取于8月10日，青蘭高速山西省臨汾段佛兒崖隧道口一輛罐車(chē)起火發(fā)生爆炸的視頻，文字信息則是李某借助AI工具編造的。

德陽(yáng)市公安局網(wǎng)安支隊(duì)四大隊(duì)副大隊(duì)長(zhǎng) 王周木：我們?cè)诨ヂ?lián)網(wǎng)上開(kāi)展核實(shí)，確實(shí)是被網(wǎng)民李某移花接木而成，這是徹徹底底的謠言。他（李某）這樣發(fā)文章是為了吸粉、博眼球、博流量。

查清真相后，德陽(yáng)警方及時(shí)對(duì)外辟謠，并按案件管轄權(quán)限移交給了李某居住地公安部門(mén)，依法對(duì)李某進(jìn)行了查處。

進(jìn)入云南玉溪城區(qū)要收費(fèi)？謠言！

除了事故、災(zāi)難等內(nèi)容，還有一些造謠者，編造公共政策進(jìn)行發(fā)布，也帶來(lái)了不小的影響。

前段時(shí)間，某短視頻平臺(tái)一段視頻稱(chēng)“為了響應(yīng)國(guó)家號(hào)召，即日起玉溪市政府決定：凡是進(jìn)入城區(qū)的必須繳納200元的城鎮(zhèn)維護(hù)費(fèi)用，該費(fèi)用可以在5年內(nèi)隨意出入玉溪城區(qū)。500元可以一輩子隨意出入玉溪?！?/p>

該視頻一經(jīng)發(fā)布，迅速引發(fā)大量網(wǎng)民的關(guān)注和討論。一些網(wǎng)友質(zhì)疑“什么時(shí)候開(kāi)始要交進(jìn)城費(fèi)了”。玉溪市公安局紅塔分局網(wǎng)安大隊(duì)立即進(jìn)行了核查。

玉溪市公安局紅塔分局網(wǎng)安大隊(duì)副大隊(duì)長(zhǎng) 王朝安：當(dāng)時(shí)我們就覺(jué)得不真實(shí)，我們第一時(shí)間跟相關(guān)部門(mén)進(jìn)行咨詢(xún)信息是否真實(shí)。得到答復(fù)是謠言后，我們及時(shí)對(duì)這個(gè)賬號(hào)開(kāi)展工作。發(fā)現(xiàn)發(fā)布此謠言信息的是李某某，我們組織警力，趕到嫌疑人居住地將其查獲。

民警告訴記者，玉溪雖然是旅游熱門(mén)城市，但是只有部分特定的景區(qū)需要購(gòu)票進(jìn)入，大多數(shù)古街區(qū)都不需要收費(fèi)，這類(lèi)進(jìn)城收費(fèi)的消息站不住腳。而且這種涉及公共政策類(lèi)的消息，也會(huì)由政府部門(mén)向全社會(huì)公布。那么李某某為什么要編造這樣一則謠言呢？

原來(lái)，李某某在上網(wǎng)時(shí)發(fā)現(xiàn)，涉及旅游景點(diǎn)、古城相關(guān)收費(fèi)的話題熱度比較高，就動(dòng)起了歪腦筋。

由于李某某在網(wǎng)絡(luò)上發(fā)布的虛假信息，引發(fā)大量網(wǎng)民關(guān)注和討論，對(duì)往來(lái)人員和當(dāng)?shù)厝罕娨l(fā)誤導(dǎo)，造成不良社會(huì)影響。目前，公安機(jī)關(guān)依法給予李某某行政處罰。相關(guān)違規(guī)視頻也已刪除。

造謠“開(kāi)學(xué)第一天學(xué)校塌了”

男子被拘7日

近日，山東威海警方迅速偵破一起網(wǎng)絡(luò)造謠案件，以法治力量守護(hù)網(wǎng)絡(luò)清朗與社會(huì)安寧。

2025年9月1日，一段“威海經(jīng)開(kāi)區(qū)實(shí)驗(yàn)小學(xué)倒塌”的虛假視頻在網(wǎng)絡(luò)上快速傳播，畫(huà)面搭配“開(kāi)學(xué)第一天學(xué)校塌了”等極具誤導(dǎo)性的文字，相關(guān)話題短時(shí)間內(nèi)被大量轉(zhuǎn)發(fā)評(píng)論，造成了惡劣的社會(huì)影響。

威海市公安局經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)分局皇冠派出所民警 楊寧：這條視頻后來(lái)迅速傳播，引發(fā)了學(xué)生家長(zhǎng)和廣大市民的擔(dān)憂和恐慌，造成了比較惡劣的社會(huì)影響。

接到通報(bào)后，威海市公安機(jī)關(guān)立即啟動(dòng)核查程序，迅速確認(rèn)該視頻為虛假信息。威海市公安局經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)分局皇冠派出所民警迅速開(kāi)展工作，最終鎖定謠言發(fā)布者為劉某元。

威海市公安局經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)分局皇冠派出所民警 楊寧：經(jīng)查，劉某元為了博取眼球、蹭“開(kāi)學(xué)”熱點(diǎn)，故意篡改事實(shí)、捏造并傳播了學(xué)校倒塌的謠言。他的行為嚴(yán)重?cái)_亂了社會(huì)的公共秩序，觸犯了《中華人民共和國(guó)治安管理處罰法》第二十五條第一項(xiàng)之規(guī)定。公安機(jī)關(guān)依法對(duì)劉某元處以行政拘留七日的處罰。

謠言借公眾對(duì)校園安全的關(guān)切興風(fēng)作浪，既觸碰法律底線，更透支社會(huì)信任。此案的查處，彰顯了警方打擊網(wǎng)絡(luò)謠言的堅(jiān)定決心。

威海市公安局經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)分局皇冠派出所民警 楊寧：這起案件也警示我們，網(wǎng)絡(luò)不是法外之地。任何為了個(gè)人目的，肆意編造、傳播謠言，引發(fā)社會(huì)恐慌的行為，都必將受到法律的嚴(yán)懲。我們將繼續(xù)堅(jiān)決維護(hù)清朗的網(wǎng)絡(luò)空間，保障人民群眾的安寧與社會(huì)大局的穩(wěn)定。

網(wǎng)傳“懷化一女子從28樓墜落”？

假的！

同樣是假新聞，某網(wǎng)絡(luò)平臺(tái)上出現(xiàn)的一條“懷化35歲女子從28樓跳下”的視頻，顯得更加真實(shí)。其中不僅有時(shí)間、地點(diǎn)、事件、人物等新聞要素，而且還有事件發(fā)生時(shí)的所謂現(xiàn)場(chǎng)畫(huà)面。那這樣一則謠言究竟是如何制造出來(lái)的呢？

湖南懷化網(wǎng)警在日常巡查中發(fā)現(xiàn)，一條“懷化35歲女子從28樓跳下”的視頻在網(wǎng)絡(luò)傳播，視頻的配文中還標(biāo)注了高空墜亡事件、家庭悲劇等標(biāo)簽，該視頻一經(jīng)發(fā)布迅速引發(fā)熱議，先后獲得數(shù)萬(wàn)次轉(zhuǎn)發(fā)。然而，懷化警方在調(diào)查中卻發(fā)現(xiàn)了諸多疑點(diǎn)，首先，從該視頻中的建筑物外立面可以看出，所謂事發(fā)地并不是懷化市；另外，視頻中主播的聲畫(huà)錯(cuò)位情況非常明顯。

懷化市會(huì)同縣公安局網(wǎng)絡(luò)安全大隊(duì)民警 閆宏輝：經(jīng)懷化市公安局核實(shí)，當(dāng)日沒(méi)有發(fā)生類(lèi)似視頻墜樓警情，我大隊(duì)接到線索后立即開(kāi)展調(diào)查，快速鎖定發(fā)布視頻嫌疑人員。

利用AI“悲劇模板”

輸入關(guān)鍵詞生成畫(huà)面

據(jù)禹某向警方供述，為了快速提升自己賬號(hào)的關(guān)注度，她通過(guò)在某AI平臺(tái)輸入“高空墜樓、家庭悲劇”等關(guān)鍵詞生成視頻片段，并經(jīng)過(guò)二次剪輯后發(fā)布到網(wǎng)上。警方調(diào)查發(fā)現(xiàn)，在禹某使用的這個(gè)AI平臺(tái)上，關(guān)于“悲劇模板”的使用率非常大，每月的下載量超過(guò)10萬(wàn)次。

禹某：我當(dāng)時(shí)看到別人用AI做視頻漲粉很快，就想跟風(fēng)試試。平臺(tái)里有現(xiàn)成的悲劇模板，輸入關(guān)鍵詞就能生成畫(huà)面。我不知道隨便發(fā)這種視頻會(huì)違法，更沒(méi)想到會(huì)給那么多人帶來(lái)恐慌。

截至警方查處時(shí)，禹某發(fā)布的虛假視頻已經(jīng)引發(fā)大量關(guān)注，嚴(yán)重?cái)_亂了社會(huì)正常秩序。懷化警方依法對(duì)禹某作出了相應(yīng)的行政處罰。

散布網(wǎng)絡(luò)謠言

將受到法律追究

為了博眼球、賺流量，散布這些涉及事故災(zāi)害、公共政策的謠言，不僅會(huì)造成一定的社會(huì)恐慌，擾亂公共秩序，還有可能會(huì)對(duì)政府公信力等造成沖擊。網(wǎng)絡(luò)不是法外之地，散布網(wǎng)絡(luò)謠言必然要受到法律的追究。

中國(guó)人民大學(xué)法學(xué)院副院長(zhǎng) 丁曉東：根據(jù)我們國(guó)家的治安管理處罰法，如果公民散布謠言，以故意的方式擾亂社會(huì)秩序，根據(jù)情節(jié)的嚴(yán)重程度，可能會(huì)受到拘留和罰款的相關(guān)法律追究。如果公民散布謠言的情節(jié)嚴(yán)重，觸及了刑法的相關(guān)規(guī)定，公民還需要承擔(dān)相應(yīng)的刑事法律責(zé)任。

專(zhuān)家表示，隨著互聯(lián)網(wǎng)發(fā)展，個(gè)性化推薦算法不斷升級(jí)，謠言一旦傳播開(kāi)來(lái)，很有可能會(huì)對(duì)公共秩序造成嚴(yán)重?cái)_亂。

中國(guó)人民大學(xué)法學(xué)院副院長(zhǎng) 丁曉東：現(xiàn)在隨著互聯(lián)網(wǎng)，特別是社交網(wǎng)絡(luò)的傳播，我們的公共秩序和以前已經(jīng)非常不同了。網(wǎng)絡(luò)謠言在現(xiàn)在的互聯(lián)網(wǎng)和算法時(shí)代，信息的傳播非常容易導(dǎo)致不同的群體去選擇性地相信某個(gè)謠言。有可能形成群體極化，或者一些觀點(diǎn)上的嚴(yán)重對(duì)立。

專(zhuān)家：

治理網(wǎng)絡(luò)謠言需要多方合力

如何更好地治理網(wǎng)絡(luò)謠言？專(zhuān)家表示，需要多方共治，從政府部門(mén)，到平臺(tái)企業(yè)，再到公民個(gè)人，都要參與到治理中來(lái)。

北京航空航天大學(xué)法學(xué)院副教授 趙精武：因?yàn)檎哳?lèi)謠言往往具有顯著性特征，平臺(tái)應(yīng)當(dāng)針對(duì)涉及監(jiān)管機(jī)構(gòu)、國(guó)家政策的網(wǎng)絡(luò)信息內(nèi)容設(shè)置更為嚴(yán)格的內(nèi)容審查與應(yīng)急處置流程。在事前階段，預(yù)防政策類(lèi)、警情類(lèi)謠言的廣泛傳播。相對(duì)應(yīng)地，政府部門(mén)需要針對(duì)網(wǎng)絡(luò)上傳播的政策類(lèi)謠言、警情類(lèi)謠言及時(shí)予以辟謠和澄清，平臺(tái)也應(yīng)當(dāng)配合監(jiān)管部門(mén)，利用算法推薦服務(wù)增加有關(guān)辟謠信息的推送比例，以真實(shí)信息覆蓋虛假信息。

中國(guó)人民大學(xué)法學(xué)院副院長(zhǎng) 丁曉東：對(duì)于一些嚴(yán)重違反社會(huì)秩序的謠言，公安機(jī)關(guān)應(yīng)當(dāng)及時(shí)進(jìn)行處置，依法對(duì)相關(guān)的造謠者、傳謠者進(jìn)行處罰。另一方面，政府的其他部門(mén)一定要在謠言治理當(dāng)中切實(shí)履行自己的主體責(zé)任，很多時(shí)候，謠言的產(chǎn)生可能都是由于缺乏正確的、權(quán)威的信息來(lái)源，所以導(dǎo)致了謠言的大范圍傳播。在這種情況下，我們的政府部門(mén)如果能夠及時(shí)發(fā)布有關(guān)權(quán)威的、理性的、準(zhǔn)確的信息，就能夠起到澄清謠言，引導(dǎo)輿論的作用，從而達(dá)到塑造良好的網(wǎng)絡(luò)生態(tài)的效果。

投稿：白河公安

投稿分享：微信491985777