【引以為戒】利用AI造謠博眼球？倆人栽了！

人工智能（AI）迅速發展，給生產生活帶來便利的同時，也被用于制作發布謠言、不實信息。今年以來，中央網信辦聚焦利用AI制作發布謠言、不實信息等亂象，開展重點整治。各地認真落實相關要求，切實規范網絡傳播秩序。現通報山西典型案例——

案例一：駢某利用AI生成虛假塌方事故視頻

12月12日，晉城市陽城縣網信辦巡查發現，網民“靜沐※※”在抖音平臺發布視頻，宣稱“山西晉城市析城山隧道發生塌方事故，截至12月8日已確認5人遇難”。該信息引發關注，陽城縣網信辦立即核查，通報陽城縣交通運輸局核查。

陽城縣交通運輸局核查反饋，視頻提及的時間、地點（析城山隧道）、事故畫面及具體內容在陽城縣轄區內均查無實據，確認為惡意炒作的虛假信息。陽城縣網信辦第一時間固定相關證據，并將線索移交陽城縣公安局立案調查。

經查，違法行為人駢某（長治籍）為博取流量、吸引眼球，于12月10日利用AI工具生成虛假事故文案，并借助AI技術制作虛假事故視頻。12月12日，駢某將視頻發布至抖音、快手等平臺，相關視頻在抖音平臺播放量累計達1.5萬。

針對駢某散布虛假信息，造成不良社會影響，嚴重擾亂公共秩序的違法事實，公安機關依據《中華人民共和國治安管理處罰法》，對駢某作出行政拘留十日的處罰。

晉城市公安機關對駢某執行行政拘留。

案例二：吳某某利用AI生成地震謠言信息

近日，忻州市網信辦會同公安機關，依法處置一起利用AI技術生成并傳播地震謠言的案件。

12月13日17時20分，忻州市忻府區（北緯38.53度，東經112.82度）發生3.4級地震，震源深度24千米。經實地調查，本次地震未造成人員傷亡和財產損失，社會秩序正常。

同日19時許，忻州市網信辦工作發現，有自媒體賬號發布“突發！山西忻州遭遇6級地震，多地震感強烈，最新進展、避險提醒”等涉地震不實信息，其中包含利用AI技術制作的虛假災情視頻，迅速在多個平臺傳播。忻州市網信辦立即固定證據、組織核查，確認該信息為謠言，并第一時間將線索轉交公安機關。

公安機關查明，網民吳某某為博取關注、吸引流量，在明知視頻內容為AI生成、信息不實的情況下，仍通過自媒體平臺散布虛假地震信息，引發社會關注，擾亂公共秩序。吳某某行為違反《中華人民共和國治安管理處罰法》，公安機關依法對其行政拘留三天。

吳某某表示，已深刻認識到自身行為的違法性和社會危害，承諾今后將嚴格遵守法律法規，不造謠、不傳謠，自覺維護清朗網絡環境。

忻州市公安機關依法審訊吳某某。

普法小課堂

《中華人民共和國治安管理處罰法》（2025年6月27日第十四屆全國人民代表大會常務委員會第十六次會議修訂，自2026年1月1日起施行）

第二十九條有下列行為之一的，處五日以上十日以下拘留，可以并處一千元以下罰款；情節較輕的，處五日以下拘留或者一千元以下罰款：

（一）故意散布謠言，謊報險情、疫情、災情、警情或者以其他方法故意擾亂公共秩序的；

（二）投放虛假的爆炸性、毒害性、放射性、腐蝕性物質或者傳染病病原體等危險物質擾亂公共秩序的；

（三）揚言實施放火、爆炸、投放危險物質等危害公共安全犯罪行為擾亂公共秩序的。

《互聯網信息服務深度合成管理規定》

第六條任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

第二十二條 深度合成服務提供者和技術支持者違反本規定的，依照有關法律、行政法規的規定處罰；造成嚴重后果的，依法從重處罰。

構成違反治安管理行為的，由公安機關依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

來源：中央網信辦舉報中心