央視起底AI造謠套路，重慶兩案例敲警鐘

近期，多條AI生成的視頻在網絡傳播，其中包括“南岸立交垮塌”“涪陵灌溪溝農貿市場對面房屋倒塌”等虛假內容，一度引發(fā)部分市民恐慌。這些視頻究竟是如何炮制的？真相到底是什么？跟著央視新聞頻道《法治在線》一探究竟↓↓↓

編造“南岸立交垮塌”謠言

網民被行政拘留

3月9日上午10點半，一段在短視頻平臺發(fā)布的視頻信息引起了重慶市南岸區(qū)委網信辦工作人員的注意。

視頻是一段立交橋倒塌的畫面，這段視頻上線約12個小時，點贊量5700余個，轉發(fā)1100余次，留言1100余條。由于立交橋指示牌寫著“南岸”兩字，讓大量網友將這段視頻事發(fā)地與重慶南岸區(qū)聯(lián)系到一起。

重慶市南岸區(qū)委網信辦網絡綜合治理與執(zhí)法監(jiān)督科副科長余宛蔓：

經我們核實，南岸區(qū)并沒有命名為“南岸立交”的立交橋，所以，我們初步認定，這個視頻是不實的。

隨著深入調查，最終確定該視頻是AI生成的虛假消息。

重慶市南岸區(qū)網絡安全綜合治理中心主任簡偉晉：

經過調查，該視頻的發(fā)布者是通過AI生成的內容，而且賬號上有很多AI生成視頻，涉及打架斗毆、安全事故等信息，視頻發(fā)布者對自己造謠和傳謠的事實供認不諱。

這個案例有一個值得注意的地方，發(fā)布者在發(fā)布這段視頻時打上了作者聲明“內容由AI生成”，卻依然被警方依法作出行政拘留6日的處罰。既然作者注明了這段視頻是由AI生成的，是否可以理解為這段視頻并非真實存在呢？為何還要對他進行行政處罰呢？

重慶市互聯(lián)網違法和不良信息舉報中心處置科科長譚婧伶：

首先，根據(jù)《中華人民共和國治安管理處罰法》的相關規(guī)定，網民不得故意散布謠言，謊報險情，擾亂公共秩序。

其次，標注AI生成不等于免責，這只是內容標識的合規(guī)要求，絕不是造謠傳謠的免責條款。

《生成式人工智能服務管理暫行辦法》明確規(guī)定，使用AI也不能生成傳播虛假有害信息，不能以此來抵消編造謠言的法律責任。

標注AI生成絕不能成為擋箭牌，編造虛假信息最終都會面臨處罰。

編造“農貿市場對面房子倒塌”謠言

網民被批評教育

重慶涪陵區(qū)網民蔣某在短視頻平臺發(fā)布了一段視頻，標題為“涪陵灌溪溝農貿市場對面房子倒塌”。

重慶市涪陵區(qū)互聯(lián)網信息辦公室副主任唐超：

我們發(fā)現(xiàn)這條信息以后，立即通過電話與區(qū)應急局聯(lián)系，確認這件事情是否屬實，得到的反饋是涪陵區(qū)灌溪溝農貿市場周邊沒有發(fā)生房屋倒塌的事件，我們判斷這條信息屬于謠言信息。

經調查，網民蔣某利用AI工具生成房屋倒塌視頻，在網上發(fā)布了不實信息。考慮到他主動刪除了視頻和在線時間短，且未造成重大網絡影響，警方對蔣某進行了批評教育。

《生成式人工智能服務管理暫行辦法》規(guī)定，提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，不得生成虛假、有害信息等法律、行政法規(guī)禁止的內容。

來源：“重慶辟謠”微信公眾號、央視新聞