北京
近日，浙江金華 婺城網警雷霆出擊，成功偵破一起利用AI工具制作并傳播淫穢內容的案件，抓獲犯罪嫌疑人8名。目前，屬地公安機關依法對8名犯罪嫌疑人采取刑事強制措施，案件正在進一步偵辦中。
神秘群組暗藏淫穢定制黑產
某資深國漫愛好者在上網時，發現某互聯網群組內的部分賬號打著“私人定制”和“眾籌更新”的旗號招攬生意，其發布的所謂熱門國漫角色“美圖”，內容不堪入目。意識到這種行為嚴重褻瀆國漫形象，更已觸碰法律紅線，該愛好者向警方報了案。
新型技術成犯罪工具
接警后，婺城警方迅速成立專案組展開偵查， 很快鎖定了犯罪嫌疑人陳某，并組織警力展開抓捕。
在對其住所進行搜查時，民警在其電腦和硬盤中查獲大量專門用于生成淫穢內容的AI模型文件、訓練數據，以及已經制作完成的成品圖片和視頻，在民警出示的一系列證據面前，他的如實交代了犯罪事實。
8人團伙全員落網
據陳某供述，為牟取非法利益，以“角色投票、私人定制、眾籌更新、終身會員”等噱頭，接收客戶指定的國漫角色，按照對方要求利用AI技術生成淫穢內容，從中賺取非法利益。隨著調查的深入，警方順藤摸瓜，將該團伙其余7名犯罪嫌疑人一網打盡。
“新興技術的使用切勿用錯地方?！鞭k案民警指出，犯罪嫌疑人利用AI技術打破虛擬與現實的邊界，將深受大眾喜愛的國漫角色惡俗化，嚴重污染了網絡環境，挑戰了社會公序良俗。
1. 平臺要履行主體責任，嚴審內容，健全機制，杜絕“流量至上”，落實管理責任。
2. 技術與從業者應明確AI等技術應用邊界，嚴禁用于違法用途非法牟利及傳播違法犯罪信息。
3. 網民需 提升法治與網絡素養，抵制違法內容，違法必追責，共建清朗網絡空間。
素材 |浙江金華網警
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
柚子說球
