AI技術被濫用的風險，從制造海量網絡垃圾到造假、詐騙

近日，上海警方通報打擊 “涉企網絡謠言”成果。截至目前，警方已偵辦涉企網絡謠言案件50起，依法查處69人，累計清理涉企網絡謠言信息4600余條，270余個違規賬號被采取禁言、封停措施。

在通報中，舉了四個典型案例，其中三個和AI有關，兩個是AI制作虛擬視頻，這大部分人都可以理解，典型案例三則不同。

兩個人為博人眼球、獲取流量，使用AI寫稿，發布針對多家車企的謠言，累計發布不實文章70余萬篇次，非法獲利8萬余元。

注意此案的特點：

① AI批量生成虛假文案；

② 海量賬號發布；

③ 收入來源主要是平臺的流量費。

70余萬篇，非法獲利8萬余元，平均每篇收入不到0.13元。這收入很可能都來自平臺的流量收入。

AI被用于海量制造垃圾，去斬獲每篇文章“微不足道”的流量收入，但聚沙成塔，積累起來也成為某些人獲得不低的“收入”的捷徑。

現在在中文互聯網上，AI制造的垃圾比例極高，且比例還在不斷提高。每隔一兩個月，我都會把我母親的手機清理一下，每次都會有至少新增幾十個微信群、公眾號、服務號、視頻號，其中的內容絕大多數都是水文（一個人可以管理幾百個賬號，每個賬號每天更新，核心內容均為AI生成），在AI生成內容基礎上嵌入了平臺的廣告以及賬號吸引關注、轉發的“便捷按鈕”，就是一篇能賺錢的水文。

當然不是說只有微信有這問題，只是因為，我沒給母親的手機上裝更多的APP。其他自媒體平臺、短視頻平臺上，類似的AI稿件也不少。很多自媒體文章，一看就是AI寫的，洋洋灑灑幾千字，言之無物，沒有特色。甚至有點正規媒體，也在用Ai寫稿。

AI濫用問題已經成為了社會公害。央視《法治在線》剛剛報道了AI擬聲，聽你1秒鐘說話，就可以模仿你和其他人對話。

此外，大量的短視頻、漫劇都由AI生成，在短視頻中，“AI演員”已經能夠以假亂真。

更甚者，有你一張照片和一段聲音，騙子就可以模仿你和他人視頻聊天，面部表情已相當逼真（目前身體需基本處于靜止狀態）。近兩年，電信運營商、手機廠商、即時通訊APP、移動支付APP等都陸續推出識別“AI換臉”的功能，但“道”和“魔”的戰斗一直沒有停止。