5名中介遭罰，AI風險管控到底有多重要？

青鋒
上海市公安局松江分局對通過多個自媒體賬號發布大量涉及本區房源信息的虛假視頻的5名房屋中介給予行政處罰，其依據的事實是，自媒體賬號所有人薛某，“為吸引廣大市民關注其自媒體賬號，進而推銷真實在售房源”，“伙同同事趙某、譚某、錢某、鄭某，利用AI技術，將非本區房產‘包裝’為本區在售的超低價房源，先后杜撰、發布虛假房源視頻100余條”。
在青鋒看來，因為發布虛假信息，涉嫌“嚴重擾亂公共秩序”，薛某等人被警方依法予以行政處罰，實屬應當。
但通過這一問題，也提醒人們，在當下對AI給生活帶來變化一片叫好之時，不論是個人，還是相關部門，絕不能一直陶醉在對AI的叫好聲中，而是應采取措施，對AI給社會帶來的負面影響予以風險封控。
因為，由于AI的普及，乃至AI工具大量推出，并能夠被普通人使用，讓一些心懷不端的人有了空子可鉆。前述上海房屋中介工作人員薛某等，恐怕就是看到利用AI制作超低價房源短視頻，不僅容易，且成本低，又能給其帶來一定流量紅利，因而才鋌而走險。
只是薛某等人沒有想到，他們自稱的超低價房源很容易會被社會現實中人們得來的信息戳破，更沒有想到，他們發布的超低價房源視頻會被網警在網上巡查時發現，并能夠采取相關措施，追根溯源，將他們繩之以法。
但同時大家也應注意到，網絡上很多AI生成的視頻，由于在現實中沒有樣本可以比對，對普通人來說，則很難辨別其真假，更容易被上當受騙。
而且，不法分子常常還會變換花樣，舊一招詐騙手法被戳破，或者不再被人相信，便會生出新一招，把黑手伸向新的人群。
上海警方發布對薛某等人利用AI生成的超低價房源，擾亂社會秩序行為依法給予行政處罰的同時，相信不少人也從網上看到，一些不法分子冒充期刊編輯人員，對論文作者進行詐騙被不斷揭穿，或被嚴厲打擊后，便轉變方式，以編輯部的工作人員名義，“向編委專家、已發表論文的作者發送詐騙郵件、短信等”，邀請參加雜志編委競選。如不是相關期刊發現及時，公開發布聲明予以戳穿，恐怕這一招將讓不少人上當。
應該說，利用期刊邀請編委競聘還與AI關系不大的話，那之前相關媒體報道披露，一些不法分子利用電影演員或者配音演員聲音，合成制作相關視頻，向粉絲要打賞，如不采取措施封控，不僅讓粉絲真假難辨，更會給社會帶來更多負面影響。
因此，我們不能因AI有可能給社會以及生活帶來較大變化，便一味沉浸在其正向作用，而要及時發現其給社會以及給生活帶來的負面影響，采取措施予以防范，不要等其泛濫成災，才搞什么亡羊補牢，恐怕早就為時晚也。