“離譜到家”！黃曉明回應(yīng)在澳門輸?shù)羰畮變|

2月21日，話題“黃曉明回應(yīng)在澳門輸?shù)羰畮變|”沖上微博熱搜。

據(jù)悉，近日，在某檔綜藝節(jié)目的“真假故事”環(huán)節(jié)中，黃曉明表示，“澳門輸?shù)羰畮變|”是人工智能（AI）技術(shù)拼接生成的虛假內(nèi)容。他感嘆“離譜到家的假新聞仍有人信”，并借此呼吁公眾擦亮雙眼、辨別信息真?zhèn)巍?/p>

據(jù)悉，去年3月，“有頂流明星在澳門輸了10億”的信息在互聯(lián)網(wǎng)平臺傳播，彼時，黃曉明、周杰倫等明星均對此消息進行辟謠。

據(jù)“公安部網(wǎng)安局”公眾號消息，網(wǎng)民徐某強（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯”的謠言信息，并通過互聯(lián)網(wǎng)平臺對外發(fā)布，造成謠言迅速傳播擴散，引發(fā)大量網(wǎng)民議論，誘發(fā)相關(guān)謠言、話題等頻繁登上熱搜熱榜，嚴重擾亂公共秩序。公安機關(guān)根據(jù)相關(guān)法律法規(guī)，對徐某強處以行政拘留8日處罰。

隨著人工智能的發(fā)展迭代，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局、新套路也在刷新人們對風(fēng)險防范的認知。

不僅國內(nèi)，海外亦有名人遭受AI虛假新聞困擾。去年11月，著名投資人巴菲特曾在伯克希爾官網(wǎng)發(fā)布澄清聲明，聲明稱，視頻平臺優(yōu)兔上傳播的幾段關(guān)于巴菲特發(fā)表評論的視頻，是用人工智能偽造的“欺詐性視頻”，并非巴菲特本人錄制。巴菲特擔(dān)心，這類欺詐性視頻正在成為一種蔓延的病毒。因為，不熟悉巴菲特的人可能會認為這些視頻是真的，并被這些視頻的內(nèi)容誤導(dǎo)。

利用生成式AI制造的虛假圖片、音頻和視頻信息等“深度偽造”內(nèi)容正在快速傳播，被用來騷擾他人、詐騙金錢，甚至干擾選舉。業(yè)內(nèi)分析人士指出，如何預(yù)防和阻止“深度偽造”內(nèi)容誤導(dǎo)大眾，已成為擺在各國政府和科技巨頭面前的難題。

去年9月1日，《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》）正式施行，《標識辦法》明確服務(wù)提供者應(yīng)當(dāng)對文本、音頻、圖片、視頻、虛擬場景等生成合成內(nèi)容添加顯式標識，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標識；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，隱式標識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息；應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細閱讀并理解相關(guān)的標識管理要求。

據(jù)中國網(wǎng)信網(wǎng)2月12日消息，近期，部分網(wǎng)絡(luò)賬號發(fā)布AI生成合成信息時，不添加AI標識，存在利用虛假不實內(nèi)容欺騙誤導(dǎo)公眾的問題，破壞網(wǎng)絡(luò)生態(tài)，造成惡劣影響。網(wǎng)信部門督促網(wǎng)站平臺深入排查整治，依法依約處置賬號13421個，清理違法違規(guī)信息54.3萬余條。

來源：證券時報官微，綜合自微博、新華網(wǎng)、 中國網(wǎng)信網(wǎng)

責(zé)編：陳麗湘

校對 ：彭其華