江蘇
生活中，當你在刷視頻的時候，是不是經常遇到這種情況：視頻中的奧運冠軍竟然在推銷農產品，鏈接商品已售出4.7萬件；而某知名演員的“聲音”在直播間24 小時不間斷與粉絲互動……但其實這是不法商家利用AI技術在進行虛假宣傳。
江蘇省消保委消費指導部工作人員龔永壯告訴記者：
“除了奧運冠軍被仿冒，張文宏、劉德華、雷軍等人的聲音也都曾被AI仿冒用于直播帶貨、推廣產品或制造虛假互動以外，在眾多社交平臺上，AI生成的假‘神醫’‘非遺傳承人’宣傳電商產品的視頻也大行其道。”
江蘇省消保委認為，AI 仿冒名人聲音、虛構名人形象帶貨等行為已嚴重侵犯到被仿冒名人的肖像權、聲音權等人格權益，擾亂了公平競爭的市場秩序，阻礙了市場健康發展，透支著大批互聯網用戶的信任，也損害了消費者的知情權、公平交易權等合法權益。
好消息來了！
從今天開始，
AI合成亂象有望徹底解決。
《人工智能生成合成內容標識辦法》（以下簡稱《辦法》）于今天開始施行。
劃重點，接下來所有AI合成的內容都必須依法打“電子水印”。
AI合成的內容，也就是利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。“電子水印”，即人工智能生成合成內容標識，包括顯式標識和隱式標識。
對生成合成內容添加顯式標識
顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識。
服務提供者提供文本、圖片、音頻、視頻、虛擬場景等生成合成內容的下載、復制、導出等功能時，應當在適當位置添加提示標識。
在生成合成內容的文件元數據中
添加隱式標識
隱式標識是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識，包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。
鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識。
文件元數據是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內容。
“電子水印” 幫助“打假”AI克隆
當前，互聯網平臺出現不少AI移花接木的視頻，AI換臉、AI盜聲的不當濫用，易引發侵犯肖像權、聲音權，侵犯公民個人信息及詐騙等犯罪行為。例如，有的商家偽造奧運冠軍的聲音賣土雞蛋，從而達成誤導消費者、推銷商品甚至實施詐騙的目的。
把AI合成的內容打上“電子水印”后，能夠幫助大家更好地分辨。《辦法》實施后，沒有標識的，大家可以舉報。如果刷到疑似內容，也可錄屏舉報，或者@平臺官方客服。
溫馨提醒
提醒公眾要保持警惕，勿輕信AI生成的音視頻或直播，避免財產損失。
素材來源：新華社、荔枝新聞中心
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
