“大家好,我是演員王勁松。RWA賽道,將成為未來十年最大的區塊鏈增量市場……”視頻的最后,“王勁松”還呼吁大家一起參與“下一輪財富時代的崛起”。
2月26日,演員王勁松發文稱自己的形象被盜用,有人利用其肖像及聲音生成了一條虛假的理財推廣視頻。
“太可怕了,視頻。聲音、口型完全看不出來真假。”王勁松說。據他介紹,畫面的內容實際上出自2022年其主演的一部電視劇,但其本人并未授權該視頻制作。在王勁松以仿冒混淆他人為由通過平臺投訴后,已有涉事視頻被刪除。
2月27日上午,中國新聞周刊注意到,同內容視頻仍出現在某公眾號上,文章標題為《XXX震撼視頻!各大巨星為XXX助力加油喝彩!》。其中不光有“王勁松”,還出現了李連杰、姚明、李亞鵬、于和偉、唐國強等多位名人的形象,視頻中“明星們”的外貌和聲音與本人非常相似,均是在推薦一家“數字金融企業”。
該公眾號在介紹該“金融企業”時,稱其業務與數字貨幣和區塊鏈有關,并稱其隸屬于某知名央企。但該央企在2023年就已公開辟謠,與相關機構無任何關系。
中國新聞周刊以申請入群為由,聯系到該公眾號負責人,對方回復稱:“我們暫時停止推廣,等我消息。”該負責人并未透露制作虛假明星視頻所使用的平臺,僅表示“花錢就可以”。
當日中午,該公眾號賬號已被屏蔽,相關內容無法查看,涉事文章閱讀量已超3000。
![]()
涉事視頻截圖
“這幾個AI視頻效果確實很好,一般水平根本做不到這么逼真,就連我也很難分辨出來。”資深AI博主歸藏向中國新聞周刊表示。
他分析稱,以“王勁松”相關AI視頻為例,需要仔細觀察細節才能甄別真偽。比如嘴唇與牙齒的開合是否對應;另一個判斷方向是面部動作與身體動作是否協調,但這類問題如今也能通過修改原視頻素材來規避,進一步增加了辨別難度。
歸藏表示,正常情況下,使用AI生成人臉內容,必須獲得人臉本人授權;同時許多網絡平臺也有規范,AI生成內容必須明確標注,否則可能被限流。中國新聞周刊注意到,本文涉及的侵權視頻均未標識由AI生成。
“但現實中,很多平臺針對AI作品,并沒有明確禁止使用他人人臉,事實上也很難出臺這類硬性規定。目前只能靠用戶自覺只使用自己或獲授權的人臉,侵權問題主要依賴用戶主動舉報,平臺很難主動全面監管。”歸藏還提到,而且AI模型可以本地運行,不一定非要在平臺上使用。對于技術能力較強的用戶,完全可以利用開源模型自行搭建環境,脫離平臺監管范圍。
陜西恒達律師事務所高級合伙人、公益律師趙良善向中國新聞周刊介紹,商業平臺未經授權利用AI抓取、生成、復用明星面部形象用于帶貨、引流、廣告等商業用途,構成肖像權侵權,其核心認定標準為AI生成形象具備可識別性、使用行為未經權利人同意,且不屬于民法典第一千零二十條規定的新聞報道、科學研究等非營利性合理使用范疇,商業營利用途完全排除合理使用空間。
“依據《生成式人工智能服務管理暫行辦法》第十八條規定,未對AI合成內容進行顯著標識需承擔行政責任,情節嚴重用于詐騙的還可能觸犯刑法相關規定構成犯罪。”趙良善說。
趙良善表示,此類AI盜用明星形象的商業行為,除侵犯肖像權外,還會依據具體情形觸犯多項法律權益,包括聲音權益、姓名權、名譽權等等。提供AI工具的平臺若未盡審核與防控義務,構成共同侵權并需承擔連帶責任。
事件引發關注后,王勁松在評論區中透露,此前已多次收到朋友轉發的類似造假內容,“我還覺得做得很差,假的就是假的”,現在令人“措手不及”,“我家里人都分不清是不是真是我了”。“我擔心的是以后會不會出現更真、性質更惡劣的AI肖像侵權行為,用于詐騙呢?不敢想。”他說。
記者:陳威敬
編輯:劉汨
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.