演員被AI盜播 我們該如何辨別那是真人，還是“AI人”？

近日，演員溫崢嶸在央視新聞節目中表示，自己的形象被不法分子盜用，出現在多個帶貨直播間中，讓廣大網友誤認為是本人在直播。這件事情一經報道便迅速引發了熱議，不少網友留言表示自己經常刷到“假冒直播間”，一直信以為真。人們在震驚之余也不禁開始思考，當屏幕上出現一個形象，我們該如何辨別那是真人，還是“AI人”？數字時代，我們又該如何面對“眼見不再為實”的現狀？

AI技術濫用需遏制

“很難證明我是我”——這個看似荒誕的命題，正成為演員溫崢嶸的現實困境。據央視報道，那些身穿不同服裝、在同一時段現身多個直播間的，并非她本人，而是通過錄屏摳像、盜用過往直播素材，再經AI深度合成技術重塑形象與聲音后生成的“數字人”。盡管溫崢嶸曾公開聲明并嘗試維權，網絡盜播與AI冒充行為仍屢禁不止。

盜用他人形象進行直播的行為可能會面臨哪些后果？北京華象律師事務所主任劉校逢律師分析說：

劉校逢：以演員溫崢嶸被AI盜播為例，未經權利人同意進行AI換臉直播的行為觸及多重法律關系，可能引發民事、行政乃至刑事三個層面的法律后果。民事法律后果方面顯然是侵犯了他人的肖像權，同時還可能侵犯他人的姓名權和名譽權；行政法律后果方面，可能會違反《中華人民共和國個人信息保護法》、《中華人民共和國反不正當競爭法》、《中華人民共和國廣告法》等法規；那么如果是利用換臉技術用于詐騙、敲詐勒索，侵犯公民個人信息，還可能要被追究刑事責任。

如果在這樣的直播間下了單，消費者能否主張退貨來維護自己的權益呢？劉校逢律師表示：

劉校逢： 消費者因為信賴被換臉的明星去購買了這個商品，但是實際銷售者與形象代言人毫無關系，這就屬于明顯的虛假宣傳或者是欺詐。這個時候消費者可以根據《中華人民共和國消費者權益保護法》主張“退一賠三”，如果商家拒絕處理，消費者也可以向直播平臺進行投訴，或撥打12315投訴，當然也可以通過訴訟解決。

在溫崢嶸近期發布的視頻評論區，仍不斷有網友詢問：“這是真人嗎？”可見這一事件已引發公眾對AI人物合成技術的警惕。街頭采訪中，不少市民表示，僅憑肉眼已難以分辨視頻中出現的究竟是真人還是AI生成的“數字人”。

故事接龍StoryStorm發起人、國內AI影像領域的資深策展人KiSA表示，AI技術迭代較快，已經可以達到“以假亂真”的效果。偽造真人形象僅需1-3張照片，一段1分鐘視頻成本僅需幾元錢。

KiSA：像這樣的一個數字人盜播技術經過從2023年到現在兩年時間的發展，已經非常的成熟和便捷，只需要你的一段視頻。像海外的很多工具還需要你去驗證是不是本人，充分證明你對這張臉的權屬，但是在很多本地部署的一些工具是可以輕易盜用名人直播或者一部分內容去做成數字人形象，這種內容95%的用戶是無法分辨的，而且隨著技術越進步，能分辨的人會越少。

目前已能在部分作品中看到“AI生成”標識，這類提示有助于判斷內容的真實性。

那么，國家層面對于AI生成內容是否有明確的標識要求？北京市京師（通州）律師事務所主任宋祖宇律師表示，目前主要有兩大類，一類是顯示標識，一類是隱式標識。

宋祖宇：國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布了《人工智能生成合成內容標識辦法》，自2025年9月1日起施行。其依據的是《中華人民共和國網絡安全法》、《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》等法律、行政法規和部門規章。其要求利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息都需要添加標識。目前我們的標識方式包含兩種，第一種是顯式標識，比如說現在很流行的AI換臉，必須添加顯式標識，也就是以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的標識；第二類是隱式標識，是指采取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

然而，虛假直播間顯然不會主動“自曝身份”。記者隨機咨詢多家承接AI視頻制作的線上店鋪，對方都表示，雖然生成時自帶“AI生成”水印，但付費后可予以去除，從而實現“以假亂真”。

中關村現代信息消費應用產業技術聯盟副理事長包冉指出：給視頻或者圖片打水印也有兩種不同的方法，最簡單的方法就是給每一幀的圖像加一層水印層，但是專業的視頻處理工具完全可以分層化處理，把添加的水印層抹去。新一代的叫像素級水印，但隨之而來的新一代擦除水印的技術又出來了，也是通過像素級的處理，使得這樣的水印擦除更徹底，更難以檢測。

商家表示可以去除水印/圖片來源于網絡聊天截圖

而讓包冉更擔心的是信任問題，一旦全社會的信任成本增加，帶來的后果不堪設想。

包冉：“諾貝爾經濟學獎獲得者科斯先生曾提出一個理論，說整個社會，大到一個經濟社會，小到一家企業或者更小到一個家庭的財務收支，信任非常關鍵。如果整個社會經濟、網絡經濟充斥著不信任，最終影響到的是網絡化時代社會經濟的基本運行。”

我們看到自2017年《新一代人工智能發展規劃》以來,國家層面已將法治與倫理納入人工智能發展的制度保障體系，也有平臺啟動了“仿冒名人”專項治理行動。但前有“央視主持人形象被盜用賣魚油”，后有“溫崢嶸無法證明我是我”，在包冉看來，AI偽造技術的濫用已經成為了系統性風險，不能指望公眾自我防范。解決問題的核心在于壓實平臺的主體責任，并輔以監管部門的強力執法。

包冉表示，對數據的掌握能力和嗅探能力只有平臺能做到，平臺完全可以建立起一套監控機制。但是矛盾在于，平臺很多時候需要的是流量以及基于流量的交易量，這時候“有形之手”就要出手了。相關的監管部門該罰就罰，我一直認為網絡視聽領域的監管治理始終還差點意思，事后治理的威懾性可能能在相當程度上彌補在前置的技術監管環節的能力的欠缺。

故事接龍StoryStorm發起人、國內AI影像領域的資深策展人KiSA也表示，AI技術的濫用長期以往將傷害到行業的健康運行，或可以通過隱形標識技術與平臺強監管建立防火墻。

“平臺應該知道這是AI內容，它里面是有隱式水印的。當它傳到平臺上，平臺識別到它是AI生成視頻且有真人形象引用時，那么你就要證明你對這個真人形象有權限。如果這個AI內容他的目標是讓你以為他是真的，他有不良意圖，那就應該果斷刪除，并將發布賬號予以取締。如果一個身份證號多次有不良意圖的發布AI作品，有可能就會上某種黑名單，可以有效從根源上遏制一定內容的濫用。總的來說，舉證責任和鑒別責任交給公眾是不應該的，應該由發布平臺和審批單位來承擔這個責任。”

北京市京師（通州）律師事務所主任宋祖宇律師還指出，現狀針對AI技術濫用的司法實踐確實存在痛點，有待進一步完善。“第一是侵權的成本普遍很低，第二是取證特別難，第三是平臺責任比較模糊，以及現有的法律規范不足。我建議從立法上要進行完善，從執法上要進行強化，從司法上要進行細化，從行業自律上來進行強化。”

北京華象律師事務所主任劉校逢律師則強調，目前我國規制AI換臉技術應用的法律法規分散于多部法律中，導致現有法律治理框架難以對復雜的技術應用進行全面、系統的約束，應盡快通過專項立法劃定清晰紅線。

劉校逢：“一是可以針對AI換臉技術進行專項立法；二是可以通過發布一些典型案例或者司法解釋來及時回應關鍵性的問題；三是我們可以嘗試引入舉證責任倒置，由技術提供方或者使用者來證明其行為的合法性與獲得授權，否則它將承擔不利的法律后果。只有這樣，才能讓創新在法治的軌道上安全奔跑，才能真正保護好每一位公民的合法權益。”

來源：北京交通廣播