前沿編譯｜生成式AI的革命：名人形象保護與挑戰

生成式人工智能（AIGC）技術為媒體和娛樂行業開辟了前所未有的機遇，同時也帶來了復雜的挑戰。近年來，名人姓名、形象、肖像與聲音的深偽內容和未經授權的數字復制品泛濫，不僅威脅到名人和企業的合法權益，也對公眾認知與法律體系形成沖擊。從深偽技術制造虛假廣告到生成不當內容，這些濫用現象引發了關于隱私侵權、知識產權盜用及聲譽損害的廣泛討論。然而，AI技術同樣為名人和品牌提供了數字化擴展的新路徑，例如通過授權虛擬形象拓展創意領域或市場渠道。生成式AI既是一把開啟創新的鑰匙，也是一柄潛在的雙刃劍：一方面，它推動了娛樂行業的創意革新；另一方面，深偽內容的失控傳播則對名人形象和社會信任構成威脅。要應對這些問題，亟需通過技術解決方案與法律保護的緊密結合，構建一個平衡創新與風險的生態體系。

深偽技術的威脅與濫用

生成式AI支持多種類型的合成媒體，包括圖像生成、語音克隆和深偽視頻等形式。未經授權的名人照片或不當內容圖像、模仿名人聲音制造假廣告或假新聞，以及將名人面孔替換到不當內容視頻或虛假聲明中的內容都屬于深偽內容。這些深偽內容通過社交媒體、應用程序以及暗網傳播，對名人造成了直接的經濟與聲譽損害。

部分名人在未經同意情況下被使用姓名、肖像、形象和聲音的案例

2024年3月，珍娜·奧爾特加（Jenna Ortega）和塞布麗娜·卡彭特（Sabrina Carpenter）的AI生成不當圖片被用來推廣一款名為Perky AI的應用。這些圖片通過Facebook廣告大規模傳播，目標是吸引用戶點擊下載。這一事件不僅侵犯了兩位名人的隱私權，還在公眾中引發了對生成式AI技術濫用的擔憂。同年10月，湯姆·漢克斯（Tom Hanks）的深偽視頻出現在Instagram上，視頻模擬了漢克斯的語音和表情，用于宣傳一個虛假的牙科計劃廣告。這一高度逼真的深偽視頻讓許多消費者上當受騙，同時也對漢克斯的公眾形象造成了損害。更早之前的2024年1月，泰勒·斯威夫特（Taylor Swift）的深偽不當內容圖片首次在Telegram群組中被發現，隨后迅速傳播到X平臺（原Twitter）。這些圖片不僅對斯威夫特的個人聲譽造成了顯著損害，也在社會輿論中掀起了對深偽技術監管缺失的批評。

根據微軟2024年的全球在線安全調查報告，大部分消費者對生成式AI可能引發的潛在問題表達擔憂，尤其是使用AI生成詐騙、深偽等方面。

《綜藝》智庫與Smith Geiger2024年展開的研究揭示了深偽內容對消費者的顯著影響，特別是在年輕群體中的影響尤為突出。數據顯示，18-24歲的用戶中有 47% 曾誤以為深偽內容是真實的，這一比例在所有年齡段中最高，反映出年輕用戶更容易受到虛假內容的誤導。這可能與其對社交媒體的高頻使用及其對數字內容的高度依賴密切相關。相比之下，整體用戶中有 30% 表示曾被深偽內容誤導。

此外，深偽內容的快速生成和傳播對檢測工作提出了巨大挑戰。人工檢測深偽內容極為耗時，現有團隊難以應對每天大量生成的侵權內容。盡管技術工具在一定程度上提供了支持，但其在處理大規模內容時仍顯得效率不足，特別是當部分深偽內容分布在暗網或私密平臺時，追蹤和刪除的難度進一步加劇。這種隱蔽性使得現有的技術手段和監管手段均面臨嚴峻考驗，凸顯了加強技術創新與監管政策的必要性。

應對深偽的技術方案與政策框架

當前深偽檢測技術主要依賴分類器模型、多模態檢測工具和實時監控等方式。這些技術能夠分析數字內容是否為合成，并對圖像、音頻和視頻等多種類型的內容進行處理。例如，Reality Defender的工具能夠對視頻的每4-6秒進行預測，標記可能被操控的片段。Resemble AI的音頻檢測工具通過分析音頻的每幾毫秒數據生成“鋸齒狀可視化”圖表，以顯示錄音的完整情況。盡管技術進步顯著，但仍然存在挑戰，包括檢測模型需要不斷適應新型生成式AI工具的更新，以及壓縮和重新編碼的內容可能隱藏深偽痕跡而降低檢測準確性。

來源驗證技術是應對深偽內容的另一種方法，包括嵌入水印、元數據加密和指紋識別等。這些技術通過在合成內容中嵌入不可見的標識和加密信息，以及生成唯一的哈希值（一種通過哈希算法生成的固定長度數據摘要，用于唯一標識和驗證原始數據），以標識內容并追蹤其分發路徑。例如，Adobe的Content Authenticity Initiative（CAI）為媒體內容提供了完整的來源驗證鏈，Truepic則提供端到端的媒體驗證解決方案。這些技術的廣泛應用將有助于提高數字內容的透明性與可信度。

英國消費者認為社交媒體平臺應采取的措施，以應對有害Deepfake內容的傳播

（調查對象為英國成年人）

調查顯示，大多數消費者支持使用來源驗證技術以打擊深偽內容。例如，76.6% 的人認為在深偽內容上添加警告標簽或水印是有效的；此外，87.3% 的消費者支持社交媒體平臺采取更嚴格的措施，比如禁止或暫停傳播深偽內容的用戶權限，這表明公眾對平臺監管的期待較高。與此同時，82.4% 的受訪者希望平臺提供更便捷的舉報機制，確保虛假內容能夠及時被移除。

英國消費者認為利益相關方應采取的措施，以應對有害Deepfake內容的傳播

（調查對象為英國成年人）

另一方面，行業決策者也對應對深偽內容的技術手段表現出高度認可。研究顯示，62% 的決策者認為自動檢測工具是解決深偽內容問題的關鍵。這種工具能夠高效識別潛在的虛假內容，從而為平臺的管理和清理提供技術支持。相比之下，消費者則更加關注直接影響其體驗的措施，例如平臺透明度和教育培訓。

各國正在積極制定法規以規范生成式AI的使用。例如，美國版權局（USCO）發布了關于數字復制品的保護政策，并就人工智能生成內容的版權問題開展了系列討論；歐盟的《通用數據保護條例》（GDPR）則強調對數據隱私的保護，為生成式AI的發展和應用提供了法律保障。在美國，多個州和聯邦層級正在推進生成式AI的法律框架。例如，《NO FAKES法案》旨在禁止未經授權的深度偽造內容，特別是用于欺詐或侵犯名人形象權的內容，而田納西州的《ELVIS法案》則專注于保護名人的姓名、形象、聲音等數字權益。與此同時，加州也出臺了多項相關法案，包括AB 1836（禁止未經同意使用某人的數字形象）和SB 926（禁止制作和傳播深偽不當內容），這些法規在應對生成式AI濫用方面起到了積極作用。

數字復制品：名人形象的全新應用

名人數字復制品的授權機制正在快速發展，其應用場景包括廣告與品牌合作、影視與游戲中的虛擬演員應用，以及用于粉絲互動的名人聊天機器人或虛擬形象。例如，2024年7月，美國版權局發布了一份關于數字復制品的報告，指出名人應通過法律機制控制其數字形象的使用。這種授權機制不僅為名人帶來額外收入，也幫助品牌提升市場吸引力。例如，使用AI生成的虛擬名人在廣告中推廣產品，可以在全球范圍內同時展開多語言、多文化的市場活動。為了支持數字復制品的應用，需要建立強大的數據管理系統，這些系統包括分布式存儲、實時監控和隱私保護等功能，以確保訓練數據的安全性并防止泄露，同時通過自動追蹤名人數字復制品的使用情況保障其合法性。

名人數字復制品使用案例（來源：《綜藝》智庫，2024年11月）

調查表明，消費者對名人AI角色表現出濃厚興趣。這種興趣集中體現在虛擬名人的互動應用上，例如聊天機器人、語音克隆和虛擬舞臺表演等。名人AI角色的應用場景包括影視特效、游戲配音、虛擬演唱會和品牌代言等，利用數字掃描或語音克隆技術實現。例如，Meta推出的聊天機器人基于名人語音與用戶互動，而Virgin Voyages通過詹妮弗·洛佩茲（Jennifer Lopez）的虛擬形象打造個性化營銷活動。這些案例展示了名人數字復制品在娛樂和商業領域的廣泛潛力與吸引力。

構建生成式AI的可持續未來

未來的生成式AI工具需要更加透明，以增強用戶信任。技術公司已開始引入生成器標識功能，例如通過水印或媒體出處標記，使用戶能夠識別內容來源。這樣的技術改進將為打擊深偽內容的傳播提供堅實基礎。同時，公眾教育被視為長期解決深偽內容的關鍵策略。通過技術創新、法規實施和公眾教育的結合，生成式AI可以在推動創新和保護權益之間實現平衡。這不僅需要技術公司的投入，也需要行業協會和政府的共同努力，從而建立一個既具前瞻性又負責任的生成式AI生態系統。

編譯報告內容來源：

Variety Intelligence Platform.Generative AI, Celebrity Deepfakes & Digital Replicas: A Special Report. December 2, 2024.

— THE END —

作者 | 謝沛東

主編 | 彭侃

執行主編 | 劉翠翠

排版 | 于佳欣