偷走全紅嬋聲音，在網上賣雞蛋？你看的明星帶貨直播，可能是AI偷來的……

撰文 Skin

在鋪天蓋地的網絡短視頻中，你是不是也經常遇到“AI配音”的視頻？現在，許多短視頻都直接用上了AI配音，你一定聽過經典的悟空四郎等音效。

如今，“聲音克隆”這項技術，已經被集成進了各種短視頻和AI平臺，成為了每個用戶都可以一鍵使用的功能：只需要錄一小段自己的說話聲，AI就能直接“復制”出你的聲音和語氣。

不過，這也意味著，你的“聲音”很有可能被偷走、被利用，造成不堪設想的結果。

不知道你有沒有在短視頻里刷到過奧運冠軍“全紅嬋”賣雞蛋的視頻。視頻里，奧運冠軍“全紅嬋”戴著口罩對鏡頭說話：“我是你們的嬋寶，今天有事請大家幫忙。嬋妹就想著幫助媽媽，讓家里的生活過得更好一點，同時把老家的土雞蛋分享給粉絲們嘗嘗……”而有些刷到的網友聽到“全紅嬋”的聲音，則會購買支持。商品的購買次數甚至高達47000次。

網絡賬號用“全紅嬋”的聲音賣雞蛋。而全紅嬋本人的家人則表示，這些聲音都是AI生成的。｜央視新聞

除了全紅嬋，奧運冠軍孫穎莎、王楚欽等也開始幫短視頻商戶推銷雞蛋。不過，最近的報道顯示，短視頻上的聲音，都是“假”的，是AI偷走然后克隆，而這些奧運冠軍并未參與任何的代言和授權。不過，從雞蛋的銷量來看，有47000位網友不小心陷入了這場AI騙局。

你在短視頻網站上見過AI克隆明星帶貨的視頻嗎？｜央視新聞

去年雷軍也曾陷入被AI仿冒惡搞的困境，網絡上涌現出大量“惡搞雷軍AI配音”的視頻，用雷軍的形象和聲音發布不實發言、銳評甚至極端內容。雷軍本人不得不出面呼吁大家不要再玩雷軍語音包，說“希望大家不要再玩了”。

2024年在美國，喬·拜登的聲音也被克隆，電話直接打到選民家中，告知接聽者不要在周二的總統初選中投票。

除了假冒名人帶貨和發言，普通人的聲音被偷走也很危險。騙子很有可能用你的AI聲音誘導你的親人或朋友，誘騙他們匯款或泄露敏感信息。

網絡安全公司McAfee發布的一項7000人參與的調查研究顯示，70%的人分辨不出克隆聲音和真實聲音之間的區別。7.7%的人表示他們被AI克隆的聲音騙過錢。其中，36% 損失了 500 至 3000 美元，而 7% 則被騙了 5000～15000 美元。

這項調查還揭示了一些詐騙的細

節，比如45%的詐騙都是假冒朋友或家人發來的語音消息，其中請求來自伴侶或配偶（40%）、母親（24%）或孩子（20%）。而消息內容包括：車禍（48％）、遭受搶劫（47%），丟了手機或錢包（43%）和出國旅行時的意外（41%）。

騙子常用的詐騙場景：車禍、搶劫等。在每個國家都頻繁發生。｜參考資料1

這種詐騙的方法也是“魚叉式網絡釣魚”的其中一種，指的就是有針對性的，面向特定目標進行的詐騙和攻擊。如今許許多多的網絡詐騙都是如此，它們看起來就像為受害者量身定制，看起來可信度很高。而AI則讓這種詐騙更加普遍，也更難被我們檢測出來。

因此，在這種情況下，及時聯系親友做好事實核查就變得至關重要。以為銀行的信息安全官還提醒，可以與親人約定一個“安全短語”——就像是你和家人之間獨特的暗號——可以用來通過電話驗證身份。

老年人等對新型科技手段不熟悉的人更容易被騙。因此，提醒家里的老年人，并和他們約定驗證身份的方式十分重要。｜CBC截圖

不過，更危險的是，騙子想要偷走“聲音”，難度比你想象得小多了。除了網絡上的各種技巧和工具外，McAfee的研究人員還發現，3秒鐘的音頻就足以生成一個與原始語音匹配度高達 85% 的克隆語音。如果再加入一點點訓練數據，匹配度可以達到95%。

而一些AI音頻生成軟件如今甚至還可以克隆出人聲各種“呼吸聲”，比如沉重的嘆氣，氣喘吁吁的聲音等，甚至還能改變你說話時周圍的環境音……

所以，騙子可以從哪些渠道偷走你的聲音呢？

（1）在社交媒體、電話發布的已有的視頻中的你的聲音。

（2）當你在使用一些軟件的時候，在沒有花時間看的用戶協議里，可能已經將自己的聲音“授權”給了軟件。

在網絡上分享聲音，已經成為了一個很普遍的現象。而平臺和軟件缺乏監管和保護，我們的聲音就很有可能會被盜取。｜參考資料1

（3）標榜賺錢的騙局：一些有聲書“兼職配音”的線上試音，也許就是騙取個人隱私和聲音的手段。

這種“配音兼職”有著刷單、詐騙和盜取個人資料的風險，所以一定要保持警惕。｜圖源網絡

最后，我國正在出臺各種監管手段，整治AI克隆聲音的亂象，幫助受害者維權。

2020年，《民法典》首次將我們的聲音納入法律保護。非法模仿他人的聲音，就和肖像一樣可能是侵權行為。2024年，北京互聯網法院判決兩家公司向一名配音演員支付 25 萬元人民幣的賠償，因為這兩家公司未經同意克隆了該配音演員的聲音。這是中國首例保護語音權免遭人工智能克隆的法律判決。

2025年9月1日起施行的《人工智能生成合成內容標識辦法》則明確表示，服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識。

參考資料：

[1]https://www.mcafee.com/ai/news/ai-voice-scam/#:~:text=These%20tools%20required%20only%20a,small%20number%20of%20audio%20files.

原創文章版權歸微信公眾號
“把科學帶回家”所有

轉載請聯系：bd@wanwuweb.com

凡本公眾號轉載、引用的文章 、圖片、音頻、視頻文件等資料的版權歸版權所有人所有，因此產生相關后果，由版權所有人、原始發布者和內容提供者承擔，如有侵權請聯系刪除。

▲關注我們，點亮在看，分享一下▼