文章參考官媒資料撰寫(xiě),無(wú)任何不良引導(dǎo)請(qǐng)理性閱讀,為閱讀通順文章可能存在潤(rùn)色,如有侵權(quán)或文章錯(cuò)誤請(qǐng)私信指出!【文章參考信源已放在文章結(jié)尾】
編輯丨BYM
當(dāng)名人跨界“帶貨”、被惡意造謠“去世”,AI技術(shù)成了眾矢之的。
堂堂資深主播李梓萌叫賣(mài)魚(yú)油,奧運(yùn)冠軍全紅嬋推薦土雞蛋。
甚至就連“功夫巨星”成龍都難逃AI亂象,被AI造謠“去世”。
![]()
這不僅導(dǎo)致他們名譽(yù)受損,更讓無(wú)數(shù)人因信任而受騙。
就在這類(lèi)亂象頻發(fā)之際,國(guó)家終于出手了!
![]()
央視主播深陷“換臉疑云”
2025年2月,一場(chǎng)詭異的直播帶貨在網(wǎng)絡(luò)平臺(tái)悄然蔓延,讓央視主播李梓萌無(wú)辜卷入輿論漩渦。
在直播間里,她正為一款魚(yú)油產(chǎn)品站臺(tái),宣稱(chēng)該產(chǎn)品有“治病功效”。
還表示該產(chǎn)品好處多多,言語(yǔ)之間十分權(quán)威。
![]()
不少觀眾出于對(duì)央視主播的信任,紛紛下單購(gòu)買(mǎi)這款產(chǎn)品。
但很少有人意識(shí)到,這個(gè)“李梓萌”并非本人,而是通過(guò)AI換臉技術(shù)偽造生成的虛擬形象。
直到有細(xì)心網(wǎng)友發(fā)現(xiàn)視頻嘴型與聲音有延遲,面部邊緣十分模糊。
![]()
這才發(fā)現(xiàn)“李梓萌”并非本人,而隨著直播間被舉報(bào)。
一場(chǎng)AI偽造的騙局也逐漸浮出水面,當(dāng)?shù)乇O(jiān)管局立即介入。
經(jīng)調(diào)查后發(fā)現(xiàn),原來(lái)直播間鼓吹的有治病功效的產(chǎn)品竟然只是個(gè)普通糖果。
![]()
而且根本不具備任何治療功能,直播間的話語(yǔ)都是虛假宣傳。
在產(chǎn)品被調(diào)查出來(lái)之后,“李梓萌”也被鑒定出是用AI技術(shù)偽造的。
涉事公司在她不知情的情況下用她的形象來(lái)吸引消費(fèi)者,侵犯了她的權(quán)益。
![]()
作為央視資深主播的李梓萌,憑借專(zhuān)業(yè)能力和權(quán)威的報(bào)道,積累了深厚的公眾信任。
可誰(shuí)知這種信任卻成了不法分子覬覦的“流量密碼”。
![]()
事件曝光后,不僅消費(fèi)者紛紛要求退款維權(quán),李梓萌的個(gè)人名譽(yù)也受到牽連。
面對(duì)突如其來(lái)的“被代言”,李梓萌明確否認(rèn)參與任何商業(yè)帶貨,并支持相關(guān)部門(mén)依法查處。
![]()
但維權(quán)過(guò)程并不輕松,AI換臉技術(shù)的隱蔽性讓證據(jù)固定難度大增。
而除了李梓萌深陷“換臉疑云”,奧運(yùn)冠軍全紅嬋也成了AI的“受害者”。
![]()
奧運(yùn)冠軍難逃AI“偷聲”陷阱
AI偽造的“魔爪”不僅伸向了名人,更波及到了體育界。
奧運(yùn)冠軍全紅嬋就遭遇了一場(chǎng)“聲音克隆”騙局。
2025年8月,網(wǎng)絡(luò)上突然流傳出大量“全紅嬋帶貨土雞蛋”的短視頻。
![]()
不過(guò)視頻中沒(méi)有出現(xiàn)她的身影,但那標(biāo)志性的稚嫩嗓音卻極具辨識(shí)度。
一句“我是你們的嬋寶”更讓無(wú)數(shù)消費(fèi)者對(duì)此深信不疑。
更令人咋舌的是,還有配套視頻偽造了孫穎莎的聲音為其“背書(shū)”。
![]()
這些偽造的語(yǔ)音視頻迅速在網(wǎng)絡(luò)擴(kuò)散,讓一些不法分子大賺特賺。
他們靠著奧運(yùn)冠軍的公信力,將所售賣(mài)的產(chǎn)品加上名人效應(yīng)。
不少粉絲和消費(fèi)者紛紛下單,背后的不法分子借此賺得盆滿缽滿。
![]()
而全紅嬋本人對(duì)此毫不知情,這種AI克隆聲音帶貨的行為,已嚴(yán)重侵犯了她的權(quán)益。
更惡劣的是,不法分子還刻意編造故事,試圖借助全紅嬋的經(jīng)歷博取同情,進(jìn)一步誤導(dǎo)消費(fèi)。
這讓身為未成年人的全妹飽受困擾,她本應(yīng)享有安靜的成長(zhǎng)環(huán)境,如今卻淪為AI侵權(quán)的受害者。
![]()
好在如今國(guó)家終于出手,加大了對(duì)未成年人保護(hù)力度。
同時(shí)也對(duì)AI濫用進(jìn)行了打擊和屏蔽,但網(wǎng)絡(luò)上的侵權(quán)視頻仍未徹底根除。
![]()
AI克隆聲音的余波仍對(duì)全紅嬋存在隱形傷害,難以完全消除。
而除了全妹被AI侵權(quán)之外,“功夫巨星”成龍也難逃AI亂象。
![]()
AI造謠“被去世”引恐慌
作為華語(yǔ)影壇的標(biāo)志性人物,成龍的公眾關(guān)注度始終居高不下。
這也讓他成為AI攻擊的目標(biāo),他所經(jīng)歷的遠(yuǎn)比李梓萌、全紅嬋的更過(guò)分。
2025年11月,一場(chǎng)離譜的“被去世”造謠風(fēng)波讓他深受其擾。
![]()
網(wǎng)絡(luò)上突然流傳出“他因病去世”的消息,照片里成龍?zhí)稍诓〈采夏樕l(fā)白。
看起來(lái)十分虛弱,旁邊邊還有心電監(jiān)護(hù)儀,相關(guān)文案還編造了“發(fā)病時(shí)間”和“救治過(guò)程”,極具迷惑性。
![]()
當(dāng)時(shí),這些虛假消息在短視頻平臺(tái)擴(kuò)散十分快,引發(fā)了大量粉絲和公眾的恐慌。
不少網(wǎng)友因信任AI合成內(nèi)容的“真實(shí)性”,紛紛留言緬懷。
甚至還有商家想借著這一消息,炒作和成龍相關(guān)的周邊產(chǎn)品。
![]()
但實(shí)際上,這則消息完全是無(wú)稽之談,這并非成龍的真實(shí)現(xiàn)狀。
當(dāng)時(shí)成龍本人正在海外參與公益電影拍攝。
其團(tuán)隊(duì)發(fā)現(xiàn)謠言后緊急核查,發(fā)現(xiàn)這些虛假信息均為AI技術(shù)偽造。
![]()
目的就是借助成龍的知名度博眼球博流量,靠此賺錢(qián)。
甚至還有部分賬號(hào)還夾帶惡意營(yíng)銷(xiāo)鏈接。
![]()
不過(guò)好在成龍團(tuán)隊(duì)第一時(shí)間發(fā)布澄清聲明,附上成龍的現(xiàn)場(chǎng)視頻。
澄清了成龍“在世”的事實(shí),并表示會(huì)追究造謠者責(zé)任。
但謠言造成的負(fù)面影響難以快速消除,成龍依舊飽受AI造謠困擾。
![]()
就在各界名人深受AI偽造之際,國(guó)家終于正式出手整治。
國(guó)家網(wǎng)信辦開(kāi)展專(zhuān)項(xiàng)行動(dòng)對(duì)猖獗的AI亂象進(jìn)行嚴(yán)厲查處。
![]()
明確將利用AI造謠等行為列為重點(diǎn)整治對(duì)象,對(duì)AI造謠加大打擊力度。
同時(shí)還加大對(duì)虛假營(yíng)銷(xiāo)、侵權(quán)行為的查處力度。
![]()
從李梓萌到全紅嬋再到成龍,這些事件暴露了AI技術(shù)濫用的風(fēng)險(xiǎn)。
而國(guó)家的及時(shí)出手,不僅為深受其害的名人撐腰,更守護(hù)了消費(fèi)者的合法權(quán)益。
未來(lái),隨著監(jiān)管技術(shù)的不斷升級(jí)和法律法規(guī)的日益完善,AI技術(shù)終將回歸服務(wù)社會(huì)的本質(zhì)。
![]()
參考資料: 大河網(wǎng)——央視主持人遭AI仿冒帶貨,官方通報(bào)
![]()
新浪財(cái)經(jīng)——央視主持人李梓萌遭AI仿冒帶貨 虛假宣傳被查處
![]()
寧波晚報(bào)——全紅嬋賣(mài)老家土雞蛋?孫穎莎、王楚欽帶貨土雞蛋?曝光AI克隆聲音亂象
![]()
安徽網(wǎng)——博主假冒全紅嬋賣(mài)土雞蛋,大量粉絲以為是本人下單
![]()
搜狐——71歲成龍“去世”謠言再起!AI造假升級(jí),真相竟是...
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.