AI科技的發展本是時代科技的進步。
但是有人卻利用科技卻干起壞事,真的讓人防不勝防。
![]()
央視李梓萌成受害者
10月15日,央視報道北京市場監管部門查處了首例利用AI技術進行虛假廣告宣傳的案件。
而這起AI虛假廣告的受害人,竟然是著名的央視主持人李梓萌。
![]()
李梓萌作為央視的當家門面,主持新聞聯播,憑借央視的公信力和自身的國民喜愛度,形象非常受認可。
今年2月份,某些平臺的視頻中出現了李梓萌帶貨深海魚油的視頻。
該視頻用李梓萌的個人視頻畫面,搭配李梓萌的聲音,聲情并茂地介紹這款深海魚油。
用李梓萌的聲音播報這款魚油適合頭暈頭痛、手麻腳麻、記憶下降等人群。
![]()
很多上了年紀的老人一看,這是央視主持人李梓萌啊,她都親自推薦這款魚油,那肯定有用的。
而且產品設置的價格大概在幾十到一兩百之間,大部分人消費得起。
于是這些單純的大爺大媽紛紛下單購買。
可是買回去后,大家也發現不對勁了,這吃著很像普通糖果,而且也沒對疾病起到任何作用啊。
![]()
于是群眾就舉報到北京市場監管局了。
這一查下去,才發現有大貓膩。
辦案人員鎖定了北京某公司,發現該公司在擁有88萬粉絲的賬號直播間,公然吹噓深海魚油各種功效。
而且直播中還出現了中央廣播電視總臺主持人李梓萌的形象。
經過立案調查,該公司銷售的深海多烯魚油產品,實際執行標準為糖果,沒任何功效。
而且經過鑒定,視頻中的主持人形象完全是利用AI技術偽造生成。
![]()
![]()
騙子利用大眾抗疾病的心理,把糖果高價買成保健品,而且吃了糖果也沒有副作用,也不怕鬧出什么大事。
公然利用央視李梓萌這一行為更是膽大包天。
騙子企圖利用李梓萌形象換取產品推銷的公信力,殊不知這反而會讓他們更快被盯上。
![]()
全紅嬋成受害“重災區”
這一兩年來,AI仿冒名人帶貨的亂象層出不窮。
全紅嬋作為國民跳水女兒,憑借親和的長相和體育實力,獲得全國人民的喜愛。
而騙子就是利用大眾對嬋寶的喜愛,用高科技將全紅嬋“偷臉盜聲”去騙錢。
![]()
有騙子利用全紅嬋賣蜂蜜,還有個騙子賬號所有視頻AI仿冒全紅嬋視頻賣土雞蛋。
聲音和全紅嬋太像了,而且話術也很高明。
“嬋寶今天有事想請大家幫忙,嬋妹就想著幫助媽媽,讓家里的生活過得更好一點。今天讓媽媽先拿出300單老家的土雞蛋給大家放福利。”
![]()
這種話術利用全紅嬋普通人家孩子出生,努力為家人提升生活水平的勵志話語,消費大眾的同情心。
不僅如此,這個賬號的騙子還戴著口罩戴墨鏡,模仿全紅嬋的爸爸媽媽和哥哥,在直播間賣雞蛋。
![]()
這是明目張膽的犯罪行為。
騙子利用全紅嬋聲音還不夠,還肆無忌憚AI仿冒奧運冠軍孫穎莎和王楚欽的聲音,助力“全紅嬋賣土雞蛋”。
孫穎莎和王楚欽的AI聲音說嬋寶私信他們,讓他們幫忙宣傳,這么好的土雞蛋賣不出去可惜了。
![]()
![]()
騙子之所以選擇全紅嬋、孫穎莎和王楚欽,就是因為這幾個人的國民知名度和喜愛度非常高。
不知情的網友一看是自己喜愛的奧運健兒在推薦,紛紛下單購買,一下子賣出去幾萬單。
![]()
除了賣貨,社交平臺上還出現多個賬號使用AI合成全紅嬋爸爸、哥哥聲音,用完全相同的文案介紹全紅嬋家里要蓋新房的信息,以此來博取流量。
這種欺騙,消耗的是整個社會的誠信基礎。
面對侵權,受害者本人維權非常困難。
全紅嬋的哥哥和爸爸無奈表示,平臺上的仿冒賬號“一大堆,告都告不過來”,他們一家人也很苦惱。
![]()
法律紅線
北京知名法學教授表示,利用人工智能合成的聲音,如果能根據他的音色以及風格關聯到規定自然人,那么就具有了法律上認定的可識別性,已經構成對他人的侵權行為。
而且我國《民法典》已經明確規定,自然人的聲音受法律保護,參照肖像權。
對于膽敢侵權的不法分子,必須要讓他們付出沉重的代價。
![]()
還有平臺也有很大責任,不能對這類侵權內容睜一只眼閉一只眼。
平臺必須利用技術手段加強審核,建立快速響應的侵權舉報和處理機制。
咱們作為普通人,自身要提高警惕。
看到“名人”帶貨,尤其是宣傳些匪夷所思的“福利”時,多留個心眼辨真偽,防止上當受騙。
技術本身沒有對錯,但它確實像一面鏡子,照出了使用它的人內心的善惡。
從全紅嬋到李梓萌,警鐘已經一次次敲響。
希望在各方的共同努力下,能盡快遏制住這股歪風。
讓AI這類新技術,真正用于服務我們的生活,而不是成為騙子手中收割信任的工具。
備注:本文內容均來自央視權威信息
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.