奧運(yùn)冠軍、實(shí)力演員、央視主持、知名醫(yī)生……
AI合成技術(shù)越來越高的同時,受牽連的名人、遭欺騙的消費(fèi)者也越來越多。
![]()
從最初的“機(jī)械化音頻”,到現(xiàn)在的真假難辨,曾以為不會被AI欺騙的年輕網(wǎng)友,都有些恍惚,只怕自己也上當(dāng)受騙。
那么,AI合成詐騙的風(fēng)氣是何時開始,又是怎么“壯大”的呢?這場波及全平臺的鬧劇,何時才能結(jié)束?
虛假帶貨
自從全紅嬋成為新星后,圍繞在她身邊的爭議太多了,就連她的至親都深受牽連,無一例外。
圍堵在家門口的、調(diào)查航班信息的、扒出過往經(jīng)歷的、現(xiàn)場伸出“咸豬手”的,數(shù)不勝數(shù)。
開心奪冠的時候,有人罵她像個“白癡”,到了狀態(tài)下滑的階段,又有人追著“唱衰”。
最可恨的,當(dāng)屬利用她的形象搞詐騙的無良商家,通過AI手段欺騙善良的中老年消費(fèi)者。
![]()
中老年消費(fèi)者分不清AI和現(xiàn)實(shí),誤以為她家里真的生活困難,不得不幫家里賣農(nóng)產(chǎn)品。
下單的時候,恐怕還覺得自己幫了她一把,沒想到辛苦賺來的錢,落入了無良商家的口袋。
不僅她成了“帶貨工具”,她的家人也沒有逃過被利用的命運(yùn),全家人齊上陣當(dāng)“代言人”。
無良商家借此機(jī)會,賺得盆滿缽滿,所有的罵名,則是由她一人承擔(dān),這對她很不公平。
要說最離譜的,還得是同時現(xiàn)身八個直播間的溫崢嶸,她雖然也打廣告,但是絕不會同時在八個直播間賣貨。
這些無良商家仗著平臺監(jiān)管不力,肆無忌憚地將她的形象,放在直播間里,讓她無償幫忙帶貨,并承擔(dān)責(zé)任。
等她發(fā)現(xiàn)的時候,已經(jīng)來不及了,很多消費(fèi)者都已經(jīng)上當(dāng),可是損失不能由她來彌補(bǔ),她也無可奈何。
![]()
除了全紅嬋和溫崢嶸之外,還有很多名人深受牽連,其實(shí)無良商家采取的套路是一樣的,并不算高明,只是中老年消費(fèi)者弄不明白AI,才會相信虛假廣告,毫無戒備地掉入圈套。
平臺監(jiān)管一直不力,相關(guān)部門也遲遲沒有出手,波及的范圍只會越來越廣,就連央視在職主持人都成了無良商家的“目標(biāo)”,再一次印證了“AI風(fēng)波”有多可怕。
風(fēng)波不斷
與諸多出走的央視女主持不同,李梓萌這些年兢兢業(yè)業(yè),從來沒有掉過鏈子。
央視的要求本來就嚴(yán)格,她剛到央視工作的時候,經(jīng)常讀錯字,每次都被罰錢。
有傳聞稱她“貸款上班”,這是調(diào)侃她讀錯了太多字,實(shí)際情況肯定沒這么夸張。
作為“女版康輝”,只要她想,一定能在短視頻平臺大展拳腳,可她并沒有這樣做。
![]()
短視頻平臺,也沒打算放過“安分守己”的她,無良商家竟然打起了她的算盤。
當(dāng)她的臉出現(xiàn)在直播間時,不少消費(fèi)者都被蒙騙了,誤以為“女版康輝”也開始帶貨了。
直播間里她的臉,是從《新聞聯(lián)播》的畫面中“摳”下來的,背景都一模一樣。
她的聲音,則是通過AI合成,漂亮的音色是她的,內(nèi)容則是商家寫的宣傳語。
網(wǎng)速快的年輕群體,很容易發(fā)現(xiàn)問題所在,雖說口型和聲音能對上,但是語氣很不自然。
再者說了,《新聞聯(lián)播》的背景出現(xiàn)在直播間,一眼就能看出是假的,只是老年網(wǎng)友分不清。
在電視機(jī)前看《新聞聯(lián)播》的老年觀眾,都相信了她是“魚油代言人”,激情下單。
回過神來才知道,一切都是假的,臉是摳的、圖是P的、聲音是合成的,嘴型也是AI的。
![]()
一直沒有創(chuàng)建個人賬號,平時生活又低調(diào),她一直沒辦法“有效辟謠”。
幫她澄清的,都是熱心的年輕網(wǎng)友,只是舉報到處理都需要時間,效率并不高。
平臺監(jiān)管不力,仍由AI合成視頻肆無忌憚地搞虛假宣傳,顯然應(yīng)該承擔(dān)責(zé)任。
只可惜“裝睡”的平臺,誰都叫不醒,AI帶來的巨大利益,平臺當(dāng)然不愿意錯過。
官方出手
央視主持都成了騙子牟利的工具,官方若是再不出手,恐怕說不過去了。
在警方的全力追查下,制作相關(guān)虛假AI帶貨視頻的團(tuán)隊,直接被“一鍋端”。
從策劃人員到技術(shù)人員,無一幸免,就連涉事的賬號,也被直接封禁。
官方出手的效果顯著,從那之后,類似的案例極為少見,風(fēng)口浪尖上,誰都不敢放肆。
![]()
無良商家都接受了懲罰,平臺也不能不改變,按照官方要求,平臺必須仔細(xì)甄別內(nèi)容形式。
發(fā)現(xiàn)一丁點(diǎn)AI的痕跡,都要在視頻下方,作出明顯的標(biāo)注,算是給消費(fèi)者提一個醒。
若是平臺已經(jīng)盡到了監(jiān)管責(zé)任,也標(biāo)注得很明白了,還有人上當(dāng)受騙,那就是自己的問題。
![]()
同時,針對無辜受牽連的名人的網(wǎng)暴,也該停下來了,他們從頭到尾都沒有參與過詐騙,消費(fèi)者被騙走的錢,也沒有掉入他們的口袋,他們憑什么遭受網(wǎng)暴呢?
那些要求他們賠償損失的言論,更是不必提了,就算名人的收入高,也不該為平臺的錯誤買單,與其找他們的麻煩,不如跟平臺談?wù)劊绾巫坊負(fù)p失,或是稍加彌補(bǔ)。
![]()
如今經(jīng)濟(jì)大環(huán)境并不好,賺錢如此辛苦,更要看好自己的錢包,不能用自己的血汗錢,充實(shí)騙子的錢包,還是要仔細(xì)甄別,否則吃虧的就是自己。
官方也要繼續(xù)加大追查力度,平臺更要積極配合,提供有效的線索,有可能追回的損失,一定要努力追回來,不能讓信任平臺的消費(fèi)者寒了心。
![]()
AI本身是對日常生活和工作有利的工具,如今演變成詐騙利器,實(shí)在不應(yīng)該,一次又一次的風(fēng)波,只會讓大眾對AI產(chǎn)生戒備,擾亂社會秩序。
既然AI的進(jìn)化是必然,那就想盡一切辦法,打擊居心叵測的不良分子,只有監(jiān)管嚴(yán)了、懲處力度強(qiáng)了,才能震懾住他們,才能還AI創(chuàng)作者一片凈土。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.