AI造假，倫理崩塌，網(wǎng)友瘋了

當(dāng)你刷到這樣一條視頻：

鏡頭里和藹可親的老人告訴你說(shuō)“自己活到108歲，試茶80多年了”，然后開(kāi)始推廣一款茶葉產(chǎn)品。

是不是覺(jué)得特別權(quán)威，很心動(dòng)想買(mǎi)？

圖源：抖音@新京報(bào)

如果再告訴你，這位茶界泰斗其實(shí)已經(jīng)去世8年多，只是被AI“復(fù)活”了，所有的推薦話(huà)術(shù)都是AI生成的。

你還愿意買(mǎi)嗎？

本來(lái)一位畢生推廣茶學(xué)的專(zhuān)家，就這樣被包裝成了給某品牌做產(chǎn)品代言的“銷(xiāo)售”。

此刻，你有什么樣的感覺(jué)？

如果鏡頭里被AI復(fù)活的，是你的偶像、你的親人呢？

AI正在挖墳整蠱全世界的名人

這就是前陣子，茶界泰斗張?zhí)旄１弧癆I復(fù)活”的事件，在網(wǎng)上鬧得可謂是沸沸揚(yáng)揚(yáng)。

除了侵犯肖像權(quán)等法律層面的問(wèn)題，在道德層面上，輿論基本是一邊倒的，網(wǎng)友們都覺(jué)得茶企此舉不妥，是對(duì)逝者的不尊重。

而被“復(fù)活”的張?zhí)旄＃皇潜揭唤恰Ｒ驗(yàn)檫@幾年，AI已經(jīng)從炫技進(jìn)化到了瘋癲的地步，被復(fù)活的名人正在互聯(lián)網(wǎng)上做一切事情。

一開(kāi)始，這些AI內(nèi)容看起來(lái)還像是玩笑：

孔子成了某教培CEO，說(shuō)賣(mài)課太卷了，打算考教師資格證、整個(gè)編制上岸；

圖源：抖音@Xuan醬，下同

唐僧搖身一變成了“美佛到家”的騎手，騎著白龍馬開(kāi)始送外賣(mài)，怕超時(shí)在街道上疾馳；

伯樂(lè)不再找“千里馬”，獵頭工作被裁員后，成了跑網(wǎng)約車(chē)的司機(jī)；

魯迅從出版業(yè)一下子轉(zhuǎn)行成了脫口秀演員，說(shuō)寫(xiě)文章、當(dāng)醫(yī)生都不賺錢(qián)，只能開(kāi)始說(shuō)脫口秀；

牛頓更是直言物理沒(méi)什么搞頭了，轉(zhuǎn)頭就在直播間賣(mài)起了新疆阿克蘇蘋(píng)果，說(shuō)這是當(dāng)時(shí)砸在自己頭上的蘋(píng)果……

以上這些，看似是借名人諷刺當(dāng)下的“內(nèi)卷”、職業(yè)困境、時(shí)代錯(cuò)位……荒誕里，還有點(diǎn)苦中作樂(lè)的意味。

但沒(méi)有底線(xiàn)的AI，正在讓名人一步步徹底失去尊嚴(yán)——

已故的英國(guó)女王伊麗莎白二世，被AI扔進(jìn)了豬圈里，躺在豬身上喘著氣，周?chē)⒅欢丫破浚?/p>

圖源：sora 下同

科比也被AI換上粉色小豬的衣服，在豬圈的泥巴里蹭來(lái)蹭去，弄到渾身臟兮兮；

下一秒，科比又因?yàn)槎亲犹圩隈R桶上，結(jié)果地板忽然涌出一大堆類(lèi)似糞便的泥水，弄得他既尷尬又錯(cuò)愕……

AI通過(guò)廁所、豬圈等骯臟的環(huán)境設(shè)定，讓這些名人做出違背身份的事情，不斷讓他們的大眾印象降格。

而羞辱已逝名人的手段，還在不斷升級(jí)。比如，強(qiáng)行給他們?cè)O(shè)定荒誕的戲碼——

伊麗莎白二世身穿運(yùn)動(dòng)服，參加類(lèi)似《男生女生向前沖》的節(jié)目，結(jié)果一個(gè)跟頭翻進(jìn)了水池里；

坐在輪椅上的霍金，被AI強(qiáng)行塞進(jìn)了飛機(jī)行李艙；

被設(shè)定成賽車(chē)手，駕駛輪椅開(kāi)始飆車(chē)比賽；

被推進(jìn)了泳池，和運(yùn)動(dòng)員一起比賽，卻只能在原地漂浮；

被扔在擂臺(tái)上，周?chē)忠缓宥希瑘?chǎng)面一片混亂；

甚至還有拳手，對(duì)著霍金的臉瘋狂出拳，霍金卻沒(méi)有任何招架和還手的能力……

AI就這樣不斷放大他人的身體缺陷，把逝者當(dāng)成可供娛樂(lè)和戲謔的素材。

很多人覺(jué)得這很好玩，沒(méi)什么大不了的。所以，這些已逝的名人，被AI強(qiáng)行制造出了一個(gè)又一個(gè)更低俗的劇情——

科比在飛機(jī)上和飛行員吵架，甚至還懷了孕，捧著肚子和一旁的印度女性討論自己的孕期感受；

伊麗莎白二世在快餐店，和別人打架，

甚至還給了愛(ài)因斯坦一巴掌；

李小龍?jiān)诔校痪鞄鲜咒D押走，

因?yàn)樗慌牡皆诳觳偷晖党詽h堡，倉(cāng)皇逃跑結(jié)果撞碎了櫥窗玻璃，

甚至和上世紀(jì)樂(lè)壇巨星貓王，來(lái)到一家人的門(mén)外，按完門(mén)鈴像頑皮的青少年一樣轉(zhuǎn)頭逃竄，被設(shè)計(jì)成游手好閑的人；

貓王則被復(fù)活成了推銷(xiāo)員，端著一盤(pán)包子到處兜售；

邁克爾·杰克遜在電視節(jié)目里跟希特勒對(duì)罵，大晚上出現(xiàn)在別人家口要求對(duì)方開(kāi)門(mén)，還搶劫別人桌上的快餐邊跑邊滑太空步；

甚至高中語(yǔ)文課本里《我有一個(gè)夢(mèng)想》的演講作者、美國(guó)黑人民權(quán)運(yùn)動(dòng)領(lǐng)袖馬丁·路德·金，也出現(xiàn)了在飛機(jī)上和空姐吵架、在便利店拿了東西不付錢(qián)大喊著轉(zhuǎn)身就跑的荒謬低俗劇情……

這一刻，他們不再是歷史，不再是被愛(ài)戴的個(gè)體。他們窮盡一生建立的所有美德、努力和尊嚴(yán)，被毀滅殆盡，成了可以被路人隨便嘲笑的小丑。

AI已經(jīng)瘋了，陰的沒(méi)邊了。

有人以此為樂(lè)，也有人開(kāi)始擔(dān)心未來(lái)——

因?yàn)樗麄儼l(fā)現(xiàn)自己根本分不清虛構(gòu)和真實(shí)。未來(lái)可能會(huì)被別人騙，更重要的是后代也許會(huì)逐漸忘記真實(shí)的歷史人物，不知道在這些名人身上發(fā)生的事，哪些是真的，哪些是假的。

圖源：X

以為是溫情，實(shí)則在挖坑

很多人可能會(huì)說(shuō)，能不能做出相應(yīng)的約束，讓AI不要做那么夸張、惡俗的劇情，比如做點(diǎn)已逝明星問(wèn)候大家的溫情視頻，不也挺好的嗎？

的確，有人這樣做了。或許這是出于緬懷與善意，但是，依然會(huì)傷害到一些人。

圖源：抖音@老人與海

“我是coco李玟，我永遠(yuǎn)都會(huì)陪伴著你們”；

“我是高以翔，我永遠(yuǎn)愛(ài)你們，我一直在另一個(gè)世界陪伴著你們”；

“大家好，我是kimi喬任梁，其實(shí)我沒(méi)有真的離開(kāi)”……

一個(gè)個(gè)被粉絲委托做出的AI視頻，讓一張張熟悉的面容重新回到大家面前。

圖源：抖音@21世紀(jì)經(jīng)濟(jì)報(bào)道

很多人愣住了。

原本已經(jīng)逐漸淡去的那些痛苦回憶，又一次涌上心頭。不只是這些被AI復(fù)活的明星，還有更多逝者被人們想起，渴望看到他們“活生生”地站在鏡頭面前。

或許，對(duì)有些人而言，看到AI復(fù)活的明星，和當(dāng)初他們活著的時(shí)候隔著屏幕看他們的方式無(wú)異。他們沒(méi)有真正見(jiàn)過(guò)這些名人，代餐也好，真人也罷，以解相思足以。

可對(duì)于這些逝者的親人呢，他們看到這些視頻會(huì)作何感想？

李玟80多歲的母親，找來(lái)律師發(fā)出律師函；

喬任梁的父親，希望AI復(fù)活喬任梁的視頻能盡快下架，說(shuō)自己不能接受且感到不適，是在揭自己和家人的傷疤；

江歌媽媽三個(gè)帶感嘆號(hào)的“不接受”，更是讓人看完后覺(jué)得心痛不已：

“不接受！不接受！不接受！

如果能‘復(fù)活’，也僅限于我親自來(lái)做這件事！

你們懂得我們（痛失摯愛(ài)的人）逝去的親人嗎？

你們懂得我們（我與逝去的親人）的感情是什么樣子嗎？

你們不懂我們，又憑什么為我們（我與女兒）做決定！”

字字句句里，都是痛。

更不用提，那些戲謔、娛樂(lè)逝者，甚至讓他們被AI復(fù)活開(kāi)始打廣告的視頻，會(huì)讓家屬有什么樣的感受了。

茶葉泰斗張?zhí)旄５倪z孀，已經(jīng)公開(kāi)表示會(huì)告那個(gè)企業(yè)。

從倫理道德上來(lái)看，尤其是在“死者為大”的東亞文化圈，人們通常很難接受將逝者娛樂(lè)化。

除非，是非常想念逝者的親人。比如音樂(lè)人包小柏，就通過(guò)AI將自己的女兒復(fù)活，讓她在生日的時(shí)候給媽媽唱歌，深?lèi)?ài)與絕望并存。

但這個(gè)過(guò)程，無(wú)疑是艱難的。包小柏為此讀了相關(guān)專(zhuān)業(yè)的博士，還花了兩年時(shí)間找了相關(guān)的AI團(tuán)隊(duì)，費(fèi)時(shí)費(fèi)力才將這一切變成現(xiàn)實(shí)。

甚至連自己的老婆一開(kāi)始都不理解，覺(jué)得他太殘忍。

圖源：鳳凰新聞

所以，真的有那么多人，會(huì)愿意為愛(ài)發(fā)電、無(wú)私幫助陌生人嗎？

用AI復(fù)活了李玟、高以翔、喬任梁的博主，曾表示雖然這幾位已逝明星的視頻是自己義務(wù)做的，但如果做其他逝者的AI視頻是不免費(fèi)的，一條要收588元。

多數(shù)打著紀(jì)念和治愈的旗號(hào)，讓已逝明星生成祝福視頻的人，實(shí)際上都是為了流量變現(xiàn)。

他們的幫助明碼標(biāo)價(jià)：“定制明星視頻，30秒內(nèi)98元；名人AI素材價(jià)格48元到298元不等，根據(jù)具體情況來(lái)定。”

除了銷(xiāo)售這些定制的祝福語(yǔ)素材等，他們還會(huì)“收徒”，基本目標(biāo)人群是那些已逝明星的粉絲或者是失去親人陷入悲痛的人。

這些學(xué)習(xí)AI“復(fù)活逝者”的課程，價(jià)格通常都不菲。

“購(gòu)買(mǎi)980元的門(mén)徒課程，會(huì)送一本《AI門(mén)徒復(fù)活手冊(cè)》，教會(huì)你如何使用AI復(fù)活工具，以及贈(zèng)送價(jià)值2999的換臉課程。如果想要學(xué)習(xí)制作更為逼真的逝者視頻，并且配上相似度很高的語(yǔ)音，需要19800元。”

明星的粉絲、失去親人的普通人，就這樣成了有心之人計(jì)劃里“待宰的羔羊”。

AI很先進(jìn)，但焦慮必上當(dāng)

AI的技術(shù)越來(lái)越先進(jìn)，套路也越來(lái)越多。來(lái)看看下面這些AI騙局，你能識(shí)破幾個(gè)？

套路一，是利用名人效應(yīng)，讓“李鬼”賣(mài)貨。

在運(yùn)動(dòng)員全紅嬋全力訓(xùn)練的時(shí)候，AI合成的全紅嬋也在各種視頻里開(kāi)始帶貨了，賣(mài)起了土蜂蜜、土雞蛋：

“大家好，我是你們的嬋寶，今天有事請(qǐng)大家?guī)兔Γ瑡让镁拖胫鴰椭鷭寢專(zhuān)尲依锏纳钸^(guò)得更好一點(diǎn)，同時(shí)把老家的土雞蛋分享給粉絲們嘗嘗。”

圖源：央視新聞 下同

而這個(gè)博主的同系列視頻里，還出現(xiàn)了孫穎莎和王楚欽幫著全紅嬋賣(mài)貨的視頻。

“大家好，我是莎莎，我為嬋寶家農(nóng)家土雞蛋代言，今天我就拿到了8單做福利。”

“大家好，我是王楚欽，昨天收到嬋妹私信，說(shuō)他們家土雞蛋大豐收，這么好的土雞蛋不發(fā)出去就可惜了……”

熟悉這些運(yùn)動(dòng)員的人，可能會(huì)通過(guò)表述以及咬字習(xí)慣等，來(lái)判斷出這并非本人，是AI。

但可怕的點(diǎn)在于，你不信，但不無(wú)法保證你爸媽不信。

很多受騙的人下單后，才從發(fā)貨地發(fā)現(xiàn)了端倪，但為時(shí)已晚。

類(lèi)似的事情，層出不窮。

央視主持人李梓萌，被AI仿冒帶貨某品牌的深海魚(yú)油。

“突破國(guó)內(nèi)技術(shù)壁壘，研究出來(lái)這個(gè)小東西，可以解決頭暈頭痛、手麻腳麻、四肢乏力，幾十塊錢(qián)就可以讓40歲以上的中老年朋友吃上一整年……”

效果被夸得天花亂墜，目標(biāo)人群也是有養(yǎng)生需求、更容易分不清是AI還是真人的中老年人群，可以說(shuō)防不勝防。

圖源：央視網(wǎng)品質(zhì)嚴(yán)選

除了對(duì)準(zhǔn)中老年人群，AI更是牛到能做到換臉直播。

某天晚上，溫崢嶸忽然刷到了AI成自己模樣的直播間，發(fā)出了“你是溫崢嶸那我是誰(shuí)”的疑問(wèn)后，下一秒她就被這個(gè)直播間的“AI溫崢嶸”給拉黑了。

她這才發(fā)現(xiàn)，原來(lái)自己已經(jīng)被AI做成了多種形象，在不同直播間同時(shí)在進(jìn)行直播，銷(xiāo)售各種三無(wú)產(chǎn)品。

圖源：微博@抖音電商安全與信任中心

上當(dāng)?shù)木W(wǎng)友不在少數(shù)，除了溫崢嶸他們還刷到過(guò)AI的劉濤、張柏芝、蔣欣、劉亦菲、舒淇、劉德華，并且覺(jué)得有明星代言質(zhì)量不會(huì)差，就下了單。

直播，不等于真人。

無(wú)論年輕人還是中老年人，如果對(duì)AI的辨別力沒(méi)那么強(qiáng)，真的很容易上當(dāng)。

套路二，是讓AI生成比短劇還夸張的虛擬劇情，然后賣(mài)貨。

“俺可小的時(shí)候，俺爸因?yàn)檐?chē)禍去世了，俺媽不到三個(gè)月也改嫁了，從此俺二舅就收留了我……”

一個(gè)小姑娘對(duì)著鏡頭，展開(kāi)了自己人生經(jīng)歷的闡述，收養(yǎng)自己的二舅、二舅媽對(duì)自己有多好，沒(méi)有因?yàn)橛袃鹤泳秃鲆曀?/p>

“俺二舅借了我5萬(wàn)塊錢(qián)，一年之后他還了我10萬(wàn)。”

小姑娘也很孝順，說(shuō)自己攢錢(qián)帶著二舅和二舅媽出去旅游。

然后話(huà)鋒一轉(zhuǎn)，就是“二舅唯一有一個(gè)毛病，就是晚上睡不著”，然后就是開(kāi)始講述他們?cè)诼糜螆F(tuán)如何認(rèn)識(shí)了一個(gè)香港90多歲的老爺爺，對(duì)方給了一個(gè)祖?zhèn)鞯暮脰|西，讓二舅總算睡了個(gè)好覺(jué)。

沒(méi)錯(cuò)，是一個(gè)纏綿悱惻、感人肺腑的長(zhǎng)篇廣告，專(zhuān)門(mén)就是為了賣(mài)一款睡眠香膏。

類(lèi)似的劇情，全由AI生成，一個(gè)比一個(gè)離譜，一個(gè)比一個(gè)夸張。

女兒懷孕7個(gè)月，即將離開(kāi)人世，她公公以100萬(wàn)的價(jià)格賣(mài)掉了婚房和所有首飾，身體差的女兒央求保大人但被拒絕，沒(méi)想到手術(shù)成功她活了下來(lái)，唯一的病根就是睡不著覺(jué)，直到用了某款睡眠香膏……

自己伺候媽媽17年，媽媽重男輕女只疼弟弟……一番吐槽后回歸正題，售賣(mài)能睡好覺(jué)的香膏。

就是這些看著比各種囤貨末世文、重生文，夸張到不知道多少倍的AI生成假劇情，評(píng)論區(qū)下卻是一條條真正走心了的老人。

套路三，是用AI生成大到離譜的農(nóng)產(chǎn)品，來(lái)欺騙顧客。

下圖中在摘辣椒的農(nóng)戶(hù)，手里的辣椒長(zhǎng)得都快齊腰高了。

不熟悉農(nóng)作物種植環(huán)境的人，問(wèn)“辣椒種出來(lái)這么大嗎”，直播間的主播隨聲附和，“保真保真，所見(jiàn)即所得，是的哈。”

圖源：抖音@央視法治在線(xiàn) 下同

結(jié)果呢？

真正的樟樹(shù)港辣椒，植株非常矮小。AI生成的直播帶貨視頻里的辣椒，植株都快一人高了，大到非常夸張。

除此之外，這些視頻里農(nóng)戶(hù)的手、腳和身體，一不小心就和辣椒融合在了一起。

但現(xiàn)在很多人因?yàn)樯钤诔鞘校沁^(guò)去老話(huà)講的“四體不勤五谷不分”，對(duì)這種AI生成的有悖農(nóng)業(yè)原理的AI視頻，非常難鑒別。

他們真以為農(nóng)戶(hù)們辛辛苦苦在沒(méi)過(guò)小腿高的水里，辛勤地種植辣椒，而了解辣椒種植的人會(huì)知道，過(guò)量的灌溉會(huì)直接導(dǎo)致辣椒減產(chǎn)甚至絕產(chǎn)。

新鮮的產(chǎn)品，加上一張辛苦的感情牌，讓一些善良卻無(wú)知的人，為了支持農(nóng)戶(hù)也就下了單，上了當(dāng)。

套路四，是很多人熟知的假靳東套路。通過(guò)利用老年人很難辨別AI，來(lái)騙取他們的信任，引導(dǎo)他們打賞等。

但現(xiàn)在，這種“假”套路，已經(jīng)不局限于情感需求。

有老人接到AI“假孫子”打來(lái)的電話(huà)，說(shuō)孫子在外地犯事了需要錢(qián)。

對(duì)方一張口就直接稱(chēng)呼“爺爺奶奶”，一句“奶奶救我”直接擊潰了老人的心理防線(xiàn)，于是他們來(lái)不及不核實(shí)就將錢(qián)轉(zhuǎn)了過(guò)去，結(jié)果上了當(dāng)。

有人看到這里可能會(huì)說(shuō)，像這些套路我只要轉(zhuǎn)發(fā)給爸媽?zhuān)屗麄兞私釧I是什么，加強(qiáng)防范，不就可以了？

確實(shí)，很多老人上當(dāng)是因?yàn)檫BAI是什么都不知道，稀里糊涂就掉進(jìn)了騙局里。但可怕的是，壞人反而抓住了老人們渴望了解和學(xué)習(xí)AI的心理，給他們又量身定制了一個(gè)騙局。

也就是套路五，通過(guò)免費(fèi)培訓(xùn)AI，來(lái)騙老人——

“AI免費(fèi)培訓(xùn)，利潤(rùn)分成”，他們通過(guò)對(duì)老年人販賣(mài)對(duì)AI時(shí)代到來(lái)以及跟不上時(shí)代的焦慮，打著免費(fèi)的旗號(hào)，讓老人們交1580元的入班保證金，承諾他們后續(xù)可以退還，且可以通過(guò)剪輯AI相關(guān)的視頻賺錢(qián)，每條至少能賺到20元，每天能賺200元，“學(xué)會(huì)月入萬(wàn)元不是夢(mèng)”。

一旦老人們交了錢(qián)，加入了所謂的微信群，就會(huì)發(fā)現(xiàn)收到的鏈接貨不對(duì)板。被割韭菜的老年人既學(xué)不到技術(shù)，按照那些模板剪出來(lái)的視頻，根本在短視頻平臺(tái)賺不到錢(qián)……

一不小心，老人的養(yǎng)老金就成了騙子們的勝利果實(shí)。

難道我們就沒(méi)有任何辦法了嗎？

其實(shí)，每個(gè)新技術(shù)的誕生，都會(huì)存在這些被有心之人利用的風(fēng)險(xiǎn)。

圖源：X

說(shuō)到底，他們利用的也是人們的善良、情感、貪欲。AI這種先進(jìn)的技術(shù)沒(méi)有錯(cuò)，它也給我們的生活帶來(lái)了很多好處，錯(cuò)的其實(shí)是背后操縱AI做壞事的這些人。

擦亮雙眼，小心被騙。

同時(shí)，別忘了告訴家人小心這些層出不窮的AI騙局。或許，重視每一位家庭成員的身體和心理，讓他們遇事多和子女商量，也很重要。

如果下次跟家里老人團(tuán)聚，那么，恐怕有一件事必須做一下：
打開(kāi)他們的手機(jī)，看看他們的購(gòu)物車(chē)，看看他們?cè)诟髌脚_(tái)的瀏覽記錄。

然后，或許你也會(huì)很遺憾地發(fā)現(xiàn)，科技的進(jìn)步，帶來(lái)的并不只生活的便利，同時(shí)還有簡(jiǎn)單事情的復(fù)雜化。

而互聯(lián)網(wǎng)也并沒(méi)有很好地連接世界，卻很好地連接了騙子和單純的人。

長(zhǎng)此以往，人們恐怕只能懷疑一切、保持冷漠、獨(dú)善其身。

那么，這個(gè)世界，會(huì)變得怎樣？