AI帶貨視頻“批量化”生產(chǎn) “AI李鬼”游走在灰色地帶

一條視頻中,兩名“兒童”身著白色短袖,在陽光下開心地玩滑板。鏡頭一轉(zhuǎn),兩人在動作交錯時,身體竟然融合在一起,暴露出數(shù)字合成痕跡。

今年“雙11”期間,北京市民王歡在某社交平臺刷到這條童裝推廣視頻,深感詫異,直到看見角落一行“內(nèi)容由AI生成”的提示,她才意識到孩子玩耍的畫面是技術(shù)合成的。“這畫面錯得有些離譜,讓人怎么相信商品的真實效果?”她疑惑地說。

近來,商家利用AI技術(shù)帶貨的現(xiàn)象日益增多,有的出現(xiàn)違法違規(guī)情形:有借助名人效應(yīng),仿冒專家學者、奧運冠軍、影視明星為產(chǎn)品站臺;有冒充知名品牌誤導(dǎo)消費者。不少消費者和粉絲難辨真?zhèn)?出于對“偶像”或“品牌”的信任下單,卻沒意識到背后潛藏的風險。

這些游走在灰色地帶的“AI李鬼”,涉嫌侵害當事者的肖像權(quán)以及消費者的知情權(quán)與選擇權(quán),對當下網(wǎng)絡(luò)數(shù)字治理提出新挑戰(zhàn)。

AI帶貨視頻“批量化”生產(chǎn)

“兩人穿透彼此身體,明顯違背真實世界的物理規(guī)律,在行業(yè)中我們稱之為‘穿模’。”資深A(yù)I技術(shù)人員藍天說。

他指出,當前主流AI視頻生成模型,其核心邏輯是在海量數(shù)據(jù)訓練基礎(chǔ)上,具備較強的語言理解和圖像生成能力,能夠根據(jù)文本描述“畫”出逼真畫面。然而,對于真實世界中復(fù)雜的物理規(guī)律,如重力、碰撞、物體間的不可穿透性等,AI仍缺乏深刻的感知與預(yù)測能力。

“‘穿模’是AI生成視頻中的典型漏洞,反映了當前技術(shù)在處理復(fù)雜動態(tài)場景時的局限性,說明數(shù)字內(nèi)容構(gòu)建與真實物理法則之間仍存在鴻溝。”藍天說。

記者調(diào)查發(fā)現(xiàn),利用AI工具批量生成營銷帶貨視頻,在電商運營中相當普遍,網(wǎng)絡(luò)上甚至出現(xiàn)系統(tǒng)化教程。

在一個面向電商從業(yè)者的教學視頻中,一名自稱經(jīng)驗豐富的直播電商博主,詳細講解如何借助AI快速制作吸引眼球的帶貨視頻。他用來作為“優(yōu)秀模板”向?qū)W員展示的案例,正是王歡看到的出現(xiàn)“穿模”問題的童裝視頻。

該博主講述制作“爆款邏輯”稱:“學員跟我學習之后,利用AI批量生產(chǎn)這類視頻,精準捕捉寶媽心理。視頻直擊寶媽群體對‘美觀’與‘實用’的雙重需求,這就是成功的關(guān)鍵。”

另一位博主在賬號中推薦更為“進階”的操作。該博主以一條網(wǎng)絡(luò)播放量破千萬的真實人物炸雞腿視頻為例,現(xiàn)場演示如何利用AI工具對原視頻人物進行“深度改造”——不僅能更換面部特征、上衣和飾品,甚至可調(diào)整人物的體型與性別。

此類教學內(nèi)容的傳播,模糊了真實與虛構(gòu)的邊界,給消費環(huán)境帶來隱患與風險。

知名人士接連被冒名帶貨

“凡是‘捎貨’(帶貨)的肯定不是我!”10月初,在江西南昌舉行的一場國際學術(shù)年會上,中國工程院院士、國醫(yī)大師張伯禮以“打假”聲明作為開場,向與會者展示了冒用他形象與聲音合成制作的AI偽造視頻。

“這是人工合成的假視頻,講話聲音聽起來很像我,但所講的內(nèi)容完全不是我的本意。”張伯禮鄭重提醒公眾,務(wù)必提高鑒別力,警惕此類數(shù)字造假。

今年10月20日,天津中醫(yī)藥大學發(fā)布嚴正聲明,指出近期社會上有“伯禮醫(yī)堂”“伯禮國醫(yī)館”“張伯禮中醫(yī)院”“張伯禮大藥房”等多家機構(gòu),冒用張伯禮院士之名,通過社交媒體等平臺宣傳產(chǎn)品、培訓或評審活動。聲明中強調(diào),這些機構(gòu)均與張伯禮院士無任何關(guān)聯(lián),其行為嚴重誤導(dǎo)社會公眾,損害公眾健康權(quán)益,帶來醫(yī)療安全隱患,并涉嫌違反相關(guān)法律法規(guī)。

不僅專家學者深受其擾,知名媒體人也成為被仿冒對象。今年6月,北京市海淀區(qū)市場監(jiān)督管理局查處首例濫用AI技術(shù)發(fā)布虛假廣告的案件。

根據(jù)消費者舉報,執(zhí)法人員對北京某公司展開調(diào)查發(fā)現(xiàn),該公司通過一個擁有數(shù)十萬粉絲的視頻賬號,宣傳其銷售的“魚油”具有治療頭暈頭痛、記憶力下降等功效。直播視頻中出現(xiàn)中央廣播電視總臺主持人李梓萌的形象。

經(jīng)深入調(diào)查,該公司銷售的所謂“魚油”,實際產(chǎn)品執(zhí)行標準為普通糖果類食品,不具備治療功能。經(jīng)權(quán)威機構(gòu)鑒定,視頻中出現(xiàn)的“主持人”形象是利用AI技術(shù)偽造生成。最終,該公司因違反《中華人民共和國廣告法》相關(guān)規(guī)定,受到市場監(jiān)管部門行政處罰。

某平臺售賣的“AI電商課”詳情頁面截圖,商家宣稱可幫助用戶“復(fù)刻爆款視頻”。受訪者供圖

向AI換臉、虛假廣告等“亮劍”

北京市市場監(jiān)督管理局副局長周小豐表示,北京市支持AI技術(shù)在廣告中的廣泛應(yīng)用,同時針對AI換臉、虛假廣告等問題敢于“亮劍”。他說,主持人、網(wǎng)紅等公眾人物社會認知度高,一些不法經(jīng)營者利用AI技術(shù)等方式偽造圖片、音視頻開展虛假宣傳,借助公眾人物知名度推銷商品服務(wù)獲利,侵犯了消費者合法權(quán)益。

“鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性,AI治理需要實現(xiàn)跨領(lǐng)域協(xié)同推進。需要監(jiān)管持續(xù)加碼、平臺強化責任,更需要網(wǎng)民參與。”中國政法大學副教授、中國廣告協(xié)會法律與道德委員會專家朱巍表示。

在平臺治理方面,部分廣告企業(yè)著手構(gòu)建全流程管理機制。營銷服務(wù)平臺巨量引擎商業(yè)安全治理標準負責人項韻介紹,面對AI廣告違背公序良俗、侵權(quán)抄襲、虛假宣傳等突出風險,平臺聚焦“精準識別、從嚴處置”,今年第三季度前置攔截涉AI違規(guī)素材84萬余個。

當前,對AI虛假廣告的治理正從依賴人工審核,向人機協(xié)同、智能識別方向演進。巨量引擎商業(yè)安全產(chǎn)品負責人潘荻表示,通過應(yīng)用多模態(tài)大模型,平臺提升了識別效率。系統(tǒng)可快速解析視頻素材,定位違規(guī)內(nèi)容出現(xiàn)的具體時段或畫面,為審核決策提供參考。

潘荻說,與傳統(tǒng)審核模型不同,融合AI能力的大模型能夠結(jié)合大量案例進行學習,理解規(guī)則背后的邏輯。“面對從未見過的人臉或全新的造假技術(shù),系統(tǒng)能基于對規(guī)則的理解識別違規(guī)本質(zhì),從而顯著提升對新型、隱蔽違規(guī)內(nèi)容的發(fā)現(xiàn)能力。”

面對不斷演變的AI造假技術(shù),治理體系需持續(xù)優(yōu)化。朱巍建議,應(yīng)加強對合成內(nèi)容的標識與溯源,推動平臺、監(jiān)管部門及技術(shù)提供商之間的數(shù)據(jù)共享與標準共建,構(gòu)建覆蓋內(nèi)容生成、傳播、識別全鏈條的治理生態(tài),切實維護市場秩序與消費者權(quán)益。

針對AI廣告帶貨亂象,北京市市場監(jiān)督管理局提醒:消費者若發(fā)現(xiàn)疑似利用AI技術(shù)進行的虛假宣傳等違法行為,應(yīng)注意留存證據(jù)材料,并通過12315、12345等熱線渠道向市場監(jiān)管部門舉報,共同維護良好的廣告市場秩序和消費環(huán)境。同時,廣大經(jīng)營者須嚴格遵守《中華人民共和國廣告法》《中華人民共和國反不正當競爭法》等法律法規(guī),不得利用AI等新技術(shù)手段冒用他人名義或形象進行營銷宣傳活動。

來源：中國青年報