AI成電商購(gòu)物退款詐騙幫兇 偽造瑕疵30秒“搞定” |聚焦

《科創(chuàng)板日?qǐng)?bào)》12月16日訊（記者 李佳怡 田野）去年以來(lái)，AI破損圖在電商購(gòu)物中“薅羊毛”，成了新灰產(chǎn)。

近日，江蘇大閘蟹網(wǎng)店主高女士遭遇新型騙局。其發(fā)出的8只螃蟹，在買(mǎi)家次日發(fā)來(lái)的圖片和視頻中竟“死了6只”，并被退款195元。經(jīng)警方查明，該視頻為AI偽造。涉事買(mǎi)家被處以行政拘留8日，此案成為全國(guó)首例利用AI偽造視頻騙取網(wǎng)購(gòu)?fù)丝疃苄姓幜P的案件。

高女士的遭遇并非個(gè)例。《科創(chuàng)板日?qǐng)?bào)》記者調(diào)查發(fā)現(xiàn)，隨著AI工具普及，偽造瑕疵商品圖片、視頻的技術(shù)門(mén)檻急劇降低。從生鮮到衣物，逼真的假“證據(jù)”正被少數(shù)人用于“薅羊毛”，甚至催生付費(fèi)教學(xué)的灰產(chǎn)。面對(duì)這類欺詐，電商賣(mài)家正陷入“舉證難、立案更難”的維權(quán)困境。

▎AI破損圖“薅羊毛”：退款糾紛背后的AI灰產(chǎn)

僅憑一張商品開(kāi)箱原圖，利用AI生成技術(shù)，便能輕松偽造出足以“以假亂真”的退款證據(jù)。

從事紫砂行業(yè)15年的電商賣(mài)家鐘先生上個(gè)月也遭遇了AI假圖騙退款：一位買(mǎi)家以商品破損為由申請(qǐng)僅退款，并發(fā)送數(shù)張顯示紫砂壺有多道裂紋的圖片。憑借行業(yè)經(jīng)驗(yàn)，鐘先生雖察覺(jué)圖片異常，卻在對(duì)方不斷催促與指責(zé)中一度動(dòng)搖。在他堅(jiān)持要求下，買(mǎi)家發(fā)來(lái)“破損視頻”，經(jīng)同行群辨認(rèn)，被指出是AI生成的假視頻——“手一摸就開(kāi)裂，就是AI的”。鐘先生憑借專業(yè)知識(shí)識(shí)破騙局，對(duì)方最終取消申請(qǐng)。

一年前，這種能夠生成逼真?zhèn)卧煺掌⒁曨l的AI技術(shù)還屬于少數(shù)科技公司和專業(yè)人士的專利。而今天，隨著開(kāi)源AI工具和商業(yè)化AI服務(wù)的普及，這一技術(shù)的門(mén)檻已大幅降低。

《科創(chuàng)板日?qǐng)?bào)》記者注意到，今年以來(lái)，多個(gè)電商平臺(tái)的商家在小紅書(shū)等渠道反映，有消費(fèi)者使用AI技術(shù)生成商品存在瑕疵的圖片或視頻，并以此發(fā)起退款申請(qǐng)。

這類偽造內(nèi)容覆蓋生鮮腐壞、衣物破損、化妝品滲漏等多種場(chǎng)景，視覺(jué)呈現(xiàn)已極為逼真。其中，因退貨驗(yàn)證困難，生鮮類商品已然成為該類欺詐行為的重災(zāi)區(qū)。

上海光明（合肥）律師事務(wù)所的涂攀躍律師也向記者證實(shí)，半年前就已接觸多起類似案件，欺詐目標(biāo)大多集中于生鮮水果、服裝鞋帽等小額商品。

為驗(yàn)證利用AI造假現(xiàn)象，《科創(chuàng)板日?qǐng)?bào)》記者也在騰訊元寶、豆包等常見(jiàn)AI工具中進(jìn)行了實(shí)測(cè)，僅需輸入“將圖片中的水果局部處理成腐爛狀態(tài)”這類簡(jiǎn)單指令，大模型可在30秒內(nèi)生成極具迷惑性的“證據(jù)”圖片。

AI生成的水果腐爛圖

盡管輸出圖片通常帶有“AI生成”水印，但該標(biāo)識(shí)多位于邊角位置，通過(guò)簡(jiǎn)單裁剪即可輕易去除。然而，據(jù)部分商家發(fā)帖反映，不少作為“證據(jù)”提交的圖片，仍直接帶有未處理的水印，AI偽造痕跡明顯。

據(jù)“電訴寶”發(fā)布的數(shù)據(jù)顯示，在“618”期間全國(guó)電商平臺(tái)的商家投訴中，“退款問(wèn)題”以16.16%的占比居首位；“任意僅退款”問(wèn)題則以12.10%的占比緊隨其后。由此也不難看出，當(dāng)前退款糾紛的普遍性，而AI偽造技術(shù)的濫用，也無(wú)疑為這一灰色地帶增添了新的技術(shù)復(fù)雜度。

值得注意的是，有部分商家反映，即便能識(shí)別出買(mǎi)家使用AI偽造商品破損，向平臺(tái)提交申訴后，卻常因平臺(tái)認(rèn)定“憑證不足”而被駁回，最終被建議“與買(mǎi)家協(xié)商解決”。

與此同時(shí)，由于單筆或關(guān)聯(lián)訂單的總金額往往不足1000元，難以達(dá)到詐騙罪的刑事立案標(biāo)準(zhǔn)，致使商家尋求報(bào)警處理的途徑也難以走通，陷入維權(quán)無(wú)門(mén)的困境。

隨著AI工具使用門(mén)檻的迅速下降，利用該技術(shù)實(shí)施違規(guī)乃至違法行為的成本也在相應(yīng)降低。而技術(shù)濫用的低成本與維權(quán)過(guò)程的高成本，也正使眾多電商賣(mài)家陷入一種新的困境之中。

值得警惕的是，除了用AI生成假圖外，當(dāng)前圍繞“僅退款”也已衍生出一條灰色產(chǎn)業(yè)鏈。此前有媒體調(diào)查發(fā)現(xiàn)，只需支付約288元“學(xué)費(fèi)”，便有自稱“師傅”的人承諾傳授全套“僅退款”竅門(mén)，并聲稱單個(gè)賬號(hào)成功退款次數(shù)可達(dá)30次左右。

▎當(dāng)AI成為造假工具，小額欺詐背后的追責(zé)難題如何破？

近日，全國(guó)首例AI偽造視頻網(wǎng)購(gòu)詐騙案的行政處罰，也意味著法律開(kāi)始對(duì)這一新型犯罪形態(tài)作出回應(yīng)。然而，現(xiàn)行法律體系在面對(duì)快速發(fā)展的AI技術(shù)時(shí)仍顯滯后。

上海復(fù)晨律師事務(wù)所律師蔡斌向《科創(chuàng)板日?qǐng)?bào)》記者表示，曾接到商家關(guān)于遭遇AI造假欺詐的咨詢，但此類案件通常涉案金額較小。關(guān)于維權(quán)路徑，蔡斌也給出了明確建議，一是平臺(tái)投訴，其次可選擇報(bào)警。

他指出，該行為在定性上符合《刑法》第266條詐騙罪的構(gòu)成要件。但在實(shí)踐中，由于金額往往達(dá)不到刑事立案標(biāo)準(zhǔn)，追究刑事責(zé)任存在困難。其進(jìn)一步說(shuō)明，公安機(jī)關(guān)可依據(jù)《治安管理處罰法》對(duì)此類行為進(jìn)行查處，例如處以5至10日的拘留。

從技術(shù)角度看，防范AI偽造視頻的“反AI”技術(shù)也在發(fā)展。然而，這些技術(shù)的普及應(yīng)用仍需時(shí)間，且成本不菲。對(duì)于絕大多數(shù)中小電商平臺(tái)和賣(mài)家而言，自行部署這類技術(shù)防御系統(tǒng)尚不現(xiàn)實(shí)。

在接受《科創(chuàng)板日?qǐng)?bào)》記者采訪時(shí)，多位律師指出，應(yīng)對(duì)AI技術(shù)濫用對(duì)電商環(huán)境的沖擊，必須依靠多方協(xié)同共治。但在此過(guò)程中，電商平臺(tái)應(yīng)扮演更為關(guān)鍵的角色，承擔(dān)起升級(jí)技術(shù)審核、優(yōu)化規(guī)則設(shè)計(jì)等核心責(zé)任。

“目前，各大電商平臺(tái)在“僅退款”制度及AI鑒偽識(shí)別風(fēng)控系統(tǒng)制度建設(shè)方面，還有一定的滯后性。”上海光明（合肥）律師事務(wù)所律師涂攀躍直言，“對(duì)于電商平臺(tái)，在處理‘僅退款’問(wèn)題上絕非簡(jiǎn)單的‘裁判’身份，其負(fù)有多重審核與注意義務(wù)。”

與此同時(shí)，涂攀躍還建議應(yīng)由有關(guān)監(jiān)管部門(mén)牽頭，組織平臺(tái)對(duì)“AI濫用”“代投訴退款”及“職業(yè)索賠培訓(xùn)陪跑”等黑灰產(chǎn)領(lǐng)域進(jìn)行聯(lián)合打擊。

此外，從更宏觀的治理視角看，構(gòu)建新防線也需超越平臺(tái)層面。蔡斌進(jìn)一步向《科創(chuàng)板日?qǐng)?bào)》記者指出，應(yīng)對(duì)AI技術(shù)濫用引發(fā)的電商欺詐，法律與監(jiān)管層面也需同步完善。

其認(rèn)為，立法需與時(shí)俱進(jìn)。 針對(duì)利用AI等新技術(shù)實(shí)施、且已呈現(xiàn)盛行苗頭的新型犯罪形式，應(yīng)考慮在刑法中增設(shè)專門(mén)條款或出臺(tái)司法解釋，進(jìn)行明確的法律配置與規(guī)制。

同時(shí)，加強(qiáng)對(duì)消費(fèi)者的合規(guī)教育不可或缺。 技術(shù)工具本身無(wú)罪，關(guān)鍵在如何使用。應(yīng)通過(guò)基礎(chǔ)教育引導(dǎo)消費(fèi)者清晰認(rèn)識(shí)技術(shù)的合法使用與違法使用的邊界，避免因噎廢食，在打擊犯罪的同時(shí)保護(hù)技術(shù)創(chuàng)新的積極性。

此外，蔡斌建議探索構(gòu)建社會(huì)化解紛機(jī)制。 糾紛解決不應(yīng)僅限于法院、公安機(jī)關(guān)或電商平臺(tái)。在消費(fèi)領(lǐng)域，可以探索設(shè)立更多元、更前置的非訴解決渠道，為未達(dá)犯罪門(mén)檻的糾紛提供高效化解路徑。