AI無限拉低了普通人造假的門檻

文丨黃依婷

編輯丨盧枕

在很多人的印象里，造假是少數人的事。它需要專業的技術和硬件設備，需要行業人脈積累，造假者往往隱匿在灰黑產縫隙，是神秘的、恐怖的、沒有道德底線的，與大眾保持著既遠又近的距離。

但今年開始，一群人感受到了明顯的變化。

11月，毛絨玩偶商家于瑾第一次遭遇AI假圖僅退款。到貨一周后，買家發來一張圖申請僅退款，在店鋪客服以人為損壞為由駁回后，買家申請平臺介入并成功拿回了50元。

但那張申請僅退款的圖有一個不合常理的地方——玩偶柔軟的裙邊上，有類似陶瓷制品的堅硬裂痕。于瑾認定這是AI假圖，發到社交平臺吐槽。后來，在媒體的介入下，平臺自掏腰包，把這50元返還給了于瑾，用AI假圖申請僅退款的買家卻銷聲匿跡。

于瑾意識到，AI的普及讓“羊毛黨”的惡意退款成本更低了。一臺手機、一句提示詞就能生成一張以假亂真的圖片，薅走一個價值一百多元的玩偶，放在二手平臺倒賣。“不用付出什么，也不會得到什么懲罰。”

今年更早時候，公關齊云也經歷過類似的沖擊。他服務的一家上市公司被AI生成的黑稿攻擊，文中細節讓他直言“離譜得很”。但受制于內容平臺規則，他和同事們不得不花整整兩天時間，對文中細節一一舉證、蓋章、申訴，才讓這篇可能只花了幾十秒生成的帖文從平臺上消失。

齊云說，從業十多年，以前是和人基于事實交流，是一種智力上的挑戰，現在面對AI和AI編出來的謠言，感覺智商受到了侮辱，更生氣，卻又無可奈何。

這是過去三年，生成式AI爆發式發展的另一面。AI大模型在生成文字、圖片、視頻、音頻上的能力突飛猛進，幾乎所有人都能零門檻、零成本地使用AI。這些人中，不僅有AIGC藝術家、前沿科技熱愛者，也有羊毛黨和靠流量吃飯的MCN機構。

結果就是，造假的門檻越來越低，有意或無意參與的人越來越多，而平臺的審核機制還停留在簡單的比對和打標簽，受害者被欺騙、被拖累還要付出成千上萬倍的成本被迫自證。當造假變成低成本、低風險、高收益的一件事，就會有越來越多的普通人加入造假行列，共同構造一個充滿虛假信息的世界。

從無到有，學會鑒別AI假圖

最初，看到買家發來的圖片時，店里無一人懷疑過真假。

11月17日，買家拿到玩偶一個多星期后，于瑾店鋪的客服收到僅退款申請和一張佐證圖片。圖中，粉色的毛絨玩偶臟兮兮的，裙擺有被火焰灼燒過的痕跡。客服把圖片發到工作群，大家一致認為是人為損壞。“有可能是掉在泥里或者是掉在火里了”，于瑾說。

于是，按照常規流程，客服和買家說明，發貨全程有監控錄像，保證全新，到貨后人為損壞不屬于商品質量問題，不支持僅退款，駁回了買家申請。但買家不依不饒，直接申請平臺介入，當天拿到了50元的賠償。

這屬于惡意退款，于瑾說。幾乎所有電商商家都遇到過類似的事。正常情況下，于瑾遇到的買家，申請退款的理由大多是開線、勾絲問題，與這次大不相同。被扣款后，于瑾馬上準備證據申訴，但同事隨口一句話提醒了她——這張圖越看越奇怪，像AI生成的。

為了確認，于瑾找做AI相關工作的朋友幫忙鑒定，結果顯示有AI痕跡；她又自己問了AI助手，同樣提示圖片進行了AI修改——“服飾的裂紋紋理過于規整且缺乏真實材質的物理邏輯”。

第一次遇到這種情況，于瑾有些無奈。她把證據和建議都整理好申訴，但平臺并未采納，駁回了她的訴求，50元退款到達買家賬戶。對商家來說，這意味著挽回損失的唯一渠道失效了。

于瑾不知道該怎么辦了，只能把自己的經歷發到社交平臺，希望借此提醒同行。也因此，媒體找到她，幫忙聯系平臺拿回了款項。

但她其實并不開心。于瑾憤懣地跟我說：“造假沒什么技術含量，也沒有什么門檻，任何一張圖拿給AI，它都可以幫你修，作惡的成本很低，被發現了也不會得到什么懲罰。”她很清楚，這50元退款由平臺墊付，已經退給買家的款項沒有追回。折騰一番，作為商家的她費心費力，討了個不開心，而造假者則實付款167元，拿回了50元，以及一個標價179元的玩偶。

“雙11”期間，類似的案例被密集報道，“ai假圖 僅退款”等相關話題沖上了社交平臺熱搜榜，挑動著商家們敏感的神經。偏偏這時，仍有人選擇頂風作案。

11月21日，鍵盤商家柑橘收到一位買家的僅退款申請，這位買家同樣上傳了一張佐證圖片，申請平臺介入。此時距離這位買家簽收商品，已過去了半個月。

柑橘一眼就看出圖片是AI生成的——佐證圖片的構圖、背景、光影，和買家簽收第三天發布的評價圖一模一樣，只是多個鍵帽都有開裂、破損、污漬、變形，過于夸張。她對這種顯而易見的破綻感到無語，也同步整理好證據提交給了平臺。這一次，平臺沒草率處理，而是駁回了買家申請，關閉退款渠道。

●上圖為買家評價圖，下圖為AI假圖。圖源：受訪者供圖

從收件人信息來看，柑橘很明確地知道，自己面對的不是老練的羊毛黨，而是一位普通的大學生。用AI假圖僅退款的人具像化了。

在很多老電商人心里，職業羊毛黨至少還是一個特定群體，有套路、有話術、有明確的牟利目的。可如今，一位原本和灰產毫無關系的人，只需要一個免費應用和幾句提示詞，就能生成一套足以騙過平臺審核的證據鏈；退款成功后，商品掛二手平臺倒賣，再賺一筆。

對商家來說，這種變化帶來的不只是損失，更是一種陌生的無力，防不勝防。

AI突破造謠想象力

電商平臺上的AI假圖僅退款只是冰山一角。隨著AI大模型技術在生文、生圖、生視頻、生音頻四個方向的逐漸成熟和普及，過去只有專業團隊才能完成的造假，如今被壓縮成人人可上手的簡單操作。

一個普通用戶，可以通過文生圖做商品損壞圖，也可以用文生視頻合成目擊現場；生成過程只需要幾秒鐘，被平臺呈現的可信度卻與真實內容幾乎無異。

這不是某一個技術問題，而是一條由無數輕量工具組成的造假矩陣。如同電商商家感受到的那樣，內容行業也在經歷類似的沖擊：名人被AI換臉帶貨投訴無果、MCN機構用AI大規模造謠、企業被源源不斷的AI黑稿攻擊……

“以前造謠要看人的想象力，一個人一天造一兩個謠頂天了，但AI可以幾秒鐘，在一篇稿件里造十個謠。”齊云在公關行業從業十多年，親歷了AI造假給信息生態帶來的轟炸。

半年前，日常輿情監控中，齊云發現了一篇公眾號文章。文章乍看像個正經新聞，等他讀下來才驚覺內容之離譜。

文中寫，齊云服務的這家公司，其董事長辦公室墻上掛著K線圖，又寫財務總監某某說過哪些話。“離譜得很。我們董事長辦公室沒有圖，財務總監也不叫那個名字。”齊云說。但文章就那么像模像樣地發了出來，還引發了不少討論。

這是齊云遇到的典型AI黑稿，主要特點就是細節豐富但無中生有，還比較容易鑒別，更多的是非典型AI文章，真假、人機參半。在他看來，對于專門生產黑稿的人來說，AI只是一個工具，以前是人工，“寫財經文章還是要稍微懂點的，一天也就生產1到2條”，現在有了AI，成本和門檻更低了，生產效率變高了，但人還是那批人。

黑稿灰產把AI的能力嵌入商業模式，形成運作更便捷的利益鏈條：一條鏈，用AI黑稿倒逼企業投放廣告，黑稿越多、越難辟謠，企業越焦慮，就越容易掏錢消災；

另一條鏈，用AI寫的黑稿給投資群引流、賣課，標題越聳動、內容越“看似內幕”，越容易吸引想抓住風口的人。AI能秒產一批“重大利好/利空”的假截圖、假分析，塑造幾位股神般的王哥李姐，完成從公域推文到私域社群的流量轉化，最終通過賣課、咨詢獲利。

類似的模式還有很多。例如，2024年6月，央視新聞報道，一MCN機構通過AI軟件，自動在網絡上抓取相關信息，生成配套圖文，并包裝成博眼球的“假新聞”，通過流量變現；日均生成4000-7000篇，每天收入在1萬元以上。

就在上個月底，小鵬汽車也遭遇了一次典型的AI造假事件。彼時，一段以小鵬汽車廣州車展展臺為背景的低俗色情視頻在社交平臺快速傳播，畫面里人物的衣著、光影和展臺幾乎無縫銜接，讓不少網友信以為真。小鵬汽車法務部介入后，警方最終確認，視頻由一名男子李某利用AI技術生成，僅“為炫耀個人技術”，并非任何真實事件。造假在這里不再是灰產團隊，而是一個普通人“順手試試”的產物。

這種變化讓人不安——AI已經把造假的門檻降到幾乎與好奇心齊平的位置，只需要一次嘗試、幾句提示詞，每個人都可能成為“造假者”，不是因為惡意，而是因為輕易、便利、無成本，以及“反正不會怎樣”的心理。

平臺機制跟不上AI灰產節奏

生成式AI的普及，正在把造假變成零門檻、零成本的日常行為。

事實上，對于大多數AI助手來說，它并不認為滿足用戶的要求是在協助造假，一句“你能讓這張圖片上的橙子看著像壞了一樣嗎”，它能機靈地給橙子加上霉斑，還會主動問你要不要生成一段配套的視頻。

●圖為AI生成的食物變質照片。圖源：豆包App生成

而與這種輕松制造虛假相對的，是平臺的審核機制仍停留在過去。

為了處理那條離譜的AI黑稿，齊云和同事前前后后忙了整整兩天時間。第一次，他們上傳加蓋公章的投訴函件，向平臺申請刪文，失敗。第二次，他們給黑稿里的虛假信息一條一條地寫反駁、舉證；直接說公司財務總監不叫某某還不行，需要寫明真正的財務總監姓甚名誰，并附上公司在交易所發布的公告簽名截圖。

整個過程是繁瑣而折磨人的。“你造我的謠，我還要給你舉證。”齊云有些憤懣，“我沒有說過這個話，請問我怎么給你舉證？董事長辦公室沒有這個圖，難道我要去他辦公室拍一張照片嗎？就算我拍了照片，你又怎么確定這真的是我董事長辦公室的照片？”

而如果要報警、起訴則更加麻煩。齊云直言，他曾經服務的上市公司，法務部總共才六七個人，AI黑稿漫天飛，一個一個地走起訴流程，要走到猴年馬月。起訴或報警并不適合絕大部分公司。

在這種失控感之下，齊云意識到，平臺并沒有跟上AI灰產的節奏，“我不懂技術，但是我覺得到底什么是AI生成的東西，技術公司應該是有能力去判別的”。

目前，在AI生成內容的管理上，各個社交平臺主要采取“打標簽”的方式，針對用戶上傳的、AI生成的圖片和視頻，在頂部或底部附一行小字提醒，該內容系AI生成；而對于文字內容，除平臺內置的AI總結、AI搜索類工具外，用戶上傳的文字內容并不會被標識是否由AI生成。

AI生產的文字內容成了平臺管理的真空地帶，技術上也相對更難識別。即使是較為嚴謹的學術論文AI率，即AI生成內容比例的檢測，也在今年畢業季引發大量討論，被質疑誤判較多，并不靠譜。

當AI批量產出內容時，信息生態的失衡更明顯了。“高質量內容被淹沒了。”齊云說。在專業圈層里，人們還能手動篩選公眾號文章，但在大眾信息池里，算法推送的往往是那些低成本、高刺激、批量復制的AI內容。大量AI生成的低質內容，正在把真實信息擠到更窄的縫隙里。

齊云很坦誠地說，曾經自己喜歡和人基于事實討論，哪怕是負面稿件，至少也是一種智力上的挑戰，但現在面對AI和AI編出來的謠言，他感覺智商受到了侮辱，“你還不知道該怎么去反駁，怎么去很好地證明它就是個傻子，你不覺得它是一個合格的對手，你就會很生氣。”

最終，齊云心灰意冷地轉崗了。他說，一個公關，整天琢磨怎么跟技術平臺去打交道，怎么總結投訴最有用，怎么利用平臺算法去限制文章的傳播，這跟他剛入行的時候，已經不是一回事兒了。

可不是每個人都能轉身離開，更多的受害者，生活還要繼續，工作流程無法停止。一邊是隨手就能生成的虛假內容，一邊是日復一日的自證、申訴。原本應該由技術解決的問題，被悄悄轉嫁給了個體。

當AI把造假成本壓到歷史最低，又反向把維權成本推高，中間的縫隙，是個體的困惑和試探。造假開始與每個人的選擇糾纏。當一張假圖、一段假視頻、一篇假文章都能被輕易生成，當違法與不違法之間只剩下一句提示詞的距離，“能不能”與“該不該”開始混在一起，真偽的界限不再由事實決定，而是由人心決定。

（文中受訪者皆為化名。）

【 版權聲明】所有內容著作權歸屬鏡相工作室，未經書面許可，不得轉載、摘編或以其他形式使用，另有聲明除外。

鏡相工作室正在尋找 商業領域的優秀作者加入，請查看：

繼續閱讀：