![]()
![]()
咱們平時把AI當“萬事通”,遇事就問、買東西先查,覺得它理性又權威,結果這波操作直接讓AI的“靠譜人設”崩塌,活脫脫變成了“睜眼說瞎話”的帶貨冤種。
![]()
這事兒的罪魁禍首,就是一個叫“深層式引擎優化(GEO)”的技術,說穿了就是給AI“喂毒”的工具。
![]()
它不是入侵AI的底層代碼,而是通過批量制造虛假內容,污染AI抓取信息的“空氣”,最后讓AI乖乖輸出黑產想要的“標準答案”。
小毋特意去扒了下這黑產的操作流程,簡直像拍諜戰片,步驟清晰還透著股“專業”的離譜。
![]()
第三步就是AI“老實人”中招了,AI大模型回答問題前,會通過RAG技術去網上抓取信息當參考,看到這么多平臺都在說這款手環好,就信以為真。
![]()
再用自己權威又擬人化的口吻推薦給用戶,完成這場“從無到有”的帶貨魔術。
更離譜的是,涉事的“力擎GEO優化系統”關聯公司,居然連續多年0人參保,典型的“皮包公司”操盤黑產。
![]()
而且GEO操作還有標準化流程,包括“AI蒸餾”“自動發布”等環節,能覆蓋主流AI平臺,整套流程都被做成了可復制的“生意”。
![]()
之后通過本地客戶端,每天能把這些內容自動發布到多個平臺,還會生成數據報表,讓黑產實時查看優化結果,簡直囂張到了極點。
![]()
3?15晚會剛一曝光,監管部門立刻就行動了,市場監管總局馬上啟動應急處理,派出好幾個專案組直奔出事的地方現場調查,這效率真的值得點贊。
![]()
而且2026年1月新修訂的《網絡安全法》已經正式實施,給AI監管提供了很硬的法律靠山,里面明確說了要對網絡安全專用產品的違規行為加重處罰,就是要狠狠敲打那些搞黑產的。
可誰能想到,黑產的反應比監管還快,直接上演了一出“換裝秀”,“優化”這類直白的關鍵詞被平臺屏蔽后,他們火速換上“引擎優化”“肌肉優化”等更隱蔽的馬甲,繼續在網上活躍。
![]()
![]()
有記者在曝光后的第二天登陸電商平臺,發現閑魚等平臺上仍有大量相關商家,報價398元/月起就能售賣GEO服務,明目張膽地繼續做著“AI投毒”的生意,完全沒把監管放在眼里。
行業里還上演了一波集體“緊急洗白”的名場面,3月16日,好幾家和GEO有關的企業,趕緊發聲明,紛紛跟黑產劃清界限、撇清關系。
值得一提的是,中央網信辦2026年開展的“清朗?營造喜慶祥和春節網絡環境”專項行動,早就針對AI生成垃圾信息等問題進行整治,截至3月10日已經處置賬號3.9萬余個,清理違法違規信息70.8萬余條。
![]()
但GEO黑產因為操作隱蔽、善于換馬甲,還是有不少漏網之魚,這場貓鼠游戲還在繼續。
![]()
目前的情況就是行業呈現“冰火兩重天”,一邊是合規企業忙著立標準、做評測。
![]()
中國信通院已經開始第一輪GEO可信評測,想靠立規矩把行業風氣整頓干凈,可另一邊,那些搞黑產的只是換了個關鍵詞繼續亂來,該賺的錢一分都沒少賺。
但最嚴重的不是這個,而是AI行業的信任危機,有專家直言,GEO黑產的本質是從過去的“搶排名”升級成了更致命的“認知操縱”,這是行業最高級別的系統性風險之一。
搜索引擎時代,我們看到搜索結果還能點進網頁自己判斷真偽,可現在AI直接給出“標準答案”,還帶著權威的口吻,消費者根本沒機會辨別信息來源。
![]()
這種情況下,虛假信息的破壞力直接被拉滿,說白了,就是一場專門針對普通人認知和判斷的“心智黑客攻擊”。
用戶信任是AI商業化落地的核心資產,現在這份信任被黑產肆意踐踏,后果不堪設想,而且這不是個例,現在AI虛假信息亂象越來越多,和GEO黑產屬于同一類問題。
比如中央網信辦在“清朗”專項行動中就查處了不少案例,有些賬號利用AI魔改《西游記》等經典名著,傳播含有血腥、恐怖畫面的內容。
![]()
![]()
還有些賬號專門編造謠言、發假消息,盯著社會熱點惡意炒作蹭流量,故意帶偏大家的看法。
之前我們見過網紅食品“美白雞爪”這類虛假宣傳,現在已經升級成了“AI背書式虛假宣傳”,有了AI的“權威認證”,消費者更容易上當,殺傷力直接翻倍。
不過也不是所有GEO相關服務都是違規的,部分合規GEO服務商靠“真實信息優化”獲得了認可,他們不會制造虛假內容,而是幫助企業把真實的產品信息、品牌優勢更好地呈現出來,這和黑產的操作有著本質區別。
![]()
但問題在于,普通消費者很難分辨哪些是合規服務,哪些是黑產操作,最后可能會對整個行業產生不信任,讓合規企業也跟著受牽連,這種情況,正在AI行業慢慢上演。
這場典型的“非對稱戰爭”,讓黑產以極低的成本就能獲得高額回報,而平臺和AI企業卻要付出巨大代價去防范,長期下去很可能會影響AI行業的健康發展。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.