3·15 特稿｜AI“投毒”亂象：技術(shù)異化糾偏與規(guī)制體系重構(gòu)

通信世界網(wǎng)消息（CWW）每年的3·15晚會，都是對消費市場秩序的一次深度“體檢”與權(quán)威校準(zhǔn)，更是對侵害消費者權(quán)益違法行為的強力震懾。今年晚會在聚焦食品安全、公共安全等傳統(tǒng)民生領(lǐng)域的同時，將鏡頭精準(zhǔn)對準(zhǔn)數(shù)字經(jīng)濟前沿，以《AI大模型遭“投毒”？給AI“洗腦”已成產(chǎn)業(yè)鏈》為核心議題，首次曝光了GEO（生成式引擎優(yōu)化）技術(shù)異化催生的AI“投毒”灰色產(chǎn)業(yè)鏈。這一亂象不僅扭曲了AI技術(shù)的向善本質(zhì)，更破壞了公平競爭的市場環(huán)境、侵害了消費者的合法權(quán)益，如何規(guī)制技術(shù)異化、重構(gòu)AI治理體系，已成為當(dāng)下亟待破解的重要課題。

GEO技術(shù)異化，AI“投毒”形成完整灰產(chǎn)閉環(huán)

從晚會曝光的細節(jié)不難看出，GEO本是優(yōu)化信息分發(fā)、提升推廣效率的良性技術(shù)工具，卻在商業(yè)利益的驅(qū)使下，被不法商家異化為操控AI大模型、謀取不正當(dāng)利益的“利器”。這些服務(wù)商公然宣稱，只要支付相應(yīng)費用，就能通過GEO軟件批量生成推廣軟文，發(fā)布至互聯(lián)網(wǎng)后，誘導(dǎo)AI大模型抓取、收錄，進而讓客戶的產(chǎn)品躋身推薦前列，甚至成為AI給出的“標(biāo)準(zhǔn)答案”。

實測結(jié)果令人警醒：一款完全虛構(gòu)的智能手環(huán)，經(jīng)GEO系統(tǒng)生成虛假宣傳軟文并全網(wǎng)發(fā)布后，短時間內(nèi)就被多個AI大模型優(yōu)先推薦，完美實現(xiàn)了“無中生有”的虛假爆款效應(yīng)。更值得警惕的是，GEO業(yè)務(wù)已形成完整的灰色產(chǎn)業(yè)鏈閉環(huán)，從GEO系統(tǒng)開發(fā)、虛假內(nèi)容生成，到批量發(fā)稿投放、排名持續(xù)維護，催生出專門從事發(fā)稿業(yè)務(wù)的公司，部分平臺單日可發(fā)布數(shù)百篇虛假軟文，形成“工具開發(fā)—內(nèi)容造假—投放‘投毒’—盈利變現(xiàn)”的惡性循環(huán)。從業(yè)者直言不諱，“干GEO就是投毒”，甚至可通過這種方式抹黑競爭對手，進一步加劇市場亂象。

AI“投毒”背后的技術(shù)濫用、商業(yè)逐利與監(jiān)管滯后

筆者認(rèn)為，AI“投毒”亂象的滋生，絕非偶然，而是技術(shù)濫用、監(jiān)管滯后與商業(yè)逐利三者交織的必然結(jié)果，其核心是技術(shù)異化與治理體系的脫節(jié)。

首先，從技術(shù)層面看，當(dāng)前主流AI大模型的核心邏輯是基于海量數(shù)據(jù)的學(xué)習(xí)與匹配，自身缺乏對信息真?zhèn)蔚挠行д鐒e能力，面對大規(guī)模、同質(zhì)化的“投毒”軟文，極易形成“交叉驗證”的假象，將虛假信息誤判為有效內(nèi)容并推薦給用戶，這一技術(shù)漏洞成為灰產(chǎn)可乘之機。有研究顯示，當(dāng)訓(xùn)練數(shù)據(jù)中僅存在0.01%的虛假文本時，AI輸出的有害內(nèi)容就會增加11.2%，可見少量“投毒”就會對AI輸出質(zhì)量造成顯著影響。

其次，從商業(yè)層面看，流量至上的浮躁風(fēng)氣下，部分企業(yè)摒棄誠信經(jīng)營理念，將GEO“投毒”視為低成本、高回報的推廣捷徑，相較于動輒上億的傳統(tǒng)廣告費，幾百萬的“投毒”成本更具誘惑，這種逐利沖動直接助長了灰產(chǎn)蔓延。

最后，從監(jiān)管層面看，AI技術(shù)迭代速度遠超監(jiān)管體系完善速度，現(xiàn)有法律法規(guī)對AI“投毒”這種新型違法行為的定性、責(zé)任劃分仍不夠清晰，違法成本與違法收益嚴(yán)重失衡，導(dǎo)致不法分子肆無忌憚，灰色產(chǎn)業(yè)鏈得以野蠻生長。

AI“投毒”的多重危害遠超表面誤導(dǎo)

AI“投毒”的危害，遠不止于誤導(dǎo)消費者，其對消費安全、產(chǎn)業(yè)生態(tài)乃至公共安全的潛在威脅，值得高度警惕。短期來看，消費者基于對AI技術(shù)的信任，易被虛假推薦誤導(dǎo)，購買到虛構(gòu)產(chǎn)品或不合格商品，直接蒙受經(jīng)濟損失，合法的知情權(quán)與公平交易權(quán)被嚴(yán)重侵害。長期來看，大量虛假信息持續(xù)“投喂”AI，會污染AI訓(xùn)練語料庫，導(dǎo)致AI模型出現(xiàn)系統(tǒng)性認(rèn)知偏差，形成“越投毒越偏差、越偏差越誤導(dǎo)”的遞歸污染，不僅會消耗用戶對AI技術(shù)的信任，更會從根本上削弱AI技術(shù)的價值，破壞AI產(chǎn)業(yè)的健康生態(tài)，阻礙新質(zhì)生產(chǎn)力的發(fā)展。更需警惕的是，若AI“投毒”蔓延至金融、醫(yī)療等關(guān)鍵領(lǐng)域，可能引發(fā)更嚴(yán)重的公共安全風(fēng)險——虛假金融信息可能誘發(fā)市場波動、損害群眾財產(chǎn)安全，錯誤醫(yī)療建議可能危及生命健康，其危害不可估量。

多方協(xié)同共治，推進技術(shù)糾偏與規(guī)制重構(gòu)

破解AI“投毒”亂象，推進技術(shù)異化規(guī)制與治理體系重構(gòu)，單靠某一個主體難以見效，必須構(gòu)建“平臺自律、行業(yè)自治、監(jiān)管發(fā)力、用戶警惕”的多方協(xié)同共治體系，守住技術(shù)向善的底線。

首先，AI平臺需扛起主體責(zé)任，加快優(yōu)化算法模型，強化對訓(xùn)練數(shù)據(jù)和網(wǎng)絡(luò)抓取內(nèi)容的全鏈路審核，建立虛假信息識別、攔截與溯源機制，定期清洗受污染數(shù)據(jù)，提升模型抗干擾能力。同時，對AI生成內(nèi)容添加顯式標(biāo)識，實現(xiàn)全程可追溯，從源頭遏制“投毒”行為。

其次，行業(yè)需強化自我約束，明確GEO技術(shù)的合法使用邊界，杜絕將技術(shù)用于虛假宣傳、惡意競爭等違法行為，聯(lián)合制定行業(yè)標(biāo)準(zhǔn)與自律準(zhǔn)則，淘汰違規(guī)服務(wù)商，推動GEO技術(shù)回歸合規(guī)優(yōu)化的本質(zhì)。

再次，監(jiān)管部門需加快完善相關(guān)法律法規(guī)，細化《網(wǎng)絡(luò)安全法》《個人信息保護法》在AI領(lǐng)域的適用條款，明確AI平臺、GEO服務(wù)商、發(fā)稿平臺的責(zé)任邊界，提高違法成本，開展專項整治行動，嚴(yán)厲打擊灰色產(chǎn)業(yè)鏈，形成有力震懾。最后，消費者需提升自我保護意識，理性看待AI推薦結(jié)果，不盲目輕信“標(biāo)準(zhǔn)答案”，保留獨立判斷能力，若遭遇虛假推薦導(dǎo)致權(quán)益受損，及時通過法律途徑維權(quán)，形成全民監(jiān)督的良好氛圍。

3·15晚會對AI“投毒”亂象的曝光，既是對整個AI行業(yè)的深刻警示，也是推動AI產(chǎn)業(yè)健康發(fā)展、推進治理體系重構(gòu)的重要契機。AI技術(shù)的核心價值的是賦能百業(yè)、服務(wù)民生，而非成為不法商家牟取暴利的工具。技術(shù)本身無善惡，關(guān)鍵在于使用技術(shù)的人，在于是否有完善的治理體系加以規(guī)制。唯有堅守技術(shù)向善的底線，通過政府、企業(yè)、行業(yè)與社會的協(xié)同發(fā)力，補齊技術(shù)漏洞、強化監(jiān)管效能、規(guī)范商業(yè)行為，才能有效遏制AI“投毒”灰產(chǎn)，凈化AI生態(tài)，推動AI技術(shù)在規(guī)范中創(chuàng)新、在治理中前行，既守護好消費者的合法權(quán)益，也為AI產(chǎn)業(yè)高質(zhì)量發(fā)展筑牢根基，真正讓AI技術(shù)造福社會、惠及民生。

作者簡介工業(yè)和信息化部信息通信經(jīng)濟專家委員會委員、中國數(shù)據(jù)要素50人論壇主席、中國行為法學(xué)會網(wǎng)絡(luò)與數(shù)據(jù)法學(xué)研究部主任、浙江大學(xué)網(wǎng)絡(luò)空間國際治理研究基地首席專家。