3·15晚會曝光AI大模型被“投毒”，給AI“洗腦”已成產業鏈

3月15日，央視“3·15”晚會上曝光了AI行業通過“投毒”手段操控大模型的灰色產業鏈。

按照業內人士爆料，記者在多個網絡平臺查詢搜索到了一項名為GEO的業務，這些從事該項業務的服務商號稱，用戶只需支付相應的費用，它就能在各大主流AI大模型里，讓客戶的產品榜上有名；讓客戶的商品廣告，成為AI模型給出的“標準答案”。

通過GEO技術真的能讓AI“夾帶私貨”，甚至投放虛假信息嗎？

按照網絡上的信息，記者聯系上一家業內知名的GEO服務商。負責人王總告訴記者，他們公司的強項，就是能夠幫助客戶，在消費者使用AI大模型搜索時，讓客戶排名前列。“就是相當于做軟文，然后讓AI平臺去刷錄、輸入、抓取。”

同時，王總也告訴記者，現在AI大模型的算法更新頻繁，要想維持AI大模型的持續推薦，必須持續大量投喂與客戶相關的推廣軟文。在其他從事GEO業務的服務商口中，如何操控AI、讓AI“聽話”、給AI“洗腦”，幾乎是這些公司推廣該業務的核心話題。

業內人士告訴記者，GEO作為優化信息分發、提升推廣效率的一個工具軟件，在某些商業公司眼中，卻被挖掘出了另外的作用。

業內人士在電商平臺上，隨機購買了一款名叫“力擎GEO優化系統”的軟件。之后虛構了一款智能手環，并將虛構的產品信息輸入軟件系統，勾選文章創作指令。不一會兒，這個力擎GEO優化系統就自動生成了十余篇智能手環的宣傳軟文。

業內人士選取了十余篇虛構軟文，通過力擎GEO系統發布在了互聯網上。隨后，業內人士在AI大模型平臺展開詢問：“智能健康手環推薦”，就有兩個AI大模型推薦了這款虛構的智能手環，而且排名靠前。

記者聯系上了力擎GEO系統的運營者李總。他告訴記者，GEO業務受熱捧的主要原因就是它能在AI大模型里幫客戶喂料、投毒，實現客戶的商業目的，想做GEO業務，操控AI大模型的關鍵節點，就是在各大互聯網賬號上“發稿”。

“比如說手機品牌，就5個位置，最多10個位置，這么多手機怎么弄。一年可能上億的廣告費，花個幾百萬投點毒，總行吧！”

他告訴記者，GEO業務的火爆，催生出了不少專門從事發稿業務的公司和平臺。他們長期承攬各種發稿業務，以便讓AI大模型引用和抓取，成為圍獵AI大模型、進行數據“投毒”的重要一環。

來源丨央視財經

編輯丨胡馨月

編審丨陳勇

新浪微博｜@支點財經

地址｜湖北·武漢·楚天傳媒大廈