AI可以被投毒的時代，怎么不被AI給玩壞？

今年的315晚會，一個顯著的進步是，記者們調(diào)查出來的案件，直接就通報給了相關部門進行處理，晚會播出時，曝光出的不法經(jīng)營活動都已被處理。各地市監(jiān)局們也不用守在電視機前，等著連夜出動去查處被曝光的企業(yè)了，這無疑是個巨大的進步。但晚會曝出的AI大模型被GEO投毒的信息，卻讓身處AI爆發(fā)時代的我們，后背發(fā)涼。

央視315晚會截屏

01

GEO是什么技術，為什么能給那么聰明的AI投毒？

GEO技術源自于2024年6月，印度理工學院德里分校、普林斯頓大學的學者和一些獨立研究者在arXiv上發(fā)表了論文《GEO: Generative Engine Optimization（生成引擎優(yōu)化）》，提出了GEO（生成引擎優(yōu)化）概念、 框架及相關的實驗設計。在2025年，國內(nèi)已有通過GEO制造虛假客服電話的黑灰產(chǎn)組織被打掉的記錄。如今，這項技術又被曝出用在了出自商業(yè)廣告目的的數(shù)據(jù)投毒上。

央視315晚會截屏央視315晚會截屏

投毒過程說來也不復雜。AI新時代，傳統(tǒng)的在搜索引擎中輸入關鍵詞，再在結(jié)果中自己尋找正確答案的方式，慢慢被直接向AI提問取代。想要推廣產(chǎn)品或服務的商家，也在適應中成長。于是找到了做GEO業(yè)務的公司，花上點錢，提供一下宣傳文案，或者干脆就由GEO公司通過AI生成文案，再發(fā)布在各大平臺、網(wǎng)頁。通過海量的發(fā)布和對應的優(yōu)化，這些信息就能夠被AI大模型抓取到。當使用者向AI提問相關問題時，AI就會根據(jù)自己抓取到的毒信息，一本正經(jīng)地向提問者做出推薦。產(chǎn)品的廣告，就這樣通過AI的口，以一種看起來中立、客觀，且又很有科技感的方式展示出來。

央視315晚會截屏

聽起來無所不能的AI，就以這樣簡單的方式被洗腦，被欺騙，進而成了虛假廣告的幫兇。

02

AI被投毒，被污染了，還能用嗎？

新技術的發(fā)展，與人類歷史的發(fā)展一樣，總是要曲折中上升。千禧年前后開始興起的互聯(lián)網(wǎng)大潮，深刻又迅速地改變了這個世界。電商出現(xiàn)，全新的購物方式，讓消費者可以坐在家中買到幾乎全世界的商品。新的搜索引擎，徹底改變了以前采用索引方式的資料查找。然而，新技術帶來的問題也隨之顯現(xiàn)，電商平臺開始出現(xiàn)各種假貨，淘寶一度成為假貨重災區(qū)，競價排名讓搜索引擎不再純粹，魏則西事件讓中文互聯(lián)網(wǎng)蒙羞至今。我也曾在很多公司的電腦上見到了層出不窮的彈窗廣告，每一分鐘都會彈出幾個，這樣的互聯(lián)網(wǎng)，談何工作效率。

技術進步和規(guī)則的調(diào)整，終于慢慢解決了發(fā)展期間出現(xiàn)的問題。道高一尺，魔高一丈，道與魔的斗法中，互聯(lián)網(wǎng)應用服務質(zhì)量不斷提升。

如今，AI又引領著世界進入全新的時代。隨著硬件的不斷迭代升級，算法的不斷優(yōu)化，能夠處理龐大數(shù)據(jù)的AI終于走到臺前，成為普通人也可以觸手可及的應用。寫一篇總結(jié)大綱，做一份工作計劃，生成一張圖片，根據(jù)圖片生成視頻，甚至是制作一集短劇，一切看起來都那么美好。更高層面，AI可以寫代碼，按需求直接生成應用程序，甚至，在美伊戰(zhàn)爭中迅速分析海量信息，幫助戰(zhàn)爭指揮官做出決策。

但聰明的人類，還是能夠以自己的方式去調(diào)戲AI。GEO技術從提出到應用，基本就沒干什么好事，整個成了一個大歪點子。被垃圾信息投喂的AI，又給用戶輸出了經(jīng)過整理的垃圾。AI生成的幾乎零成本的虛擬霸道總裁，不停地把手伸向中老年人的錢包。他們不相信自己的子女，卻無比相信屏幕中風度翩翩的虛擬人。通過AI應用竊取個人隱私的案例更是屢見不鮮。

短劇中的霸道總裁

然而，問題終究會隨著技術的發(fā)展而得到解決。AI可以審慎識別由它自己生成的文本，做出取舍。被污染的數(shù)據(jù)庫，終會由它自己慢慢清洗干凈，AI也能夠?qū)W會，如何在海量數(shù)據(jù)中提取權威的、正確的信息。虛擬的霸道總裁，終會在腦門上大大地寫上“我是騙子”。曾經(jīng)只會依靠人類提供的數(shù)據(jù)拆分詞元的AI，最終也會像學習圍棋一樣，自行找到解決方案。

2026年315這一夜，程序員們倒是比市監(jiān)局要忙得多。清晨起來，幾個大模型均已對晚會上提到的漏洞做了修補，盡管這只是表面上的、有針對性的。但是，未來，避免被投毒怕是程序員們工作的重點了。

AI終究是這個時代里繞不開的工具，曲折是暫時的，學習利用AI，擁抱AI，才不會被時代拋棄。

03

如何玩兒AI，而不是被AI玩兒？

AI的普及，最早大抵是從玩開始。生成一段搞笑視頻，或者把影視劇中明星的臉替換成自己的，門檻低又好玩。AI把用戶哄開心的同時，也得到了你的人臉數(shù)據(jù)和應用反饋，皆大歡喜。

現(xiàn)在的AI，可以幫你快速生成一篇長文的提綱，省去閱讀的辛苦。曾經(jīng)需要電腦上操作專業(yè)修圖軟件才能達到的效果，AI能夠通過自然語言理解創(chuàng)作者意圖，快速實現(xiàn)。一生要出片的中國人，此刻幸福感會達到頂點。更高級點兒的，直接通過簡單的劇本，生成短劇，據(jù)說從橫店變成豎店的影視拍攝基地，最近劇組數(shù)量急劇減少。AI生成短劇的成本，比用十八線演員更低，視覺效果更遠超５毛特效。

這些都是普通人玩AI可以直接感受到的進步。與此同時， AI也在玩兒你。

提綱式的閱讀，味同嚼蠟，文字中細膩的描寫，大膽的想象，被統(tǒng)統(tǒng)抽離，只留一具依稀可辨形象的枯骨。千篇一律的修圖方式，看久了自然會厭倦，審美水準也會被其無限拉低。短劇中虛擬人物完美無瑕的面孔上，眼睛卻空洞無神，像極了屏幕前被洗腦的觀眾。

前一陣，聽說騰訊的工程師在騰訊大樓下，免費幫助用戶安裝、部署小龍蝦，居然有近千人排隊安裝。看到這個新聞，我的第一反應是，連安裝和部署都不會的人，又怎么敢用這樣一個能全面接管電腦的應用呢，這不是把自己的電腦完全交給一個陌生人去操控一樣嗎？某種意義上講，這和一個不會開車，沒有駕駛證的人，開啟了自動駕駛就直接上了高速公路有何區(qū)別？這樣玩AI，不就是等著被AI玩兒嘛。

圖源網(wǎng)絡

就目前來說，AI在進化到有自我意識之前，終歸還是人類的工具。工具是被拿來使用的，越高級的工具就越需要學習使用技巧。傳統(tǒng)的搜索引擎，會用的人，輸入幾個關鍵詞，就會快速找到想要的信息。不會用的人，搜出來的，大概率是各種垃圾信息和廣告。今天的AI搜索亦如是。會用的，告訴它從哪里找信息，找什么樣的信息去匯總。反饋回的信息，還要看一看信息來源，交叉驗證。不會用的，只會籠統(tǒng)的問一句，那AI自然也就會把收集到的垃圾整理整理，反饋給你的還是垃圾。

另外，在關乎最本質(zhì)的人身安全和健康方面，比如自動駕駛，比如AI求醫(yī)，對AI的使用和信任，更要慎之又慎。即使自動駕駛能夠應付99.99%的突發(fā)情況，但剩下的0.01，就有可能危及駕乘者的生命。AI可以在醫(yī)學理論考試上達到滿分，但在實際病癥處理建議上，由于患者情況千差萬別，所以給出的結(jié)論就只能是參考，或者心理安慰，最終仍要以醫(yī)生結(jié)論為準。

被AI玩的，大體就是那些懶惰的，無知的用戶。懶惰，體現(xiàn)在一切交給AI，不加思考，不做甄別。無知，體現(xiàn)在盡信AI，奉其為圭臬。

所以，想玩AI，不被AI玩兒，就要不斷學習新知識，老話叫與時俱進，同時，保持質(zhì)疑的精神，凡事多問幾個為什么。沒有對應能力，就來點簡單的，不要給ai應用太多的權限，一切止于娛樂即可。想用好這個超級工具的，就在你自己的領域里盡可能地深入，借AI的力量深耕，和它一起成長。不管愿不愿意，現(xiàn)在到未來，AI都將深刻地影響我們的生活，玩兒它，還是被它玩兒，仍取決于我們自己。

~the end~