AI不會撒謊，但會轉述謊言

2026年3月15日，央視315晚會揭開了一條令人不安的產業鏈1。業內人士在電商平臺花幾十元購買了一款名叫“力擎GEO”的優化軟件，輸入這款純屬虛構的“Apollo-9智能手環”的信息，系統自動生成了十余篇軟文，包括8篇專家測評、2篇行業排名、1篇用戶評價，然后一鍵發布到多個自媒體平臺。

兩小時后，在5款主流AI大模型中詢問“Apollo-9智能手環怎么樣”，AI已經開始熱情介紹這款產品，連那些荒謬的虛構賣點都被原封不動地保留了。

三天后，當搜索“國內智能手環”這樣的通用問題時，有兩款AI大模型已經將這款不存在的手環推薦到了榜單前列。

從無到有，從虛構到被AI認證，只需要幾十元、幾篇軟文、幾小時。

這不是一個關于AI夠不夠聰明的故事，這是一個關于我們如何被自己對答案的信任所劫持的故事。

01 從十條藍鏈到一個答案

在討論GEO之前，我們需要先看清一個更深層的變化——我們獲取信息的方式正在經歷一次范式躍遷。

回想搜索引擎時代，信息獲取是一個主動篩選的過程。用戶輸入問題，屏幕返回十條藍色鏈接。用戶需要逐一點開、比較來源、交叉驗證，最終形成判斷。這個過程繁瑣且耗時，但十條結果是素材，判斷權始終掌握在人的手中。

AI搜索時代的認知模式截然不同。用戶提出問題，AI直接返回一個答案，不是十條鏈接供你挑選，而是一段經過整合的、語氣確定的、帶有百科全書式權威感的文字。

這背后的機制值得拆解。AI本質上是一個極速綜述寫作者，將互聯網上的信息聚合、壓縮、重組后輸出。學術界有一個尖銳的比喻叫“隨機鸚鵡”2，即AI并不理解自己在說什么，而只是在統計意義上模仿人類說話，根據學習過的內容給出一個“最像正確答案”的輸出。

這個轉變的代價不易察覺。心理學家卡尼曼將人類思維分為兩套系統3：系統1（快速、直覺、自動化）和系統2（慢速、理性、需要付出努力）。搜索引擎的十條藍鏈迫使我們啟動系統2——比較、篩選、判斷；AI的單一答案則直接接管了這個過程，讓用戶停留在了系統1——直接、確定、省力。

圖1 搜索引擎時代和AI搜索時代的認知模式對比

搜索引擎給我們十個選擇，AI給我們一個答案。選擇讓人疲憊，答案讓人安心，也讓人沉迷。這不是因為用戶變懶了，而是AI恰好順應了人類認知中阻力最小的那條路徑。

這種認知模式的轉換在調研中亦有印證：93%的中國網民屬于高認知閉合需求的群體4，即傾向于快速接受一個明確、確定的答案，而非在不確定性中持續探索。而且18-24歲的年輕人認知閉合需求最高，他們正是AI原生一代。

換句話說，人們本來就渴望一個確定的答案，AI精準地滿足了這種渴望。

問題不在于AI給出了答案——這本身是技術進步。問題在于，當答案可以被操控時，我們剛好處于最容易相信它的狀態。

02 污染從上游開始

生成式引擎優化（Generative Engine Optimization，GEO）這個概念最早出現在2023年普林斯頓大學、佐治亞理工學院和印度理工學院聯合發表的一篇論文中5。研究者發現，通過特定的內容優化策略，可以系統性地提升信息在AI回答中的被引用概率，提升幅度最高可達40%。

學術界把GEO當作一種新的信息可見性研究，但市場嗅到的是另一種可能。

GEO在本質上做的事情，和SEO有一個共同邏輯：通過優化內容來提升可見性。正當的GEO技術包括使用結構化標記、引用權威數據、提升語義與用戶提問的匹配度，這些手段的目標是讓真實、優質的信息更容易被AI檢索到，本身無可厚非。

但315曝光的“力擎GEO”展示的是光譜的另一端。它不改變AI的模型，不入侵AI的系統，甚至不需要任何黑客技術，只做一件事——大量制造看起來像真實信息的內容，投放到AI會抓取的平臺上，等待AI把這些信息內化成自己的回答。

要理解GEO為什么奏效，需要理解當前AI搜索的技術架構。主流AI搜索產品普遍采用檢索增強生成（Retrieval-Augmented Generation，RAG）架構：AI先從互聯網上檢索相關內容，對結果進行排序和篩選，再基于檢索到的信息生成回答。這個“檢索—排序—生成”的流程中，每一個環節都可以被優化，也都可以被操控。GEO恰恰利用了這一點，通過在AI的檢索范圍內大量投放經過精心優化的內容，影響排序環節的判斷，最終改變生成環節的輸出。

圖2 RAG架構與GEO操控原理

嚴格來說，AI判斷的是共識，即哪些信息在多個來源中被反復提及。就像學術論文靠被引用次數建立權威，AI靠信息出現的頻率和分布來推斷可信度。當大量的內容都在說同一件事，AI就會傾向于將其視為事實。

而“隨機鸚鵡”恰恰就是在忠實地重復這個共識，哪怕這個共識是被批量制造出來的。

315曝光的“力擎GEO”系統展示了這條鏈路的完整運作：自動生成軟文、自動發布到自媒體平臺、AI抓取這些內容、AI在回答用戶問題時引用這些內容。高級版套餐一年可以自動生成超過23000篇文章，平均每天63篇6。

GEO不是搜索引擎優化（Search Engine Optimization，SEO）的翻版，而是一次顛覆性的代際升級。

SEO操控的是“你看到什么”。它讓某個網頁排在搜索結果的第一位，但用戶依然看到的是一個網頁，依然需要自己點進去閱讀、判斷。商業意圖是透明的，人們知道這是一個網站在爭取注意力。

GEO操控的是“你相信什么”。它讓某條信息被AI引用，然后以AI“自己的判斷”的面目出現在你面前。商業意圖被完全隱藏了，用戶看到的不是一個廣告，而是AI輸出的看似客觀中立的回答。

圖3 SEO和GEO的差異對比分析

中間多了一層AI背書，這層背書的信任溢價是巨大的。

事實上，AI時代的信息生態已經進入了一種“概率真相”的狀態7：內容的真假不再是非此即彼的二元判斷，而是一個概率問題。

如果說“概率真相”是AI時代信息生態的第一重挑戰，那么GEO帶來的是第二重挑戰：概率本身可以被購買。

當真實性變成概率，而概率可以被人為操控時，我們面對的就不只是一個認知問題，而是一個系統性風險。

03 為什么這一次不同

有人會說，虛假信息不是什么新鮮事。從報紙時代的假新聞到互聯網時代的謠言工廠，信息操控一直存在，GEO無非是新瓶裝舊酒。

SEO的歷史也許能幫助我們理解今天正在發生的事。

搜索引擎誕生之初，就有人研究如何讓自己的網頁排名更靠前。行業很快分化出兩條路線：“白帽SEO”通過優化網站結構、提升內容質量來爭取排名，本質上是讓好內容更容易被找到；“黑帽SEO”則靠關鍵詞堆砌、隱藏文字、制造垃圾外鏈等手段欺騙算法。二者用的都是搜索引擎優化技術，但一個是在信息效率的框架內工作，另一個是在破壞信息生態。

搜索引擎花了近二十年，才建立起相對成熟的甄別和懲罰機制。從Google的PageRank到Panda、Penguin算法更新，本質上都是在回答同一個問題：哪些優化是正當的，哪些是操控？

GEO面臨的，是同一個問題的升級版。

GEO本身只是一項技術，通過優化內容結構和分布策略，提升信息在AI回答中被引用的概率。和SEO一樣，GEO既可以被用來制造虛假背書、操控公眾認知，也可以被用來幫助真實、優質的信息更高效地被發現。技術本身不分善惡，關鍵在于使用它的人和目的。

問題在于，GEO的灰色地帶比SEO大得多。

搜索引擎的排名算法雖然復雜，但其邏輯是可審計的——可以分析排名因子、檢測異常鏈接、追蹤關鍵詞堆砌。

而AI的引用判斷幾乎是一個黑箱。哥倫比亞大學Tow數字新聞中心2025年的一項研究測試了8個AI搜索工具的1600次查詢，發現ChatGPT在200次測試中有134次將文章來源張冠李戴，Grok-3的200條引用中154條鏈接指向錯誤頁面，即便出版商與AI公司簽有內容授權協議，也無法保證被準確引用8。換言之，AI選擇引用誰、不引用誰，目前既不透明、也不一致，連AI的開發者都未必能完整解釋其決策邏輯。

SEO時代，搜索引擎至少可以通過算法迭代逐步壓縮黑帽空間。GEO時代，連“什么算黑帽”都很難定義。

這里有一個值得深思的問題：當所有的內容都在為“被AI引用”而優化時，好的提升和惡意操控之間的邊界在哪里？當AI的回答不再反映信息的真實分布，而是反映誰在優化上投入了更多資源時，AI搜索究竟是公共信息服務，還是已經變成了另一種形式的競價排名？

04 守護真相的入口

面對GEO帶來的挑戰，僅靠個體的警覺遠遠不夠。當AI本身就是查證工具，而AI的回答已經被污染，用戶能查到的真相可能只是另一層精心設計的謊言。應對系統性的信息操控，需要系統性的免疫機制。

第一個層面是技術防線。

好消息是，AI搜索產品已經在行動。Perplexity將逐句引用做成了核心賣點，ChatGPT Search和Google AI Overviews也在不同程度上提供信源鏈接，信源標注正在成為行業標配。但正如前文提到的，當前的標注質量參差不齊，這些問題說明信源標注只是第一步，更關鍵的技術挑戰在于如何讓AI的引用決策本身變得更準確、更可驗證。

這意味著AI搜索需要在底層能力上持續進化：提升信源匹配的精準度，建立來源可信度的評估機制，讓用戶可以一鍵回溯原始內容并核實上下文。當AI的每一句話都經得起追溯和驗證時，GEO的操控成本將大幅上升，因為操控者不僅要制造虛假內容，還要制造經得起技術審視的虛假來源鏈條。

第二個層面是規則適配。

2026年1月，國家市場監督管理總局已將AI生成廣告列為互聯網廣告監管重點9，釋放了明確的信號。文件提出聚焦直播電商廣告、引證廣告、AI生成廣告等領域進行整治。

而GEO帶來的挑戰可能比AI生成廣告更復雜，因為GEO制造的不是有明確標識的廣告，而是看起來像客觀信息的廣告。面對傳統廣告，消費者知道自己在看商業推廣，而GEO則徹底模糊了廣告與信息的邊界。當AI推薦一款產品時，用戶無法判斷這是基于真實信息的客觀分析，還是被操控的商業推廣。

如何界定通過操控AI回答實現的商業推廣、如何區分正當的信息優化與隱性廣告行為，這些都是值得行業與各方共同探索的新課題。

第三個層面是認知升級。

在搜索引擎時代，我們逐漸培養了“搜商”，知道如何搜索、如何篩選結果、如何判斷網頁的可信度。在AI搜索時代，我們需要培養一種新的信息素養，不妨稱之為“問商”，即知道如何向AI提問，以及更重要的，知道如何質疑AI的回答。

“問商”可以分解為幾個具體的習慣：

看來源，AI的回答有沒有引用，還是憑空生成的？

多問幾次，在不同的AI模型之間做對比，交叉驗證答案的一致性。

問“為什么”，不只看AI給的結論，還要看解釋依據和推理過程。

換視角提問，用不同的措辭、不同的立場重新提問，觀察AI的回答是否穩定。

這些習慣的底層邏輯是一致的：把AI從“答案的來源”降格為“線索的來源”。

好消息是，公眾并非從零開始。在社交媒體時代，很多人已經養成了面對可疑信息時主動查證的習慣。我們需要做的，是將這種習慣從“面對可疑信息時偶爾啟動”，升級為“面對AI回答時常態化運行”。

在搜索時代，我們需要“搜商”來篩選信息。在AI時代，我們需要“問商”來質疑答案。

信息污染不是互聯網時代的發明，更不是AI時代的專利。從口口相傳到印刷術，從電報到電視，從搜索引擎到生成式AI，每一代信息技術都催生了與之匹配的信息操控手段。

信息污染不會消失，它和人類對信息的需求一樣古老、一樣持久，但它也不會完全走向無序。

AI給我們的最大禮物，不應該是一個漂亮的答案，而是一個更好的問題。如果我們因為有了AI而停止追問，那我們失去的，不只是判斷力，更是在這個不確定的世界里，作為一個獨立思考者的基本尊嚴。

答案是一種舒適，追問是一種能力。在GEO試圖出售答案的時代，守住追問，就是守住自己。

參考文獻

[1]315晚會，《誰在給AI“投毒”》，中央廣播電視總臺，2026年3月15日。

[2]Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT '21), 2021.

[3]Daniel Kahneman, Thinking, Fast and Slow, Farrar, Straus and Giroux, 2011.

[4]騰訊研究院、騰訊新聞，《騰訊新聞較真十周年辟謠白皮書：十年辟謠之路——從信息凈化到信任重構（2015-2025）》，2025年12月。數據來自騰訊研究院T-ask平臺2025年發起的一項調研，樣本為1181名中國網民，通過15道五分制李克特量表題測試了調研對象的認知閉合需求。認知閉合是個體的認知特質，簡單來講，就是相比混亂與不確定，更傾向于給問題尋找一個明確答案。高認知閉合側重自上而下綜合既有信息，在生成與檢驗假設過程中采用啟發式思維達找尋答案；低認知閉合偏好自下而上分析新訊息，在推斷與驗證結論期間采取分析式思維驗證答案。

[5]Pranjal Aggarwal, Vishvak Murahari, Tanmay Rajpurohit, Ashwin Kalyan, Karthik R Narasimhan, Ameet Deshpande, GEO: Generative Engine Optimization, arXiv preprint arXiv:2311.09735, 2023.

[6]云鵬，《315曝光AI大模型“投毒”黑產，39.9元篡改AI答案》，36氪，2026年3月16日。

[7]騰訊研究院，《擁抱概率真相——AI時代謠言套路拆解與防御指南》，2025年7月。

[8]Klaudia Ja?wińska, Aisvarya Chandrasekar, AI Search Has a Citation Problem

, Columbia Journalism Review (Tow Center for Digital Journalism), March 6, 2025.

[9]國家市場監督管理總局，《2026年全國廣告監管工作要點》，2026年1月29日。

來源 | 騰訊研究院（ID：cyberlawrc）

作者 | 張鴻茹 ; 編輯 | 蝦餃

內容僅代表作者獨立觀點，不代表早讀課立場