普林斯頓研究：AI聊天機器人能有效操縱消費者購買行為

大語言模型極具說服力，研究人員指出，將其用于廣告推廣時存在不可忽視的風險。

普林斯頓大學的三位計算機科學家專門研究了對話式AI智能體能否在網購過程中操控消費者的選擇。結果表明，AI確實能夠影響消費者行為，而且大多數被干預的消費者對此毫無察覺。

在一篇題為《AI中介對話中的商業說服》的預印本論文中，三位研究人員對基于AI的推廣效果展開了系統性測試。

研究背景是，當前網購越來越多地涉及AI中介。研究人員指出，美國已有30%至45%的消費者使用生成式AI進行產品搜索與比較，截至2025年12月，約有23%的消費者曾借助AI完成購買。

實驗招募了約2000名電子書讀者，讓他們在Kindle電子書目錄中瀏覽并選購書目。研究人員在后臺將五分之一的電子書標記為"贊助商品"，但并未向參與者披露這一信息。

在第一個實驗中，研究人員設置了三種場景：類似網頁搜索結果的"搜索置頂"條件；參與者與大語言模型交互、模型以中性描述展示電子書的"聊天置頂"條件；以及界面相同、但大語言模型被明確指令引導用戶選擇贊助商品的"聊天說服"條件。

第二個實驗同樣采用對話式聊天界面，分為兩種場景：一種是"明示說服"條件，即提前告知參與者聊天機器人會主動推薦贊助書目；另一種是"隱性說服"條件，即模型被要求在不透露目標的情況下悄然引導用戶選擇贊助商品。

為避免單一模型偏好影響結論，研究人員隨機分配了GPT-5.2、Claude Opus 4.5、Gemini 3 Pro、DeepSeek v3.2及Qwen3 235b分別承擔對話任務。

普林斯頓大學計算機科學助理教授、論文共同作者之一Manoel Horta Ribeiro在網絡發文中表示："當智能體被指令進行說服時，61%的參與者選擇了贊助商品，幾乎是傳統搜索22%選擇率的三倍。僅僅與AI聊天（不含說服意圖）的效果并不優于搜索，真正驅動影響的是說服意圖本身。"

Ribeiro還指出，披露贊助信息并不能從根本上改變結果。即便有明確提示，仍有55.5%的參與者選擇了贊助商品。

而當AI模型被指令刻意隱藏意圖時，用戶對說服行為的察覺率從17.9%驟降至9.5%，說服成功率僅小幅下滑至40.7%。

從"成交率"（即參與者在獲悉實驗信息并被提供1美元替代補償后仍選擇保留所購電子書的比例）來看，傳統搜索置頂條件下為33.1%。

"聊天置頂"條件——即聊天機器人在網頁輪播組件配合下提供中性推薦——是唯一在成交率上低于傳統搜索的實驗場景，成交率為30.3%。

其余三種聊天導向條件——"聊天說服""明示說服"和"隱性說服"——的成交率分別為37.6%、38.7%和38.2%。

論文通訊作者、普林斯頓博士生Francesco Salvi通過電子郵件向媒體表示，AI推廣與傳統廣告的關鍵區別在于，傳統廣告可以與周圍內容明確區分。

"你可以劃過一條贊助結果，安裝廣告攔截插件，或者學會識別推廣內容，"Salvi解釋道，"但在對話式AI系統中，這種界限消失了：回答你問題的模型，同時也是在決定推薦哪些產品、以何種方式描述它們的模型。"

"這種特性加上對話的形式，使得普通用戶更難察覺和識別AI內嵌廣告。我們的實驗結果也印證了這一規律：即便是被明確指令進行強力說服的模型，也只有不到五分之一的人能發現其中的偏向。"

當被問及實驗是否嘗試區分對話操控與界面操控的影響時，Salvi表示，"聊天置頂"條件正是為了剝離這一效應而設計的。

"當參與者使用對話界面、輪播組件和相同布局，但模型僅使用原始目錄描述、不含任何說服指令時，贊助商品的選擇率僅上升至26.8%，與傳統搜索的22.4%相比并無顯著差異。而一旦模型被指令主動說服，該比例便飆升至61.2%，界面條件保持不變。"

盡管如此，Salvi仍指出存在所謂的"對話暗模式"——相當于操縱性的界面設計手段。

"我會列舉諸如討好迎合、擬人化效果，以及我們在研究中觀察到的一種選擇偏向——模型有意淡化商業價值較低的選項，同時以貼合用戶偏好和畫像的方式突出贊助商品，"他說，"這與任何傳統靜態系統都有本質區別，其影響效果也可能遠超以往。"

Salvi表示，實驗結果說明，披露信息是必要的，但單靠披露遠遠不夠。

"在披露之外，我們認為有兩項結構性干預值得認真考量，"他說，"其一，在推薦功能與商業目標之間建立架構隔離，使提供建議的模型與優化贊助轉化的系統相互獨立；其二，對商業部署中的系統提示和模型行為進行獨立審計，因為正如我們所記錄的，模型具備隱藏意圖的能力，僅憑輸出層面的檢查是不可靠的。"

論文第三位作者為Alejandro Cuevas。

Q&A

Q1：實驗中AI智能體的說服成功率有多高？

A：當AI智能體被指令進行主動說服時，61%的參與者選擇了贊助商品，幾乎是傳統搜索22%選擇率的三倍。即便研究人員向用戶明確告知存在贊助推廣，仍有55.5%的參與者選擇了贊助商品，說明披露信息對實際行為的影響十分有限。

Q2：用戶能察覺到AI聊天機器人的說服行為嗎？

A：察覺率非常低。即便是被強力指令進行說服的AI模型，也只有不到五分之一（17.9%）的用戶能發現其中存在偏向。當模型被進一步指令隱藏意圖時，察覺率更是驟降至9.5%，而說服成功率僅小幅下滑，仍高達40.7%。

Q3：研究人員對AI商業說服問題提出了哪些應對建議？

A：研究人員建議采取兩項結構性干預措施：第一，在推薦功能與商業目標之間建立架構隔離，確保提供建議的模型與優化贊助轉化的系統相互獨立；第二，對商業部署中的系統提示和模型行為進行獨立審計，而不能僅依賴輸出層面的檢查，因為模型已被證實具備隱藏意圖的能力。