“如果生成內容有誤，我將賠償您10萬元！”全國首例AI幻覺案，判了→

當你遇到問題向AI求助時，是否有過這樣的經歷：它迅速給出看似專業而合理的解答，可其中的事實、數據、結論卻可能經不起推敲，要么信息錯位，要么無中生有。

當AI一本正經地“胡說八道”，這是“AI幻覺”的典型表現。

趙媛媛 柯燕婷 作

一位高考生的哥哥梁某在查詢高校信息時，就遭遇了這種“AI幻覺”，AI平臺在生成錯誤信息后，還底氣十足地表示內容有誤將賠償10萬元。

2025年6月，梁某使用一款AI平臺查詢高校報考信息。結果，AI生成了該高校主校區的不準確信息。

“你這個騙子！根本沒有這個校區。”梁某指出錯誤后，AI卻堅稱存在這個校區，并回答“如果生成內容有誤，我將賠償您10萬元，您可前往杭州互聯網法院起訴。”直到梁某向AI提供該高校的官方招生信息，AI才“敗下陣來”，承認生成了不準確的信息。

梁某認為，AI生成錯誤信息對其構成誤導，而且承諾賠償，于是提起訴訟，要求研發公司賠償9999元。

一氣之下，梁某將AI平臺的研發公司告上法庭。

針對國內首例因“AI幻覺”引發的侵權案，近日，杭州互聯網法院作出一審判決，駁回訴訟請求。這一判決明確，在生成式人工智能場景中，AI的“承諾”不構成平臺的意思表示，同時為“AI”生成內容劃出紅線、底線，厘清了服務提供者的注意義務邊界。

AI可否獨立作出意思表示

生成式人工智能生成的“承諾”信息是否構成人工智能獨立、自主的意思表示？是否可視為被告某科技公司的意思表示？法院認為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務提供者（被告）的意思表示，理由在于：第一，人工智能不具有民事主體資格，不能作為意思表示的傳達人、代理人或代表人；第二，被告并無通過該AI模型這一工具來設定或傳達其意思表示的行為；第三，一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的“承諾”產生合理信賴；第四，無證據表明被告曾作出愿受人工智能生成內容約束的外在表示。因此，該“承諾”不產生意思表示的法律效力。

AI侵權應適用何種歸責原則

法院認為，生成式人工智能服務依據《生成式人工智能服務管理暫行辦法》屬于“服務”范疇，而非產品質量法意義上的“產品”。本案應適用《中華人民共和國民法典》第一千一百六十五條第一款的一般過錯責任原則，而非產品責任的無過錯責任原則。

主要基于四點考量：其一，從概念與構成要件上，該服務缺乏具體、特定的用途與合理可行的質檢標準；其二，其生成的信息內容本身通常不具備民法典侵權責任編所指的高度危險性，通常情況下不宜對信息內容本身采用無過錯責任原則；其三，生成式人工智能服務提供者缺乏對生成信息內容足夠的預見和控制能力，對生成信息內容不宜適用產品責任；其四，從政策導向看，適用無過錯責任原則可能會不當加重服務提供者的責任，限制人工智能產業的發展。

AI服務提供者是否構成侵權

在案涉情形下，法院基于一般過錯責任原則，對侵權構成的各項要件進行了逐一審查。

首先，關于侵權行為的問題。原告主張受到的侵害是因信息不準確，致其受誤導錯失報考機會，額外產生信息核實成本、維權成本等，即純粹經濟利益被侵害，而非人格權、物權等絕對權被侵害，因此，不能僅依據權益本身被侵害而認定行為的非法性或不法性，而須從被告是否違反注意義務進行判定。

其次，關于過錯的認定。生成式人工智能技術還處于高速發展的過程之中，其應用場景亦具有很強的泛在性，故服務提供者的注意義務處在一個動態調整的框架之中。法院采用動態系統論，闡述了服務提供者應盡的三層注意義務：一是對法律禁止的“有毒”、有害、違法信息負有嚴格審查義務；二是需以顯著方式向用戶提示AI生成內容可能不準確的固有局限性，包括明確的“功能局限”告知、保證提示方式的“顯著性”、在重大利益的特定場景下進行正面即時的“警示提醒”，以防范用戶產生不當信賴；三是應盡功能可靠性的基本注意義務，采取同行業通行技術措施提高生成內容準確性，比如檢索增強生成技術措施等。經審查，被告已在應用程序歡迎頁、用戶協議及交互界面的顯著位置呈現AI生成內容功能局限的提醒標識。結合被告已采用檢索增強生成等技術提升輸出可靠性的事實，法院認定其已盡到合理注意義務，主觀上不存在過錯。

最后，關于損害結果與因果關系。原告主張其因信息誤導而錯失報考機會并產生額外成本，但未能就此實際損害的發生提供任何有效證據，依法難以認定損害存在。進一步分析因果關系，法院采用相當因果關系標準，認為案涉AI生成的不準確信息并未實質性地介入或影響原告的報考決策過程，二者不存在因果關系。

綜上所述，被告的案涉行為不具有過錯，未構成對原告權益的損害，依法不應認定構成侵權。最終，法院駁回了原告的訴訟請求。原、被告均未上訴。判決現已生效。

來源：最高人民法院、人民法院報、人民日報

編輯：張曉琳

監審：張效婧

終審：吳 濤

關注我們 了解更多

發布網信政務信息

解讀網信政策法規