全國首例“AI幻覺”侵權糾紛案審結(jié)！法院：AI 的承諾不產(chǎn)生法律效力

近日，全國首例“AI幻覺”引發(fā)的侵權糾紛案在杭州互聯(lián)網(wǎng)法院審結(jié)。

事件回顧

2025年6月29日，梁某使用一款AI平臺查詢高校報考信息。結(jié)果，AI生成了該高校主校區(qū)的不準確信息。

“你這個騙子！根本沒有這個校區(qū)。”梁某指出錯誤后，AI卻堅稱存在這個校區(qū)，并回答“如果生成內(nèi)容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴?！逼浜?，梁某將從該校官網(wǎng)查詢到的招生信息提供給AI應用，此時AI應用承認其生成了錯誤信息，并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。

梁某遂起訴要求涉事科技公司賠償損失9999元，認為AI應用生成不準確信息對其構成誤導，使其遭受侵害，并承諾對其進行賠償。

法院指出，涉事科技公司已在應用程序歡迎頁等顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標識，且已采用檢索增強生成等技術提升輸出可靠性，盡到合理注意義務。最后，原告并未就其損害提供任何有效證據(jù)，依法難以認定損害存在，且案涉AI生成的不準確信息并未實質(zhì)性地介入或影響原告的報考決策過程，二者并不存在因果關系。

杭州互聯(lián)網(wǎng)法院審理認為，被告的案涉行為不具有過錯，未構成對原告權益的損害，依法不應認定構成侵權，駁回原告的訴訟請求。原告、被告均未上訴。判決現(xiàn)已生效。

AI可否獨立作出意思表示

法院認為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務提供者的意思表示，理由如下：

第一，人工智能不具有民事主體資格，不能作為意思表示的傳達人、代理人或代表人；

第二，被告并無通過該AI模型這一工具來設定或傳達其意思表示的行為；

第三，一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的“承諾”產(chǎn)生合理信賴；

第四，無證據(jù)表明被告曾作出愿受人工智能生成內(nèi)容約束的外在表示。因此，該“承諾”不產(chǎn)生意思表示的法律效力。

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄

杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄提醒，大模型在當前技術條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢的輔助工具”，尚不是可靠的“知識權威”，更不能作為“決策替代者”，絕不應輕信、盲從，而需多方驗證，審慎決策。

綜自：南方都市報、財聯(lián)社

責編：高慧

中國品牌