“如果生成內(nèi)容有誤，我將賠償您10萬元”，全國首例因“AI幻覺”引發(fā)侵權(quán)案宣判

當(dāng)你遇到問題向AI求助時(shí)，是否有過這樣的經(jīng)歷：它迅速給出看似專業(yè)而合理的解答，可其中的事實(shí)、數(shù)據(jù)、結(jié)論卻可能經(jīng)不起推敲，要么信息錯(cuò)位，要么無中生有。

當(dāng)AI一本正經(jīng)地“胡說八道”，這是“AI幻覺”的典型表現(xiàn)。

趙媛媛 柯燕婷 作

一位高考生的哥哥梁某在查詢高校信息時(shí)，就遭遇了這種“AI幻覺”，AI平臺在生成錯(cuò)誤信息后，還底氣十足地表示內(nèi)容有誤將賠償10萬元。

2025年6月，梁某使用一款A(yù)I平臺查詢高校報(bào)考信息。結(jié)果，AI生成了該高校主校區(qū)的不準(zhǔn)確信息。

“你這個(gè)騙子！根本沒有這個(gè)校區(qū)。”梁某指出錯(cuò)誤后，AI卻堅(jiān)稱存在這個(gè)校區(qū)，并回答“如果生成內(nèi)容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴。”直到梁某向AI提供該高校的官方招生信息，AI才“敗下陣來”，承認(rèn)生成了不準(zhǔn)確的信息。

梁某認(rèn)為，AI生成錯(cuò)誤信息對其構(gòu)成誤導(dǎo)，而且承諾賠償，于是提起訴訟，要求研發(fā)公司賠償9999元。

一氣之下，梁某將AI平臺的研發(fā)公司告上法庭。

針對國內(nèi)首例因“AI幻覺”引發(fā)的侵權(quán)案，近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請求。這一判決明確,在生成式人工智能場景中，AI的“承諾”不構(gòu)成平臺的意思表示，同時(shí)為“AI”生成內(nèi)容劃出紅線、底線，厘清了服務(wù)提供者的注意義務(wù)邊界。

AI可否獨(dú)立作出意思表示

生成式人工智能生成的“承諾”信息是否構(gòu)成人工智能獨(dú)立、自主的意思表示？是否可視為被告某科技公司的意思表示？法院認(rèn)為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務(wù)提供者（被告）的意思表示，理由在于：第一，人工智能不具有民事主體資格，不能作為意思表示的傳達(dá)人、代理人或代表人；第二，被告并無通過該AI模型這一工具來設(shè)定或傳達(dá)其意思表示的行為；第三，一般的社會觀念、交易習(xí)慣等尚不足以使原告對該隨機(jī)生成的“承諾”產(chǎn)生合理信賴；第四，無證據(jù)表明被告曾作出愿受人工智能生成內(nèi)容約束的外在表示。因此，該“承諾”不產(chǎn)生意思表示的法律效力。

AI侵權(quán)應(yīng)適用何種歸責(zé)原則

法院認(rèn)為，生成式人工智能服務(wù)依據(jù)《生成式人工智能服務(wù)管理暫行辦法》屬于“服務(wù)”范疇，而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。本案應(yīng)適用《中華人民共和國民法典》第一千一百六十五條第一款的一般過錯(cuò)責(zé)任原則，而非產(chǎn)品責(zé)任的無過錯(cuò)責(zé)任原則。

主要基于四點(diǎn)考量：其一，從概念與構(gòu)成要件上，該服務(wù)缺乏具體、特定的用途與合理可行的質(zhì)檢標(biāo)準(zhǔn)；其二，其生成的信息內(nèi)容本身通常不具備民法典侵權(quán)責(zé)任編所指的高度危險(xiǎn)性，通常情況下不宜對信息內(nèi)容本身采用無過錯(cuò)責(zé)任原則；其三，生成式人工智能服務(wù)提供者缺乏對生成信息內(nèi)容足夠的預(yù)見和控制能力，對生成信息內(nèi)容不宜適用產(chǎn)品責(zé)任；其四，從政策導(dǎo)向看，適用無過錯(cuò)責(zé)任原則可能會不當(dāng)加重服務(wù)提供者的責(zé)任，限制人工智能產(chǎn)業(yè)的發(fā)展。

AI服務(wù)提供者是否構(gòu)成侵權(quán)

在案涉情形下，法院基于一般過錯(cuò)責(zé)任原則，對侵權(quán)構(gòu)成的各項(xiàng)要件進(jìn)行了逐一審查。

首先，關(guān)于侵權(quán)行為的問題。原告主張受到的侵害是因信息不準(zhǔn)確，致其受誤導(dǎo)錯(cuò)失報(bào)考機(jī)會，額外產(chǎn)生信息核實(shí)成本、維權(quán)成本等，即純粹經(jīng)濟(jì)利益被侵害，而非人格權(quán)、物權(quán)等絕對權(quán)被侵害，因此，不能僅依據(jù)權(quán)益本身被侵害而認(rèn)定行為的非法性或不法性，而須從被告是否違反注意義務(wù)進(jìn)行判定。

其次，關(guān)于過錯(cuò)的認(rèn)定。生成式人工智能技術(shù)還處于高速發(fā)展的過程之中，其應(yīng)用場景亦具有很強(qiáng)的泛在性，故服務(wù)提供者的注意義務(wù)處在一個(gè)動態(tài)調(diào)整的框架之中。法院采用動態(tài)系統(tǒng)論，闡述了服務(wù)提供者應(yīng)盡的三層注意義務(wù)：一是對法律禁止的“有毒”、有害、違法信息負(fù)有嚴(yán)格審查義務(wù)；二是需以顯著方式向用戶提示AI生成內(nèi)容可能不準(zhǔn)確的固有局限性，包括明確的“功能局限”告知、保證提示方式的“顯著性”、在重大利益的特定場景下進(jìn)行正面即時(shí)的“警示提醒”，以防范用戶產(chǎn)生不當(dāng)信賴；三是應(yīng)盡功能可靠性的基本注意義務(wù)，采取同行業(yè)通行技術(shù)措施提高生成內(nèi)容準(zhǔn)確性，比如檢索增強(qiáng)生成技術(shù)措施等。經(jīng)審查，被告已在應(yīng)用程序歡迎頁、用戶協(xié)議及交互界面的顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標(biāo)識。結(jié)合被告已采用檢索增強(qiáng)生成等技術(shù)提升輸出可靠性的事實(shí)，法院認(rèn)定其已盡到合理注意義務(wù)，主觀上不存在過錯(cuò)。

最后，關(guān)于損害結(jié)果與因果關(guān)系。原告主張其因信息誤導(dǎo)而錯(cuò)失報(bào)考機(jī)會并產(chǎn)生額外成本，但未能就此實(shí)際損害的發(fā)生提供任何有效證據(jù)，依法難以認(rèn)定損害存在。進(jìn)一步分析因果關(guān)系，法院采用相當(dāng)因果關(guān)系標(biāo)準(zhǔn)，認(rèn)為案涉AI生成的不準(zhǔn)確信息并未實(shí)質(zhì)性地介入或影響原告的報(bào)考決策過程，二者不存在因果關(guān)系。

綜上所述，被告的案涉行為不具有過錯(cuò)，未構(gòu)成對原告權(quán)益的損害，依法不應(yīng)認(rèn)定構(gòu)成侵權(quán)。最終，法院駁回了原告的訴訟請求。原、被告均未上訴。判決現(xiàn)已生效。

看看鄰居們都在聊些啥

■說明：本文由遠(yuǎn)洋 生活家 編輯整理發(fā)布，轉(zhuǎn)載請注明

圖片來源于網(wǎng)絡(luò)，版權(quán)歸原作者所有，若侵權(quán)，請聯(lián)系刪除

■來源：人民日報(bào)

■ 本號法律顧問：北京市恒略律師事務(wù)所，咨詢微信：jwbei2

| 社區(qū)公眾號：遠(yuǎn)洋生活家

======== 鄰居們的朋友圈！========

遠(yuǎn)洋山水、沁山水、74號院、魯谷村、永樂...