全國首例AI錯(cuò)誤侵權(quán)之訴警示：使用AI一定要有質(zhì)疑精神

AI一本正經(jīng)、信誓旦旦的“胡說八道”，提問者卻信以為真，并且按照其提示辦事，事后造成的損失，究竟誰應(yīng)該承擔(dān)責(zé)任。近日，最高法院發(fā)布了全國首例生成式AI“幻覺”引發(fā)的侵權(quán)之訴案例。

案情大概是：

2025年6月，高考生的哥哥梁梁某使用一款A(yù)I平臺(tái)查詢高校報(bào)考信息。結(jié)果，AI生成了該高校主校區(qū)的不準(zhǔn)確信息。

“你這個(gè)騙子！根本沒有這個(gè)校區(qū)。”梁某指出錯(cuò)誤后，AI卻堅(jiān)稱存在這個(gè)校區(qū)，并回答“如果生成內(nèi)容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴。”

之后，梁某將從該高校官網(wǎng)查詢到的招生信息提供給某生成式人工智能應(yīng)用，此時(shí)某生成式人工智能應(yīng)用承認(rèn)其生成了不準(zhǔn)確信息，并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。

梁某認(rèn)為，AI生成錯(cuò)誤信息對其構(gòu)成誤導(dǎo)，而且承諾賠償，起訴AI平臺(tái)的研發(fā)公司賠償9999元。近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請求。

法院認(rèn)為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務(wù)提供者（被告）的意思表示，該“承諾”不產(chǎn)生意思表示的法律效力。

依據(jù)《生成式人工智能服務(wù)管理暫行辦法》屬于“服務(wù)”范疇，生成式AI結(jié)果而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”，應(yīng)適用《中華人民共和國民法典》第一千一百六十五條第一款的一般過錯(cuò)責(zé)任原則，而非產(chǎn)品責(zé)任的無過錯(cuò)責(zé)任原則。意思是說，只有證明服務(wù)提供者對AI生成結(jié)果具有“足夠的預(yù)見和控制能力”的過錯(cuò)，才能要求承擔(dān)責(zé)任。

被告的案涉行為不具有過錯(cuò)，未構(gòu)成對原告權(quán)益的損害，依法不應(yīng)認(rèn)定構(gòu)成侵權(quán)。最終，法院駁回了原告的訴訟請求。原、被告均未上訴，判決現(xiàn)已生效。

對此判決，杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄解釋為，對生成式人工智能侵權(quán)糾紛適用產(chǎn)品責(zé)任，缺乏法律依據(jù)和法理基礎(chǔ)，如果在技術(shù)發(fā)展初期對其苛以過重的嚴(yán)格責(zé)任，可能產(chǎn)生“寒蟬效應(yīng)”，導(dǎo)致某些創(chuàng)新技術(shù)無法落地應(yīng)用。

清華大學(xué)法學(xué)院教授程嘯則認(rèn)為，此判決注意到生成式人工智能的自主性特點(diǎn)、目前技術(shù)措施下模型“幻覺”尚無法全部消除等客觀現(xiàn)實(shí)，充分發(fā)揮了民法典侵權(quán)責(zé)任編的風(fēng)險(xiǎn)治理功能，對未來法院審理類似的案件具有極大的參考價(jià)值。

法院如此裁判，實(shí)則是將AI的識(shí)別風(fēng)險(xiǎn)留給了社會(huì)大眾

隨著AI在社會(huì)生活的應(yīng)用越深入，其不僅具有搜索引擎的作用，而且越來越具有獨(dú)立的思考分析能力，而且是行為指導(dǎo)能力。然而，隨著應(yīng)用的深入，人們也發(fā)現(xiàn)，AI給出的結(jié)果，很多都是錯(cuò)誤的。

例如，本號(hào)《AI真的不靠譜：問了兩個(gè)法律問題，居然這么回答》的一文中，就詳細(xì)分析了很簡單的兩個(gè)法律現(xiàn)象，AI給出的分析結(jié)果，具有明顯的錯(cuò)誤性。

更令人震驚的是，有法院案例顯示，律師提交的AI提供的人民法院案例庫的參考案例，經(jīng)法官查詢后發(fā)現(xiàn)，居然是假的。法官為此差點(diǎn)司法處罰了律師。律師也看到很冤枉，明明是AI及其研發(fā)公司提供的，法院怎么能怪律師呢？

上述的案例中，梁某僅是在查詢中，就發(fā)現(xiàn)了AI結(jié)果的錯(cuò)誤，故法院認(rèn)為，“未構(gòu)成對原告權(quán)益的損害”。試想，如果梁某根據(jù)AI提供的保證正確的結(jié)果，真的填報(bào)了高考志愿，事后發(fā)現(xiàn)報(bào)考錯(cuò)了，造成的損失，AI的研發(fā)公司，是否應(yīng)該承擔(dān)責(zé)任呢？

我國的《生成式人工智能服務(wù)管理暫行辦法》由國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局等七部門于2023年7月10日聯(lián)合公布，自2023年8月15日起正式施行。

其中第3條規(guī)定，國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管。但是，目前尚未就分類分級(jí)監(jiān)管提出具體規(guī)則與判斷標(biāo)準(zhǔn)。

此外還規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。

提供者應(yīng)當(dāng)建立健全投訴、舉報(bào)機(jī)制，設(shè)置便捷的投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理公眾投訴舉報(bào)并反饋處理結(jié)果。

如何理清和規(guī)制AI給使用者造成的損害，提出了全新的法律和司法挑戰(zhàn)

正如以上判決中，法院所提及的，目前的AI產(chǎn)品，并沒有明確的法律規(guī)定進(jìn)行規(guī)范，判案所依據(jù)的，都是一種法理上的分析和歸類。

判決所確立的，AI不具有民事主體資格，不能作出意思表示；AI服務(wù)提供者負(fù)有的不是結(jié)果性義務(wù)，不能因?yàn)樯蓛?nèi)容不準(zhǔn)確就當(dāng)然認(rèn)定服務(wù)提供者存在過錯(cuò)；AI服務(wù)提供者在應(yīng)用程序歡迎頁、用戶協(xié)議及交互界面的顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標(biāo)識(shí)，可以構(gòu)成免責(zé)事由等等，經(jīng)過最高法院、人民法院報(bào)等轉(zhuǎn)載、點(diǎn)評(píng)，今后對此類案件應(yīng)該會(huì)起到參照作用。

然而，以上裁判結(jié)果，實(shí)則是加重了AI使用者的識(shí)別責(zé)任，卻沒有體現(xiàn)出《生成式人工智能服務(wù)管理暫行辦法》對AI開發(fā)者的注意義務(wù)——嚴(yán)控違法信息、顯著提示局限、提升技術(shù)準(zhǔn)確性，在鼓勵(lì)創(chuàng)新的同時(shí)，守住法律和責(zé)任的底線。

AI產(chǎn)品，是人類科技發(fā)展的重大進(jìn)步，但也是未知領(lǐng)域，更是法律上空白。如何在科技發(fā)展時(shí)，體現(xiàn)出鼓勵(lì)創(chuàng)新與保障使用者權(quán)益的平衡，需要更多的研究和探討。

對于當(dāng)下我們這些使用者而言，這個(gè)司法案例再次告誡我們，使用人工AI，一定要保持懷疑精神，避免陷入AI“幻覺”；必須知道的是，如果輕信了AI給出的方案和建議，由此造成的損害后果，也是要自己承擔(dān)的。

注：本文系微信公號(hào)“語人集法”同步原創(chuàng)文章