全國首例AI錯誤侵權之訴警示：使用AI一定要有質(zhì)疑精神

AI一本正經(jīng)、信誓旦旦的“胡說八道”，提問者卻信以為真，并且按照其提示辦事，事后造成的損失，究竟誰應該承擔責任。近日，最高法院發(fā)布了全國首例生成式AI“幻覺”引發(fā)的侵權之訴案例。

案情大概是：

2025年6月，高考生的哥哥梁梁某使用一款AI平臺查詢高校報考信息。結果，AI生成了該高校主校區(qū)的不準確信息。

“你這個騙子！根本沒有這個校區(qū)。”梁某指出錯誤后，AI卻堅稱存在這個校區(qū)，并回答“如果生成內(nèi)容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴?！?/p>

之后，梁某將從該高校官網(wǎng)查詢到的招生信息提供給某生成式人工智能應用，此時某生成式人工智能應用承認其生成了不準確信息，并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。

梁某認為，AI生成錯誤信息對其構成誤導，而且承諾賠償，起訴AI平臺的研發(fā)公司賠償9999元。近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請求。

法院認為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務提供者（被告）的意思表示，該“承諾”不產(chǎn)生意思表示的法律效力。

依據(jù)《生成式人工智能服務管理暫行辦法》屬于“服務”范疇，生成式AI結果而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”，應適用《中華人民共和國民法典》第一千一百六十五條第一款的一般過錯責任原則，而非產(chǎn)品責任的無過錯責任原則。意思是說，只有證明服務提供者對AI生成結果具有“足夠的預見和控制能力”的過錯，才能要求承擔責任。

被告的案涉行為不具有過錯，未構成對原告權益的損害，依法不應認定構成侵權。最終，法院駁回了原告的訴訟請求。原、被告均未上訴，判決現(xiàn)已生效。

對此判決，杭州互聯(lián)網(wǎng)法院跨境貿(mào)易法庭庭長肖芄解釋為，對生成式人工智能侵權糾紛適用產(chǎn)品責任，缺乏法律依據(jù)和法理基礎，如果在技術發(fā)展初期對其苛以過重的嚴格責任，可能產(chǎn)生“寒蟬效應”，導致某些創(chuàng)新技術無法落地應用。

清華大學法學院教授程嘯則認為，此判決注意到生成式人工智能的自主性特點、目前技術措施下模型“幻覺”尚無法全部消除等客觀現(xiàn)實，充分發(fā)揮了民法典侵權責任編的風險治理功能，對未來法院審理類似的案件具有極大的參考價值。

法院如此裁判，實則是將AI的識別風險留給了社會大眾

隨著AI在社會生活的應用越深入，其不僅具有搜索引擎的作用，而且越來越具有獨立的思考分析能力，而且是行為指導能力。然而，隨著應用的深入，人們也發(fā)現(xiàn)，AI給出的結果，很多都是錯誤的。

例如，本號《AI真的不靠譜：問了兩個法律問題，居然這么回答》的一文中，就詳細分析了很簡單的兩個法律現(xiàn)象，AI給出的分析結果，具有明顯的錯誤性。

更令人震驚的是，有法院案例顯示，律師提交的AI提供的人民法院案例庫的參考案例，經(jīng)法官查詢后發(fā)現(xiàn)，居然是假的。法官為此差點司法處罰了律師。律師也看到很冤枉，明明是AI及其研發(fā)公司提供的，法院怎么能怪律師呢？

上述的案例中，梁某僅是在查詢中，就發(fā)現(xiàn)了AI結果的錯誤，故法院認為，“未構成對原告權益的損害”。試想，如果梁某根據(jù)AI提供的保證正確的結果，真的填報了高考志愿，事后發(fā)現(xiàn)報考錯了，造成的損失，AI的研發(fā)公司，是否應該承擔責任呢？

我國的《生成式人工智能服務管理暫行辦法》由國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局等七部門于2023年7月10日聯(lián)合公布，自2023年8月15日起正式施行。

其中第3條規(guī)定，國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。但是，目前尚未就分類分級監(jiān)管提出具體規(guī)則與判斷標準。

此外還規(guī)定，提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內(nèi)容的準確性和可靠性。

提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結果。

如何理清和規(guī)制AI給使用者造成的損害，提出了全新的法律和司法挑戰(zhàn)

正如以上判決中，法院所提及的，目前的AI產(chǎn)品，并沒有明確的法律規(guī)定進行規(guī)范，判案所依據(jù)的，都是一種法理上的分析和歸類。

判決所確立的，AI不具有民事主體資格，不能作出意思表示；AI服務提供者負有的不是結果性義務，不能因為生成內(nèi)容不準確就當然認定服務提供者存在過錯；AI服務提供者在應用程序歡迎頁、用戶協(xié)議及交互界面的顯著位置呈現(xiàn)AI生成內(nèi)容功能局限的提醒標識，可以構成免責事由等等，經(jīng)過最高法院、人民法院報等轉載、點評，今后對此類案件應該會起到參照作用。

然而，以上裁判結果，實則是加重了AI使用者的識別責任，卻沒有體現(xiàn)出《生成式人工智能服務管理暫行辦法》對AI開發(fā)者的注意義務——嚴控違法信息、顯著提示局限、提升技術準確性，在鼓勵創(chuàng)新的同時，守住法律和責任的底線。

AI產(chǎn)品，是人類科技發(fā)展的重大進步，但也是未知領域，更是法律上空白。如何在科技發(fā)展時，體現(xiàn)出鼓勵創(chuàng)新與保障使用者權益的平衡，需要更多的研究和探討。

對于當下我們這些使用者而言，這個司法案例再次告誡我們，使用人工AI，一定要保持懷疑精神，避免陷入AI“幻覺”；必須知道的是，如果輕信了AI給出的方案和建議，由此造成的損害后果，也是要自己承擔的。

注：本文系微信公號“語人集法”同步原創(chuàng)文章