我國首例AI幻覺案敲響警鐘，AI撒謊到底該誰擔(dān)責(zé)？

易筆直言/文

全國首例 AI 幻覺侵權(quán)案的判決，讓 AI “說謊” 的責(zé)任歸屬成了熱議焦點(diǎn)。

2025 年 6 月，梁某使用某 AI 應(yīng)用查詢高校報考信息時，被生成的不實(shí)內(nèi)容誤導(dǎo)，而 AI 此前還曾承諾信息有誤便賠償 10 萬元。在梁某拿出高校官方信息佐證后，AI 雖承認(rèn)錯誤，但其運(yùn)營方卻拒絕賠償。梁某隨后起訴索賠 9999 元，杭州互聯(lián)網(wǎng)法院最終以運(yùn)營方無過錯、梁某無實(shí)際損失為由，駁回了其訴訟請求。

這起案件的核心爭議，在于 AI 生成的錯誤信息該由誰擔(dān)責(zé)。運(yùn)營方的抗辯理由看似站得住腳：AI 內(nèi)容系模型自動生成，并非其意思表示，且已盡到提醒和技術(shù)優(yōu)化義務(wù)。而從技術(shù)層面來說，AI 幻覺是大語言模型的固有特性，新加坡國立大學(xué)、謝菲爾德大學(xué)的研究均證實(shí)，這種 “撒謊” 在數(shù)學(xué)上具有必然性，就像圓周率是無理數(shù)一樣無法根除。AI 本就只是處理語詞符號的 “詞體”，沒有真實(shí)的感官經(jīng)驗(yàn)，其回答不過是脫離現(xiàn)實(shí)的 “夢話”，這也讓運(yùn)營方的脫責(zé)有了技術(shù)層面的支撐。

但技術(shù)上的不可避免，絕不等于運(yùn)營方可以完全甩鍋。這一點(diǎn)，加拿大航空的 AI 客服案早已給出答案。乘客為奔喪咨詢加航智能客服，被承諾可申請喪親折扣，實(shí)際該航司并無此政策，系 AI 產(chǎn)生幻覺。即便加航以無法預(yù)判機(jī)器人表述為由主張免責(zé)，仍被法院駁回，最終不僅賠償折扣金額，還支付了額外賠償金，原因就是法院認(rèn)定其未采取必要措施保障 AI 回復(fù)的準(zhǔn)確性。

對比兩起案件的判決不難發(fā)現(xiàn)，我國首例 AI 幻覺案的駁回，并非否定運(yùn)營方的所有責(zé)任，而是當(dāng)前法律對 AI 這一新生事物的審慎考量，畢竟過苛的責(zé)任可能限制產(chǎn)業(yè)發(fā)展。但這絕不意味著 AI 運(yùn)營方可以高枕無憂，法院明確的三層注意義務(wù)，已是劃給行業(yè)的責(zé)任紅線：嚴(yán)審違法信息、顯著提示風(fēng)險、采取技術(shù)提升準(zhǔn)確性，這些都是運(yùn)營方必須扛起的責(zé)任。

同時，這起案件也給所有用戶提了個醒：AI 終究只是輔助工具，而非權(quán)威的決策依據(jù)。其輸出的內(nèi)容只是概率生成的文本，而非經(jīng)現(xiàn)實(shí)驗(yàn)證的知識，面對 AI 給出的答案，保持甄別和核實(shí)的意識，是當(dāng)下使用 AI 的基本準(zhǔn)則。

AI 技術(shù)的發(fā)展勢不可擋，AI 幻覺也會長期存在。首例案件的判決，不是這場討論的終點(diǎn)，而是厘清人機(jī)權(quán)責(zé)的起點(diǎn)。既不能因技術(shù)局限苛責(zé)運(yùn)營方，扼殺創(chuàng)新；更不能讓運(yùn)營方以技術(shù)為借口逃避責(zé)任，將風(fēng)險全部轉(zhuǎn)嫁給用戶。唯有劃定清晰的權(quán)責(zé)邊界，讓運(yùn)營方守好技術(shù)和提醒的底線，讓用戶保持理性判斷，才能讓 AI 在創(chuàng)新與規(guī)范中真正服務(wù)于人。