![]()
易筆直言/文
全國首例 AI 幻覺侵權(quán)案的判決,讓 AI “說謊” 的責(zé)任歸屬成了熱議焦點(diǎn)。
2025 年 6 月,梁某使用某 AI 應(yīng)用查詢高校報考信息時,被生成的不實(shí)內(nèi)容誤導(dǎo),而 AI 此前還曾承諾信息有誤便賠償 10 萬元。在梁某拿出高校官方信息佐證后,AI 雖承認(rèn)錯誤,但其運(yùn)營方卻拒絕賠償。梁某隨后起訴索賠 9999 元,杭州互聯(lián)網(wǎng)法院最終以運(yùn)營方無過錯、梁某無實(shí)際損失為由,駁回了其訴訟請求。
這起案件的核心爭議,在于 AI 生成的錯誤信息該由誰擔(dān)責(zé)。運(yùn)營方的抗辯理由看似站得住腳:AI 內(nèi)容系模型自動生成,并非其意思表示,且已盡到提醒和技術(shù)優(yōu)化義務(wù)。而從技術(shù)層面來說,AI 幻覺是大語言模型的固有特性,新加坡國立大學(xué)、謝菲爾德大學(xué)的研究均證實(shí),這種 “撒謊” 在數(shù)學(xué)上具有必然性,就像圓周率是無理數(shù)一樣無法根除。AI 本就只是處理語詞符號的 “詞體”,沒有真實(shí)的感官經(jīng)驗(yàn),其回答不過是脫離現(xiàn)實(shí)的 “夢話”,這也讓運(yùn)營方的脫責(zé)有了技術(shù)層面的支撐。
但技術(shù)上的不可避免,絕不等于運(yùn)營方可以完全甩鍋。這一點(diǎn),加拿大航空的 AI 客服案早已給出答案。乘客為奔喪咨詢加航智能客服,被承諾可申請喪親折扣,實(shí)際該航司并無此政策,系 AI 產(chǎn)生幻覺。即便加航以無法預(yù)判機(jī)器人表述為由主張免責(zé),仍被法院駁回,最終不僅賠償折扣金額,還支付了額外賠償金,原因就是法院認(rèn)定其未采取必要措施保障 AI 回復(fù)的準(zhǔn)確性。
對比兩起案件的判決不難發(fā)現(xiàn),我國首例 AI 幻覺案的駁回,并非否定運(yùn)營方的所有責(zé)任,而是當(dāng)前法律對 AI 這一新生事物的審慎考量,畢竟過苛的責(zé)任可能限制產(chǎn)業(yè)發(fā)展。但這絕不意味著 AI 運(yùn)營方可以高枕無憂,法院明確的三層注意義務(wù),已是劃給行業(yè)的責(zé)任紅線:嚴(yán)審違法信息、顯著提示風(fēng)險、采取技術(shù)提升準(zhǔn)確性,這些都是運(yùn)營方必須扛起的責(zé)任。
同時,這起案件也給所有用戶提了個醒:AI 終究只是輔助工具,而非權(quán)威的決策依據(jù)。其輸出的內(nèi)容只是概率生成的文本,而非經(jīng)現(xiàn)實(shí)驗(yàn)證的知識,面對 AI 給出的答案,保持甄別和核實(shí)的意識,是當(dāng)下使用 AI 的基本準(zhǔn)則。
AI 技術(shù)的發(fā)展勢不可擋,AI 幻覺也會長期存在。首例案件的判決,不是這場討論的終點(diǎn),而是厘清人機(jī)權(quán)責(zé)的起點(diǎn)。既不能因技術(shù)局限苛責(zé)運(yùn)營方,扼殺創(chuàng)新;更不能讓運(yùn)營方以技術(shù)為借口逃避責(zé)任,將風(fēng)險全部轉(zhuǎn)嫁給用戶。唯有劃定清晰的權(quán)責(zé)邊界,讓運(yùn)營方守好技術(shù)和提醒的底線,讓用戶保持理性判斷,才能讓 AI 在創(chuàng)新與規(guī)范中真正服務(wù)于人。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.