印度法官使用由AI生成的判決書，引起巨大爭議

本文共計：1555字，4圖

閱讀預(yù)計：3分鐘

使用人工智能(AI)可以幫助人們高效便捷地完成任務(wù)，但隨著AI的推廣和普及，人類對其依賴也愈發(fā)嚴重，以至于近期在印度發(fā)生了一起匪夷所思的事件：法官借助AI生成判決書，還以無中生有的判例為依據(jù)，引發(fā)了人類智慧和人工智能孰為主宰的爭論。

AI法官的爭論

根據(jù)《印度斯坦報》3月報道，該案件始于2025年8月，安得拉邦的維杰亞瓦達市一名初級民事法官就一起存有爭議的房產(chǎn)案件做出了裁決。

此前，法院已指派工作人員對該存在爭議的房產(chǎn)進行勘測并提交報告，但本案被告對此表示反對。

法官駁回了被告的反對意見，并引用了四項“舊判例”——這些判例后來被證明是AI生成的、不曾存在過的判例。

被告在邦高等法院對該裁決提出質(zhì)疑，指出所引用的四個判例是編造的（AI臆想的）。

高等法院證實了包括所謂2013年的蘇布拉瑪尼（Subramani）訴納塔拉真（Natarajan）等案件并不存在，并接受了初級民事法官是“出于善意”犯下錯誤的說法。

然而，被告不滿這一裁決，將案件上訴至印度最高法院后得到了不同的結(jié)論，此事也在全國范圍內(nèi)引起廣泛爭議，焦點聚焦于人類對人工智能的正確使用。

涉案法官在向高等法院提交的報告中辯解說，這是她第一次使用AI工具，當時認為判例是“真實的”。高等法院嚴厲地譴責了這名法官的行為。

安得拉邦涉事初級法官

《印度快報》報道，最高法院在2月27日的一項命令中表示：“我們必須聲明，基于這種不存在的虛假判決所作出的決定并非是決策錯誤。這屬于不正當行為，并將承擔法律后果。”同時高等法院警告說，使用人工智能進行法律研究的人應(yīng)該嚴格審查其輸出結(jié)果。人工智能不受監(jiān)管的使用可能引發(fā)嚴重問題，包括侵犯隱私、損害公眾對司法判決的信心和信任。

人工智能系統(tǒng)以其“產(chǎn)生幻覺”、將虛假信息斷言為事實的特點而聞名，有時候甚至會為不準確的信息捏造來源。該案件引發(fā)了人類對于人工智能的依賴質(zhì)疑和信任危機，也在印度社交媒體上掀起廣泛爭議。

在X平臺上，一名叫做pavanduggal的網(wǎng)友認為：“印度做了很多國家沒有做的事情：在法律中正式定義了合成生成的信息，深度偽造、人工智能生成的視頻、克隆的聲音、超逼真的操縱內(nèi)容——所有這些現(xiàn)在都具有法律身份，并且?guī)砹朔珊蠊！?/p>

另一位網(wǎng)友提出立法要跟上AI的步伐：“法律的變革以數(shù)十年為單位，而人工智能的變革以月為單位。”

美國法院已經(jīng)宣布人工智能產(chǎn)生的藝術(shù)品不享受版權(quán)保護，印度呢？

也有一些網(wǎng)友認為AI改變著我們的生活方式，一個復(fù)雜的案子交給AI分分鐘搞定，這樣的效率試問哪個人類能夠做到？

人類和AI

在國際范圍內(nèi)，這不是第一起在法庭場景中使用AI引發(fā)爭議的事件。去年10月，美國兩名聯(lián)邦法官因使用AI工具導(dǎo)致判決錯誤。2025年6月，英格蘭及威爾士高等法院警告律師不要使用AI生成案例材料。

法官使用人工智能判案引起的社會爭議本質(zhì)上是傳統(tǒng)司法體系與前沿技術(shù)的一次激烈碰撞，爭議聚焦于借助AI提高效率和堅守獨立思考的平衡，也引發(fā)了人類對于人工智能介入司法能否保持公正、責任和透明的質(zhì)疑。

AI風險管理提上日程

這一事件是必要且有價值的，因為它引發(fā)了印度司法界，乃至全球司法界的反省：在AI浪潮之中，人類的智慧和道德判斷是我們必須堅守的。必須盡早校準人工智能可能存在的威脅人權(quán)的重大風險，尤其是令人擔憂的算法歧視、大規(guī)模監(jiān)控和隱私侵蝕。

如果沒有強有力的、透明的和負責任的治理，人工智能可能會加劇不平等，損害邊緣群體利益。因此人權(quán)、包容性和問責制必須成為其發(fā)展的基礎(chǔ)。

本文為印度通原創(chuàng)作品，任何自媒體及個人均不可以以任何形式轉(zhuǎn)載（包括注明出處），免費平臺欲獲得轉(zhuǎn)載許可必須獲得作者本人或者“印度通”平臺授權(quán)。任何將本文截取任何段落用于商業(yè)推廣或者宣傳的行徑均為嚴重的侵權(quán)違法行為，均按侵權(quán)處理，追究法律責任。

>> 熱文索引 <<