法治觀察：偽造證據虛構法條編造案例，當AI入侵司法，我們該怎么辦

一

近日，湖北孝感大悟法院在審理一起房屋租賃合同糾紛案時，發生了一件令人啼笑皆非的事情。

原告委托自己的女兒董某擔任訴訟代理人，向法院起訴租客熊某，要求其支付后半年租金及水電費。開庭時，董某稱熊某是房屋首位租客，所有水電費均由其產生，并承諾庭后補交租期前后水電表照片作為佐證。

然而，當法官看到董某發來的照片時，著實有些無語。只見董某提交的照片右下角，赫然帶有“豆包AI生成”的水印。法官回復：“你這豆包生產的照片不能如此吧。”

今年以來，越來越多人開始習慣把生成式人工智能作為輔助工具。一方面，技術門檻降低導致董某這樣的“造假”行為越來越容易；另一方面，生成式人工智能的副作用“深度偽造”“AI幻覺”也越發明顯，對司法審判也造成了不小的影響。

相比于董某這樣故意生成假圖片，很多時候，當事人本人其實不知道，AI回答時言之鑿鑿的法條、案例，其實是瞎編的。

不久前，上海市第二中級人民法院民事審判庭一位法官曾收到一份上訴狀，其中引用了2025年3月頒布的《關于審理社會保險糾紛案件適用法律若干問題的解釋（二）》。然而，該法官查遍法條也未找到，咨詢行政庭資深法官后確認，該司法解釋純屬AI編造。

不止是缺乏專業法律知識的當事人，就連律師也有中招的時候。今年，北京市通州區人民法院披露，原告代理人為了進一步佐證其觀點，在向法庭提交的書面意見中，援引了最高人民法院某案例及上海市第一中級人民法院的（2022）滬01民終12345號案件。但經法庭核查，這兩起所謂的司法案例實為AI杜撰生成。

二

不過，對于AI可能會影響司法裁判最終結果一事，目前尚不必過分擔心。法院審理案件時，有一套嚴格的規范，對于出示的證據需要進行質證，引用的法律條文也會進行核實。

在董某這起案件中，即使她心細一點，裁掉了水印，法官也需要結合其他證據來做出判斷。事實上，即使看到了如此明顯的水印，法官仍然沒有輕率地判定，而是做了進一步核查。

比如，詢問董某水電表使用情況。在法官的反復追問下，董某的陳述很快出現了前后矛盾：起初她聲稱水電表為單獨使用，后在追問下改口承認房屋為“一梯兩戶”，兩戶共用同一水電表。

雖然用AI偽造證據看起來新鮮，但用“PS”之類的修圖軟件來造假，早已有之。近日，長春凈月高新技術產業開發區人民法院審結一起民間借貸糾紛案，原告起訴稱，其通過債權轉讓獲得了被告欠第三人孫某的102萬元借款債權。

后來，第三人在庭審中承認，其與被告之間并無真實借貸關系，提交的《欠條》《借款合同》均系單方制作，均無債務人簽字；關鍵的多筆銀行轉賬流水，系其使用軟件對真實流水進行“PS”偽造、變造而成。

為了圓一個謊，需要編織更多謊言。只要法院嚴格依照司法程序進行審理，想依靠人工智能來欺騙法院，進而影響司法判決結果，并沒有那么容易。公眾對于司法裁判還是要有信心。

當然，這不意味著我們不需要警惕AI“入侵”司法一事。一方面，識別高精度的偽造，需要消耗法官更多精力，會顯著增加司法成本。另一方面，上海多位法官表示，當司法判決結果與AI給出的答案不同時，很多敗訴的當事人會選擇相信AI，對司法公信力產生不信任。

三

需要指出的是，作為新質生產力的代表，人工智能的好處顯而易見，使用AI工具本身不是問題。

全國律協今年組織的一場業務交流會透露，越來越多的律所引入相關應用產品，搭建智能法律服務平臺，實現案件管理、文檔檢索自動化等，使律師在處理案件時避免了以往的重復性勞動，能夠將更多的精力放在案件分析和法律論證上。

我們真正應該警惕的，是對人工智能的迷信心理。不論是在司法案件中，還是在其他領域。

仔細觀察就會發現，使用傳統的搜索引擎時，得到的信息雖然也有真有假，但大部分是完整的單一信源，上下文都在，辨別真假較為容易。而生成式人工智能提供的往往是整合后的答案，在這個過程中，很可能斷章取義、張冠李戴，改變了原文的意思。

在上海二中院法官遇到的這起案子中，AI引用了民法典中的一條作為依據，該條款從字面上看來，可以支持上訴請求。但實際上，每一則法條都有其嚴格的適用范圍，該條款并不能用在這起案件涉及的糾紛類型上。

更有甚者，有些時候人工智能在被反復提問后，會揣摩提問者的意圖，從而給出其心中想要的答案。即使是專業人士，面對完全符合心意的回答，有時也難免放松警惕。且由于AI提供的法律知識往往格式工整，這種形式上的專業也具有很強的誤導性。

破除對人工智能的迷信，除了相關企業要加強對內容的審核、持續優化算法之外，對社會公眾的人工智能知識普及教育也需盡快提升日程。今年的全國兩會上，就有代表建議把人工智能教育當作一項基礎教育來抓，從現在起重視培養學生使用人工智能的能力，大規模普及人工智能教育。好在，部分AI已經會按用戶要求給出信息來源依據，對于新技術的應用，我們要大膽包容，但涉及法律底線，更要審慎嚴謹。

來源 | 解放日報

作者 | 王閑樂