觀影《極限審判》：當(dāng)人工智能成為法官會(huì)發(fā)生什么？

在不遠(yuǎn)未來(lái)的2029年8月14日，位于美國(guó)加州洛杉磯的人工智能法庭Mercy開(kāi)啟了第十九場(chǎng)審判，被告人正是最初協(xié)助建立法庭的雷文（Raven）警官。雷文被控殺死了他的妻子，各項(xiàng)證據(jù)表明，他作為兇手的可能性高達(dá)97.5%。要想成功地為自己辯護(hù)，他必須在90分鐘的時(shí)間內(nèi)將這種可能性降低5%，從而建立“合理懷疑”，否則倒計(jì)時(shí)結(jié)束他就會(huì)被自動(dòng)執(zhí)行死刑。影片的長(zhǎng)度恰好也是90分鐘，雷文雖然否認(rèn)自己是兇手，卻因?yàn)樽砭剖洠谑亲C據(jù)展示也是探尋真相的游戲開(kāi)始……

真相存在于黑白之間

影片的故事情節(jié)具有科幻的性質(zhì)，但是在法律未來(lái)主義者的眼中，隨著技術(shù)的快速進(jìn)步，以人工智能取代人類作為法律決定者的“法律奇點(diǎn)”時(shí)刻正在無(wú)限接近。影片的整體基調(diào)是警示的，犯罪與刑罰涉及太多的灰色地帶，無(wú)法完全交由人工智能法庭裁決。

我們經(jīng)常看到的美劇橋段是：當(dāng)律師在盤問(wèn)證人時(shí)，證人只能回答是或否。這種只能二選一的方式，似乎完美契合計(jì)算機(jī)的二進(jìn)制語(yǔ)言。人工智能法官馬多克斯（Maddox）也只相信事實(shí)，“人人都會(huì)撒謊，只有事實(shí)是非黑即白的。”然而雷文警官告訴她，真相是存在于黑白之間的。事實(shí)是客觀存在或發(fā)生的事和物。雷文警官與妻子發(fā)生了爭(zhēng)執(zhí)、餐刀上留有他的指紋、妻子死亡前口中呼喊他的名字、兩人的感情已經(jīng)出現(xiàn)了危機(jī)，所有事實(shí)都可以通過(guò)文字或錄像再現(xiàn)。然而真相就是雷文殺死了自己的妻子嗎？

因?yàn)椴⒉淮嬖谥苯拥氖聦?shí)證據(jù)，所以人們對(duì)于真相只能是基于既有事實(shí)的認(rèn)知和建構(gòu)，難以完全避免主觀性，甚至無(wú)法完全擺脫經(jīng)驗(yàn)、知識(shí)和立場(chǎng)的影響，從既有事實(shí)中構(gòu)造出不同的認(rèn)知。影片中人工智能法官馬多克斯的兩次錯(cuò)誤，都是被人有意識(shí)地利用事實(shí)構(gòu)造出犯罪的“假相”：第一起審判是人為毀滅了證明被告無(wú)罪的事實(shí)，第十九起審判則是人為構(gòu)造了陷害被告的事實(shí)。人工智能只能根據(jù)其所見(jiàn)推斷表面上的真實(shí)，至少說(shuō)明了其無(wú)法識(shí)破這種精心設(shè)計(jì)的騙局。若是在死刑審判中，一個(gè)人工智能系統(tǒng)制造冤假錯(cuò)案的概率是十九分之二，這是任何一個(gè)法律體系都不可能容忍的。相比之下，一個(gè)人工系統(tǒng)若是放縱漏網(wǎng)之魚(yú)的概率是十九分之二，我們是否會(huì)更樂(lè)意選擇后者這種有瑕疵的系統(tǒng)呢？

電影《極限審判》劇照。

不受偏見(jiàn)左右可能也意味著無(wú)法共情

當(dāng)然，可以說(shuō)人工智能法官的錯(cuò)誤都是人類的錯(cuò)誤，只要能夠保證證據(jù)的全面、真實(shí)和客觀，并非人工智能系統(tǒng)本身的問(wèn)題。人工智能系統(tǒng)的優(yōu)點(diǎn)，恰恰是因?yàn)椴皇苋祟惽榫w的左右，例如法官的心理、律師在法庭上的表演以及陪審團(tuán)的憤怒等，人工智能可以做出完全客觀中立的最終判決。影片中的雷文警官，正是因?yàn)樵斐勺约捍顧n之死的被告被陪審團(tuán)無(wú)罪釋放，成為Mercy法庭最初的建立者和忠實(shí)的執(zhí)行者。除此之外，影片似乎也在預(yù)設(shè)人工智能法庭在效率和效果方面的優(yōu)點(diǎn)，相較于傳統(tǒng)刑事審判拖沓的程序設(shè)計(jì)，人工智能法庭為政府節(jié)省了數(shù)十億美元，而且洛杉磯的犯罪率下降了68%。

自近代早期以來(lái)，在自然科學(xué)的影響下，通過(guò)精密技術(shù)增加法律的確定性，以自動(dòng)化的法律機(jī)器排除法律適用中人類因素的影響，一直就是許多思想家的夢(mèng)想。其形態(tài)誠(chéng)如二十世紀(jì)初馬克思·韋伯所述：“現(xiàn)代法官就像一臺(tái)自動(dòng)售貨機(jī)，人們把文件和費(fèi)用從上面扔進(jìn)去，法官就會(huì)從下面吐出判決書(shū)和多少具有說(shuō)服力的理由。”我們?cè)谌粘ＵZ(yǔ)言中經(jīng)常見(jiàn)到“情理法”三者并用，或是“法不容情”這樣的表述。法官的恣意、大眾的情緒在法律適用中往往都是被作為負(fù)面因素看待的，所以必須通過(guò)法律和程序加以約束。

而在計(jì)算法律學(xué)的視野下，為了便于人工智能技術(shù)在法律領(lǐng)域更普遍的應(yīng)用，未來(lái)的立法應(yīng)該具有充分的技術(shù)意識(shí)，盡可能采用計(jì)算機(jī)能夠識(shí)別和理解的方式加以表述。然而到目前為止，在全世界范圍內(nèi)，完全自動(dòng)化的情形只在少數(shù)行政領(lǐng)域得到了明確的允許，這些領(lǐng)域的行政決定往往數(shù)量眾多、規(guī)則清晰且是反復(fù)出現(xiàn)的同類案件。鑒于法律本身是一種帶有價(jià)值導(dǎo)向的體系，法律的語(yǔ)言中存在模糊之處，因此當(dāng)規(guī)范通過(guò)數(shù)據(jù)或者計(jì)算機(jī)程序進(jìn)行轉(zhuǎn)譯時(shí)，有可能存在價(jià)值上的損失，甚至以數(shù)據(jù)驅(qū)動(dòng)的自我學(xué)習(xí)的人工智能系統(tǒng)，可能會(huì)引入數(shù)據(jù)中存在的偏見(jiàn)。所以當(dāng)涉及模糊的語(yǔ)言、開(kāi)放的文本和價(jià)值權(quán)衡的時(shí)候，應(yīng)該禁止由人工智能系統(tǒng)完全自動(dòng)作出決定，當(dāng)決定關(guān)系到憲法上所保護(hù)的重要權(quán)利時(shí)尤其應(yīng)該如此。最典型的如德國(guó)《行政程序法》第35a條和歐盟《人工智能法》第5條關(guān)于禁止使用人工智能的情形。

即便前述問(wèn)題可以經(jīng)過(guò)技術(shù)迭代得到解決，人工智能的自動(dòng)化決定取代人工決定，還意味著“同理心”無(wú)法在法律適用中發(fā)揮作用。同理心并非一種情感，而是一種能夠承認(rèn)、回應(yīng)和理解他人處境的能力，當(dāng)涉及少數(shù)弱勢(shì)群體時(shí)更是如此。所以影片中一個(gè)頗為令人回味的情節(jié)是，人工智能法庭的建設(shè)者和執(zhí)行者雷文警官，最終自己坐到了被告席上，讓其與其他十八起案件的被告“感同身受”。同理心是目前尚未發(fā)展出（或許永遠(yuǎn)也無(wú)法發(fā)展出）人類情感的人工智能所不具備的。當(dāng)然，如同所有人類的情緒一樣，同理心更容易在具有相同身份的人之間產(chǎn)生，即“像我”，同理心也意味著其可能產(chǎn)生偏袒。但是真正的問(wèn)題不是應(yīng)否發(fā)揮同理心的作用，而是如何防止同理心被濫用。

電影《極限審判》劇照。

從人機(jī)對(duì)抗

到人機(jī)合作

人類和人工智能的相處方式并非只有彼此替代一種模式，影片還給我們展示了從人機(jī)對(duì)話到人機(jī)合作的模式，善加利用人工智能當(dāng)然可以增強(qiáng)人類自身的能力。雷文警官利用自己身為專業(yè)執(zhí)法人員的直覺(jué)和理性冷峻的人工智能法官，從最初的法律論證，即雷文警官是否有罪，發(fā)展到協(xié)作尋找案件真相，最后則是合作阻止犯罪的發(fā)生。

直覺(jué)是一種讓人瞬間感知和快速反應(yīng)的能力，雷文警官的直覺(jué)告訴他哪里不對(duì)勁，但直覺(jué)往往是跳躍的，缺少細(xì)節(jié)和證據(jù)的支撐；人工智能法官馬多克斯則運(yùn)用理性分析的過(guò)程，逐個(gè)排除相關(guān)因素，預(yù)測(cè)引爆裝置失效的概率。人工智能所缺少的關(guān)鍵功能正是像人類一樣的意識(shí)和情感，人工智能也無(wú)法應(yīng)對(duì)系統(tǒng)中沒(méi)有預(yù)先設(shè)定程序的突發(fā)事件。即便是目前擬人化人工智能所提供的情感共鳴，也只是基于數(shù)據(jù)的模擬。因此人工智能技術(shù)的努力方向之一就是模擬人類的情感和直覺(jué)。當(dāng)雷文談到自己對(duì)妻子的愛(ài)時(shí)，馬多克斯甚至以嘲弄的口氣說(shuō)那不過(guò)是一種因?yàn)槎喟桶贩置谒鶐?lái)的生理現(xiàn)象，而作為一種生理現(xiàn)象就是可觀察和感知的。

但在影片的最后，人工智能法官馬多克斯似乎呈現(xiàn)出驚訝、慌亂甚至被雷文的懇求所打動(dòng)的神態(tài)，當(dāng)載有雷文女兒的卡車沖向Mercy法庭時(shí)，人類的應(yīng)對(duì)方式是毫無(wú)情感的理性計(jì)算，決定摧毀卡車以保全人工智能法庭，而馬多克斯似乎利用自己的能力讓爆炸裝置失靈了。塵埃落定之際，雷文反問(wèn)了一句：我們?nèi)际前凑找?guī)定的流程行事的？或許對(duì)于人工智能來(lái)說(shuō)是如此，然而人生不可能是被預(yù)先設(shè)定或可被隨意改寫(xiě)的程序代碼，也不完全是行走在預(yù)定的軌道上，人生是五顏六色的，每個(gè)人都需要有情感來(lái)填補(bǔ)內(nèi)心深處的空隙。

電影《極限審判》劇照。

“寬恕法庭”真的實(shí)現(xiàn)了寬恕嗎？

影片中人工智能系統(tǒng)的設(shè)定還突破了兩個(gè)非常重要的約束條件。第一個(gè)是現(xiàn)實(shí)約束。人工智能系統(tǒng)能力的發(fā)揮有賴于可獲取的海量數(shù)據(jù)。影片設(shè)定的人工智能系統(tǒng)馬多克斯是一個(gè)全能性（omnipotent）的數(shù)字利維坦，可以獲取所有監(jiān)控錄像的信息，可以訪問(wèn)諸如私人電子郵件、短信、Instagram社交賬號(hào)等任何網(wǎng)絡(luò)信息，可以輕松繞開(kāi)私人密碼，可以隨時(shí)打通任何一個(gè)人的電話。馬多克斯唯一的不足則是通過(guò)物理世界的空中警察小隊(duì)來(lái)補(bǔ)充的，這支隊(duì)伍可以迅即抵達(dá)任何規(guī)定的地點(diǎn)。這樣一個(gè)人工智能系統(tǒng)同時(shí)也是一個(gè)全面的監(jiān)控系統(tǒng)，不僅可以用于審判中的調(diào)查取證，同樣也可以用于預(yù)測(cè)犯罪。這不禁讓人想到《少數(shù)派報(bào)告》（Minority Report）中預(yù)測(cè)犯罪的“先知”和美劇《疑犯追蹤》（Person of interest）中的“機(jī)器”（The Machine），后者通過(guò)大規(guī)模的社會(huì)監(jiān)控預(yù)測(cè)有計(jì)劃的犯罪。

第二個(gè)是規(guī)范約束。影片中的人工智能法庭是一種全權(quán)性的機(jī)構(gòu)（omnicompetent）：獲得了社會(huì)公眾的高度信任；馬多克斯集起訴人、法官和行刑者于一身；其指令至高無(wú)上，所有人都必須服從；她被允許查看任何云端數(shù)據(jù)，也無(wú)須搜查令即可訪問(wèn)私人設(shè)備信息。或許她唯一的約束就是兩條最簡(jiǎn)單不過(guò)的條文：實(shí)體法律上的是“殺人者死”；程序法上的是允許被告有90分鐘的時(shí)間證明存在合理懷疑。效率即正義，在這樣一個(gè)極致的效率工具面前，被告人除了利用人工智能系統(tǒng)自身的力量之外，幾乎被剝奪了任何的權(quán)益保障。

人類法庭目前為止所有的設(shè)置，無(wú)論是指定辯護(hù)人，通過(guò)陪審團(tuán)審判，還是通過(guò)漫長(zhǎng)的庭審過(guò)程進(jìn)行舉證和質(zhì)證，都是為了正義所付出的必要成本和代價(jià)，也是為了尊重每一個(gè)生命所付出的成本和代價(jià)。這種設(shè)置不僅惠及少數(shù)群體，也惠及所有人。因此，全自動(dòng)的人工智能法庭這樣的設(shè)想，或許在認(rèn)知的層面上很有趣，然而因?yàn)槠涫÷省⒁?guī)范性以及隱性的代價(jià)方面，在涉及人類基本權(quán)利的領(lǐng)域中很難被允許。

影片最大的諷刺之處在于人工智能法庭的名字叫作“寬恕”（Mercy）。然而整個(gè)審判過(guò)程中卻看不到絲毫的“寬恕”，甚至可以說(shuō)是毫不寬恕（Merciless）。在影片的審判場(chǎng)景中，被告人孤零零地被捆在椅子上，只能與“高高在上”的人工智能系統(tǒng)進(jìn)行對(duì)話。這不禁令人想起卡夫卡式的“距離暴政”（distance of tyranny），因?yàn)榫嚯x的疏離而缺乏同情心。每個(gè)人在面臨像Mercy這樣龐大的機(jī)器時(shí)都是脆弱的，只有像雷文警官這樣熟練的專業(yè)人士才有可能充分地展開(kāi)自救。

在美國(guó)法律上，最能體現(xiàn)“寬恕”的權(quán)力有三種：第一種是陪審團(tuán)的否決權(quán)（Jury Nullification），即陪審團(tuán)有權(quán)在認(rèn)定被告有罪的前提下，因不認(rèn)同相關(guān)法律或認(rèn)為起訴不當(dāng)，通過(guò)自身的裁量作出無(wú)罪判決。第二種是檢察官?zèng)Q定不起訴的權(quán)力；第三種則是總統(tǒng)給予特赦的權(quán)力。

誠(chéng)如美國(guó)哲學(xué)家杰拉爾德·J·波斯特馬（Gerald J. Postema）所述，若是在刑事審判中沒(méi)有寬恕進(jìn)行調(diào)劑，就會(huì)在社會(huì)中產(chǎn)生一種“令人無(wú)法容忍的自以為是。被告的罪過(guò)表明的是一種值得譴責(zé)的弱點(diǎn)，而這種弱點(diǎn)，自以為是的官員對(duì)自己說(shuō)，我是不會(huì)有的。這同樣體現(xiàn)在普通人對(duì)有犯罪記錄者的鄙夷當(dāng)中……我們默默地對(duì)自己說(shuō)：幸好我不像那些人。”

承認(rèn)寬恕，就是承認(rèn)每個(gè)人都具有的一種脆弱性。

撰文/畢洪海

編輯/劉亞光

校對(duì)/陳荻雁