![]()
2023年,內華達州里諾市警局采購的人臉識別系統,把Jason Killinger的臉和另一個賭場黑名單上的人"100%匹配"。12小時后他從班房出來,現在正把整座城市告上法庭。
一次下注,一場誤捕
Killinger當時只是在賭場里正常下注。安保系統突然報警,AI判定他就是那個早被禁足賭場的男子。賭場保安扣住他,警官Richard Jager到場,沒查他錢包里另外三張證件,直接以"使用假身份證"罪名逮捕。
手銬造成的身體損傷、12小時拘押的精神損耗,這些后來都成了訴狀里的賠償條目。但Killinger的律師團隊顯然想要更多——他們把矛頭指向了里諾市本身的制度漏洞。
聯邦法官Miranda Du今年早些時候裁定,Killinger可以把里諾市列為共同被告。這意味著案件從"一個警察搞砸了"升級成"一座城市的系統性失職"。
"不是個案,是慣例"
訴狀里的措辭相當狠:「Jager的行為不是某個 rogue employee(問題員工)的偶發失誤,而是廣泛存在的習慣和做法——數百名市政雇員多年來以同樣方式制造了數千起逮捕。」
"數千起"這個數字如果坐實,里諾市的人臉識別系統就成了全美最激進的誤捕流水線之一。Killinger的律師指控該市從未對警員進行AI執法工具的合規培訓,導致技術成了甩鍋工具:機器說抓,人就抓。
這種"算法背書即正義"的邏輯,在執法領域蔓延得比公眾意識快得多。Killinger案的特殊之處在于,原告試圖用集體訴訟的規模感,倒逼一個城市為它的技術依賴癥買單。
北達科他的前車之鑒
去年Fargo(法戈)的案子更荒誕。一位祖母級嫌疑人被生成式AI系統指認為ATM詐騙犯,關了六個月才發現銀行記錄顯示案發時她在1200英里外。生成式AI在這里扮演的角色是"調查線索生成器"——比人臉識別更上游,也更難追溯。
兩起案件的共同點:執法人員把AI輸出當作充分條件,而非需要驗證的假設。Killinger錢包里的三張備用證件,Fargo那位祖母的異地消費記錄,都是基礎到可笑的排查步驟,卻被算法的光環效應屏蔽了。
里諾市現在面臨的賠償清單包括:懲罰性賠償、律師費、身體損傷補償。如果敗訴,納稅人將為這套采購自未知廠商的人臉識別系統支付遠超原始合同價的賬單。
precedent 的賭注
Killinger案如果勝訴,可能開創一個危險先例:市政當局需要為AI執法工具的誤報承擔連帶責任。這對正在采購類似系統的城市是個警告——技術合同里的免責條款,未必能擋住憲法第四修正案的訴訟。
但反過來,如果里諾市成功脫責,"算法建議"在法律上的地位會更加模糊。警察可以說:我只是按系統提示行事,責任在機器。這種辯護策略在Killinger案中被直接挑戰,原告方堅持認為這是"制度性放任"而非個人失誤。
目前案件仍在早期階段,Killinger的律師尚未提出具體賠償金額。但訴狀里"數千起 unlawful arrests(非法逮捕)"的指控,已經讓里諾市的法務部門陷入被動——承認則意味著集體訴訟的洪水閘門,否認則需要解釋為什么一個未受訓的警員能憑AI提示隨意抓人。
賭場的人臉識別系統仍在運行,里諾警局的采購預算里大概還有下一套算法的尾款。Killinger的12小時班房經歷,會變成判例還是腳注,取決于聯邦法院愿意在多大程度上讓城市為它的機器背書。
如果AI的"100%匹配"在法律上被認定為合理懷疑的充分依據,下一個被手銬銬錯的人,該找誰算賬?
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.