誰(shuí)來(lái)為監(jiān)獄里的算法買單？

（來(lái)源：MIT TR）

美國(guó)一家電信公司 Securus Technologies 利用囚犯多年通話訓(xùn)練了一款 AI 模型，如今正試點(diǎn)用它掃描囚犯通話、短信和郵件，以預(yù)測(cè)并阻止犯罪。

Securus 的總裁凱文·埃爾德（Kevin Elder）告訴《麻省理工科技評(píng)論》，公司自 2023 年起基于其龐大的歷史通話數(shù)據(jù)庫(kù)構(gòu)建 AI 工具，試圖訓(xùn)練模型識(shí)別犯罪行為。例如，公司曾以德克薩斯州監(jiān)獄系統(tǒng)囚犯 7 年的通話記錄為樣本構(gòu)建模型，目前也在開發(fā)其他針對(duì)州或縣級(jí)別的模型。

埃爾德表示，過(guò)去一年中，Securus 一直在試點(diǎn)讓這些 AI 工具實(shí)時(shí)監(jiān)控囚犯的對(duì)話（該公司拒絕透露試點(diǎn)地點(diǎn)，但其客戶包括羈押候?qū)徣藛T的縣監(jiān)獄、關(guān)押服刑人員的州立監(jiān)獄，以及移民與海關(guān)執(zhí)法局的拘押設(shè)施）。“我們可以把大型語(yǔ)言模型指向那整座數(shù)據(jù)寶庫(kù)，”埃爾德說(shuō)，“它能檢測(cè)、理解何時(shí)出現(xiàn)犯罪被思考或策劃的跡象，從而在更早階段攔截風(fēng)險(xiǎn)。”

和以往的監(jiān)控工具一樣，羈押設(shè)施的調(diào)查人員可以按需調(diào)用該 AI 功能，用于隨機(jī)抽查或重點(diǎn)監(jiān)控他們懷疑有犯罪行為的人員。模型會(huì)分析通話和視頻、短信和郵件，并標(biāo)記可疑片段供人工審核，再由人工將線索移交給調(diào)查人員進(jìn)一步處理。

埃爾德在采訪中稱，Securus 的監(jiān)控工具曾協(xié)助破獲由監(jiān)獄內(nèi)部組織的人口販運(yùn)和幫派犯罪，并用于識(shí)別向監(jiān)獄走私違禁品的工作人員。但其并未向《麻省理工科技評(píng)論》提供任何由新 AI 模型直接發(fā)現(xiàn)的案件。

囚犯及其通話對(duì)象會(huì)收到通話正在被錄音的告知。然而，這并不意味著他們知道這些通話會(huì)被用于訓(xùn)練 AI 模型，監(jiān)獄權(quán)利組織 Worth Rises 的執(zhí)行主任比安卡·蒂萊克（Bianca Tylek）指出。

“這種同意是被迫的，囚犯根本沒有與家人溝通的其他方式。”蒂萊克說(shuō)。而且在大多數(shù)州，囚犯還需為通話付費(fèi)，“你沒有為他們的數(shù)據(jù)使用付任何報(bào)酬，反倒在收集數(shù)據(jù)的過(guò)程中向他們收費(fèi)。”

Securus 的發(fā)言人回應(yīng)稱，訓(xùn)練工具所用的數(shù)據(jù)并非為了監(jiān)控或針對(duì)特定個(gè)人，而是為了識(shí)別整個(gè)通信系統(tǒng)中的整體模式、異常與違法行為。發(fā)言人表示，錄音與監(jiān)控政策由各類拘押設(shè)施自行制定，公司只是遵循這些政策，但并未正面回答囚犯是否能選擇不被用于模型訓(xùn)練。

其他囚犯權(quán)益倡導(dǎo)者認(rèn)為，Securus 有侵犯公民權(quán)利的前科。例如，其錄音數(shù)據(jù)庫(kù)泄露事件顯示，公司曾不當(dāng)錄音數(shù)千通囚犯與其律師之間的通話。美國(guó)公民自由聯(lián)盟（ACLU）國(guó)家監(jiān)獄項(xiàng)目副主任科琳·肯德里克（Corene Kendrick）表示，新 AI 系統(tǒng)將進(jìn)一步推動(dòng)一個(gè)侵入式監(jiān)控體系，而法院對(duì)此類監(jiān)控的限制極少。

“我們是否要通過(guò)監(jiān)控囚犯的每一句話、每一個(gè)念頭，來(lái)在犯罪發(fā)生前阻止它？”肯德里克說(shuō)。“技術(shù)能力遠(yuǎn)遠(yuǎn)超前于法律，這是眾多類似情形中的又一個(gè)。”

Securus 發(fā)言人則表示，該工具的目的是解決監(jiān)獄人手短缺問(wèn)題，不是無(wú)理由地監(jiān)控個(gè)人。

但是，誰(shuí)來(lái)為監(jiān)獄中的 AI 監(jiān)控買單？

2024 年，美國(guó)聯(lián)邦通信委員會(huì)（FCC）出臺(tái)一項(xiàng)重大改革——旨在保護(hù)囚犯及其家庭的利益——禁止電信公司將通話錄音與監(jiān)控成本轉(zhuǎn)嫁給囚犯。盡管公司仍可向囚犯收取有限的通話費(fèi)用，但監(jiān)控成本必須由監(jiān)獄自行承擔(dān)。

此舉引發(fā)強(qiáng)烈反彈。代表縣監(jiān)獄的治安官協(xié)會(huì)警告稱，他們負(fù)擔(dān)不起監(jiān)控開支，14 個(gè)州的司法部長(zhǎng)對(duì)該規(guī)則提起訴訟，一些監(jiān)獄甚至威脅將切斷囚犯與家人的電話聯(lián)系。

在開發(fā)與試點(diǎn) AI 工具的同時(shí)，Securus 多次會(huì)見 FCC，并游說(shuō)修改規(guī)則，要求允許再次使用囚犯支付的費(fèi)用為監(jiān)控提供資金。

今年 6 月，由特朗普任命的 FCC 委員布倫丹·卡爾（Brendan Carr）宣布推遲改革實(shí)施期限，并暗示 FCC 正尋求允許電信公司通過(guò)囚犯繳費(fèi)來(lái)資助 AI 監(jiān)控工具。他在新聞稿中稱，推翻 2024 改革將推動(dòng)包括先進(jìn) AI 與機(jī)器學(xué)習(xí)在內(nèi)的公共安全工具的更廣泛采用。

10 月 28 日，F(xiàn)CC 更進(jìn)一步：投票通過(guò)新的更高費(fèi)率上限，允許 Securus 等公司將錄音、存儲(chǔ)、轉(zhuǎn)錄、構(gòu)建 AI 分析工具等安全成本轉(zhuǎn)嫁給囚犯。Securus 發(fā)言人對(duì)《麻省理工科技評(píng)論》表示，公司會(huì)在通話費(fèi)用“可負(fù)擔(dān)”與“建設(shè)必要安全工具”之間尋找平衡，“這些工具對(duì)于維護(hù)被拘押人員與工作人員的安全，以及保護(hù)公眾至關(guān)重要。”

FCC 委員安娜·戈麥斯（Anna Gomez）對(duì)此投下反對(duì)票。“執(zhí)法部門應(yīng)承擔(dān)與安全無(wú)關(guān)的額外成本，而不是將負(fù)擔(dān)施加給囚犯家屬。”

FCC 將就這些新規(guī)則征求意見，之后才會(huì)最終生效。

https://www.technologyreview.com/2025/12/01/1128591/an-ai-model-trained-on-prison-phone-calls-is-now-being-used-to-surveil-inmates/