美劇《疑犯追蹤》中的“AI預(yù)警機(jī)制”雛形? OpenAI八個(gè)月前標(biāo)記加拿大槍擊案嫌疑人

智通財(cái)經(jīng)APP獲悉，風(fēng)靡全球的ChatGPT開發(fā)者、全球AI應(yīng)用領(lǐng)軍者OpenAI因一位用戶違反ChatGPT使用政策，于去年六月持續(xù)標(biāo)記并封禁了一起加拿大歷史上最嚴(yán)重的大規(guī)模槍擊案犯罪嫌疑人，但當(dāng)時(shí)OpenAI并未將其移交警方，這也使得近日AI安全責(zé)任與隱私問題成為全球金融市場關(guān)注焦點(diǎn)。此外，這種類似熱門美劇《疑犯追蹤》系列劇集中那位堪稱全知全能預(yù)測未來犯罪的“AI機(jī)器”預(yù)警機(jī)制，引發(fā)全球AI應(yīng)用產(chǎn)品用戶們對于AI風(fēng)險(xiǎn)監(jiān)測機(jī)制的熱議，與人工智能密切相關(guān)的國家安全、隱私機(jī)制與法律邊界再受質(zhì)疑。

這家人工智能應(yīng)用領(lǐng)軍者初創(chuàng)公司表示，涉嫌大規(guī)模槍擊殺人者——杰西·范·魯茨拉爾(Jesse Van Rootselaar)——擁有一個(gè)使用頻繁的ChatGPT賬戶，該賬戶大約八個(gè)月前被用于掃描濫用(重點(diǎn)包括可能進(jìn)一步推動(dòng)恐怖與暴力活動(dòng))的OpenAI人工智能安全系統(tǒng)檢測到并封禁。

加拿大警方稱，這名18歲青少年本月早些時(shí)候在偏遠(yuǎn)的加拿大西部小鎮(zhèn)坦布勒里奇(Tumbler Ridge)使用槍械殺死了八人并使約25人受傷，然后自殺身亡。

OpenAI表示，該公司大約八個(gè)月前利用檢測濫用AI大模型的相關(guān)智能工具識(shí)別出了與范·魯茨拉爾相關(guān)的賬戶，并將其封禁。

有媒體引用OpenAI內(nèi)部消息人士透露的信息報(bào)道稱，這名涉嫌該案件的槍手“連續(xù)數(shù)日描述與槍支暴力有關(guān)的駭人場景”，這引發(fā)了大約十幾名OpenAI內(nèi)部員工之間的激烈爭論，其中一些人敦促領(lǐng)導(dǎo)層提醒警方，另一些人則認(rèn)為這種非實(shí)質(zhì)的檢測證據(jù)不足以引起警方重視。

OpenAI方面則在一份電子郵件聲明中表示，當(dāng)時(shí)曾考慮將該賬戶移交加拿大執(zhí)法機(jī)構(gòu)，但未識(shí)別出可信或迫在眉睫的恐怖襲擊或暴力計(jì)劃，并確定不符合執(zhí)法機(jī)構(gòu)干預(yù)門檻。槍擊事件發(fā)生后，該公司選擇聯(lián)系了加拿大治安當(dāng)局。

“我們的心與所有受坦布勒里奇悲劇影響的人們同在。”O(jiān)penAI的一位發(fā)言人通過電子郵件表示。“我們選擇主動(dòng)與加拿大皇家騎警聯(lián)系，提供了有關(guān)這位槍擊案嫌疑人資料及其使用的ChatGPT賬戶的所有信息，我們將繼續(xù)支持他們的調(diào)查。”

該公司表示，訓(xùn)練ChatGPT的重點(diǎn)任務(wù)之一就是以勸阻或阻攔可能導(dǎo)致現(xiàn)實(shí)世界傷害的即時(shí)行為。

OpenAI提前識(shí)別暴力傾向賬戶，使得這種“疑犯追蹤式”的AI預(yù)警機(jī)制引發(fā)投資者們熱議。然而，OpenAI封禁賬號(hào)但未報(bào)案，令A(yù)I所賦能的安全系統(tǒng)價(jià)值與局限性以及這種人工智能系統(tǒng)與法律層面的關(guān)聯(lián)愈發(fā)受到市場關(guān)注。

OpenAI 在數(shù)月前通過內(nèi)部濫用檢測系統(tǒng)發(fā)現(xiàn)并屏蔽了一個(gè)后來實(shí)施大規(guī)模槍擊的嫌疑人賬戶，確實(shí)表明了現(xiàn)代基于AI的智能系統(tǒng)在監(jiān)測內(nèi)容、識(shí)別潛在風(fēng)險(xiǎn)行為方面的能力，但這仍然與熱門美劇《疑犯追蹤》(Person of Interest)中那種“全局預(yù)測未來犯罪”的“AI機(jī)器”有本質(zhì)區(qū)別。

在《疑犯追蹤》中，名為“機(jī)器”的AI虛構(gòu)系統(tǒng)利用全球數(shù)據(jù)流、實(shí)時(shí)監(jiān)控和復(fù)雜推理模型來預(yù)測個(gè)人未來可能實(shí)施的具體犯罪，并提前指派行動(dòng)干預(yù);現(xiàn)實(shí)中的AI系統(tǒng)(包括OpenAI的大模型)當(dāng)前還未具備像“機(jī)器”那樣的全知全能級別主動(dòng)推斷未來行為能力。現(xiàn)實(shí)里，AI的監(jiān)測更多是基于已輸入的信息、關(guān)鍵詞模式和語義分析來識(shí)別違反規(guī)則或可能濫用的用法，例如識(shí)別恐怖或暴力傾向性的對話，并自動(dòng)觸發(fā)屏蔽或上報(bào)機(jī)制。這樣的能力屬于內(nèi)容過濾與行為檢測范疇，還不能像“機(jī)器”那樣完全做到未來行為預(yù)測或因果推斷。

此外，OpenAI對于是否向執(zhí)法機(jī)關(guān)上報(bào)的判斷并不是因?yàn)轭A(yù)測到了確鑿的暴力實(shí)施計(jì)劃，而是根據(jù)內(nèi)部設(shè)定的風(fēng)險(xiǎn)閾值來評估是否存在“可信且迫在眉睫的嚴(yán)重人身傷害風(fēng)險(xiǎn)”，這也表明目前AI系統(tǒng)的安全機(jī)制更側(cè)重于當(dāng)前表達(dá)的風(fēng)險(xiǎn)信號(hào)評估而非未來行為預(yù)測。在這次案例中，OpenAI 認(rèn)為當(dāng)時(shí)沒有達(dá)到必須向警方報(bào)告的法律和安全標(biāo)準(zhǔn) —— 這與美劇《疑犯追蹤》中預(yù)測未來犯罪并提前干預(yù)的設(shè)定是截然不同的。

但是OpenAI對于潛在犯罪的最新預(yù)警能力也意味著，隨著AI大模型對已存在的風(fēng)險(xiǎn)信號(hào)進(jìn)行篩查和響應(yīng)的能力以及預(yù)測未來犯罪概率的能力逐漸增強(qiáng)，執(zhí)行真正意義上的未來犯罪行為軌跡精準(zhǔn)預(yù)測并在犯罪從意圖變?yōu)閷?shí)質(zhì)人身傷害前進(jìn)行干預(yù)的機(jī)制可能不久后也將正式出現(xiàn)并且快速健全。