當AI學會扣動扳機，這個世界準備好了嗎？

街道上的粉筆涂鴉終會被雨水和腳步抹去，社交媒體上抵制OpenAI的聲浪也很快會被新的熱點取代。只是誰也不知道，當AI學會扣動扳機，這個世界最終會被帶往何方。

撰文丨周隆斌

美伊沖突不斷升級，中東地區(qū)再次成為全球矚目的焦點。美國總統(tǒng)特朗普誓言在伊朗問題上將“不惜代價”，不料后院突然起火。

就在美國對伊朗發(fā)動襲擊的前一天，美國國防部與知名AI初創(chuàng)公司Anthropic的合作正式破裂。隨后，特朗普將Anthropic列為“國家安全供應鏈風險”，全面封殺其在聯(lián)邦政府及軍方的應用。

Anthropic的Claude大模型是此前唯一能在五角大樓機密云環(huán)境中運行的AI系統(tǒng)，曾被用于支持美國在委內瑞拉的行動。這次雙方撕破臉皮，是因為美國軍方提出，涉密環(huán)境下，AI模型應當可用于“所有合法用途”，不得受“政策約束”而限制其在軍事領域的應用空間。

然而，Anthropic始終堅持兩條紅線：不得用于“對美國人進行大規(guī)模監(jiān)控”，不得用于“完全自主武器”。

由此，Anthropic成為第一家被列入“國家安全供應鏈風險”管制的美國公司。美國政府正在向硅谷科技公司釋放明確信號，與政府合作只能無條件服從，否則就要面臨被行政手段打壓的重大風險。

01

特朗普政府對于AI行業(yè)的監(jiān)管要求，正在由此前拜登政府的“安全第一”全面轉向“主導地位第一”。

2025年1月23日，特朗普就曾簽署《消除美國AI領導力障礙》行政令，核心恰恰在于放松監(jiān)管，促進AI創(chuàng)新。行政令由美國總統(tǒng)單方面簽署，本身不是法律，卻也能夠通過指導聯(lián)邦機構產生廣泛的實際影響，所有聯(lián)邦機構都必須審查并廢除與此新政策不符的規(guī)定。

事實上，在現(xiàn)代戰(zhàn)爭中，AI技術加持下的殺傷性武器已得到使用。

2月28日，美以襲擊伊朗的“史詩怒火行動”中，首次在實戰(zhàn)中使用了自殺式無人機LUCAS。這種無人機具備AI自主飛行控制、GPS信號失效時自行導航，以及蜂群協(xié)同能力。相比于造價昂貴的戰(zhàn)斧導彈，LUCAS單價在1萬美元至5.5萬美元之間，不到戰(zhàn)斧導彈的五十分之一。

現(xiàn)階段LUCAS在執(zhí)行目標打擊時，會將AI篩選后的高價值目標畫面實時傳輸?shù)胶蠓降目刂平K端，最終由人類決定是否進行攻擊。在AI輔助進行目標識別后，操作員的識別效率得到了極大地提升。

機器永不疲勞，在面對大量數(shù)據(jù)處理時，決策響應速度遠超人類生理極限。僅從執(zhí)行效率的角度來看，完全由AI操控的無人機無疑是更高效的選擇。

只是，現(xiàn)階段AI技術存在許多明顯漏洞，一旦完全由AI自主控制的武器系統(tǒng)出現(xiàn)判斷失誤，對錯誤的目標進行打擊，后果不堪設想。

Anthropic作為全球頭部AI企業(yè)，對AI技術的局限性比美國軍方應有更深刻的認識。因此，哪怕與五角大樓翻臉，Anthropic也要堅持為AI在軍事領域的應用劃定紅線。

02

Anthropic固然是全球AI行業(yè)內的領軍人物，可對于美國軍方來說也不過是優(yōu)選項，并非必選項。美國其他AI企業(yè)在面對美國軍方壓力時，立場則顯得更為靈活。

五角大樓本次計劃分別和Anthropic以及馬斯克旗下的xAI展開合作，在前者還在因為AI的適用范圍與美國軍方爭的面紅耳赤時，后者已經(jīng)全盤接受了五角大樓的協(xié)議，讓Grok按“所有合法用途”進入涉密體系。

xAI旗下的Grok大模型自誕生之初就走上了一條飽受爭議的差異化競爭路線，在技術層面致力于精簡傳統(tǒng)的安全護欄，讓模型更加敢于回答用戶的敏感話題。各家AI大模型時至今日還都對色情內容嚴加限制，xAI卻早就大膽上線伴侶模式，以虛擬女友的數(shù)字人身份與用戶暢聊擦邊內容。

在第三方機構SaferAI的評級中，xAI在5分制的綜合安全評估中僅獲得0.8分，安全風險評級被劃為“非常弱”等級。

xAI本身的安全限制相對寬松，近期又被整合進SpaceX準備上市。在這個關鍵節(jié)點，選擇對五角大樓高度配合完全符合商業(yè)邏輯。

在全球AI大模型性能的排行榜上，Grok處于偏后的位置。而常年霸榜的AI領先企業(yè)OpenAI，對于如何與美國軍方合作，此刻正在百般糾結當中。

五角大樓與Anthropic的談判破裂后，OpenAI的CEO山姆·奧爾特曼很快在社交媒體上表示，已經(jīng)與美國國防部達成協(xié)議，將替補Anthropic的位置。OpenAI宣稱，該協(xié)議擁有“迄今任何機密AI部署協(xié)議中最嚴格的護欄，包括優(yōu)于Anthropic的條款”。

在OpenAI披露的與美國軍方簽訂的合同中，OpenAI也和Anthropic類似，為AI的使用劃定了紅線，卻如美軍所愿保留了“在符合適用法律”下使用AI的權利。奧爾特曼隨后對OpenAI的員工表示，公司無權決定美國國防部如何使用其 AI軟件。

事實上，即便OpenAI與Anthropic站在同一陣營，也無力阻止另一家與美國軍方交往甚密的AI巨頭——Palantir為五角大樓提供AI技術支持。

成立于2003年的Palantir，原本就是一家服務于美國政府和國防部門的數(shù)據(jù)分析平臺，早期還獲得了美國中央情報局（CIA）旗下的風投機構注資。這樣一家公司，毫無疑問會堅定地與美國軍方意愿同向而行。

Palantir的CEO亞歷克斯·卡普對AI操控的武器持開放態(tài)度，他曾公開表示：“對AI進一步發(fā)展的擔憂并非毫無道理。我們正在開發(fā)的軟件可以用于部署致命武器。武器系統(tǒng)與日益自主的AI軟件的整合必然會帶來風險，但停止開發(fā)這些技術的建議是錯誤的?！?/p>

03

OpenAI與五角大樓合作后，ChatGPT美國移動端卸載量較前一天增加295%，一星評分暴增775%。美國社交媒體中掀起了退訂ChatGPT轉而購買Claude會員的浪潮。

人們在Anthropic舊金山辦公樓街道上，用粉筆涂鴉畫滿愛心，有人直接寫下“感謝不造天網(wǎng)”的標語。

迫于輿論壓力，奧爾特曼不得不在內部會議上承認，與五角大樓倉促簽約顯得有些機會主義且草率。同時，他也表示：“這是一個復雜但正確的決定?！?/strong>

Anthropic拒絕與五角大樓合作，損失的并非僅僅是這2億美元的國防合同，還可能就此被排除在所有政府采購合同之外。在商業(yè)前景與道德抉擇面前，Anthropic與OpenAI就此分道揚鑣。

OpenAI早年曾將“安全”列為公司核心價值之一，現(xiàn)在這個詞早已從使命聲明中被悄然抹去，“始終以人類利益為出發(fā)點行事”的口號顯得無比諷刺。

AI技術代表著先進生產力的發(fā)展方向，人類文明正在由信息時代邁向AI時代。歷史車輪滾滾向前，只是人類自己也看不清前路在哪里。就連掌握著AI核心技術的硅谷科技公司們，也無力完全把控技術的應用方向。

物理學家尼爾斯·玻爾在曾對原子彈之父奧本海默說：“你賦予了人類自我毀滅的力量，而這個世界卻毫無準備?！?/p>

內燃機被發(fā)明的那一天，坦克的誕生就只是時間問題。無人機LUCAS劃過天空，AI軍事化的進程已經(jīng)勢不可當。

街道上的粉筆涂鴉終會被雨水和腳步抹去，社交媒體上抵制OpenAI的聲浪也很快會被新的熱點取代。只是誰也不知道，當AI學會扣動扳機，這個世界最終會被帶往何方。

*本文為冰川思想庫原創(chuàng)文章，未經(jīng)授權禁止轉載，否則追究相關法律責任