美軍誤炸學校，150人遇難，美國甩鍋人工智能，結(jié)果打臉！

在美軍對伊朗一所小學發(fā)動致命導彈襲擊后的幾天里，一個主要嫌疑對象浮出水面：人工智能。在有關使用克勞德大語言模型協(xié)助抓捕委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅的報道傳出后，加之五角大樓與人工智能公司Anthropic之間的公開爭執(zhí)，引發(fā)了全球關于該技術在戰(zhàn)爭中扮演日益重要角色的激烈辯論。批評人士迫不及待地將這起造成150多人死亡的悲劇歸咎于人工智能。

這是一個人工智能不太可能犯下的錯誤：美國官員未能識別出衛(wèi)星圖像中的細微變化，而人類情報分析員則漏掉了關于該學校位于革命衛(wèi)隊大院內(nèi)的公開信息。

盡管人工智能有著諸如“幻覺”和“阿諛奉承”等臭名昭著的缺陷，但它能夠吸收的信息量遠超當前由人類主導的系統(tǒng)。如果當時對衛(wèi)星圖像進行更深入的分析，或者僅僅是在互聯(lián)網(wǎng)上搜索一下，這場災難或許就能避免。據(jù)路透社報道，甚至在伊朗的商業(yè)名錄中都能查到這所學校的信息。

“在人類與機器之間找到正確的平衡，將是未來訓練的關鍵環(huán)節(jié)，”新美國安全中心高級研究員、擁有36年軍旅生涯的美軍老將杰克·沙納漢表示。他曾擔任五角大樓人工智能項目“行家計劃”的創(chuàng)始主任。

人力情報和其他數(shù)據(jù)源，正以比以往沖突中更快的速度，實現(xiàn)更大規(guī)模的目標定位。但目前，人工智能的設計初衷主要是協(xié)助軍方識別未知或移動目標，比如在抓捕馬杜羅的行動中，而不是針對靜態(tài)的、已被確認的軍事目標。

據(jù)熟悉美國選擇沖突目標方式的前軍方領導人透露，在伊朗，位于米納卜的賽義德·舒哈達伊斯蘭革命衛(wèi)隊建筑群會被指定為所謂的“預定目標”，這是利用情報和衛(wèi)星圖像提前選定的。

該建筑群很可能早就被列入了美國經(jīng)過數(shù)十年編制的目標清單中，該清單由美國中央司令部維護，并接受軍方律師的審查。軍事專家指出，如果該目標被確認為學校，它本應從目標清單中被剔除。

在襲擊發(fā)生前的24至48小時內(nèi)，人類審查員還會對目標進行核查，以確認其合法性。按照慣例，如果他們注意到任何異常情況，就會標記該目標，以便使用計算機視覺技術進行進一步審查。這種技術能夠解析圖像的像素級細節(jié)并對比衛(wèi)星圖像，尋找任何可能的變化。軍事專家表示，目前尚不清楚當時是否有人提出了這樣的審查要求。

“行家智能系統(tǒng)”甚至可以建議潛在目標，并協(xié)助軍事人員對打擊目標的優(yōu)先級進行排序，包括所需的燃料和使用的彈藥。

Anthropic和其他人工智能公司公開表達了他們的擔憂，即軍方最終可能會試圖賦予大語言模型過多的權力，讓它們做出目標定位的決定。但該技術距離具備這種能力還有很長的路要走。軍方和帕蘭提爾公司的人員都沒有表態(tài)希望將人類完全排除在“殺傷鏈”之外。

“過度依賴機器輸出并繞過關鍵的人類審查，將帶來巨大風險，”沙納漢警告說。

據(jù)了解帕蘭提爾公司雄心壯志的知情人士透露，在未來，該公司預計大語言模型將發(fā)揮越來越重要的作用。例如，這些模型可以更多地參與軍事行動的規(guī)劃過程，提出戰(zhàn)略建議，甚至做出自主的目標定位決定。

但目前它們還不具備這些能力。更迫在眉睫的擔憂是，隨著人工智能以前所未有的速度匯編出越來越多的目標，人類審查員能否跟上其步伐，或者他們是否會屈服于壓力，在沒有足夠時間審查潛在平民危險的情況下就批準決定。

關于在軍事領域使用人工智能的辯論，在某些方面與關于自動駕駛的辯論如出一轍。雖然也會發(fā)生一些可怕的事故——就像人類駕駛員一樣——但總的來說，自動駕駛汽車在駕駛時采取了更謹慎的策略，致命事故的發(fā)生率要低得多。

單一事件往往能改變公眾對技術的看法。例如，僅僅一起事故就導致優(yōu)步徹底關閉了其自動駕駛項目。通用汽車的自動駕駛部門Cruise也遭遇了類似事件，最終導致其在舊金山的自動駕駛出租車服務被迫終止。

沙賈雷赫·塔耶貝小學的悲劇導致人們立即將致命導彈襲擊的責任歸咎于人工智能。雖然最初的猜測被證明是錯誤的，但它確實表明，由自動化導致的平民傷亡將受到與人類造成的傷亡不同的看待方式，即使自主武器在總體上被證明更為安全。

這里的另一個重要因素是，自動化增加了潛在的軍事打擊數(shù)量。因此，雖然人類可能不夠精確，但在最糟糕的情況下，自動化可能會大規(guī)模地犯下致命錯誤。