“被操控的冷血戰(zhàn)爭(zhēng)”來(lái)了

國(guó)際社會(huì)一直強(qiáng)調(diào)，要保證智能化技術(shù)在武裝沖突中的應(yīng)用不超出底線(xiàn)，最重要的原則就是“扣動(dòng)扳機(jī)的必須是人，而非機(jī)器”。

但人是會(huì)異化的。名義上，現(xiàn)今的無(wú)人武器不是真正的“致命性自主武器”，只替代人類(lèi)的前線(xiàn)暴露，不替代擊殺決策；AI大模型在軍事決策中的參與，只是整合分析數(shù)據(jù)、給出作戰(zhàn)方案建議，方案最終需要人類(lèi)審批。但事實(shí)真的如此嗎？

想象你是一名無(wú)人機(jī)飛手，坐在屏幕前遙控，無(wú)人機(jī)在數(shù)十公里外尋找著可以擊殺的合法目標(biāo)。突然，屏幕上出現(xiàn)了幾個(gè)模糊的熱成像目標(biāo)，看起來(lái)可能是士兵，可能是傷兵，也可能是平民。只能看到這么多信息，你如何判斷攻擊還是不攻擊？

又或者，你是第一視角無(wú)人機(jī)的飛手，身處距離前線(xiàn)不遠(yuǎn)的危險(xiǎn)區(qū)域，隨時(shí)有被對(duì)方滲透小隊(duì)發(fā)現(xiàn)的風(fēng)險(xiǎn)。你高度緊張，戴著VR眼鏡，尋找著鏡頭內(nèi)任何可移動(dòng)的物體。終于，你看到了一個(gè)疑似逃跑的士兵，立刻沖上去，對(duì)方根本無(wú)法躲避。撞上前的最后一刻，你才發(fā)現(xiàn)他是穿著軍裝的平民。

好消息是，這些情形在今天的俄烏戰(zhàn)場(chǎng)上并不多見(jiàn)。這是因?yàn)槎頌鯖_突以傳統(tǒng)的機(jī)械化戰(zhàn)爭(zhēng)開(kāi)始，歷經(jīng)四年戰(zhàn)火后，當(dāng)前線(xiàn)兩側(cè)40公里寬的區(qū)域變成無(wú)人機(jī)統(tǒng)治的危險(xiǎn)地帶時(shí)，早就沒(méi)有什么平民居住和生活在這里了。但如果下一場(chǎng)戰(zhàn)爭(zhēng)的開(kāi)局，就是雙方靠著一堆視野有限和成像模糊的無(wú)人機(jī)大殺四方呢？

更大的問(wèn)題還是AI大模型輔助軍事決策。美國(guó)西點(diǎn)軍校利伯研究所等人道法機(jī)構(gòu)，近期都出現(xiàn)了相關(guān)討論：當(dāng)AI處理的數(shù)據(jù)遠(yuǎn)遠(yuǎn)超出人類(lèi)的認(rèn)知能力，指揮官如何才算是在審查AI提出的作戰(zhàn)建議時(shí)“善意評(píng)估了可用的戰(zhàn)場(chǎng)信息”？如何才算是給足了自己充分的考慮AI建議的時(shí)間？

這些問(wèn)題最終都指向一點(diǎn)：當(dāng)AI給出了基于大數(shù)據(jù)的“最優(yōu)解”之后，決策者是否會(huì)放棄自我思考。這樣一來(lái)，戰(zhàn)爭(zhēng)將徹底異化：那些按下導(dǎo)彈按鈕、駕駛戰(zhàn)機(jī)、操縱無(wú)人機(jī)的，依然是人類(lèi)，但給他們下達(dá)指令的其實(shí)是AI。

烏克蘭“梭魚(yú)”無(wú)人艇 圖/視覺(jué)中國(guó)

美以伊戰(zhàn)爭(zhēng)中已經(jīng)出現(xiàn)了這種趨勢(shì)。這是美軍決策機(jī)制接入大模型后第一次給出大規(guī)模戰(zhàn)爭(zhēng)的作戰(zhàn)方案建議。一開(kāi)始，雖然有情報(bào)滯后導(dǎo)致的“誤炸”，但空襲至少還集中于軍事領(lǐng)導(dǎo)人、軍事設(shè)施和核設(shè)施；之后，空襲開(kāi)始覆蓋伊朗各地的政府、巴斯基民兵組織、警察局；到了4月初，公路、橋梁、鐵路等一般基礎(chǔ)設(shè)施也成為重點(diǎn)目標(biāo)。

外界并不確知這是不是大模型基于伊朗的戰(zhàn)爭(zhēng)韌性而給出的分階段打擊建議，連西點(diǎn)軍校的學(xué)者都在激辯“國(guó)家間戰(zhàn)爭(zhēng)中，平民領(lǐng)導(dǎo)人和國(guó)內(nèi)執(zhí)法人員是不是軍事目標(biāo)”。顯然，這不像是機(jī)械化戰(zhàn)爭(zhēng)時(shí)代的“體面”打法。

日常生活中，我們經(jīng)常會(huì)向AI問(wèn)出關(guān)涉社會(huì)、心理、情感的沒(méi)有標(biāo)準(zhǔn)答案的問(wèn)題。那么，在制定作戰(zhàn)方案時(shí)，一旦AI被要求“速戰(zhàn)速?zèng)Q”，它會(huì)如何在宏觀上對(duì)比總體軍事利益和附帶平民傷害？如何精確地計(jì)算比例原則的上限？到最后，它告訴你，這份方案“不體面”、有爭(zhēng)議，但足以規(guī)避確定的法律風(fēng)險(xiǎn)，而且最高效，你用還是不用？

對(duì)此，學(xué)者們給出的建議包括但不限于：定期驗(yàn)證和清理數(shù)據(jù)，明確各級(jí)責(zé)任和審批權(quán)限，充分培訓(xùn)指揮官了解AI，甚至在AI決策中設(shè)定阻斷機(jī)制來(lái)強(qiáng)化區(qū)分民用目標(biāo)，“如果識(shí)別出某處是醫(yī)院，就直接跳過(guò)”。

讓人感到悲觀的是，AI在決策中對(duì)“軍事必要”和比例原則的極端計(jì)算，只會(huì)讓決策者對(duì)附帶傷害的“容忍度”越來(lái)越高。

發(fā)于總第1232期《中國(guó)新聞周刊》雜志

雜志標(biāo)題：誰(shuí)來(lái)“扣動(dòng)扳機(jī)”？

記者：曹然

（caoran@chinanews.com.cn）

編輯：徐方清