中方三次提議約束致命機(jī)器人，均遭美英印拒絕，現(xiàn)在他們后悔大了

2014年春，瑞士日內(nèi)瓦迎來一場(chǎng)意義深遠(yuǎn)的國(guó)際對(duì)話——在《特定常規(guī)武器公約》框架下召開的政府專家會(huì)議，首次將“完全自主的致命性武器系統(tǒng)”這一議題納入正式議程。彼時(shí)，該概念尚被不少與會(huì)者視為帶有強(qiáng)烈未來主義色彩的技術(shù)假想。

那一年，人工智能尚未滲透進(jìn)大眾日常的衣食住行，普通民眾對(duì)“機(jī)器獨(dú)立裁定生死”的認(rèn)知，大多源自銀幕上的虛構(gòu)敘事與文學(xué)作品中的哲思推演。

然而，在閉門會(huì)議室中，氣氛卻異常凝重。中方代表團(tuán)率先發(fā)聲，明確主張必須構(gòu)建覆蓋全球的監(jiān)管體系，嚴(yán)防此類系統(tǒng)在脫離人類實(shí)時(shí)監(jiān)督的狀態(tài)下投入真實(shí)戰(zhàn)場(chǎng)。其立論根基堅(jiān)實(shí)而樸素：當(dāng)目標(biāo)識(shí)別、戰(zhàn)術(shù)評(píng)估、開火指令全部交由算法閉環(huán)完成，人類便實(shí)質(zhì)上退出了決策鏈條的核心環(huán)節(jié)。此時(shí)，一次代碼偏差、一段邏輯漏洞、一場(chǎng)網(wǎng)絡(luò)劫持，都可能在數(shù)秒之內(nèi)觸發(fā)不可逆的災(zāi)難性后果。

遺憾的是，這一前瞻性倡議未能撬動(dòng)共識(shí)支點(diǎn)。美國(guó)、英國(guó)、俄羅斯、印度等具備先進(jìn)軍事技術(shù)能力的國(guó)家，普遍采取觀望姿態(tài)；部分代表強(qiáng)調(diào)需為技術(shù)創(chuàng)新預(yù)留彈性空間，另一些則直言反對(duì)倉促立法，認(rèn)為現(xiàn)有技術(shù)成熟度尚不足以支撐具有強(qiáng)制效力的國(guó)際協(xié)定。最終，會(huì)議未產(chǎn)出任何具備約束力的成果文件。

時(shí)光流轉(zhuǎn)十余載，人工智能已實(shí)現(xiàn)跨越式躍升：深度神經(jīng)網(wǎng)絡(luò)架構(gòu)持續(xù)迭代，GPU算力成本呈指數(shù)級(jí)下降，通用大模型加速向國(guó)防工業(yè)場(chǎng)景遷移。從可編隊(duì)自主飛行的蜂群無人機(jī)，到具備復(fù)雜地形越障能力的智能戰(zhàn)車，再到能依據(jù)戰(zhàn)場(chǎng)態(tài)勢(shì)動(dòng)態(tài)調(diào)整作戰(zhàn)策略的仿生機(jī)器人平臺(tái)，一系列高自主性裝備相繼進(jìn)入試驗(yàn)與列裝階段，“人機(jī)融合”正從理念走向?qū)崙?zhàn)化部署。

在此背景下，2014年的那場(chǎng)日內(nèi)瓦辯論再度浮出水面，引發(fā)多國(guó)戰(zhàn)略界深度復(fù)盤。華盛頓內(nèi)部已有分析指出，當(dāng)年若更重視中方提出的制度性預(yù)警，或可提前布局規(guī)則主導(dǎo)權(quán)，如今面對(duì)技術(shù)擴(kuò)散加速與規(guī)范真空加劇的雙重壓力，部分政策圈層流露出“早應(yīng)傾聽東方聲音”的反思情緒。

梳理聯(lián)合國(guó)裁軍事務(wù)廳及會(huì)議紀(jì)要公開檔案可見，中國(guó)在多邊外交平臺(tái)上曾三次系統(tǒng)闡述關(guān)于致命性自主武器系統(tǒng)的立場(chǎng)主張。

首度發(fā)聲即為2014年日內(nèi)瓦會(huì)議，提出構(gòu)建分階段、可驗(yàn)證的國(guó)際監(jiān)管機(jī)制；2016年與2019年兩次后續(xù)表態(tài)，則進(jìn)一步聚焦于法律文書的實(shí)質(zhì)性推進(jìn)——呼吁啟動(dòng)多邊談判進(jìn)程，就全面禁止或嚴(yán)格限制“無須人類干預(yù)即可實(shí)施致命打擊”的武器系統(tǒng)達(dá)成具有條約效力的國(guó)際協(xié)議。

2021年12月，中方在聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)上再次強(qiáng)化立場(chǎng)，明確劃出技術(shù)應(yīng)用紅線：堅(jiān)決反對(duì)人工智能在軍事行動(dòng)中繞過人類意志直接執(zhí)行殺傷指令，并將“人類始終保有實(shí)質(zhì)、及時(shí)、可操作的控制權(quán)”確立為不可動(dòng)搖的基本原則。

事實(shí)上，圍繞LAWS（Lethal Autonomous Weapons Systems）的全球磋商已在聯(lián)合國(guó)機(jī)制內(nèi)延續(xù)多年，但核心分歧長(zhǎng)期懸而未決：如何科學(xué)界定“自主性”的技術(shù)閾值？當(dāng)人類僅保留形式化否決權(quán)或事后追責(zé)權(quán)時(shí)，是否仍屬“有效控制”？是要求操作員全程介入每項(xiàng)戰(zhàn)術(shù)動(dòng)作（人在回路中），還是允許其僅監(jiān)控整體任務(wù)進(jìn)程（人在環(huán)上）？技術(shù)演進(jìn)的模糊性與地緣政治博弈的確定性之間，始終存在難以彌合的認(rèn)知鴻溝。

那么，為何當(dāng)年主要軍事力量普遍回避硬性規(guī)制路徑？多位長(zhǎng)期跟蹤軍控議程的國(guó)際安全學(xué)者指出，深層動(dòng)因在于對(duì)戰(zhàn)略先發(fā)優(yōu)勢(shì)的高度敏感。

以美國(guó)為例，其在長(zhǎng)航時(shí)察打一體無人機(jī)、自動(dòng)化防空攔截系統(tǒng)、多源情報(bào)融合建模等領(lǐng)域擁有顯著代際優(yōu)勢(shì)，對(duì)任何可能壓縮未來技術(shù)演進(jìn)自由度的條款均保持高度警惕。美方政策討論中反復(fù)出現(xiàn)的核心關(guān)切是：若在技術(shù)拐點(diǎn)前鎖定規(guī)則框架，或?qū)?dǎo)致自身在下一輪軍事范式變革中陷入被動(dòng)。

俄羅斯將智能化武器研發(fā)列為國(guó)家戰(zhàn)略優(yōu)先方向，視其為抵消對(duì)手信息優(yōu)勢(shì)的關(guān)鍵杠桿；印度近年大幅增加無人系統(tǒng)專項(xiàng)預(yù)算，意圖在南亞安全格局中構(gòu)筑非對(duì)稱威懾能力；英國(guó)則傾向于倡導(dǎo)“倫理設(shè)計(jì)準(zhǔn)則”與“使用透明度標(biāo)準(zhǔn)”，主張通過行業(yè)自律與出口管制協(xié)同治理，而非一刀切式的全球禁令。

當(dāng)時(shí)主流認(rèn)知普遍建立在一個(gè)隱含前提之上：只要最高決策權(quán)限牢牢掌握在人類指揮官手中，技術(shù)本身就不會(huì)構(gòu)成失控風(fēng)險(xiǎn)。這種對(duì)工程可靠性的充分信任，疊加大國(guó)間戰(zhàn)略互疑與技術(shù)競(jìng)爭(zhēng)焦慮，共同構(gòu)成了國(guó)際規(guī)范建設(shè)進(jìn)程緩慢的根本原因。

但人工智能的發(fā)展軌跡并未遵循傳統(tǒng)軍控的線性邏輯——算法泛化能力增強(qiáng)、訓(xùn)練數(shù)據(jù)集規(guī)模激增、邊緣計(jì)算芯片普及，使得高性能AI模塊不再局限于國(guó)家級(jí)實(shí)驗(yàn)室，越來越多中等技術(shù)實(shí)力國(guó)家乃至私營(yíng)實(shí)體均可獲取接近一線水平的開發(fā)資源。

以往，軍用級(jí)自主系統(tǒng)依賴封閉式軟硬件生態(tài)與定制化安全加固方案；如今，大量底層模型源于開源社區(qū)貢獻(xiàn)，商業(yè)云平臺(tái)提供的AI開發(fā)套件亦可被快速適配至軍事用途，軍民兩用技術(shù)邊界日益模糊，技術(shù)擴(kuò)散的廣度與速度遠(yuǎn)超舊有管控體系的響應(yīng)能力。

多家權(quán)威國(guó)際智庫發(fā)布的評(píng)估報(bào)告均警示：倘若缺乏統(tǒng)一且具操作性的國(guó)際行為準(zhǔn)則，低成本小型無人平臺(tái)一旦搭載高魯棒性目標(biāo)識(shí)別算法，極可能在局部沖突中大規(guī)模涌現(xiàn)。當(dāng)集群協(xié)同調(diào)度、毫秒級(jí)圖像解析、動(dòng)態(tài)路徑重規(guī)劃三項(xiàng)能力深度融合后，單名操作員所能掌控的火力密度與打擊精度，將呈現(xiàn)數(shù)量級(jí)躍升。

網(wǎng)絡(luò)安全維度的風(fēng)險(xiǎn)同樣不容忽視。一旦自主武器系統(tǒng)的傳感輸入被惡意篡改，或其決策模型遭對(duì)抗樣本攻擊，原本設(shè)定的交戰(zhàn)規(guī)則可能瞬間失效。傳統(tǒng)武器誤擊常源于情報(bào)鏈末端的人為判斷失誤，而AI驅(qū)動(dòng)系統(tǒng)的錯(cuò)誤則可能在納秒級(jí)完成全鏈路放大，且難以追溯原始誘因。

歷史反復(fù)印證，重大國(guó)際規(guī)范往往誕生于危機(jī)臨界點(diǎn)之后。問題在于，人工智能武器所蘊(yùn)含的系統(tǒng)性風(fēng)險(xiǎn)一旦顯性化，其連鎖反應(yīng)與破壞烈度，或?qū)⑦h(yuǎn)超傳統(tǒng)戰(zhàn)爭(zhēng)誤判所能承載的閾值。各位讀者，您如何看待這一正在逼近的治理挑戰(zhàn)？