“被操控的冷血戰(zhàn)爭”來了

你以為現(xiàn)在戰(zhàn)爭里扣扳機(jī)的還是人？其實(shí)AI已經(jīng)悄悄接管了大半決策權(quán)！

國際社會(huì)一直說“扣動(dòng)扳機(jī)的必須是人，而非機(jī)器”，可現(xiàn)實(shí)早就走樣了。名義上無人武器只是替代前線暴露，AI大模型也只是給作戰(zhàn)建議，但真的是這樣嗎？

想象你是個(gè)無人機(jī)飛手，坐在屏幕前盯著數(shù)十公里外的熱成像畫面。幾個(gè)模糊的紅點(diǎn)晃來晃去，是士兵？傷兵？還是平民？信息就這么點(diǎn)，你怎么判斷打不打？或者你在前線附近，戴著VR眼鏡緊張到心跳加速，看到個(gè)疑似逃跑的“士兵”就沖上去，撞上前才發(fā)現(xiàn)是穿軍裝的平民——這種誤判，離我們真的遠(yuǎn)嗎？

好消息是俄烏戰(zhàn)場這類情況不多，但那是因?yàn)榍熬€40公里寬的區(qū)域早沒平民了。可如果下一場戰(zhàn)爭開局，就是一堆視野有限、成像模糊的無人機(jī)互相掃射呢？到時(shí)候，誰來為那些模糊目標(biāo)的生命負(fù)責(zé)？

更大的問題在AI輔助軍事決策上。美國西點(diǎn)軍校的學(xué)者們都在吵：當(dāng)AI處理的數(shù)據(jù)多到人類根本看不懂，指揮官怎么才算“認(rèn)真審查”了AI的建議？給沒給夠思考時(shí)間？

美以伊戰(zhàn)爭已經(jīng)露出苗頭。美軍第一次用大模型給大規(guī)模作戰(zhàn)方案，一開始還集中炸軍事目標(biāo)，后來就擴(kuò)到政府、警察局，甚至公路橋梁這些基礎(chǔ)設(shè)施。外界都猜是不是AI根據(jù)伊朗的戰(zhàn)爭韌性給出的分階段打擊建議，連西點(diǎn)學(xué)者都在辯“平民領(lǐng)導(dǎo)人和警察算不算軍事目標(biāo)”——這哪還是機(jī)械化戰(zhàn)爭時(shí)代的“體面”打法？

日常生活里我們問AI的問題大多沒標(biāo)準(zhǔn)答案，可戰(zhàn)爭里呢？如果AI被要求“速戰(zhàn)速?zèng)Q”，它會(huì)怎么算軍事利益和平民傷害的比例？它告訴你方案“不體面”但高效、沒法律風(fēng)險(xiǎn)，你用不用？

更可怕的是，當(dāng)AI給出“最優(yōu)解”，決策者會(huì)不會(huì)直接放棄思考？到時(shí)候，按按鈕的還是人，但下達(dá)指令的其實(shí)是AI——戰(zhàn)爭就徹底變了味。

學(xué)者們給出了不少辦法：定期清理數(shù)據(jù)、明確責(zé)任權(quán)限、培訓(xùn)指揮官懂AI，甚至給AI加阻斷機(jī)制，比如識(shí)別出醫(yī)院就直接跳過。可讓人悲觀的是，AI對“軍事必要”的極端計(jì)算，只會(huì)讓人類對附帶傷害的容忍度越來越高。

你想想，當(dāng)AI把所有選擇都量化成數(shù)字，人類還能守住“人決定生死”的底線嗎？未來戰(zhàn)爭里，AI該被限制到什么程度？是完全禁止自主決策，還是有條件使用？評論區(qū)說說你的看法，看看大家都怎么想！