你以為現(xiàn)在戰(zhàn)爭里扣扳機(jī)的還是人?其實(shí)AI已經(jīng)悄悄接管了大半決策權(quán)!
國際社會(huì)一直說“扣動(dòng)扳機(jī)的必須是人,而非機(jī)器”,可現(xiàn)實(shí)早就走樣了。名義上無人武器只是替代前線暴露,AI大模型也只是給作戰(zhàn)建議,但真的是這樣嗎?
想象你是個(gè)無人機(jī)飛手,坐在屏幕前盯著數(shù)十公里外的熱成像畫面。幾個(gè)模糊的紅點(diǎn)晃來晃去,是士兵?傷兵?還是平民?信息就這么點(diǎn),你怎么判斷打不打?或者你在前線附近,戴著VR眼鏡緊張到心跳加速,看到個(gè)疑似逃跑的“士兵”就沖上去,撞上前才發(fā)現(xiàn)是穿軍裝的平民——這種誤判,離我們真的遠(yuǎn)嗎?
![]()
好消息是俄烏戰(zhàn)場這類情況不多,但那是因?yàn)榍熬€40公里寬的區(qū)域早沒平民了。可如果下一場戰(zhàn)爭開局,就是一堆視野有限、成像模糊的無人機(jī)互相掃射呢?到時(shí)候,誰來為那些模糊目標(biāo)的生命負(fù)責(zé)?
更大的問題在AI輔助軍事決策上。美國西點(diǎn)軍校的學(xué)者們都在吵:當(dāng)AI處理的數(shù)據(jù)多到人類根本看不懂,指揮官怎么才算“認(rèn)真審查”了AI的建議?給沒給夠思考時(shí)間?
美以伊戰(zhàn)爭已經(jīng)露出苗頭。美軍第一次用大模型給大規(guī)模作戰(zhàn)方案,一開始還集中炸軍事目標(biāo),后來就擴(kuò)到政府、警察局,甚至公路橋梁這些基礎(chǔ)設(shè)施。外界都猜是不是AI根據(jù)伊朗的戰(zhàn)爭韌性給出的分階段打擊建議,連西點(diǎn)學(xué)者都在辯“平民領(lǐng)導(dǎo)人和警察算不算軍事目標(biāo)”——這哪還是機(jī)械化戰(zhàn)爭時(shí)代的“體面”打法?
日常生活里我們問AI的問題大多沒標(biāo)準(zhǔn)答案,可戰(zhàn)爭里呢?如果AI被要求“速戰(zhàn)速?zèng)Q”,它會(huì)怎么算軍事利益和平民傷害的比例?它告訴你方案“不體面”但高效、沒法律風(fēng)險(xiǎn),你用不用?
更可怕的是,當(dāng)AI給出“最優(yōu)解”,決策者會(huì)不會(huì)直接放棄思考?到時(shí)候,按按鈕的還是人,但下達(dá)指令的其實(shí)是AI——戰(zhàn)爭就徹底變了味。
學(xué)者們給出了不少辦法:定期清理數(shù)據(jù)、明確責(zé)任權(quán)限、培訓(xùn)指揮官懂AI,甚至給AI加阻斷機(jī)制,比如識(shí)別出醫(yī)院就直接跳過。可讓人悲觀的是,AI對“軍事必要”的極端計(jì)算,只會(huì)讓人類對附帶傷害的容忍度越來越高。
你想想,當(dāng)AI把所有選擇都量化成數(shù)字,人類還能守住“人決定生死”的底線嗎?未來戰(zhàn)爭里,AI該被限制到什么程度?是完全禁止自主決策,還是有條件使用?評論區(qū)說說你的看法,看看大家都怎么想!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.