推動以人為本的人工智能開發與應用 | 紅十字國際委員會主席中國事務個人特使史德林在中國網信雜志發文

史德林
紅十字國際委員會主席中國事務個人特使、東亞地區代表處主任

自1863年成立以來，紅十字國際委員會（ICRC）始終將保護與援助在武裝沖突地區和其他暴力局勢中的受難者作為唯一使命，持續在全球范圍開展人道行動、推動國際人道法的發展，并致力于促進各國政府及所有武器攜帶者對國際人道法的尊重。作為人道主義組織，紅十字國際委員會積極探討人工智能，是因為這項技術的快速發展既為人道行動帶來了重大機遇，也伴隨著新挑戰。

“雙刃劍”——人道視角下的人工智能

物理學家斯蒂芬·霍金認為，人工智能崛起要么是人類最好的事情，要么就是最糟糕的事情。人工智能的迅猛發展既為人類社會進步帶來了巨大機遇，同時也帶來了新挑戰——這同樣適用于人道領域。與其他行業、地區的各類組織一樣，紅十字國際委員會也在積極思考人工智能對其工作的深遠影響。我們致力于探索人工智能的進步是否、如何、何時以及在何種情況下能夠幫助實現本組織的使命。與此同時，我們有必要深入理解并應對人工智能對生活在武裝沖突地區和其他暴力局勢中的人們的生命和尊嚴所帶來的威脅，并推動相關方以負責任的方式使用人工智能。

然而，理解人工智能及其影響并非易事。人工智能對人道組織的潛在價值，遠不止于協助撰寫報告、整理數據等日常工作。通過加快決策速度、強化早期預警以及提供更加公平的人道服務，人工智能可以為人道行動轉型提供強大機遇。例如，聊天機器人可以作為信息渠道，為有需要的人提供特定國家的法律、住房或醫療衛生方面的最新動態。基于人工智能的圖像識別技術，可通過分析從戰區找回的文件照片、軍用身份牌和書面報告識別失蹤的平民和戰士——這一技術在俄烏沖突中得到了應用。人們利用人工智能開發了預測模型，預判如洪水、干旱、傳染病暴發或沖突升級等自然災害和其他事件。人工智能還可用來優化救援物資運輸路線、改善各分發點的資源分配，以及支撐情景規劃與模擬演練等。

與此同時，人們往往難以預料和應對在人道行動中使用人工智能所帶來的重大且復雜的風險。聊天機器人可能因AI幻覺而把錯誤的建議或信息提供給尋求援助的平民。不完整、過時、錯誤或有偏見的數據訓練出的人工智能系統若做出錯誤預測和不良判斷，可能導致特定群體被過度代表，進而對某些種族、國籍、性別或年齡群體產生偏見，阻礙他們獲得援助，甚至使他們面臨更多的風險。此外，人類在理解具體情境時能靈活運用背景知識和經驗，而人工智能的輸出卻僅基于數據與像素，這可能導致其在應對特定情況時給出脫離實際甚至錯誤的建議，這些風險對人道組織來說令人擔憂。一方面，其往往缺乏相關技術專長；另一方面，其工作常常處在環境復雜的地區，需要面對易受影響的人群。在這樣的條件下，人工智能帶來的風險可能進一步放大。

紅十字國際委員會也正在評估暴力局勢中各方開發和使用人工智能所帶來的風險。生成式人工智能及其他數字技術極大加速了有害信息的傳播，削弱對人道工作者的信任、接納和安全保障，并增加平民受到傷害的風險。與此同時，人工智能應用于武器和軍事決策支持系統已不再是遙不可及的設想。依靠以機器速度生成的信息輔助做出的軍事決策，很可能缺乏以往按人類速度處理信息時的必要監督和審慎。人類普遍對計算機存在“技術偏信”，即便清楚人工智能存在局限，但仍對其結果過度信任。如果人工智能的算法存在偏頗，就會把平民或其他受保護人員和物體誤判為威脅，而武器系統的自主性則會削弱人類的控制與問責，甚至攻擊醫療和人道基礎設施，造成嚴重后果。

因此，人道工作者必須持續關注人工智能領域的發展，審慎評估相關機遇和風險，并倡導負責任地開發與使用人工智能。

以人為本——負責任地開發與使用人工智能的核心原則

2024年10月，第34屆紅十字與紅新月國際大會通過“在武裝沖突期間保護平民及其他受保護人員和物體免受信息和通信技術可能造成的人道代價”決議。該決議表達了各方對武裝沖突期間包括人工智能在內的信息和通信技術活動造成危害的共同關切，承諾保護平民免受人工智能及其他信息和通信技術在武裝沖突中帶來的威脅，并強調了所有交戰方在使用信息和通信技術時必須遵守的關鍵國際人道法義務。

根據《》，紅十字國際委員會承諾在使用數字技術方面以身作則，其中包括負責任地開發與使用人工智能。2024年，紅十字國際委員會發布人工智能政策，為探索通過人工智能助力其使命實踐提供方向，同時確保對人工智能的使用始終遵循負責任、安全、協調一致且以人為本的原則。

無論人工智能如何發展，在關乎人類生命、權利和尊嚴的決策中，主導權必須始終掌握在人類手中。人工智能雖能幫助提升人道工作的效率與效果，但永遠無法取代人類的判斷力、同理心和責任感。

作為人道組織，保持并增強本組織與受影響人群在距離和情感上的貼近性至關重要。這有助于建立信任關系，應對不斷變化的人道需求。因此，紅十字國際委員會在開發和使用人工智能解決方案時，必須確保本組織開展的內、外部各項工作和項目都能通過親身參與和面對面互動充分展現人道精神和同理心。因此，紅十字國際委員會重點關注能夠增強人類自主性和能動性、輔助面對面人際互動的人工智能解決方案。如果人工智能被誤用或是設計不當，可能會加劇歧視、引入有害偏見，甚至催生新的排斥現象。對于已經身陷沖突與危機的群體而言，此類風險不可接受。正因如此，紅十字國際委員會致力于審慎使用人工智能，僅在人工智能可帶來確切價值的領域加以應用，確保人工智能解決方案公平透明，并努力遵循人道領域長期奉行的“不傷害”原則。因此，紅十字國際委員會的人工智能政策也強調需要建立保障機制，設立了比例性與預防措施、安全與保障、透明與可解釋性、責任與問責在內的一系列指導原則。

通過人工智能政策，紅十字國際委員會表明，創新與責任必須攜手同行。人工智能具備改善人道行動的潛力，無論是通過支持后勤保障、強化醫療響應，還是讓援助更及時有效。最重要的是紅十字國際委員會將確保人工智能的每一次應用都必須忠實于本組織的核心使命——保護生命與尊嚴、減輕苦難，與受戰爭和暴力影響的人們并肩同行。

推動在軍事行動中負責任地開發與使用人工智能

中國國家主席習近平強調，“中國堅持走和平發展道路”，同時也指出，“當今世界并不太平”。我們正面臨一個動蕩交織的世界，安全失序、發展失衡、治理失效日益凸顯。根據紅十字國際委員會統計，全球正在上演著大約130場武裝沖突，較過去15年增長了2倍，且存在暴力程度高、破壞范圍廣，以及人道援助受阻等特點。

作為人道組織，紅十字國際委員會無法制止沖突的發生。我們的首要使命是保護與援助武裝沖突和其他暴力局勢中的受難者，為恢復和平與穩定營造條件。為有效援助身處武裝沖突地區的民眾，紅十字國際委員會首先需要評估當前以及在不遠的未來可能發生的武裝沖突的潛在影響。

人工智能正在改變武裝沖突的模式。事實上，人工智能在軍事行動中的應用引發了諸多法律、倫理和人道方面的關切。例如，由人工智能輔助的決策支持系統正以超越人類認知能力的方式影響并加速軍事決策，或將削弱決策質量。與此同時，自主武器系統（AWS）將涉及更廣泛的目標、更長的使用周期以及更少的人類干預。此外，自主的智能體能在幾秒鐘內組織發動針對如水電等民用系統的復雜網絡攻擊，大幅縮短偵測和防御發生此類攻擊的時間窗口。

有鑒于此，紅十字國際委員會正與全球相關方合作，最大限度降低此類風險。事實上，中國通過其在2021年發布的《中國關于規范人工智能軍事應用的立場文件》闡述了其在此問題上的立場和觀點，提出“各國應確保新武器及其作戰手段符合國際人道主義法和其他適用的國際法”“確保有關武器系統永遠處于人類控制之下，保障人類可隨時中止其運行”“應限制人工智能數據的軍事化使用”。顯而易見，紅十字國際委員會和中國都倡導人工智能在軍事領域的使用應堅持以人為本的原則。

2023年，為降低自主武器系統帶來的風險，聯合國秘書長古特雷斯與紅十字國際委員會主席斯波利亞里茨共同呼吁各國對自主武器系統制定具體的禁止與限制措施，以保護當代及子孫后代免受其使用帶來的后果。2025年，紅十字國際委員會向聯合國秘書長提交了一份立場文件，闡明了對自主武器系統的觀點，并呼吁明確規定應被全面禁止的自主武器系統類型（例如直接將人作為目標的系統以及不可預測的系統）以及對其他自主武器系統應適用的限制措施。

紅十字國際委員會與中國的對話與合作

2023年，中國國家主席習近平在會見紅十字國際委員會主席斯波利亞里茨時指出，“人道主義是能夠凝聚不同文明的最大共識”“事實證明，中國是國際人道主義事業的積極擁護者、參與者和貢獻者”。

中國已崛起為全球具有重要影響力的大國，并成為紅十字國際委員會的全球主要采購中心之一，我們正深入了解中國在國際合作、發展、武裝沖突及和平問題上的觀點。2025年是紅十字國際委員會東亞地區代表處在北京設立20周年。在過去20年間，我們始終與中國政府部門、中國人民解放軍、中國紅十字會、智庫及學術機構就全球重大人道問題與挑戰保持密切對話。與此同時，我們還在拓展與中國在多個領域的合作。例如，2024年，中國與紅十字國際委員會及其他國家共同發起“激勵對國際人道法做出政治承諾的全球倡議”。倡議致力于制定一套具體可行的建議，確保國際人道法不僅得到更好的遵守，且能適應未來。這項工作將以2026年召開“在戰爭中維護人道”的高級別會議為重要成果。

中國既是人工智能創新方面的領軍者，也是全球技術治理的重要參與方。中國強調的智能向善、以人為本的人工智能治理理念與紅十字國際委員會的做法高度契合。在當前地緣政治與技術分歧加劇的時代，這種理念上的共性為雙方開展對話與合作提供了契機。紅十字國際委員會通過博鰲亞洲論壇、世界互聯網大會、世界和平論壇等極具價值的平臺，積極與中國開展交流，探索以人工智能等技術支持人道行動的“中國方案”，并推動圍繞新技術的負責任開發與使用開展對話。

2025年12月，紅十字國際委員會與清華大學戰略與安全研究中心在北京聯合舉辦研討會，旨在探討數字化轉型帶來的機遇與挑戰，包括對新技術的負責任使用。研討會專門設置人工智能安全與治理議題，全面聚焦人工智能在人道領域日益增長的應用，介紹相關實踐中涌現出的機遇與挑戰，討論在脆弱環境中采取以人為本、恪守原則開發與應用人工智能的方法，并形成針對人道人工智能應用的建議。

人工智能正以超乎想象的速度重塑世界。對紅十字國際委員會而言，我們的選擇清晰明確：人工智能必須始終服務于人類——保護人類的尊嚴、保全生命，絕不能取代作為人道行動核心的人類同情心。這意味著我們要在強化人道行動的領域擁抱技術創新，同時堅決拒絕那些削弱人類的控制、問責或同情心的技術應用。這也意味著紅十字國際委員會要與包括中國在內的全球伙伴攜手努力，建立共同規則和保障機制，使人工智能成為保護的力量，而非傷害的工具。