發言| 人工智能及其治理的國際規則塑造：人道考量

日前，紅十字國際委員會主席中國事務個人特使、東亞地區代表處主任史德林應邀出席2025世界互聯網大會烏鎮峰會。在11月8日的上，史德林介紹了人工智能技術在人道領域的應用和風險，呼吁各方攜手共建規則與保障機制，讓人工智能成為保護之力，而非傷害之源。在11月9日舉辦的網絡空間國際規則論壇上，史德林重點闡述了在制定人工智能及其治理的國際規則時必須關注的若干關鍵人道考量。

圖片來源：主辦方

人工智能及其治理的

國際規則塑造：人道考量

在開始發言內容之前，請允許我簡要介紹我所任職的組織——紅十字國際委員會。紅十字國際委員會是一個公正、中立和獨立的組織，其特有的人道使命是保護武裝沖突和其他暴力局勢受難者的生命與尊嚴，并向他們提供援助。160多年來，紅十字國際委員會在無數戰爭和武裝沖突中開展行動，為亟需幫助之人提供援助。

紅十字國際委員會在戰爭和沖突中開展行動的獨特職責，使我們得以親眼目睹了這些局勢對平民居民的影響，這些來自一線的觀察深刻影響了我們對國際法發展的貢獻，也構成了我今天發言的基礎。

今天，我將重點闡述在制定人工智能及其治理的國際規則時必須關注的若干關鍵人道考量。

首先，我想談談自主武器系統中人工智能的使用問題。

紅十字國際委員會認為，自主武器系統是在沒有人類干預的情況下選擇目標并對其使用武力的武器系統。這就意味著，自主武器系統在最初由人啟動或發射后，能夠自行選擇目標并發動攻擊。隨著人工智能技術的發展，人工智能完全可以在自主武器系統中用于執行目標識別和選擇。換言之，如今存在將事關生死的決策交由機器完成，而幾乎或完全無需人類干預的現實能力。

因此，自主武器系統無疑會帶來人道、法律和倫理方面的嚴重關切。由機器作出的殺戮決定能否遵守國際人道法？如果機器出錯，誰該為違法行為承擔責任并接受問責？國際人道法要求軍事決策中必須有人類的判斷和決策，因為人類生命神圣不可侵犯，絕不能由機器作出生殺予奪的裁斷。

沖突帶來的人道代價，往往表現為平民死亡和民用物體被毀，這些都是真切的現實后果，絕不應該被簡化為冰冷的統計數字、代碼和算法。

為了應對這些關切，紅十字國際委員會敦促各國就自主武器系統制定國際規則。具體而言，國際規則應規定禁止使用不可預測的自主武器系統，以及禁止使用自主武器系統攻擊人類。截至目前，有關自主武器系統的討論仍在持續進行，例如聯合國相關進程中的討論。紅十字國際委員會和聯合國秘書長在2026年前就自主武器系統開展談判并達成具有法律約束力的國際規則。

其次，我想談談人工智能在軍事領域更廣泛的使用，例如在軍事規劃和決策等方面。

誠然，當代武裝沖突中已經出現了用于軍事用途的人工智能決策支持系統，這些計算機工具能夠整合多種來源的數據（例如衛星圖像、傳感器數據、社交媒體信息流），并基于這些數據進行分析、提出建議或作出預判。例如，人工智能決策支持系統可以分析無人機拍攝素材，并使用圖像分類技術在武裝沖突中識別并對潛在攻擊目標進行分類。人工智能決策支持系統能夠將沖突進程由人類速度加速為機器速度，而這會帶來重大風險。

另一個令人擔憂的問題在于將人工智能用于指導核武器或其他大規模毀滅性武器的使用決策，這可能會加劇核武器使用的風險，并造成災難性的后果。

從人道角度出發，使用人工智能決策支持系統可能會在武裝沖突中為平民和其他受保護人員帶來額外的風險。這背后有多種原因，既有人工智能固有的“黑箱問題”，還有人工智能并不適合執行戰場上的所有任務，以及人工智能偏見等問題。這并不是說人工智能無法為人類決策提供支持，但人工智能絕不能取代人類決策，尤其在軍事領域更是如此。強調人類控制和人類判斷，理應成為制定人工智能國際規則的首要原則。

2025世界互聯網大會烏鎮峰會，網絡空間國際規則論壇

圖片來源：主辦方

剛才我談的都是人工智能帶來的風險，但人工智能同時也為人道領域帶來了諸多機遇。正如中國《人工智能全球治理行動計劃》中所提到的，“人工智能帶來前所未有發展機遇，也帶來前所未遇風險挑戰”。紅十字國際委員會的工作也印證了這一點，我們使用人工智能為人道行動提供支持，并取得了積極成果。

我相信，制定國際規則定將發揮關鍵作用，推動人工智能的使用遵守國際法并符合倫理和人道價值。人工智能與世間任何工具一樣，如何使用取決于使用者，而使用者的行為則由法律法規指導。

目前，從聯合國進程到地區及雙邊論壇，許多論壇正在就人工智能監管開展討論，未來可期。但不可否認的是，當前討論和磋商的進度遠不及該領域技術創新的速度。另外，還必須注意，相關討論不能只關注人工智能的和平利用，卻忽視在軍事領域使用人工智能可能會對平民帶來破壞性影響這一現實情況。我們必須共同將人道精神置于人工智能討論的核心位置。人工智能及其治理的國際規則制定必須始終堅持以人為本，確保無論如何都充分納入人道考量。

01

●出版物甄選 | 《紅十字國際委員會的人工智能政策》

02

●紅十字國際委員會舉辦專題討論 聚焦人工智能在武裝沖突中的運用

03

●蘇丹 | 紅十字國際委員會在法希爾及周邊開展的應對工作

04

● 紅十字國際委員會如何在哈馬斯-以色列停火協議框架下協助遺體返還

紅十字國際委員會