采用以人為本的方法發展與使用人工智能：ICRC東亞代表處主任史德林在世界互聯網大會烏鎮峰會的講話

11月8日，紅十字國際委員會主席中國事務個人特使、東亞地區代表處主任史德林應邀出席2025世界互聯網大會烏鎮峰會，并在人工智能技術創新與治理論壇上發表講話。

圖片來源：主辦方

采用以人為本的方法

發展與使用人工智能

尊敬的來賓，

女士們、先生們，

首先，感謝主辦方邀請紅十字國際委員會參加本次論壇，能夠在此就發展與使用人工智能與各位分享來自人道視角的觀點，我深感榮幸。

紅十字國際委員會是一個公正、中立和獨立的組織。自1863年以來，紅十字國際委員會的唯一目標就是確保武裝沖突和其他暴力局勢下的受影響民眾獲得人道保護與援助。

那么，紅十字國際委員會這樣一個人道組織，為什么要討論人工智能呢？

簡單來說，人工智能的快速發展為人道部門帶來了重大機遇，但也帶來了新風險。

紅十字國際委員會致力于探索人工智能的進步是否能夠、如何能夠、以及在何時何地能夠幫助我們實現人道使命。同時，對于人工智能為身處沖突或其他暴力局勢中民眾的生命和尊嚴帶來的風險，我們也深感有責任加強理解并減輕此類風險，并倡導相關方負責任地使用人工智能。

人工智能對人道組織有諸多潛在益處。例如，紅十字國際委員會開發了自己的聊天機器人，便于工作人員獲取信息和起草報告。以人工智能為基礎的視覺識別技術能夠對自戰區回收的文件照片、軍人身份牌和書面報告進行分析，如今已經用于識別失蹤的平民和戰斗員。此外，目前正在進行測試，將人工智能用于優化援助物資的運輸路線，改善分布式網絡的資源分配，并支持情景規劃和模擬推演。

與此同時，如果使用不完整、過時、錯誤或含有偏見的數據訓練人工智能系統，可能會產生錯誤預測和不當決策。這可能會導致某些群體的代表性過高，同時對特定種族、國籍、性別或年齡群體產生偏見，阻礙他們獲得援助，甚至讓他們面臨更大風險。對于本就在沖突和危機中艱難度日的社區而言，這種風險不可接受。

另外，紅十字國際委員會也在評估交戰各方發展和使用人工智能所帶來的風險，這些風險塑造了我們開展行動的環境。例如，生成式人工智能和其他數字技術顯著加快了有害信息的傳播，從而加劇社會分化，削弱人道工作者得到的信任、接受與安全保障，并增加平民遭受傷害的風險。

2024年，紅十字國際委員會發布了人工智能機構政策，為本組織探索利用人工智能助力實現人道使命提供了指導。這一政策旨在確保本組織上下使用人工智能時始終做到負責、安全且協調一致，最重要的是，以人為本。

點擊圖片，了解紅十字國際委員會人工智能機構政策

通過采用以人為本的方法，紅十字國際委員會維護一個簡單但有力的原則：技術必須服務于人類。無論人工智能系統如何進步，事關民眾生命、權利和尊嚴的決策必須始終掌握在人類手中。雖然人工智能有助于提高人道工作的效果，但它無法取代人類的判斷力、同理心與責任感。

作為人道組織，與受影響民眾保持并加強近距離接觸和親近感非常重要，這會幫助我們建立信任，以響應不斷變化的各類需求。人工智能無法取代人與人之間的溝通互動。因此，紅十字國際委員會在使用與發展人工智能解決方案時，特別注重確保這不會削弱人與人之間直接溝通、展示人道關懷和同理心的能力。

與此同時，遭到濫用或設計不當的人工智能可能會加劇歧視、引入有害偏見、甚至催生出新的排斥形式，對已經飽受苦難的社區造成更深重的傷害。

正因如此，紅十字國際委員會始終堅持審慎使用人工智能，僅用于其真正能夠帶來價值的領域，確保解決方案公平、透明，并力求遵循人道部門長期堅持的“不傷害”原則。

圖片來源：主辦方

女士們、先生們，

我們正面對著一個變亂交織的世界，安全失序、發展失衡和治理失效日益突出。目前，紅十字國際委員會統計的全球武裝沖突數量已超過130場，這一數字在過去15年中增長逾倍。許多沖突伴隨著激烈的暴力，廣泛的破壞和對人道援助的限制。

作為人道組織，紅十字國際委員會無法制止沖突。但是為了有效援助武裝沖突中的民眾，紅十字國際委員會必須首先評估當前及未來短期內武裝沖突發展所帶來的影響。

事實上，將人工智能融入軍事行動已經引發了許多法律、倫理和人道關切。例如，人工智能輔助決策支持系統正以超越人類認知能力的方式，影響著武裝沖突中選擇攻擊目標的軍事決策過程并加快決策速度，而這可能會帶來決策質量的下降。同時，自主人工智能體能夠在短短幾秒鐘內對民用服務發動復雜網絡攻擊，這將大幅減少發現并防止此類攻擊的響應時間。另外，未來若使用自主武器系統，會出現適用目標范圍更廣、使用時間更長以及人類干預機會更少的情況。

為了應對這些問題，紅十字國際委員會今年向聯合國秘書長提交了一份立場文件，闡釋本組織的觀點并呼吁制定明確規則，限制或禁止自主武器系統。

本組織堅定不移地秉持一項原則：無論自主武器系統的技術如何精進，人類必須掌握最終控制權。

女士們、先生們，

2023年，在會見紅十字國際委員會主席米里亞娜·斯波利亞里茨時，習近平主席強調“中國始終是國際人道主義事業的積極擁護者、參與者和貢獻者。”

今年適逢紅十字國際委員會東亞地區代表處在北京成立20周年。

中國是具有重要國際影響力的大國，也是紅十字國際委員會的全球主要采購中心之一，紅十字國際委員會正在深入理解中國對國際合作、發展、武裝沖突與和平的觀點。與此同時，紅十字國際委員會正在擴大與中國的各領域合作，尤其是技術部門的合作。借助世界互聯網大會等重要平臺，紅十字國際委員會正積極加強與中國技術部門的溝通接觸，探索使用中國人工智能和其他技術解決方案為人道行動提供支持的可能性，并就其負責任的使用與發展方面促進對話溝通。

女士們、先生們，

人工智能正在重塑世界，速度超出想象。對紅十字國際委員會來說，我們的選擇清晰明了：人工智能必須始終服務于人類——守護尊嚴、保全生命，并且絕不能取代人類悲憫之心這一人道行動的核心。這就意味著，我們要積極采納能夠加強人道行動的創新技術，但堅決抵制削弱人類控制、問責機制或悲憫之心的使用方式。這也意味著，我們要與中國在內的全球合作伙伴攜手共建規則與保障機制，讓人工智能成為保護之力，而非傷害之源。

謝謝大家。

01

●出版物甄選 | 《紅十字國際委員會的人工智能政策》

02

●紅十字國際委員會舉辦專題討論 聚焦人工智能在武裝沖突中的運用

03

●活動預告 | 從國際人道法到人道行動：探索通向和平的路徑

04

● ICRC在華二十年 | 高層訪華 持續推動與中國戰略合作

紅十字國際委員會