當AI從“對話”轉向“行動”：這份治理倡議，要守住什么底線？

編者按

人工智能作為引領新一輪科技革命和產業變革的戰略性技術，正深刻重塑世界經濟格局、社會治理模式與人類生活方式。我國此前發布《全球人工智能治理倡議》，倡導以人為本、智能向善，推動構建開放、公正、包容、有效的全球人工智能治理體系。

近日，在中國科協組織下，中國人工智能學會等16家單位共同起草《全球人工智能治理科技社團倡議》，圍繞確保人工智能安全有益、賦能民生發展、嚴守安全底線、防范技術風險等方面發出倡議。

值此契機，中國科協之聲對話人工智能領域專家，共同探討人工智能治理為何刻不容緩、中國方案有何亮點、科技社團應如何發揮作用。

專家簡介

梁正，中國科學學與科技政策研究會副秘書長，長期從事人工智能治理領域研究，參與國家中長期科技發展規劃戰略研究等國家級重大咨詢課題。

孫富春，中國人工智能學會副理事長，長期從事具身智能與機器人靈巧操作領域的研究。

崔勇，中國通信學會智能體通信專業委員會主任委員，曾擔任國際互聯網標準化組織IETF工作組主席，主要研究領域包括互聯網體系結構、下一代互聯網和網絡安全等。

治理為何刻不容緩：

從“對話”到“行動”的風險躍遷

中國科協之聲：當前，無論是聯合國、各國政府還是科技社團，都在密集推動AI治理。這一輪治理緊迫性的技術根源是什么？

孫富春：最根本的變化是，人工智能已經從過去的交互理解、問答系統，進入到了行動階段。這意味著AI從表征走向行為、從開環進入閉環。隨著機器人傳感技術、認知決策與行為技術的不斷發展，具身智能在機器人上的應用日益廣泛。機器能通過理解人類意圖自主生成任務、執行行為，這就引發了諸多倫理問題。比如，過去由人類完成的炒股、購物等行為，現在機器可以自主完成，甚至可能被用于犯罪。這就引申出一個核心問題：機器犯錯，該懲罰誰？對此，有三種主要思潮——將機器視為人造物體，責任在人類；將機器比作寵物，責任在其“監護人”；若機器達到高度自主、擁有類人智慧，則需直接對其進行懲罰。這些不是遙遠未來的假設，而是正在逼近的現實。

崔勇：從計算機網絡的視角來看。過去，大模型多是基于文本或多媒體的問答交互，對生產生活未必能產生直接影響；但現在，它已能直接加速各行各業的效率提升，這是非常突出的優勢。但是，如果存在安全隱患，這種加速的負面影響也會被大幅放大。我個人研究計算機網絡，更關注多智能體互聯互通時的問題——比如數據自保護、數據不出境、數據隱私等。這些方面都需要進一步加強監管或規范流程，這是十分必要的。以智能體通信為例，不同智能體之間如果缺乏安全網關，惡意指令可能直接刪除用戶文件，這并非危言聳聽。

梁正：我注意到一個時間節點：從去年下半年開始，人工智能治理問題已經到了“不解決不行”的地步。在科研領域，AI用于科學研究帶來了大量科研誠信問題；在教育領域，學生使用AI難以鑒別、相關規范缺失；在社會層面，公眾對人工智能的認知要么過度夸大替代作用，要么認為它離生活很遙遠。今年兩會已經明確，正式啟動人工智能立法工作。需要強調的是，治理不是要踩剎車，而是要給高速行駛的車裝上可靠的導航和護欄。科技社團作為獨立、專業、理性的主體，最適合承擔提供這一公共產品的責任。

困境何在：

技術迭代、地緣政治與認知偏差的三重落差

中國科協之聲：既然緊迫性如此明確，為什么全球AI治理仍然舉步維艱？

梁正：核心困境有三層。第一，治理跟不上技術發展速度。人工智能技術迭代太快，治理規則難以快速適配。去年看似遙遠的問題，今年已經非常現實。第二，地緣政治格局復雜。部分領先國家采取“以鄰為壑”“拉小圈子”的方式，不愿分享前沿技術。同時，南方國家擔心被邊緣化，很多國家甚至沒有能力參與討論。第三，社會認知與技術實際存在偏差。公眾要么過度夸大，要么過于疏離。這三個落差——技術發展與治理的落差、各國能力與發展的落差、社會認知與實際的落差——是全球人工智能治理難以形成共識的根本原因。

崔勇：我長期參與IETF國際標準制定。國際互聯網標準組織IETF已經舉辦了120多次會議，但只來過中國兩次。在最近的深圳會議上，國際社會對智能體通信、智能體互聯互通的關注度極高，大家都在探討如何快速制定既安全又高效的協議。但問題是，技術先進是掌握話語權的關鍵。目前，我國論文發表量世界第一，高水平論文也領先，但在國際標準制定方面與世界頂尖水平還有較大差距。這說明我們是互聯網大國，還不是頂尖的互聯網強國。此外，簽證等問題也影響我們參與國際組織——IETF每年在北美舉辦一次會議，這些現實阻礙不容忽視。

孫富春：除了制度和標準層面的困境，還有技術本身的風險根源。AI的偏好問題、幻覺問題、造假問題，都需要從技術層面破解。比如，谷歌曾將美國黑人標注為黑猩猩，這就是訓練數據中的潛意識偏見；此外，目前大模型的幻覺率還比較高。這些技術問題不解決，治理就會變成“空中樓閣”。但我想強調的是，治理困境的深層原因，其實與人的思考方式有關。我們當前最大的問題就是浮躁、缺少深度思考。在AI時代，要保持深度思考，就要不隨波逐流，不執著于名利，一輩子堅持一件事深耕下去，才能實現突破。

中國方案：

不另起爐灶，貢獻最大公約數

中國科協之聲：在這樣的全球困局中，中國科技社團發布的《全球人工智能治理科技社團倡議》想要傳遞怎樣的信號？

梁正：首先，我們要明確一個態度，不另起爐灶，而是加強聯合國的作用。倡議中明確提出推進在聯合國框架下成立國際人工智能治理機構。聯合國在核武器、核軍控等領域已有成熟經驗，可以借鑒。中國倡議的亮點在于：一是“以人為本、智能向善”，把“確保有益”和“賦能民生”放在最重要位置；二是“發展與安全并重”，不認為二者對立；三是“交流互鑒、開放包容”，反對排他性小圈子。這背后是中國式的價值理念——集體主義、長期主義與和諧共生。例如，我們強調個人權利可以在集體利益需要時適當讓步，這與歐洲過度強調個人權利有所不同。

崔勇：我特別贊同“開放包容”這個方向。國際互聯網標準組織IETF有一句名言：“我們拒絕國王、總統與投票。我們信奉大致共識與可運行代碼。”當年互聯網先驅們設計的諸多創新都沒有申請知識產權，而是以開發、開源形式貢獻給全世界，這正是互聯網能快速發展的關鍵。我認為，在AI和智能體時代，我們或許也應該借鑒這種模式，推動全人類共同發展。全球性風險不是單一國家能應對的，必須各國協同發力。此外，在技術層面，我們正在研發“智能體網關”，通過國家或國際認證的網關對所有智能體交互進行監測和過濾，這既是中國技術創新的體現，也是治理落地的重要抓手。

孫富春：我想從中國古代哲學的角度談談中國方案的獨特性。中國古代很早就有對“智能”的研究，最具代表性的是荀子。荀子在《正名》篇中說：“知在人者，謂之知；知有所合，謂之智”——人天生具有認知能力，當這種能力與世間萬物交互時，就會產生智慧；“能在人者，謂之能；能有所合，謂之才”——人還有求變、創新的能力，當這種能力與自身專業方向結合，就會形成才能。荀子還提到“凡以知，人之性也；可以知，物之理也”，強調好奇心是人的本性。這些思想對我們今天研究AI、治理AI具有重要的指導意義。我認為，中國方案的優勢不僅在于制度設計，更在于我們有一種“天人合一”“和諧共生”的哲學底色。用中國古代哲學指導人工智能發展，這是一個值得深挖的方向。比如，腦啟發的研究——看到鳥飛啟發我們發明飛機——就是這種哲學思想在技術上的體現。

從理念到落地：

技術、制度與人的協同

中國科協之聲：倡議很美好，但如何避免淪為紙面宣言？最關鍵的落地保障是什么？

梁正：我認為有三點。第一，科技社團持續發揮倡導和教育作用，讓“智能向善”“開放包容”等理念深入人心。第二，結合國家層面的實際工作，比如在數字“一帶一路”中落實普惠原則，為發展中國家提供能力建設——我所在的清華大學人工智能國際治理研究院就與聯合國開發計劃署聯合舉辦了青年創造營等相關活動，為發展中國家學生授課。第三，推動行業和企業參與，讓倡議要求落到具體實踐中。比如清華大學正在打造人工智能醫院，由多智能體構成垂直醫療領域的專業模型，可以在很大程度上賦能基層醫療與公共衛生服務，目前已計劃在基層醫院試點。此外，“監管沙盒”是一個重要工具——例如北京亦莊的自動駕駛示范區就是物理沙盒，在可控范圍內試驗、完善規則，再逐步推廣。

崔勇：從技術層面，智能體網關是一個重要的解決方案。現在不同智能體之間的交互是直接的，難以監控和防范安全隱患。如果所有智能體的交互都通過國家或國際認證的網關進行，網關就能全面監測所有交互行為，防范隱私泄露等問題。比如工資賬單，在人事部門內部流轉無需特殊處理，但流轉到其他部門時，就可以通過網關進行脫敏處理。這項技術雖然還在研發階段，但它代表了技術治理的一個可行方向。此外，我們需要引導科研人員將發表論文的動力，轉向將研究成果轉化為國際標準。同時，加強專業人才隊伍建設——不僅要培養學生的代碼能力、算法能力，還要提升他們在國際規則制定、話語權表達方面的綜合能力。

孫富春：我特別想強調一個容易被忽視的維度——人的回歸與深度思考。AI時代看似是技術發展，實則是人的智慧、人文素養和深度思考能力的競爭。人類的創造性，源于大腦多個區域的協同作用，而文科培養的跳躍式思維正是激發創造性的關鍵。我們現在研究AI時，會重點關注“腦啟發”方向。人文素養帶來的想象力和深度思考，正是推動AI向更高階發展的重要支撐。在教學中，我會引導學生多總結、多規劃、多預測，培養想象力和規劃能力。同時，我也會鼓勵學生一輩子深耕一個領域，不浮躁、不追求表面名利。只有這樣，我們才能在AI時代真正保持人的主體性，而不是被技術異化。

中國科協之聲：科技社團在全球AI治理中應該扮演怎樣的角色？

梁正：科技社團要做那個連接各方、凝聚共識、基于證據發聲的橋梁，既不取代政府，也不屈從商業。同時，科技社團要持續發揮倡導和教育作用，讓“智能向善”“開放包容”等理念深入人心——這是治理落地的價值基礎。

崔勇：科技社團要推動技術標準與治理規則協同演進，讓“可運行的代碼”成為全球互信的基石。此外，科技社團應積極搭建高水平國際交流平臺，深度參與國際標準規則制定，在智能體通信等前沿領域推動安全高效的互聯互通協議，從而提升我國在國際治理中的話語權。

孫富春：科技社團要守護人類在認知與創新方面的優勢，讓AI真正服務于人的全面發展——這或許是中國古代哲學給世界最大的啟示。同時，科技社團可以借助“獨立第三方”的靈活優勢，推動民間層面的國際合作，凝聚各國在人工智能倫理與安全上的最大公約數。

來源：中國科協之聲

責編：葉　揚

美編：陳路漫

一審：何百岳

二審：方佳佳

三審：王陸軍