人工智能科技倫理審查新規發布

　　新華社北京4月8日電　《經濟參考報》4月8日刊發記者郭倩采寫的文章《人工智能科技倫理審查新規發布》。文章稱，近日，工業和信息化部等十部門聯合印發《人工智能科技倫理審查與服務辦法（試行）》（以下簡稱《辦法》），提出建立和完善人工智能科技倫理標準體系，支持人工智能科技倫理審查技術創新，強化以技術手段防范人工智能科技倫理風險。這為我國人工智能科技倫理審查與服務工作提供了明確指引。

　　專家表示，《辦法》的出臺，標志著我國人工智能倫理治理從原則倡導邁向制度化、規范化、可操作的新階段，為推動人工智能健康發展提供了重要制度遵循。

　　據悉，《辦法》對人工智能科技倫理審查的適用范圍、服務促進、實施主體、工作程序、監督管理等作出規定，并結合人工智能科技活動特點，明確了申請與受理、一般程序、簡易程序、專家復核程序、應急程序等不同程序要求，有效規范人工智能科技活動倫理治理。

　　《辦法》提出，開展人工智能科技倫理審查，重點關注人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護6個方面，包括訓練數據的選擇標準，算法、模型、系統的設計是否合理；是否采取措施防止偏見歧視、算法壓榨，保障資源分配、機會獲取、決策過程的客觀性與包容性；是否合理披露算法、模型、系統的用途、運行邏輯、交互方式說明、潛在風險等信息等。

　　事實上，近年來，我國堅持“倫理先行”的治理要求，在統籌發展和安全基礎上，持續推進人工智能科技倫理治理工作。例如，在倫理規范層面，國家新一代人工智能治理專業委員會發布的《新一代人工智能倫理規范》，明確了人工智能科技倫理的基本倫理規范，涵蓋人工智能管理、研發、供應、使用全鏈條。在制度體系層面，中共中央辦公廳、國務院辦公廳印發的《關于加強科技倫理治理的意見》對科技倫理治理作出頂層設計和系統部署，構建了我國科技倫理治理的基本模式、監管框架、制度體系。

　　“此次《辦法》是國家科技倫理治理體系在人工智能領域的落地，是我國科技倫理制度鏈條的重要延伸與細化完善?！惫I和信息化領域科技倫理專家委員會主任委員魏一鳴說，《辦法》立足人工智能技術迭代快、跨界融合深等特點，在通用審查規則基礎上實現領域化、精細化適配，填補了人工智能科技倫理審查的制度空白。

　　為推進人工智能科技倫理服務體系建設，《辦法》從標準建設、服務體系、鼓勵創新、宣傳教育、人才培養五個方面制定支持舉措，幫助企業切實提升科技倫理風險防控能力。其中提出，強化人工智能科技倫理風險監測預警、檢測評估、認證、咨詢等服務供給；促進人工智能科技倫理審查高質量數據集有序開源開放，加強通用性風險管理、評估審計工具研發，探索基于應用場景的科技倫理風險評估評測等。

　　“倫理治理不僅需要制度規范，更需要技術支撐?！蔽阂圾Q認為，具有深厚技術實力的企業、高校和科研機構，應主動承擔起研發科技倫理治理“硬科技”的使命，加強人工智能倫理治理技術研發與工具創新。聚焦可解釋人工智能、算法公平性監測、深度偽造鑒別等關鍵技術開展專項攻關，為倫理審查提供技術工具。通過研發實用的倫理評估工具、風險模擬平臺和算法審計系統，將抽象的倫理原則轉化為可量化、可操作、可嵌入工程流程的技術指標與解決方案，推動倫理治理技術化、工程化。

來源：新華網