福建
《人工智能科技倫理審查與服務辦法（試行）》解讀
近日，工業和信息化部等十部門聯合印發《人工智能科技倫理審查與服務辦法（試行）》（以下簡稱《辦法》）。為更好理解和實施《辦法》，現就有關內容解讀如下。
一、《辦法》出臺的背景是什么？
黨和國家高度重視科技倫理工作，2022年3月，中共中央辦公廳、國務院辦公廳印發《關于加強科技倫理治理的意見》，對科技倫理治理作出頂層設計和系統部署；2023年9月，科技部等十部門聯合印發《科技倫理審查辦法（試行）》，對科技倫理審查主體、審查程序作出具體規定；2024年7月，黨的二十屆三中全會再次強調“加強科技倫理治理”。人工智能技術快速發展，深度賦能千行百業，由此帶來的算法歧視、深度偽造等倫理風險也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等內涵。加強人工智能科技倫理治理，是堅守科技向善、筑牢科技安全底線、保障產業高質量發展的必然要求。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動人工智能產業創新發展、促進負責任創新的現實需要。
二、《辦法》與現有人工智能治理政策法規如何銜接？
《辦法》與現有人工智能治理相關政策法規實現有效協同。
《辦法》與《科技倫理審查辦法（試行）》緊密銜接。《科技倫理審查辦法（試行）》是覆蓋各領域科技倫理審查的綜合性、通用性規定，明確了審查基本程序、審查內容與標準等統一要求，為《辦法》提供了基礎遵循。《辦法》在遵循通用規定的前提下，立足人工智能技術特征與倫理原則，在適用范圍、申請材料、審查重點、簡易程序適用等方面作了針對性完善與細化，更貼合人工智能科技倫理審查實際需要。
《辦法》第二十六條規定，人工智能科技活動在深度合成、算法推薦、生成式人工智能服務管理等方面實行登記、備案、行政審批等監管措施且將符合科技倫理要求作為審批條件、監管內容的，可不再開展專家復核，有效減輕企業合規負擔。
同時，《辦法》第三十二條規定，明確違反本辦法規定的，將依照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學技術進步法》等法律法規和相關規定進行調查處理并給予相應處罰。
三、《辦法》中規定的人工智能科技倫理審查流程主要包括哪些環節？審查重點關注哪些方面？
《辦法》規定的人工智能科技倫理審查程序主要包括：
申請：人工智能科技活動負責人向本單位人工智能科技倫理委員會（以下簡稱委員會）或人工智能科技倫理審查與服務中心（以下簡稱服務中心）提交申請材料；
受理：委員會或服務中心應根據申請材料決定是否受理申請，確定適用的審查程序，并通知申請人；
開展審查：委員會或服務中心采用一般、簡易或應急程序，開展科技倫理審查；
專家復核：納入“需要開展科技倫理專家復核的人工智能科技活動清單”（以下簡稱復核清單）管理的科技活動，通過委員會或服務中心的初步審查后，由單位申請專家復核，所在地方或相關主管部門組織開展專家復核；
作出審查決定：委員會或服務中心開展審查后作出批準，修改后再審或不予批準等決定，納入復核清單的科技活動，根據專家復核意見作出科技倫理審查決定；
審查申訴：申請人對審查決定有異議的，可向委員會或服務中心提出申訴；
跟蹤審查：委員會或服務中心對審查批準的人工智能科技活動開展跟蹤審查，跟蹤審查間隔一般不超過12個月，納入復核清單的活動，跟蹤審查間隔一般不超過6個月。
委員會或服務中心重點圍繞人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等方面開展倫理審查。同時，還需要關注參與科技活動的科技人員資質等是否符合相關要求，擬開展的科技活動是否具有科學價值和社會價值，科技活動的風險受益是否合理，倫理風險控制方案及應急預案是否科學恰當、具有可操作性等。
四、哪些人工智能科技活動需要開展專家復核，具體如何開展？
《辦法》第三節及附件規定，需要開展專家復核的人工智能科技活動主要包括以下三類：
一是對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統的研發；
二是具有輿論社會動員能力和社會意識引導能力的算法模型、應用程序及系統的研發；
三是面向存在安全、人身健康風險等場景的具有高度自主能力的自動化決策系統的研發。
開展專家復核的人工智能科技活動，需先通過本單位人工智能科技倫理委員會或委托的服務中心完成初步審查；再由本單位申請專家復核。其中，中央企業、中央和國家機關直屬單位直接報請相關主管部門，其他單位報請地方。地方或相關主管部門按規定成立復核專家組，對初步審查意見的合規性、合理性開展復核，并在收到復核申請后30日內反饋復核意見。委員會或服務中心依據復核意見作出最終審查決定，同時對納入復核清單的活動加強跟蹤審查，跟蹤審查間隔一般不超過6個月。若倫理風險發生重大變化，應重新開展審查并申請專家復核。
五、辦法在人工智能科技倫理服務與促進方面提出了哪些具體舉措？
《辦法》專門設立第二章“服務與促進”，圍繞標準建設、促進服務、鼓勵創新、宣傳教育、人才培養五個方面制定務實舉措，精準破解當前人工智能企業倫理治理中存在的技術手段不足、標準規范不完善、治理工具匱乏等問題。
一是鼓勵高等學校、科研機構、醫療衛生機構、企業和科技類社會團體等參與人工智能科技倫理標準制定，凝聚行業共識，完善標準體系。
二是推進人工智能科技倫理服務體系建設，強化風險監測預警、檢測評估、認證、咨詢等服務供給，加大對中小微企業人工智能科技倫理審查的支持和服務力度，降低企業合規成本。
三是支持人工智能科技倫理審查技術創新，鼓勵企業運用技術手段防范倫理風險。
四是加強人工智能科技倫理宣傳教育，提升公眾倫理意識和素養。
五是推動職業體系和課程體系建設，采取多種方式培養人工智能科技倫理人才。
來源：工信微報
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
