【關(guān)注】《數(shù)字技術(shù)倫理規(guī)范導(dǎo)則指南》發(fā)布，一起來看解讀→

當(dāng)數(shù)字技術(shù)深度融入經(jīng)濟(jì)社會(huì)，重塑未來生活圖景，如何讓創(chuàng)新不越界、發(fā)展不失序？如何保障算法公平和個(gè)人隱私？如何彌合數(shù)字鴻溝？推進(jìn)數(shù)字教育過程中，如何充分尊重教學(xué)規(guī)律和教育本質(zhì)？為指導(dǎo)數(shù)字技術(shù)穩(wěn)健向善發(fā)展，防范數(shù)字技術(shù)科技倫理風(fēng)險(xiǎn)，中國(guó)科協(xié)正式發(fā)布《數(shù)字技術(shù)倫理規(guī)范導(dǎo)則指南》。

無論是數(shù)字技術(shù)研發(fā)者、平臺(tái)運(yùn)營(yíng)者，還是每一位數(shù)字技術(shù)的使用者，這份指南都將與你我息息相關(guān)，一起來看這份清晰的行動(dòng)指引，共同守護(hù)安全、公平、包容的數(shù)字生態(tài)環(huán)境→

為貫徹落實(shí)《“十四五”國(guó)家信息化規(guī)劃》，進(jìn)一步健全規(guī)范有序的數(shù)字化發(fā)展治理體系，中國(guó)科協(xié)組織專家學(xué)者，在深入調(diào)研國(guó)內(nèi)外現(xiàn)有的數(shù)字技術(shù)倫理治理相關(guān)法律法規(guī)、標(biāo)準(zhǔn)、規(guī)范、指南的基礎(chǔ)上，制定了《數(shù)字技術(shù)倫理規(guī)范導(dǎo)則指南》（以下簡(jiǎn)稱《指南》）。

一、回應(yīng)發(fā)展關(guān)切

當(dāng)前，數(shù)字技術(shù)已深度融入研發(fā)應(yīng)用全環(huán)節(jié)，數(shù)字經(jīng)濟(jì)已成為全球發(fā)展的核心動(dòng)力，但同時(shí)暴露出的責(zé)任界定不清、倫理標(biāo)準(zhǔn)缺失等突出問題，衍生出的規(guī)則沖突、數(shù)據(jù)壟斷、算法歧視、數(shù)字鴻溝等倫理隱患，制約著數(shù)字技術(shù)穩(wěn)健向善發(fā)展。

在此背景下，《指南》以“防范科技倫理風(fēng)險(xiǎn)、實(shí)現(xiàn)精準(zhǔn)數(shù)字治理”為目標(biāo)，通過明確倫理原則、規(guī)范操作要求、強(qiáng)化多方協(xié)同，保障數(shù)字技術(shù)賦能經(jīng)濟(jì)升級(jí)、社會(huì)進(jìn)步與生態(tài)可持續(xù)發(fā)展，為加快建設(shè)數(shù)字中國(guó)、推動(dòng)構(gòu)建數(shù)字命運(yùn)共同體筑牢倫理根基。

二、聚焦倫理痛點(diǎn)

《指南》重點(diǎn)瞄準(zhǔn)數(shù)字技術(shù)研發(fā)應(yīng)用中的各類潛在倫理痛點(diǎn)。例如，在合規(guī)管理方面，個(gè)人信息過度收集、違規(guī)共享問題頻發(fā)，部分平臺(tái)借數(shù)據(jù)壟斷阻礙市場(chǎng)公平競(jìng)爭(zhēng)，合理的數(shù)據(jù)要素流動(dòng)受到限制；在算法與數(shù)據(jù)治理方面，算法偏見、數(shù)據(jù)安全隱患、技術(shù)使用門檻高等問題易引發(fā)身份歧視，破壞社會(huì)公平；在風(fēng)險(xiǎn)防控方面，不成熟技術(shù)的盲目部署易引發(fā)公眾負(fù)面情緒與資源浪費(fèi)，并存在監(jiān)管滯后或過度干預(yù)等治理失衡問題；此外，不同能力群體面臨技術(shù)使用障礙，制度性數(shù)字鴻溝問題突出。

針對(duì)上述痛點(diǎn)，《指南》提出系統(tǒng)性解決方案，包括明確倫理原則確立價(jià)值基準(zhǔn)、規(guī)范倫理要求劃定操作邊界、加強(qiáng)能力建設(shè)夯實(shí)治理基礎(chǔ)、推動(dòng)協(xié)同治理凝聚多方合力、開展監(jiān)測(cè)評(píng)估實(shí)現(xiàn)動(dòng)態(tài)優(yōu)化。其中，能力建設(shè)環(huán)節(jié)特別兼顧了就業(yè)保障、生態(tài)保護(hù)與和平發(fā)展目標(biāo)，全方位護(hù)航數(shù)字技術(shù)可持續(xù)賦能。

三、突出三大特色

一是以系統(tǒng)性與完整性構(gòu)建全鏈條倫理治理架構(gòu)。圍繞數(shù)字技術(shù)倫理治理的核心環(huán)節(jié)構(gòu)建起閉環(huán)體系，從明確“技術(shù)向善”等底層倫理原則確立價(jià)值導(dǎo)向，細(xì)化研發(fā)應(yīng)用各階段的倫理要求，以能力建設(shè)提升主體素養(yǎng)，以協(xié)同治理凝聚多方合力，以監(jiān)測(cè)評(píng)估實(shí)現(xiàn)動(dòng)態(tài)優(yōu)化，覆蓋了從技術(shù)源頭到應(yīng)用落地的全流程。

二是以針對(duì)性與可操作性精準(zhǔn)回應(yīng)實(shí)踐痛點(diǎn)。通過明原則、定要求、給路徑、強(qiáng)評(píng)估，讓各參與主體清晰知曉“該遵循什么、該怎么做”。緊扣數(shù)字技術(shù)發(fā)展中的主要倫理矛盾，明確了四大倫理原則，提出了五項(xiàng)明確要求：第一，要求技術(shù)全生命周期嚴(yán)守法規(guī)與倫理底線，規(guī)范數(shù)據(jù)流動(dòng)、保護(hù)知識(shí)產(chǎn)權(quán)；第二，對(duì)數(shù)字技術(shù)自動(dòng)生成的服務(wù)和內(nèi)容加設(shè)醒目區(qū)分標(biāo)識(shí)，為高風(fēng)險(xiǎn)服務(wù)標(biāo)注風(fēng)險(xiǎn)提示，化解算法偏見誤導(dǎo)、用戶技術(shù)風(fēng)險(xiǎn)認(rèn)知不足等治理難題；第三，明確服務(wù)授權(quán)機(jī)制，特殊群體需監(jiān)護(hù)人同意，為拒絕數(shù)字服務(wù)的用戶提供等效替代方案；第四，強(qiáng)化敏感信息全流程保護(hù)，建立授權(quán)與撤銷機(jī)制，落實(shí)未成年人信息監(jiān)護(hù)人專屬管理；第五，建立技術(shù)成熟度評(píng)估機(jī)制，杜絕技術(shù)濫用，確保達(dá)標(biāo)后再規(guī)模化落地。在能力建設(shè)層面，聚焦應(yīng)用場(chǎng)景適配、技術(shù)支撐搭建等維度，給出了具體實(shí)操路徑。最后，強(qiáng)調(diào)建立監(jiān)測(cè)評(píng)估機(jī)制，為規(guī)范執(zhí)行提供依據(jù)，便于各主體對(duì)照自查、迭代優(yōu)化。

三是以協(xié)同性與多元性凝聚多方共治合力。數(shù)字技術(shù)倫理問題涉及面廣、關(guān)聯(lián)性強(qiáng)，僅靠單一主體難以有效應(yīng)對(duì)，呼吁構(gòu)建“多方協(xié)同、共建共享”的倫理治理格局，引導(dǎo)各方力量明確職責(zé)、良性互動(dòng)，形成上下聯(lián)動(dòng)、內(nèi)外協(xié)同的治理合力，推動(dòng)倫理治理從“被動(dòng)應(yīng)對(duì)”轉(zhuǎn)向“主動(dòng)共治”。

四、注重四個(gè)強(qiáng)化

一是強(qiáng)化主體責(zé)任。倡導(dǎo)科研機(jī)構(gòu)、企業(yè)將倫理要求嵌入研發(fā)與運(yùn)營(yíng)全流程。企業(yè)可結(jié)合自身業(yè)務(wù)特點(diǎn)設(shè)立倫理審查機(jī)制，對(duì)新產(chǎn)品、新服務(wù)開展倫理評(píng)估；科研項(xiàng)目可將倫理考量納入立項(xiàng)、實(shí)施等關(guān)鍵環(huán)節(jié)，從源頭規(guī)避潛在倫理風(fēng)險(xiǎn)。同時(shí)，明確“最終應(yīng)由人類承擔(dān)責(zé)任”的責(zé)任歸屬原則，為數(shù)字技術(shù)全流程倫理責(zé)任劃定根本歸屬。

二是強(qiáng)化分類施策。倡導(dǎo)針對(duì)不同技術(shù)領(lǐng)域、應(yīng)用場(chǎng)景制定差異化落實(shí)方案。強(qiáng)調(diào)將專屬倫理要求與領(lǐng)域特性深度結(jié)合，制定符合學(xué)術(shù)規(guī)律與行業(yè)實(shí)際的倫理審查規(guī)范、技術(shù)應(yīng)用指引及風(fēng)險(xiǎn)評(píng)估手冊(cè)，為有關(guān)單位開展倫理審查提供專業(yè)依據(jù)，推動(dòng)行業(yè)形成統(tǒng)一的倫理審查標(biāo)準(zhǔn)與實(shí)踐路徑，實(shí)現(xiàn)“一類一策”的精細(xì)化治理。

三是強(qiáng)化社會(huì)協(xié)同。倡導(dǎo)以多元方式構(gòu)建“政府引導(dǎo)、行業(yè)自律、公眾參與”的社會(huì)協(xié)同體系，凝聚數(shù)字倫理治理合力。一方面，通過教育、培訓(xùn)、科普提升全民數(shù)字素養(yǎng)，引導(dǎo)公眾正確認(rèn)知技術(shù)倫理風(fēng)險(xiǎn)、規(guī)避隱患，減少技術(shù)誤解與非理性炒作；另一方面，推動(dòng)媒體案例宣傳、學(xué)校課程融入、學(xué)（協(xié)）會(huì)自律，夯實(shí)共識(shí)基礎(chǔ)。

四是強(qiáng)化全球協(xié)作。倡導(dǎo)積極參與國(guó)際數(shù)字倫理規(guī)則制定，加強(qiáng)與各國(guó)科研機(jī)構(gòu)、企業(yè)的倫理治理經(jīng)驗(yàn)交流，推動(dòng)構(gòu)建公平合理的全球數(shù)字倫理治理體系，助力數(shù)字命運(yùn)共同體建設(shè)。

數(shù)字技術(shù)倫理規(guī)范導(dǎo)則指南

一、目的

為指導(dǎo)數(shù)字技術(shù)穩(wěn)健向善發(fā)展，防范數(shù)字技術(shù)研發(fā)與應(yīng)用過程中的科技倫理風(fēng)險(xiǎn)，實(shí)現(xiàn)數(shù)字治理精準(zhǔn)高效，保障數(shù)字技術(shù)更好賦能經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，加快建設(shè)數(shù)字中國(guó)、推動(dòng)構(gòu)建數(shù)字命運(yùn)共同體，研究提出數(shù)字技術(shù)倫理規(guī)范導(dǎo)則指南。

二、術(shù)語

（一）數(shù)字技術(shù)（digital technology）

利用電子計(jì)算機(jī)、互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等現(xiàn)代信息通信技術(shù)，對(duì)信息進(jìn)行采集、處理、傳輸、存儲(chǔ)、分析和應(yīng)用的一系列技術(shù)總稱。它打破了傳統(tǒng)的時(shí)間和空間限制，實(shí)現(xiàn)了信息的高速流動(dòng)和資源的優(yōu)化配置。

（二）數(shù)字經(jīng)濟(jì)（digital economy）

以數(shù)字技術(shù)為核心驅(qū)動(dòng)力，以數(shù)據(jù)資源為關(guān)鍵要素，以現(xiàn)代信息網(wǎng)絡(luò)為主要載體，以信息通信技術(shù)融合應(yīng)用、全要素?cái)?shù)字化轉(zhuǎn)型為重要推動(dòng)力，促進(jìn)公平與效率更加統(tǒng)一的新經(jīng)濟(jì)形態(tài)。

（三）數(shù)據(jù)要素（data factor）

投入到生產(chǎn)經(jīng)營(yíng)活動(dòng)、參與價(jià)值創(chuàng)造的數(shù)據(jù)資源。

（四）數(shù)字治理（digital governance）

通過數(shù)字技術(shù)實(shí)現(xiàn)公共價(jià)值創(chuàng)造的系統(tǒng)性過程，包含政策制定、制度安排、技術(shù)應(yīng)用、組織協(xié)調(diào)等要素。

（五）科技倫理（science & technology ethics）

開展科學(xué)研究、技術(shù)開發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范，旨在促進(jìn)科技健康發(fā)展、防范科技濫用風(fēng)險(xiǎn)，確保科技活動(dòng)符合人類福祉、社會(huì)公平和生態(tài)保護(hù)的要求。

三、基本原則

（一）以人為本，數(shù)字向善

數(shù)字技術(shù)應(yīng)以人類需求、利益與福祉為根本出發(fā)點(diǎn)，秉持審慎負(fù)責(zé)的科技向善理念，尊重人的主體地位和尊嚴(yán)，保障合法權(quán)益，避免技術(shù)應(yīng)用損害人類身心健康，或?qū)ΜF(xiàn)有社會(huì)生態(tài)與秩序造成顛覆性沖擊，將倫理要求貫穿于技術(shù)全生命周期，確保數(shù)字技術(shù)服務(wù)于人類健康發(fā)展、生活品質(zhì)改善與創(chuàng)造力提升，實(shí)現(xiàn)技術(shù)發(fā)展與人文關(guān)懷的統(tǒng)一。

（二）公正公平，數(shù)字普惠

數(shù)字技術(shù)的發(fā)展應(yīng)尊重、保護(hù)并促進(jìn)人的自由與平等，保障不同種族、膚色、性別、年齡、語言、宗教及能力差異的群體在數(shù)字環(huán)境中獲得平等對(duì)待，依法享有數(shù)字領(lǐng)域的參與權(quán)、發(fā)展權(quán)與成果共享權(quán)，不因先天稟賦或后天條件被排斥于數(shù)字發(fā)展進(jìn)程之外。防范數(shù)據(jù)要素流動(dòng)受限、數(shù)字平臺(tái)壟斷等問題，從制度保障層面彌合數(shù)字鴻溝，推動(dòng)數(shù)字發(fā)展的均衡性與包容性，讓數(shù)字技術(shù)真正惠及全人類。

（三）技術(shù)可信，信息安全

在數(shù)字技術(shù)應(yīng)用的全生命周期，堅(jiān)持技術(shù)可信與信息安全，增強(qiáng)數(shù)字技術(shù)應(yīng)用的透明性、可解釋性、可靠性與可控性，實(shí)現(xiàn)數(shù)字技術(shù)應(yīng)用的可審核、可監(jiān)督、可追溯、可信賴；保障數(shù)據(jù)、平臺(tái)、數(shù)字環(huán)境的安全穩(wěn)定，防范數(shù)據(jù)泄露、濫用、信息篡改、系統(tǒng)漏洞等風(fēng)險(xiǎn)。高度關(guān)注數(shù)據(jù)信息的安全保障與技術(shù)的可信度，提升技術(shù)魯棒性和抗干擾能力，強(qiáng)化全流程安全設(shè)計(jì)、規(guī)范操作及安全評(píng)估與風(fēng)險(xiǎn)管控，筑牢數(shù)字技術(shù)發(fā)展的安全防線。

（四）包容互鑒，開放合作

搭建開放、包容的數(shù)字交流平臺(tái)，助力不同文化間的溝通理解與共識(shí)凝聚，增進(jìn)國(guó)際互信、管控分歧。以全球視野踐行數(shù)字技術(shù)發(fā)展的共同價(jià)值，為構(gòu)建數(shù)字命運(yùn)共同體、實(shí)現(xiàn)人類共同發(fā)展奠定理念基礎(chǔ)。

四、倫理要求

（一）合法合規(guī)

數(shù)字技術(shù)的研發(fā)、部署、應(yīng)用與推廣，須嚴(yán)格遵守國(guó)家法律法規(guī)、行業(yè)監(jiān)管規(guī)定及科技倫理要求，合法開展數(shù)據(jù)要素流動(dòng)，規(guī)范數(shù)字技術(shù)和內(nèi)容的發(fā)布、制作與傳播。尊重和維護(hù)著作權(quán)、商標(biāo)權(quán)、專利權(quán)等知識(shí)產(chǎn)權(quán)，杜絕制造、復(fù)制、傳播虛假內(nèi)容，防范剽竊、篡改、假冒等侵害個(gè)人或組織合法權(quán)益的行為，恪守公序良俗與社會(huì)倫理共識(shí)。

（二）數(shù)字標(biāo)識(shí)

針對(duì)數(shù)字技術(shù)自動(dòng)生成的服務(wù)和內(nèi)容，須通過醒目、易識(shí)別的標(biāo)識(shí)，明確區(qū)分于人類創(chuàng)作成果，避免用戶混淆。對(duì)存在算法偏見、數(shù)據(jù)安全隱患、使用門檻較高等潛在風(fēng)險(xiǎn)的數(shù)字技術(shù)服務(wù)，應(yīng)設(shè)置清晰的警示標(biāo)識(shí)，明確提示風(fēng)險(xiǎn)類型及注意事項(xiàng)，保障用戶對(duì)技術(shù)服務(wù)的風(fēng)險(xiǎn)認(rèn)知權(quán)。

（三）知情同意

在為用戶提供數(shù)字技術(shù)自動(dòng)生成的服務(wù)及內(nèi)容前，需先獲取其明確同意，若用戶拒絕，須提供人工或非數(shù)字技術(shù)類、可滿足核心需求的替代方案；向未成年人或因認(rèn)知障礙等喪失/部分喪失民事行為能力的群體提供服務(wù)時(shí)，還須額外獲得其法定監(jiān)護(hù)人或看護(hù)人的知情與明確同意。

（四）隱私保護(hù)

嚴(yán)格保護(hù)數(shù)字技術(shù)應(yīng)用中所涉及的包括生物識(shí)別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等在內(nèi)的個(gè)人隱私與敏感個(gè)人信息。對(duì)個(gè)人信息進(jìn)行收集、存儲(chǔ)、使用、加工、傳輸、提供、公開、刪除等處理，須事先告知本人并獲得明確同意；對(duì)基于生物特征數(shù)據(jù)等敏感個(gè)人信息自動(dòng)生成數(shù)字內(nèi)容的相關(guān)行為，應(yīng)建立完善的授權(quán)與撤銷機(jī)制；處理未成年人信息時(shí)，須取得其監(jiān)護(hù)人的明確同意。

（五）風(fēng)險(xiǎn)防控

采取有效措施避免數(shù)字技術(shù)的誤用、濫用、惡用，防范技術(shù)用于散播負(fù)面價(jià)值觀、顛覆社會(huì)秩序、危害安全穩(wěn)定及違法犯罪等風(fēng)險(xiǎn)。以提供高質(zhì)量服務(wù)為目標(biāo)，盡可能避免因不成熟技術(shù)的部署和推廣引發(fā)公眾情緒、資源浪費(fèi)及社會(huì)風(fēng)險(xiǎn)。應(yīng)確保數(shù)字技術(shù)具備足夠成熟度后，再進(jìn)行規(guī)模化應(yīng)用和推廣。

（六）責(zé)任明晰

數(shù)字技術(shù)（尤其是自動(dòng)化技術(shù)、人工智能技術(shù)）引發(fā)的各類后果，最終應(yīng)由人類承擔(dān)責(zé)任，相關(guān)負(fù)面影響的問責(zé)需明確由參與技術(shù)設(shè)計(jì)、研發(fā)、部署和使用的相關(guān)組織或個(gè)人承擔(dān)。所有參與上述環(huán)節(jié)的組織和個(gè)人，均應(yīng)被明確告知其法定與倫理責(zé)任。推動(dòng)責(zé)任追溯的技術(shù)落地，強(qiáng)化責(zé)任履行的倫理約束。

五、能力建設(shè)

（一）賦能發(fā)展

以數(shù)字技術(shù)發(fā)展提升人類福祉，賦能國(guó)家治理、社會(huì)治理、經(jīng)濟(jì)發(fā)展、環(huán)境保護(hù)等各領(lǐng)域，促進(jìn)數(shù)字經(jīng)濟(jì)提質(zhì)增效與數(shù)字治理能力現(xiàn)代化。建設(shè)安全、可靠、可互操作的數(shù)字基礎(chǔ)設(shè)施，保障各類社會(huì)主體平等獲取數(shù)字技術(shù)和服務(wù)的機(jī)會(huì)，重點(diǎn)關(guān)注困難地區(qū)和欠發(fā)達(dá)地區(qū)、弱勢(shì)群體的數(shù)字需求，提升公共服務(wù)質(zhì)量與普惠水平，實(shí)現(xiàn)技術(shù)賦能與可持續(xù)發(fā)展目標(biāo)。

（二）穩(wěn)增就業(yè)

密切關(guān)注數(shù)字技術(shù)對(duì)就業(yè)結(jié)構(gòu)的影響，審慎推進(jìn)可能對(duì)現(xiàn)有就業(yè)產(chǎn)生重大沖擊的數(shù)字技術(shù)應(yīng)用。社會(huì)各界需協(xié)同發(fā)力，加強(qiáng)對(duì)失業(yè)人群的職業(yè)技能培訓(xùn)，提升其再就業(yè)能力。積極探索數(shù)字技術(shù)賦能下的新就業(yè)模式與工作形態(tài)，創(chuàng)造更能發(fā)揮人類優(yōu)勢(shì)的新崗位。鼓勵(lì)產(chǎn)業(yè)界在數(shù)字化升級(jí)過程中主動(dòng)拓展就業(yè)空間，新增更多高質(zhì)量就業(yè)機(jī)會(huì)。

（三）普及優(yōu)質(zhì)教育

數(shù)字技術(shù)發(fā)展應(yīng)助力為公眾提供更包容、更公平、更優(yōu)質(zhì)的教育，遵循開啟智慧、發(fā)展個(gè)性、提升能力的育人原則，充分發(fā)揮其對(duì)于教育的賦能價(jià)值。推進(jìn)數(shù)字教育過程中，需充分尊重教學(xué)規(guī)律和教育本質(zhì)，審慎對(duì)待替代人類主導(dǎo)核心教學(xué)環(huán)節(jié)的數(shù)字技術(shù)應(yīng)用，防范其不合理應(yīng)用對(duì)師生身心健康造成的負(fù)面影響，保障教育質(zhì)量與學(xué)術(shù)誠(chéng)信。

（四）保護(hù)生態(tài)

數(shù)字技術(shù)發(fā)展應(yīng)助力生物多樣性保護(hù)與生態(tài)環(huán)境改善，為環(huán)境治理、氣候變化應(yīng)對(duì)等生態(tài)保護(hù)工作提供技術(shù)支撐。在技術(shù)設(shè)計(jì)、部署與應(yīng)用中貫穿綠色發(fā)展理念，推動(dòng)硬件、能源與數(shù)據(jù)資源的高效利用與循環(huán)回收，盡可能避免數(shù)字技術(shù)自身發(fā)展對(duì)自然環(huán)境和生態(tài)系統(tǒng)帶來的負(fù)面影響，保障生態(tài)可持續(xù)性。

（五）促進(jìn)和平

防止數(shù)字技術(shù)被用于破壞社會(huì)秩序、挑起沖突或加劇不穩(wěn)定因素，避免對(duì)全球和區(qū)域穩(wěn)定產(chǎn)生負(fù)面影響。數(shù)字技術(shù)的發(fā)展應(yīng)助力實(shí)現(xiàn)全球與區(qū)域的和平與安全，促進(jìn)不同國(guó)家、社會(huì)群體間的互信合作。

六、協(xié)同治理

（一）構(gòu)建多元協(xié)同的數(shù)字治理生態(tài)

堅(jiān)持多元主體協(xié)同參與，尊重技術(shù)發(fā)展規(guī)律，結(jié)合技術(shù)發(fā)展水平科學(xué)制定治理政策。在鼓勵(lì)創(chuàng)新的同時(shí)，加強(qiáng)對(duì)技術(shù)潛在社會(huì)影響的持續(xù)研究，及早研判風(fēng)險(xiǎn)、優(yōu)化治理體系，確保治理不阻礙技術(shù)創(chuàng)新、不忽視倫理底線。推動(dòng)建立跨學(xué)科、跨領(lǐng)域、跨部門、跨地域及全球性的綜合數(shù)字治理機(jī)制，將政府及監(jiān)管機(jī)構(gòu)、政府間組織、學(xué)術(shù)界、產(chǎn)業(yè)界、社會(huì)組織、媒體、用戶等多利益攸關(guān)方納入治理體系，明確各方在技術(shù)全生命周期治理的權(quán)責(zé)邊界，形成“政府引導(dǎo)、學(xué)（協(xié)）會(huì)自律、社會(huì)監(jiān)督、公眾參與”的多方協(xié)同治理，提升治理的全面性與有效性。

（二）推動(dòng)全球治理數(shù)字協(xié)同合作

秉持開放包容理念推進(jìn)全球數(shù)字治理協(xié)同，構(gòu)建全球性、開放性、包容性的治理合作平臺(tái)，聯(lián)合應(yīng)對(duì)數(shù)字技術(shù)帶來的共性風(fēng)險(xiǎn)挑戰(zhàn)。加強(qiáng)國(guó)際數(shù)據(jù)要素流通、數(shù)字基礎(chǔ)設(shè)施建設(shè)、治理能力建設(shè)等領(lǐng)域合作，促進(jìn)全球數(shù)字治理經(jīng)驗(yàn)與發(fā)展成果共享，保障不同國(guó)家、地區(qū)及群體在數(shù)字治理中享有平等話語權(quán)，構(gòu)建公平普惠、協(xié)同共進(jìn)的全球數(shù)字治理格局。

（三）強(qiáng)化數(shù)字倫理教育與素養(yǎng)培育

通過教育、培訓(xùn)與科普等多元方式，推動(dòng)公眾形成對(duì)數(shù)字技術(shù)及其倫理風(fēng)險(xiǎn)的正確認(rèn)知，提升全民數(shù)字素養(yǎng)與應(yīng)用技能，助力公眾適應(yīng)數(shù)字技術(shù)發(fā)展，充分利用技術(shù)優(yōu)勢(shì)并規(guī)避潛在風(fēng)險(xiǎn)。減少對(duì)新興技術(shù)的誤解與非理性炒作，凝聚社會(huì)共識(shí)，為數(shù)字技術(shù)治理提供良好社會(huì)基礎(chǔ)。

七、監(jiān)測(cè)評(píng)估

（一）建立監(jiān)測(cè)管理機(jī)制

在數(shù)字技術(shù)學(xué)術(shù)研究、成果轉(zhuǎn)化及應(yīng)用推廣全流程中，建立全生命周期監(jiān)督、評(píng)估與審計(jì)機(jī)制，重點(diǎn)聚焦新興技術(shù)及高風(fēng)險(xiǎn)場(chǎng)景，確保技術(shù)發(fā)展與人類治理能力相適配。

（二）制定倫理規(guī)范

聯(lián)合領(lǐng)域內(nèi)專家及單位，針對(duì)人工智能大模型、算法應(yīng)用、數(shù)據(jù)安全等關(guān)鍵技術(shù)領(lǐng)域，制定符合學(xué)術(shù)規(guī)律與行業(yè)實(shí)際的倫理審查規(guī)范、技術(shù)應(yīng)用指引及風(fēng)險(xiǎn)評(píng)估手冊(cè)，為有關(guān)單位開展倫理審查提供專業(yè)依據(jù)，推動(dòng)行業(yè)形成統(tǒng)一的倫理審查標(biāo)準(zhǔn)與實(shí)踐路徑。

（三）完善評(píng)估規(guī)則

建立數(shù)字技術(shù)倫理影響評(píng)估程序，構(gòu)建覆蓋算法、數(shù)據(jù)和設(shè)計(jì)流程及可審計(jì)性、可追溯性、可解釋性的綜合評(píng)估體系。評(píng)估需吸納多學(xué)科、多利益攸關(guān)方參與，兼顧多元包容原則，通過綜合評(píng)估預(yù)測(cè)技術(shù)后果、規(guī)避潛在風(fēng)險(xiǎn)、防范負(fù)面影響，回應(yīng)社會(huì)關(guān)切與挑戰(zhàn)。

（四）落實(shí)審查責(zé)任

有關(guān)單位（科研機(jī)構(gòu)、技術(shù)企業(yè)）應(yīng)將數(shù)字技術(shù)倫理要求嵌入技術(shù)研發(fā)、學(xué)術(shù)研究全流程，設(shè)立人工智能倫理及數(shù)字技術(shù)相關(guān)倫理審查工作小組，對(duì)科研項(xiàng)目設(shè)計(jì)、數(shù)據(jù)采集使用、算法迭代優(yōu)化等環(huán)節(jié)開展學(xué)術(shù)性倫理審查，將倫理審查結(jié)論作為科研項(xiàng)目立項(xiàng)、結(jié)題驗(yàn)收和評(píng)獎(jiǎng)評(píng)價(jià)的重要依據(jù)。組織行業(yè)培訓(xùn)，提升科研人員、技術(shù)團(tuán)隊(duì)的倫理認(rèn)知與責(zé)任意識(shí)，推動(dòng)主動(dòng)規(guī)避惡意攻擊、歧視性篩選等違背倫理的技術(shù)研發(fā)方向。

（五）明確責(zé)任歸屬

引導(dǎo)行業(yè)明確數(shù)字技術(shù)后果的責(zé)任歸屬，清晰界定科研人員、技術(shù)團(tuán)隊(duì)、應(yīng)用單位等主體的責(zé)任邊界，在技術(shù)設(shè)計(jì)、研發(fā)、部署、使用各環(huán)節(jié)，向?qū)?yīng)參與主體清晰告知責(zé)任范圍與問責(zé)標(biāo)準(zhǔn)。聯(lián)合學(xué)術(shù)機(jī)構(gòu)、技術(shù)企業(yè)研發(fā)適配行業(yè)的責(zé)任追溯技術(shù)工具與評(píng)估方法，助力數(shù)字技術(shù)倫理風(fēng)險(xiǎn)可查、可證。

（六）加強(qiáng)倫理監(jiān)督

聯(lián)合媒體、公益組織搭建數(shù)字技術(shù)倫理交流平臺(tái)，通過發(fā)布行業(yè)倫理實(shí)踐案例、曝光學(xué)術(shù)研究與技術(shù)應(yīng)用中的倫理失范行為（如數(shù)據(jù)濫用、算法歧視），引導(dǎo)規(guī)范技術(shù)應(yīng)用。開展倫理科普活動(dòng)，向公眾普及數(shù)字技術(shù)倫理知識(shí)，推動(dòng)形成“尊重倫理、崇尚向善”的行業(yè)氛圍與社會(huì)共識(shí)，助力構(gòu)建多元協(xié)同的數(shù)字技術(shù)倫理治理生態(tài)。

來源：“中國(guó)科協(xié)之聲”微信公眾號(hào)

編輯：林雪琪

審定：鄒　貞