【作者】徐娟(廣東海洋大學法政學院副教授、碩士生導師,法學博士)
【來源】北大法寶法學期刊庫《河北法學》2025年第12期(文末附本期期刊目錄)。因篇幅較長,已略去原文注釋。
![]()
內容提要:情感腦機接口技術通過對情感狀態進行檢測、識別、刺激和調控,在對人機交互方式產生深遠影響的同時,也不可避免地帶來情感監控、情感數據安全、知情同意及情感增強引發的“情感鴻溝”等方面的風險與挑戰。由此,亟需在研究情感腦機接口技術的特殊性及其引發的復雜利益沖突與風險的基礎上,從確立預期治理與動態風險評估機制、完善情感數據安全和隱私保護、建立分層披露與動態同意制度、強化非歧視原則與責任追究機制及探索神經權利的憲法化與部門法細化幾個方面,對情感腦機接口技術的應用風險進行法律規制。構建兼顧工具理性和價值理性包容審慎的規制措施,加強和完善對情感腦機接口技術風險的法律規制是法律針對情感腦機接口技術侵害人類情感領域的風險做出積極回應、促進科技向善、保障人權的重要體現。
關鍵詞:情感腦機接口技術;神經科技;情感計算;神經權利;數字法治
目次 一、情感腦機接口:區分、識別和調控情感狀態的技術 二、情感腦機接口技術的應用場景和特殊性 三、情感腦機接口技術應用的多維風險與挑戰 四、情感腦機接口技術應用風險的法律規制策略 余論
作為腦機接口的重要分支、情感計算和情感智能的重要部分,以腦機接口系統為基礎的情感腦機接口技術更加關注情緒狀態及情感交互,通過機器與人腦的直接連接對情感狀態進行檢測、識別、刺激和調控。情感腦機接口的核心在于識別和解讀大腦產生的情感信號,通過分析生理數據(如心率、皮膚電反應、腦電波等),系統可以推斷出用戶當前的情感狀態。這種技術有助于計算機系統更好地理解和響應人類的情感需求,從而提升與用戶之間的交互體驗和溝通效果。2024年4月腦機接口產業聯盟發布首批《2024腦機接口產業創新十大案例》,展示我國在腦機接口技術及產業應用方面的創新成果,其中包括“在線情緒檢測評估系統”。情感腦機接口技術作為腦科學和情感人工智能技術之間的橋梁,有望在未來對人機交互方式產生深遠影響,并可能深刻改變人類的生活方式與人際交往模式,具有重要的研究價值。然而,情感腦機接口技術亦引發了一系列復雜的倫理、道德與法律風險。尤其是相較于傳統腦機接口技術,情感腦機接口技術在信息處理的敏感性、應用領域的擴展性以及潛在風險的多維性方面均表現出顯著特殊性。這一現實亟需學界和立法層面開展深入系統地研究與回應,以實現對情感腦機接口技術的前瞻性法律規制,在促進技術創新與社會善治之間尋求合理平衡。
一
情感腦機接口:區分、識別和調控情感狀態的技術
情感腦機接口(Emotional Brain-Computer Interface, EBCI,以下簡稱“情感BCI”)是結合腦機接口技術和情感計算的新型系統,旨在通過測量和解讀用戶的腦電活動來檢測和響應情感狀態,實現人與計算機之間的情感互動。這種技術不僅關注傳統的神經信號傳輸和控制,還特別重視用戶的情感體驗和心理狀態,從而實現更加自然、人性化的人機交互。除了檢測、刺激和影響人類的情感狀態外,情感BCI還可用于對患有情緒障礙的人的邊緣回路進行深層腦刺激促進情緒表達。作為腦機接口領域新興且頗具革命性的分支和實現情感智能(emotion artificial intelligence)的重要途徑,近年來情感BCI技術在實現更深層智能延伸和更廣闊領域應用的同時,正在逐步重塑人類與機器之間的交互模式。作為一項前沿且極具潛力的交叉科技,情感BCI正逐步打破傳統意義上的人機交流壁壘,賦予機器理解與感知人類情感的能力,從而開啟一個嶄新的人性化、智能化生活時代。
情感BCI系統可以分為情感識別系統、情感調控系統和情感交互系統。情感識別系統目前主要通過非侵入的方式對大腦信號進行測量和分析,從數據中識別情感的狀態與變化。情感調控系統主要根據解碼出的情感狀態,進行相應的反饋或調整。情感交互系統主要實現用戶與計算機系統的雙向情感交互。
二
情感腦機接口技術的應用場景和特殊性
作為腦機接口技術的重要分支,在傳統腦機接口技術的基礎上更進一步,情感BCI是基于人類情感狀態相關的腦活動信號進行交互的腦機接口系統。簡單而言,情感BCI是一種識別和(或)調控人的情緒的人機交互系統。
(一)情感腦機接口技術的應用場景
作為一種新興的腦機接口技術,情感BCI在檢測情感狀態的基礎上,還可以刺激和影響甚至調控人類的情感狀態,從而拓展了傳統腦機接口技術的應用場景。多模態情感BCI能夠利用更多模態的生理信號更精確、客觀、細膩地識別人類的情緒,在醫療保健、媒體娛樂、信息檢索、教育以及智能可穿戴設備、市場營銷和廣告領域等都有著廣闊的應用前景。情感BCI作為刺激和調控人類情感狀態的系統,可以通過播放能夠喚起情感的音樂來調節情感狀態。同時,情感BCI可以幫助人們以非常規方式表達情感狀態。此外,處于身聯網時代的人們通過佩戴的可穿戴設備(如手鐲或戒指)可以告知佩戴者和其他人其處于特定的情感狀態,進而便于情緒調控。同樣,通過情感BCI傳播人們情感狀態的一種方式是所謂的“藝術BCI”,其運作邏輯為:用戶的情感狀態先受到影響(如聲音、圖像干預),隨后得以表現。此外,沮喪或快樂的程度可用于使計算機應用程序適應用戶的情感狀態。
(二)與傳統腦機接口技術相比情感腦機接口技術的特殊性
其一,在技術目標上,傳統BCI多聚焦于“意圖解碼”,強調對運動或操作指令的識別,而情感BCI則以“情緒識別”為核心,著重于捕捉和理解個體的情感狀態。與傳統BCI偏重靜態信號處理不同,情感BCI強調對情緒狀態的動態識別與實時響應,這使其高度依賴連續、時變數據流的建模及機器學習算法的適應性調整,技術架構由此呈現更高的數據復雜度與模型多樣性。
其二,在交互路徑與應用場景方面,傳統BCI主要體現為“命令執行”,而情感BCI則轉向“情緒共情”。通過對生理與神經信號的情緒化解讀,情感BCI不僅擴展了技術應用領域,更推動人機交互由工具性操作向情感性協同演進。這種“共情型”模式強調雙向反饋機制,使BCI系統逐步承擔起認知協同與心理陪伴的功能,推動其由單純的輔助技術向情感理解與心理交互平臺轉變。
其三,在倫理與法律風險層面,情感BCI所面臨的挑戰亦有別于傳統BCI。傳統BCI的核心風險集中于數據隱私保護,而情感BCI因涉及個體深層心理與情感狀態的識別與利用,更直接觸及認知自由與人格自主。一旦該技術被濫用,可能導致認知操控、人格剖析乃至對思想自由的侵犯,進而對既有個人信息保護體系與權利保障機制構成沖擊。
三
情感腦機接口技術應用的多維風險與挑戰
情感BCI技術的獨特屬性決定了其應用風險并非零散存在,而是整體性地集中于對個體認知自由與人格權的系統性挑戰之中。無論是情感監控、情感數據的安全與隱私保護,還是知情同意的實質困境與“情感鴻溝”的潛在風險,其本質均指向同一核心問題:當科技能夠直接介入人類內心深層狀態時,如何通過制度設計有效守護個體的精神自主與人格完整。這一邏輯統一性,既揭示了情感BCI風險的深層結構,也凸顯了其法律規制研究的必要性與緊迫性。
(一)情感監控風險與自主權侵蝕
情感BCI技術憑借情緒識別與調控功能,可能被廣泛應用于廣告推送、教育管理及公共安全等場景,以實現情緒誘導或行為干預。這種基于情感操控的應用不僅涉及商業營銷與心理干預,更可能延伸至社會控制層面,進而引發對人格自主的根本挑戰。事實上,相關技術在實踐中已出現對個體自主權侵蝕的爭議。
1.個體層面操縱人類的情感過程
情感BCI用于直接刺激、影響和監測情感狀態。從情感監測中收集到的信息隨后可用于操縱或誘導情感狀態。簡而言之,情緒塑造意圖、決定和行動。因此,在許多情況下,影響人們的情緒意味著影響他們的決定和意圖以及遵循這些意圖的行動。這并不排除通過情感BCI監測情感狀態增強自主性并對人的幸福感產生積極影響,特別是提供有關用戶情緒狀態反饋的情感BCI可能有助于獲得對這些狀態的控制。然而,具有現實世界適用性可能性的情感BCI系統可能會給某些人帶來社會壓力,迫使他們借助情感BCI自我調節情緒,改變他們的情感狀態以符合情感“正常”的范圍。
目前,情緒檢測可用于情緒自我跟蹤、情緒自我量化和情緒自我調節。這就衍生出個人實際上在多大程度上負責情緒調節,又在多大程度上是由智能互聯環境進行調節的問題。最終,情感BCI可能會促使我們重新解釋和重新概念化對情緒負責的想法。傳統觀點認為,人們可以進行情緒自我調節,所以個人應該對自己的情緒負責。而情感BCI使這一責任問題變得復雜,因為情緒自我調節可能部分“外包”給情感BCI系統,這引發了情緒調節中實際上有多少“自我”參與其中的問題。使用情感BCI也可能會對反思和參與情緒的能力產生一些影響,并且情感BCI的潛在全面監控能力可能會導致他們對情緒的疏離。情緒對于自我意識和個人身份很重要。因此,情緒的操縱似乎與自我的構成有直接關系。盡管大腦與機器需要協同工作,但用戶在使用BCI過程中,應保持其自主性和判斷能力。鑒于情感BCI可能有助于這種操縱,且情感是人性的重要方面,這種操縱對自我、身份和人格可能造成的后果不容小覷。
情感BCI帶來的精神狀態監測導致的自主性等獨特的倫理挑戰,威脅心理完整性和認知自由,是對人之為人的人文價值的動搖,進而影響人們的經濟或政治決策,甚至對民主政治產生威脅。情感BCI最令人擔憂的問題之一就是成為“企業或政府操縱人們的新機會”。因此,在情感BCI的應用中通過利益和危害的倫理評估認真權衡患者的福祉、手術的益處和干預的潛在危害至關重要。
2.社會層面持續性大規模情感監視的危險
情感識別是人臉識別的一個子類,旨在通過識別、解讀面部表情自動監測內在情緒狀態,甚至隱藏的意圖,可以根據面部圖像或視頻檢測出諸如個性、內心感受、心理健康和“員工敬業度”等。盡管樂觀者認為情緒識別等技術可以不斷迭代優化,但極端的批評者則認為,情感計算沒有強有力的科學證據支持,并以不道德和不負責任的方式被應用,是一種偽科學。將情感識別與招聘、獲得保險、教育和警務聯系起來,在個人和社會層面都造成了令人深感擔憂的情感操縱風險。
作為人機交互的一個領域,情感BCI開發基于傳感器的計算系統,能夠識別和調控情緒。目前系統集成、機器學習和大數據分析方面的突破使功能強大的應用程序充滿潛力和威脅。情感計算有可能改變社會中的多個領域,如教育、護理甚至現代工作環境,例如通過面部表情分析在火車站等公共場所進行遠距離情緒檢測。情感識別技術的進步顯然需要伴隨對情感識別所代表的價值觀的認真倫理反思。
情感腦機接口系統有助于檢測和識別圖像或視頻中的個人面孔并可與其他工具結合使用進行更復雜的監視。在眾多人工智能監控和跟蹤技術中,情感識別尤其引發了公民自由方面的擔憂,因為情感特征是一種非常個人化的生物識別形式,極難改變。與其他追蹤工具不同的是,情感識別技術希望利用人工智能實現的不僅僅是識別情感,一旦識別成功,情感還可以與其他形式的個人記錄和可識別數據,如信用評分、社交圖譜或犯罪記錄相關聯。同時,結合其他情緒識別技術有可能實現分析數十萬張面部圖像,檢測“微表情”,并將這些表情映射到“真實感受”,進而實現情緒“天氣預報”。
(二)情感數據安全與隱私權沖突
腦機接口技術的“讀心術”與個人隱私數據保護之間的張力,是腦機接口本身的功能和特點帶來的風險。情感BCI采集的數據不僅限于生理信號,更能深入揭示個體的心理狀態與情緒特征,因而可歸入典型的“超敏感數據”范疇。一旦發生泄露或被不當利用,其風險較傳統隱私侵害更具持續性和不可逆性,可能導致人格標簽化及精神層面的長期損害。同時,應對情感BCI帶來的情感數據安全及隱私權侵犯風險從人權保障角度來看也具有重要意義。情感數據的敏感性極高,可能包括用戶的情感狀態、心理健康信息、行為模式等,這些信息高度個人化且易被用于惡意目的,如身份盜竊、心理操控等。如果被未經授權的第三方獲取,可能會導致個人隱私的嚴重泄露。情感數據可能被用于未經同意的市場營銷、廣告或其他商業目的,甚至可能用于監視和操控。情感信息的敏感性和高風險性的特殊屬性決定了情感數據安全的復雜和敏感性,一旦泄露不可控因素將會增加。所有腦機接口系統都會收集敏感數據,因此需要解決數據安全、隱私和神經黑客問題。情感BCI也需要解決這些問題,因為情感BCI會收集有關情感狀態的數據,這對人類來說是一個非常敏感的話題。
事實上,隱私和情感數據安全是情感BCI技術運用的關鍵和保障。情感數據隱私問題不僅需要技術上高度安全的數據平臺,國家立法層面的完善,還需要回應數據隱私安全背后潛在的公眾擔憂,保證情感隱私數據運用的安全性和自主性。情感BCI技術可以操縱人類的情感過程,這種干預可能會侵犯人們的精神完整性,精神完整性是人類控制其精神狀態和大腦數據的能力。這種控制意味著未經同意,任何人都不能監控或操縱這些精神狀態或大腦數據。
由于人工情感智能體在對人類情感進行捕捉、識別、互動和調整的過程中不可避免地會涉及大量大腦和情感隱私安全數據,情感BCI通過監測用戶的生理信號(如腦電圖、心率變異性等)來獲取情感數據,這些數據包含了極為私密和個性化的信息。首先,未經充分授權或未經用戶明確同意,情感數據的收集、存儲和使用可能導致對用戶隱私權的侵犯,特別是在商業應用中,如廣告定向或市場研究。其次,由于“算法黑箱”等其他不確定因素,人工智能在使用數據進行訓練、服務用戶的過程中,難以公開披露對個人信息處理的具體細節,用戶無從得知人工智能收集來的數據將被如何使用,一旦個人信息被泄露或被不法使用,可能會嚴重侵害用戶的合法權益。最后,情感數據的濫用可能引發道德和法律爭議。國外被稱為“大腦間諜軟件”的使用腦機接口技術檢測用戶信息的惡意軟件已經被開發,用來提取有關用戶記憶、偏見和信仰的私人信息,以及有關人類可能的神經生理疾病的信息。使用“大腦惡意軟件”提取的有關腦機接口用戶的私人信息會被用來獲取更大的利益并潛在地改善人類的生活,但也會被用來增加個人收益,甚至傷害他人。
(三)知情同意困境與程序正義缺陷
在情感BCI技術的研究與應用中,知情同意制度構成保障用戶基本權利與人格尊嚴的核心法律—倫理機制。在情感BCI技術應用中,該制度不僅承擔法律意義上的合規職能,更是倫理層面保障用戶人格尊嚴與自主權的重要屏障。情感BCI的跨學科復雜性使普通用戶難以全面理解其運行機制,往往導致知情同意虛置的困境。與此相比,智利成為世界上首個通過立法來規范神經技術并將“腦權利”納入本國憲法的國家。同時確立了針對腦數據的專門保護與動態同意機制,要求在數據用途或應用場景發生變化時重新確認授權。這一制度設計反映了國際社會在應對新興技術風險時,正逐步將程序性保障提升至核心位置,以確保用戶同意的真實性與持續性。相比之下,我國現有知情同意制度在情感數據與腦機接口應用中的適配性明顯不足,凸顯了進一步完善差異化制度安排的緊迫性。
相較于傳統醫療設備或信息技術,情感BCI直接接觸并解碼個體腦電信號與情緒模式,涉及高度敏感的內在心理信息與個體化神經數據,其知情同意環節面臨更為復雜和多元的風險。這些風險不僅源于技術本身的高復雜性與高不透明性,也與用戶在信息接收、理解、評估與決策過程中可能存在的認知與情緒脆弱性密切相關。任何潛在的行為干預或情感操控都應在用戶知情并同意的前提下進行。由于情感BCI涉及對個體大腦和情感狀態的直接訪問和解碼,其在知情同意的獲取和執行過程中帶來了獨特的風險。
其一,技術復雜性導致的理解障礙。情感BCI的運行機制涉及神經科學、情感心理學及機器學習等跨學科知識,核心流程包括信號采集、特征提取、算法建模與情緒反饋。對非專業用戶而言,這一過程高度抽象,信息披露文本往往術語密集、邏輯復雜,造成“形式上知情、實質上不解”的局面。這不僅削弱用戶對風險的準確評估能力,也使知情同意流于形式,難以發揮保障自主性的功能。
其二,情感數據的特殊敏感性。情感數據具有非意志性與深度隱私性,不僅呈現即時情緒,還可揭示個體的長期心理特質與價值傾向。其泄露或濫用可能造成持續性、不可逆的心理傷害與標簽化風險。然而,現有同意文本往往未能充分揭示數據的特殊屬性及潛在危害,導致用戶在簽署同意書時對風險的深度與持久性缺乏充分認知。
其三,情境依賴與動態變化風險。情緒狀態具有高度情境性與動態性,情感BCI在不同場景下風險結構差異顯著。在心理治療中,數據誤判可能直接影響診斷與療效;在公共安全領域,則可能引發監控濫用與權利侵害。現有的一次性授權模式難以涵蓋跨場景變化,也缺乏在情境轉移時重新確認用戶意愿的機制,從而妨礙用戶的真實自主選擇。
其四,反饋干預引發的自主權侵蝕。與傳統技術主要依賴“讀取”不同,情感BCI還可能通過刺激反饋主動“干預”用戶情緒。這種交互型干預雖有助于情緒調節,卻可能潛移默化地影響判斷與決策,侵蝕心理自主權。如果在同意階段未能明確披露干預方式、程度及可逆性,用戶將可能在不知情的情況下接受情緒操控,違背自決原則。
其五,弱勢群體的特殊脆弱性。老年人、未成年人及精神障礙患者是情感BCI的重要潛在使用群體,但其在認知能力、信息理解力和維權意識方面存在天然不足。傳統知情同意所要求的“理解決策能力”在此類人群中難以實現,若缺乏額外的保護程序與第三方見證機制,極易出現被迫同意或被動接受的情形,加劇權利受損風險。
其六,法律與倫理規制的滯后。現行知情同意制度主要源自醫療與科研領域,更多針對傳統臨床研究,難以應對情感BCI的跨場景應用與風險結構。《個人信息保護法》雖確立“明示同意”原則,但對情感數據的特殊敏感性、跨境流轉風險及干預性應用尚無專門條款。同時,缺乏統一的文本標準與風險告知模板,導致不同機構披露內容差異較大,削弱了制度的可預期性與有效性。
綜上所述,情感BCI知情同意的風險并非單點問題,而是技術復雜性、數據敏感性、情境動態性、干預特征、群體脆弱性與制度滯后性相互交織的結果。唯有在制度層面實現差異化、動態化與針對性設計,方能在保障用戶自主與人格尊嚴的同時,確保情感BCI的合規發展。
(四)“情感鴻溝”與社會平等風險
增強型情感BCI的應用可能在無形中加劇社會不平等,形成新的技術鴻溝。其內在邏輯在于:經濟條件優越的群體能夠借助技術提升情緒調控與社交優勢,而弱勢群體則因資源匱乏而被進一步邊緣化,從而呈現出“數字鴻溝—腦機鴻溝—情感鴻溝”的疊加效應。這種不平等不僅體現為個體機會的差異,更可能固化社會結構中的階層分化,挑戰社會整體的正義性與凝聚力。
1.個體層面情感識別和解碼帶來的情感歧視
情感BCI技術中的情感識別和解碼,雖然能夠用來更好地理解和調控人類情緒,但也帶來了潛在的情感歧視問題。“情感歧視”是指基于情感識別與解碼技術所獲取的情緒數據,對個體情感狀態進行自動化檢測與解讀,并據此實施不公平對待或偏見性行為。其典型表現主要集中在三個領域。其一,就業環節。用人單位可能在招聘中利用情感識別篩選所謂“情緒穩定”“積極”的候選人,排斥情緒波動較大者,甚至拒絕錄用被認定為存在“負面情緒傾向”的應聘者。其二,教育培訓。部分學校或機構可能借助該技術評判學員的學習態度與情緒狀態,進而在評價、評分與教育資源分配中產生偏見。其三,廣告營銷。企業通過分析消費者的情緒狀態制定個性化營銷策略,但也可能推送操縱性廣告,甚至歧視情緒表現“冷漠”或“不合作”的群體。
然而,情感歧視風險并非僅來自應用場景,更深層次的問題在于技術本身的局限與制度的缺位。首先,識別誤判的風險。情感識別主要依賴面部表情、語音語調等外部特征,而這些并不能穩定、準確地反映真實情緒。例如,個體因身體疲憊或文化差異而被誤判為“消極”,從而遭受不公正待遇。此類誤判不僅影響個體發展機會,還可能固化社會標簽。其次,隱私與倫理挑戰。情感識別的核心在于對大規模情感數據的采集、存儲和利用,而情感屬于個體內在體驗,具有高度敏感性。未經同意獲取和使用此類信息,不僅可能嚴重侵犯隱私權,還會引發是否有權“讀懂并利用”他人情感這一根本性倫理難題。再次,社會偏見與不平等的加劇。情感表達因文化、性別、社會背景而存在差異。若技術設計者未能充分考慮這些差異,就可能導致對特定群體的系統性誤判,從而放大既有社會不平等,甚至強化刻板印象與歧視性實踐。最后,心理負擔與行為操控。在被持續監控的前提下,個體可能出于壓力而自我壓抑或刻意調控情緒表現,損害心理健康。同時,企業或機構可能利用情感數據進行潛在的行為操縱,使個體在不知不覺中喪失真實選擇權。
情感識別技術帶來的“情感歧視”不僅是個體權利受損的問題,更涉及隱私保護、人格尊嚴與社會正義等多重法學議題。其風險的根源在于技術的不確定性與制度的滯后性,因而必須通過法律規制來確立數據處理邊界、保障非歧視原則,并強化責任追究機制,以防止技術濫用在無形中重構社會不平等。
2.社會層面情感增強技術導致的“情感鴻溝”
情感BCI技術除了在個體層面帶來情感歧視風險,技術發展中的權力結構和社會不平等問題也日益凸顯。情感增強是神經增強的一種,區別于用于檢測、影響人類情感的康復治療型情感BCI,增強型情感BCI技術是為了改善大腦情感功能而對人類進行干預,這些干預旨在使人類獲得超出正常范圍的情感能力。相比增強型BCI技術試圖直接作用于精神機體,以超常規的速度增強其認知能力、情感能力,甚至是道德能力,由此帶來加速的“思維進步”,增強型情感BCI為人類獲得超常的情感能力提供支持。比如,可以將人的消極情感,焦慮、失望、痛苦、悲傷等轉變為開心、快樂的積極情感,也可以使原本沒有感情的人產生“愛”意,甚至使人的某種情感直接消失。
增強型BCI使得腦機接口技術的發展加劇技術鴻溝,在原有“貧富鴻溝”“數字鴻溝”的基礎上增加“腦際鴻溝”,使那些無法負擔或不愿通過腦機接口技術增強自我的人成為技術弱勢群體。相應的,增強型情感BCI將在原有“數字鴻溝”“腦際鴻溝”的基礎上增加“情感鴻溝”。增強型情感BCI技術的發展,試圖直接作用于精神機體,以超常規的速度增強其情感能力,這種加速的“情感進步”可能很難與其他類型機體的發展速度相協同,會產生排異反應、身體機能損傷等生理現象以及責任分配、公平公正等社會問題。用來恢復人的正常心理和情感的治療型情感BCI有利于促進平等的實現,而用于增強人類情感能力的增強型情感BCI往往導致的是人與人之間更大的差別、社會偏見和不平等。
同時,算法“黑箱”可能隱含歧視性條款,絕對公平的算法是不存在的。這也加劇了增強型情感BCI技術應用帶來個體不平等及損害社會正義的風險。為了避免情感BCI技術不平等運用加劇數字鴻溝,導致代際斗爭,需要在盡量劃清治療和增強界限的基礎上,通過公平公正分配體系的構建和“非歧視性編程技術”的設計,實現情感BCI技術的可及性及普惠共享。情感BCI技術的普惠共享需要技術、政策、倫理、教育等多方面的協同努力,通過降低成本、制定公平政策、保護隱私、加強教育和社會合作,并通過跨學科和國際合作提升技術的普及度,才能確保技術惠及所有人,促進社會公平正義的實現。
四
情感腦機接口技術應用風險的法律規制策略
情感BCI的風險雖表現為多維度,但其根源均在于對認知自由與人格權的深度侵蝕。規制路徑應以具體風險類型為切入點,在厘清技術特征與權利沖突的基礎上,建立制度化、可操作的法律機制。通過構建“風險識別—權利受侵—法律回應”的邏輯鏈條,不僅能夠確保治理措施的針對性與有效性,也有助于實現法治在新興科技領域的前瞻性回應與制度性保障。
(一)確立預期治理與動態風險評估機制
預期治理有助于技術風險治理從結果導向型向過程導向型的轉變,有助于彌補我國目前技術風險治理“事先評估和后期治理”的既有操作模式的不足。目前,情感BCI技術處于發展初期,對其進行預期治理尤其必要,以確保技術在發展過程中符合社會期望與倫理標準。
首先,在情感BCI研究前期進行多維度預測與風險評估。由于情感BCI技術涉及人類大腦的情感信息,與人工智能和神經科學等前沿技術相交織,技術發展前期進行多維度預測與風險評估是關鍵。在對情感BCI全球技術發展的現狀進行多維度預測和實時技術風險評估的基礎上,結合本國技術發展的現狀,聚集不同利益相關者,注重公眾參與,共同探索技術的未來發展方向,應對技術發展的未知風險。前瞻性風險預測與監管需要在遵循神經科學與人權在國際層面共享的法律原則和價值觀的前提下,利益相關者、決策者和監管者各方積極溝通協商,采取一系列行之有效的方法探索技術的發展趨勢及其可行性。預期治理的重點是運用情景開發等方法,這些方法與尋求確定單一、最有可能的未來的方法相比,提供了更加多樣化和規范性的愿景。通過技術預見對技術發展方向及可能帶來的收益風險進行評估,進而通過借鑒既有的國際治理框架尋求情感BCI技術治理的價值共識和標準。同時,對情感BCI技術進行多場景規劃與倫理分析。通過情景分析,可以構建情感BCI技術未來不同的應用場景,治理者可以預判情感BCI技術在不同應用場景下可能引發的倫理挑戰和社會影響。
其次,在技術發展過程中注重公眾參與,促成透明決策。預期治理的目標是通過提高社會在新興技術背景下表達和應用公共價值觀的能力。“參與”指鼓勵普通公眾之間以及他們與傳統上制定和設定科學研究議程以及開展科學研究的人之間進行實質性的思想交流。公眾參與一直以來都應該是新技術風險治理工作的重要組成部分。情感BCI技術治理需要政府機構在遵循國際共享的法律原則和價值觀的前提下,采取更加積極的對策,推進穩健的立法,同時廣納民意,鼓勵公眾參與,注重多元主體之間的相互理解與達成共識。預期治理強調多方參與,確保技術發展的透明性和公眾信任。在情感BCI技術風險的治理中,需要政府、研究機構、企業、倫理學家、用戶群體等多方共同參與決策過程,通過廣泛的討論和意見收集,確保不同利益相關者的擔憂和期望能夠被納入技術治理中。在開發和部署任何技術之前,都需要尊重公眾的觀點和關切,保證所有利益相關者均有機會就該技術的潛在風險、利益和影響展開討論。從而,在技術批準臨床試驗之前就利益和風險的個人與社會價值向監管機構和決策者提供參考信息,推進建立健全的透明度機制與公眾參與渠道,定期發布監管報告,公開討論關鍵決策背后的理由與依據,吸納社會各界的意見與關切,特別應關注數字弱勢群體的聲音,防止技術發展加劇社會不平等。
最后,促成融合各方意見、資源不斷選擇優化的整合過程。相較“參與”停留在鼓勵思想交流的層面,“整合”是在研究和培訓方面創造機會,以跨越鴻溝進行實質性交流,旨在長期建設協同治理的反思能力。預期治理致力于將共同價值融入到潛在的社會技術成果中,集合多元主體,通過實踐過程指導科學決策機制的構建,整體化的融合過程共同為制定科技政策服務,為創建良好的技術風險治理機制提供參考。整合需要加強自然科學與社會科學的對話,增強對技術的反思,融合各方意見、各種資源,將預見和參與過程中形成的新見解融入技術創新的過程中。情感BCI語境下預期治理的整合包括目標整合、主體整合和過程整合。科技領域離不開與人文社會科學的交叉融合,以推進負責任和有意義的科技創新,增強對技術的反思。情感BCI語境下預期治理三個層面的整合不僅能夠保障技術的安全與倫理符合性,還能夠促進技術創新與社會利益的平衡。通過旨在建設前瞻性、公眾參與以及社會和自然科學融合的研究和社會能力的預期治理理念,這些整合措施可以為情感BCI技術創造一個更加透明、負責、包容的治理環境。
(二)完善情感數據安全和隱私保護
神經數據泄露可能被用于身份盜竊、社會操控或不正當的商業目的,因此數據安全應是神經科技發展的優先考慮。情感BCI收集的情感和大腦活動數據極其敏感,需要采取強大的數據加密和訪問控制措施,以防止黑客攻擊、數據泄露和不當使用。在數字化和云計算時代,保障情感數據的安全性和隱私性至關重要,需要強化技術安全措施和數據管理規范。為了體現和貫徹隱私設計的價值觀,必須在早期設計階段開發預防和減輕情感BCI帶來的情感隱私和情感數據安全威脅的技術。人們發現植入式神經裝置可能面臨著安全威脅,并提出了“神經安全”一詞,即“保護神經裝置的機密性、完整性和可用性,防止惡意方入侵,以保護人體神經機制、神經計算和自由意志的安全。”
預防和緩解情感數據安全及隱私權侵犯工具的開發需要神經科學家、神經工程師、倫理學家以及法律、安全和隱私專家在公共討論的基礎上進行跨學科的努力。在政策法規層面,需要法律專家和倫理學家制定一套法律和政策來監管神經信號的合法使用;在技術標準層面,需要神經科學家和工程師開發和建立一套聚焦安全和隱私保護的情感BCI行業的研究標準、方法、流程和實踐;在工具方法層面,需要情感BCI系統制造商和應用程序開發人員能夠開發、實施和使用工程實踐、方法和工具,以防止和減輕特定類型的安全和隱私攻擊。
為了保護情感數據安全和隱私權,需要在早期設計階段就開發預防和減輕情感BCI帶來的隱私和情感數據安全威脅的方法,并將其貫穿于情感BCI技術的全生命周期。與此同時,情感數據相較于傳統生物識別信息具有更高的敏感性,其內容可能揭示個體的心理健康狀況、價值取向乃至人格特征,直接觸及核心人格權益。現行《個人信息保護法》雖已確立敏感個人信息的特別保護原則,但并未針對情感數據的獨特屬性設置差異化規制。鑒于此,將來有必要在該法修改中增加“情感與神經數據保護”的相關規定,將其明確界定為高度敏感個人信息,并在收集、存儲、傳輸及跨境流轉等環節設立更為嚴格的程序性條件。同時,應禁止其在廣告定向、差別化定價等高風險場景中的使用,以防止技術濫用對人格尊嚴和社會公正造成系統性沖擊。
(三)建立分層披露與動態同意制度
只有在用戶充分知情并自主同意,而不受自動化設備約束的前提下,情感BCI技術才能在保障用戶權益的同時,實現其技術潛力,個人的自由、自主和內在價值才能得以體現。為了回應不同場景技術應用的倫理法律需求,情感BCI技術應用中的知情同意需要探索根據技術復雜性、風險級別和用戶參與度等因素的分層次的知情同意流程;為應對技術進步和應用條件的變化,對長期或多次使用的情感BCI技術需要設計動態的知情同意更新機制,以更靈活、精準地適應情感BCI技術不同應用場景下的知情同意需求。針對情感BCI技術在簽署知情同意環節暴露的技術復雜性、情境依賴性與弱勢群體保護不足等問題,具體而言,需要從以下幾個方面設計更為細致、全面、更具可操作性的知情同意規則:
第一,分層披露與可視化呈現。應建立“核心風險優先—技術細節補充—擴展信息附錄”的三級披露模式,在首層以簡明語言突出技術目的與核心風險,第二層披露運行邏輯、數據流向與干預方式,第三層保留完整技術文件。同時,輔以圖形化流程、交互問答與風險地圖,降低用戶理解門檻,保障信息透明度與實質性知情。
第二,動態同意與場景化管理。鑒于情感BCI在醫療、教育、安防、娛樂等應用場景存在顯著差異,應摒棄一次性授權模式,轉向場景化獨立授權。當數據用途、算法版本或干預方式發生重大變更時,必須重新披露并取得用戶確認,從而避免初始同意在新的風險條件下失效。
第三,高敏感數據特別保護。情感與腦電數據應在法律上被確認為“高度敏感個人信息”,單列為特殊類別,適用高于一般生物識別信息的保護標準。處理此類數據應限定在特定、明確、必要的目的范圍內,禁止超范圍使用,并需取得單獨、顯性同意。同時,應建立全生命周期監管機制,嚴格限制其用于廣告投放、情緒操控或差別定價等高風險活動。
第四,弱勢群體的程序性保障。面向老年人、未成年人和精神障礙患者,應在同意環節引入監護人簽署、法律援助機構介入或獨立第三方見證,以確保其真實理解與自主意愿。此外,可運用區塊鏈、人工智能等技術提升監管透明度,防止形式合規下的實質失靈。
第五,程序性保障與第三方監督。鑒于情感BCI風險的技術隱蔽性,僅依賴用戶個體識別難以有效發揮作用。法律應引入多元程序保障:設立跨學科倫理審查委員會,對高風險研究和敏感數據應用進行事前與持續審查;確立第三方見證制度,特別是在弱勢群體或高風險場景中;建立持續性同意確認機制,在用途或情境發生變化時及時提示并再次征得授權,以確保同意的真實性與持續性。
第六,銜接現有法律與探索專門立法。現行規制主要分散于《個人信息保護法》《數據安全法》《醫療器械監督管理條例》等法律規范中,但缺乏對情感數據與腦機接口特性的系統回應。為此,將來有必要在《個人信息保護法》修改中增設“情感與神經數據保護”的有關規定,并在《醫療器械監督管理條例》中將情感BCI列入高風險器械目錄,系統規定知情同意的標準化程序、風險分級與跨部門協同機制。
情感BCI技術中的知情同意不應局限于簽署一份文件,而應是一個動態、持續的過程。為了有效防控相關風險,技術開發者、監管者和用戶都需要對情感BCI技術的復雜性和潛在影響有清晰的理解。通過透明、易懂的知情同意流程以及對弱勢群體的特別保護,可以在技術應用的同時保障用戶的神經權利。開發情感BCI技術的企業和研究機構有責任向用戶提供透明的信息,解釋技術的工作原理、潛在風險和利益。這種透明度應貫穿技術的設計、開發和應用的全流程。同時,還需要建立問責機制,確保當用戶的神經權利受到侵犯時,相關責任主體能夠提供有效的救濟途徑。情感BCI設備可能會對用戶的情感進行實時監控和操控,因此用戶必須有權決定是否使用該技術,并完全了解其潛在影響。用戶應被告知數據將如何被使用,并對全部涉及情感分析的自動化決策過程保持完全的控制權。此外,用戶應有權隨時終止使用該技術并要求刪除其神經數據。
(四)強化非歧視原則與責任追究機制
隨著情感BCI的逐步應用,其潛在的社會分層效應愈加凸顯。增強型情感解碼與反饋功能可能被部分群體率先獲取和利用,從而在社會交往、教育機會乃至就業競爭中形成新的優勢,而經濟條件較差或缺乏技術接入能力的群體則可能被進一步邊緣化。這種“技術鴻溝”若得不到有效規制,將演化為更深刻的“情感鴻溝”,在無形中固化乃至加劇社會不平等,最終動搖社會公平與正義的制度基礎。因此,法律必須通過制度化手段加以預防與矯正。
首先,應在現有反歧視法律框架下,明確禁止基于情感識別結果的差別化待遇。招聘環節中,企業不得以情感識別的“穩定”或“積極”標簽作為錄用標準,教育領域也不得據此決定學生的學業評價或資源分配。為增強制度的實效性,需賦予受害人舉證便利,例如確立推定規則或轉移舉證責任,避免因技術復雜導致個體維權能力受限。同時,應設立專門的救濟途徑,如行政申訴、司法審查與公益訴訟,以保障受害群體的權利救濟。
其次,應將企業濫用情感識別結果納入侵權責任與行政處罰體系。一方面,可在侵權法框架下確立“情感歧視責任”,明確情感數據誤用或濫用對人格權與平等權的侵害屬性,要求侵權主體承擔賠償責任與停止侵害義務。另一方面,在行政法領域,應通過《個人信息保護法》《數據安全法》及擬議的專項法規,對違規主體實施罰款、行業禁入或資質撤銷等強制措施,以提升規制的威懾性與可執行性。
最后,應探索跨部門協同治理機制,整合人力資源與社會保障、教育、市場監管、工業和信息化等部門資源,對情感識別在不同領域的使用實施差異化監管。通過信息共享與執法聯動,不僅可以實現違法行為的快速發現與糾正,還能夠形成從預防、監督到問責的閉環機制,確保非歧視原則在情感BCI應用中的實質落實。
總而言之,情感BCI所帶來的社會不平等風險,并非單純的倫理困境,而是直接關乎憲法所保障的平等權與人格權的法治問題。通過在反歧視框架下確立明確禁止性規范,并輔之以責任追究與多元治理機制,方能防止“情感鴻溝”固化為社會結構性不公,實現新興技術發展與社會公平正義的協調統一。
(五)探索神經權利的憲法化與部門法細化
為了應對情感BCI技術對大腦活動的直接讀取和解碼能力帶來的對隱私、安全和自主權的擔憂,全球范圍內需要建立相關的法律和倫理框架。目前,有些國家和地區已經開始探索“神經權利”的立法和監管,尤其是在情感BCI和其他腦機接口技術的使用上。為了防范神經科技發展對個人意識的抹殺,國外立法已經開始保護神經權利,在比較法中已經建立了不同的神經權利監管規范解決方案。
在對神經權利保護的國際態度及不同規范方案進行分析的基礎上,鑒于情感BCI的迅猛發展及其濫用可能對人類大腦和心智人權帶來的巨大沖擊,我國應該持對情感BCI應用中的神經權利進行規范保護的立場。基于神經利益保護的訴求,由神經科技發展催生的對人性尊嚴保障的需求是神經權利存在的法理基礎。神經權利作為神經元之上的綜合性的基本權利,是避免腦機接口技術濫用,保護人類意志的完整性和自由的需要。神經權利是神經科技驅動下出現的新興數字權利,既具有憲法基本權利的屬性,也具有民法新型人格權的屬性,我國需要構建憲法統領的神經權利保護法律體系。基本權利的立法保障,不僅需要憲法為基本權利提供合法基礎,同時也需要通過完善部門法中的相應條款對憲法條款進行具體化,由此形成穩定的神經權利保障法律體系。
我國在制度設計上應積極探索將“神經權利”納入憲法框架,以在根本法層面確立其價值導向與原則性保障。同時,應通過民法、刑法、個人信息保護法及相關專門立法的協同銜接,對神經權利進行體系化與具體化規制。如此既能夠在憲法層面提供價值引領與制度正當性支撐,又能在部門法層面構建可操作性的規則體系,實現宏觀與微觀、原則與規則之間的有機統一。此外,需要完善權利保障機制,在程序法中對應增加使用者權利、公共利益和人類未來受到侵害的具體情形以及可以提起訴訟的具體救濟的程序性規定。
余論
情感BCI作為新興的神經交互技術,其積極效用與潛在風險始終處于動態張力之中。一方面,該技術通過實時感知和解析個體的情緒狀態,有望在心理健康干預、人機交互優化以及教育和司法等領域帶來前所未有的應用前景;另一方面,其對認知自由、心理隱私與人格權的深度沖擊日益凸顯,沖擊著傳統法律規則和倫理體系。本文試圖在現有研究基礎上,建構一套涵蓋風險識別與法律回應的邏輯框架,以揭示情感BCI在法律規制上的復雜性與前瞻性。需要強調的是,這一問題并非孤立的技術法律困境,而是人類在技術快速迭代背景下重新界定“人之為人”的根本性課題。現行法律體系雖然在數據保護、知情同意與反歧視等方面提供了一定的規范依據,但在神經權利的憲法化、跨部門協同治理以及國際規制合作等方面,仍存在不足。本文提出的制度設計與法理回應應被理解為對情感BCI快速演化的階段性回應。未來研究亟需在實證支撐、跨學科對話以及比較法借鑒中不斷深化,以期在推動技術進步的同時,構建更加穩固的制度平衡,真正實現人類尊嚴與科技發展的協調共生。
-向上滑動,查看完整目錄-
《河北法學》2025年第12期目錄
【特稿】
推薦語:實質的解釋論與法秩序統一性
張明楷
1.法秩序的統一性與刑法解釋
[日]前田雅英 著、李磊 譯
【名家論壇】
2.偵鑒關系的雙重錯位及其制度調整
陳如超
3.論仲裁協議對債權人代位權行使的影響
黃忠順、駱曉嵐
4.基于需求分類導向的個人信息利用路徑完善
王勇、孟子杰
【專題:數字法治研究】
5.數字倫理如何融入并升級ESG治理?
——基于歐洲和德國實踐的考察
楊大可
6.情感腦機接口技術應用的多維風險及其法律規制
徐娟
7.數據主權視域下網絡空間安全脫嵌的三維規制
柳柳
【青年法學家】
8.促進公共利益實現的行政許可設定及其限制
——以自家樹木砍伐許可為例
鄢德奎
9.資金數據分析報告的理論反思及規范進路
贠丹
【博士生園地】
10.國際法視域下數字治理的規則沖突與秩序構建
杜澤淵
《河北法學》是由中共河北省委政法委員會主管,河北政法職業學院、河北省法學會主辦的法學學術期刊,連續被評為中文核心期刊、CSSCI擴展版來源期刊、RCCSE中國核心學術期刊、復印報刊資料重要轉載來源期刊等。1983年8月創刊,國內外公開發行,月刊,大16開本,內文200頁。主要欄目有:專論、名家論壇、青年法學家、熱點問題透視、博士生園地、司法實踐等。
點擊進入下方小程序
獲取專屬解決方案~
責任編輯 | 郭晴晴
審核人員 | 張文碩 范阿輝
本文聲明 | 本文章僅限學習交流使用,如遇侵權,我們會及時刪除。本文章不代表北大法律信息網(北大法寶)和北京北大英華科技有限公司的法律意見或對相關法規/案件/事件等的解讀。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.