陶東風：警惕AI時代的生命政治

文 |陶東風， 廣州大學人文學院教授

本文刊登于《隨筆》2025年第6期

一

最近在一個叫“新聞早餐”的公眾號看到一條“令人振奮”的消息：杭州完成首例“戒酒芯片”植入手術，某男子在植入戒酒芯片后稱“看見酒如看見白水”（“新聞早餐”2025年4月1日）。

我之所以說這條新聞“令人振奮”，是因為我有嗜酒的毛病，也常有戒酒的念頭。我的酒癮雖然還沒有到每喝必醉的地步，但程度不等的喝多和喝高也是常有之事。這當然不好。考慮到我有遺傳的高血壓、心臟病，這不但不好，而且簡直玩命。然古人云“積習難改”。如果真像“新聞早餐”說的那樣，植入一個芯片就可以輕松、徹底戒酒，是否應該去嘗試一下呢？

如果說“戒酒芯片”關乎生理—生活習慣的控制和改變，那么另外一個同樣“讓人振奮”的消息則是關于心理—情感控制的。據說斯坦福大學最近進行的一個腦部實驗證明：AI+腦機接口可以治療抑郁癥。“只要在大腦中種下‘幸福種子’，就可以治愈一個人的靈魂，AI時代不僅可以塑造世界的智能，而且可以徹底控制人的情感。”

這個消息同樣讓我怦然心動。不知道是由于天性還是別的緣故，本人不幸經常難以擺脫消極情感的糾纏，“感時花濺淚，恨別鳥驚心”的小資產階級情調也不免有之，盡管到不了抑郁的程度，但離“天天快樂”的“美麗新世界”還隔著十萬八千里。是否應該嘗試一下AI+腦機接口來徹底掃除我的消極情緒，從此永遠告別焦慮、壓抑、感傷、憂憤之類消極情緒，永遠生活在“陽光燦爛的日子”？

現代科技真是神通廣大、無所不能。今天的生命科學、人工智能、數字技術，已經發展到可以通過植入芯片、改造基因、移植器官等方法徹底控制或改造人類的膚色、性別、身體感知、趣味愛好等屬于人的生物或自然屬性的東西，也就是原先以為“老天爺”給的、自己只能接受的東西。戒酒戒煙易如反掌，變性變種小菜一碟，就是永葆青春、長生不老、天天快樂好像也已經不是什么神話了。

二

可是，這真的是一個令人向往的“美麗新世界”嗎？誰能保證它不會是AI時代升級版的法西斯主義？

由瑞典政治學家魯道夫·契倫（Rudolf Kjellén）在二十世紀二十年代首次提出、福柯于七十年代加以發展的“生命政治”概念，指的是政治（國家）與生命（有機體）的結合，是生命的政治化或政治的生命化。政治權力介入對生命的關照和管理中而成為所謂“生命權力”。生命政治理論體現了生物學（有機體理論）和政治學（國家理論）的相互交叉融合。這里的“生命”通常不是指個體生命，而是一個國家的人口意義上的生命。福柯在《必須保衛社會》《安全、領土和人口》《生命政治的誕生》等著作中指出，十八世紀的種種跡象表明，國家開始將整個人口的生命作為管理對象，同時，醫學并非是在專業層面關注人口健康，而且出于國家發展的政治需要來管理人口，這樣它就成為一種管理人口（社會身體）的政治—權力技術。福柯將這種權力技術稱為“生命政治”。

米歇爾·福柯，法國哲學家，主要著作有《詞與物》《知識考古學》《臨床醫學的誕生》等

納粹主義是現代種族主義生命政治的代表，是一種生物學化了的種族主義。納粹改造了歷史上古老的種族斗爭話語，讓國家權力承擔起整個人口的生命責任。正如福柯指出的：“使種族主義進入國家機制的是生命權力。”（米歇爾·福柯：《必須保衛社會》，錢翰譯，上海人民出版社，2010，第194頁）這種種族主義的首要功能就是“在生命權力針對的生物學連續體中進行分裂，制造區分”（同上），也就是依據所謂的生物學、醫學標準劃分人口中的健全者和殘疾者、該活者和該死者。在納粹執政初期，這套生命政治權力主要還不是用于屠殺猶太人，而是“解決”德國國內那些所謂“不值得活”的生命，亦即通過“強制絕育”“安樂死”等方式加速那些被認為是民族和國家“累贅”（身體或精神方面）的殘障者的死亡，并將這種屠殺行為稱為“解脫”“悲憫死亡”“死亡協助”，是“凈化國民”的千秋偉業。據格茨·海達·阿利的《累贅：第三帝國的國民凈化》介紹：一九三九至一九四五年間，約二十萬患有殘疾及精神疾病的德國人（被稱為“無用的吃白食者”“空洞的人體軀殼”）成了強制安樂死的犧牲品，平均年齡是四十五歲（參見格茨·海達·阿利：《累贅：第三帝國的國民凈化》，勵潔丹譯，光明日報出版社，2017）。羅伯特·杰伊的《納粹醫生》則告訴我們：納粹集中營中負責挑選哪些猶太人應該直接送到毒氣室、哪些應該先強制勞動的“生死隊伍的篩選者”，很多是熱愛科學的專業醫生，也是“各種殘忍的人體實驗的主導者”，是“調配殺人毒氣的技術人員”（參見羅伯特·杰伊·利夫頓：《納粹醫生》，王毅、劉偉譯，江蘇鳳凰文藝出版社，2016）。他們認為，無論是德國人內部的殘障者還是猶太人都是人類的渣滓、病毒、細菌，只有清除他們才能優化人類生命。在國家衛生看來，這不是歧視，這是科學，是國家衛生學。這就難怪納粹宣傳部長戈培爾本人就是卓有成就的醫學家和生物學家，而黨衛軍頭目希姆萊更是揚言：“國家社會主義不過是應用生物學。”

從生命政治角度看，納粹極權主義不但致力于摧毀舊世界，創建新世界，而且特別熱衷于摧毀舊人，創造新人。正如阿倫特說的，極權主義意識形態的最終目標不是改造外部世界，或是社會的革命性變革，而是改造人性本身。“改造人”無非兩個方面，一是身體/肉體改造，一是精神/思想改造。清除舊生命，創建新生命，這無疑是比創建新國家、新社會更徹底的烏托邦計劃。

思想改造（所謂“靈魂深處鬧革命”）的實踐古已有之，包括改造人的世界觀、政治信念、效忠對象、情感體驗等。但自古以來的思想改造基本停留在語言和意識層次，主要表現為思想灌輸和宣傳教育，而沒有深入物理的、生物的、身體的層次，其手段不外乎胡蘿卜（誘之以利益）加大棒（脅之以暴力）。這種思想改造的效果到底如何，本人一直心存疑慮，因為人是會說謊的動物，誰能保證那些嘴上說“希特勒萬歲”的人心里是不是在詛咒希特勒早死呢？

再比如，“文革”期間有一個荒唐的說法：樹立了“無產階級世界觀”的人，應該覺得牛糞是香的，玫瑰花卻是臭的。如果一個人說牛糞是臭的，那么他的思想和世界觀就沒有改造好，他還沒有擺脫資產階級趣味。那么，一個人嘴上說“牛糞香”，他就真的改造好了嗎？不見得。他很可能在說假話，在生理的層次上他還帶著資產階級的嗅覺，牛糞在他那里聞著還是臭的，只是他不敢說臭罷了。一個人世界觀徹底改造好的標志，不是他在意識層次、理性層次認識到了牛糞是香的，而是他的鼻子、他的嗅覺告訴他牛糞就是香的（而玫瑰花則是臭的）。正因為這樣，思想改造是一個長期的、艱苦的甚至是不可能完成的過程。蘇聯作家阿·托爾斯泰在他的《苦難的歷程》第二部《一九一八年》的“題記”中寫道：知識分子思想改造要“在清水里泡三次，在血水里浴三次，在堿水里煮三次”。

阿·托爾斯泰，蘇聯作家，代表作有《苦難的歷程》《彼得大帝》等

現在情況不同了。有了高科技手段，我們只要在一個人身上植入一個芯片或注射一種藥物，就可以徹底改造其生物學、生理學屬性，包括他的嗅覺或其他感覺（更不要說他的思想、觀念、立場了）。這樣，牛糞聞起來它確實就是香的。這才是思想改造的最高境界：徹底改變一個人的生理構造、生物特征和身體感覺，也就是把思想—精神的改造落實到生物—身體—生理的層次，夯實其物質基礎（沒有物質基礎的思想總讓人覺得不穩固）。

可見，芯片植入等高科技手段把思想改造真正推進到了生命政治的層次。福柯曾把生命政治的特點界定為：人類的生物特征進入了政治考慮之中，進入了政治戰略、政治權力的內部。通過生物學方法（一種非思想的方法）達到思想改造的目的，是AI時代的生命政治，也是AI時代升級版的法西斯主義。如果想讓一個人服從某種意識形態、某種主義，或者服從某個統治者的絕對統治，對他保持絕對忠誠，不必進行思想教育，也不再需要暴力威脅，只要植入小到完全看不見的芯片即可。

三

其實，我們今天面臨的這種情形，赫胥黎在其出版于一九三二年的《美麗新世界》中就已經做出了驚人的預言。

奧爾德斯·赫胥黎著《美麗新世界》，上海譯文出版社，2017年

這篇著名的政治諷喻小說（同時也是反烏托邦小說、科幻小說）描寫了未來世界中一種令人毛骨悚然的生命政治景象。在作品刻畫的那個二五三二年的未來世界，科學技術高度發達，物質生活十分豐富，人們衣食無憂，安于現狀，心滿意足，各種欲望均可隨時隨地得到免費滿足，享受著“陽光燦爛的日子”。然而可怕的是：這里的一切都被規范化、標準化、統一化，不允許任何人有自己個人化的性格、情緒、思想觀念和道德倫理，人與人之間根本不存在真實的情感。這里沒有家庭，也沒有建立在愛情基礎上的性，甚至不允許有自己喜歡和選擇的性伙伴，所有性伙伴都是隨機分配的。

特別值得注意的是：這樣一個秩序井然的“美麗新世界”是通過生物技術等高科技手段打造的。比如，在美麗新世界，嬰兒完全由試管孕育，在實驗室中培養，不需要生育，他們在胚胎孵化階段即被通過生物手段設定為五個嚴格的社會等級：“阿爾法（α）”“貝塔（β）”“伽馬（γ）”“德爾塔（δ）”“厄普西隆（ε）”。這是類似五個“種姓”一樣無法改變的社會階層。阿爾法和貝塔是最高級，將來培養成為領袖或大人物，領導和控制其他階層；伽馬是普通階層，相當于平民；德爾塔和厄普西隆最低賤，智力低下，只能做簡單體力勞動。那些低級的受精卵在發育成為胚胎之前，就會被一種叫“波坎諾夫斯基程序”的方法進行盡可能大規模的復制，并且經過一系列殘酷的“競爭”之后才能存活下來。同樣地，通過科學手段賦予每個不同等級以固定不變的習慣和愛好。低級的階層不能有高級的愛好。例如書中寫道這樣的細節：以電極懲罰接觸花朵（比喻美）的德爾塔、厄普西隆的嬰兒以摧毀其審美能力，因為他們被認為不配享有這種能力。這是一種暴力和高科技結合的“教育”（洗腦）方式。更殘忍的是，通過人工方式讓最低級的厄普西隆長期處于腦缺氧狀態，從而將其變成癡呆，終身安于低級體力勞動。

再比如：在美麗新世界，不但人一出生就被設定身份等級、行為反應，而且管理人員用試管培植、條件反射、催眠、睡眠療法、巴甫洛夫條件反射等“科學”方法，嚴格控制各姓人類的喜好，讓他們心甘情愿、無比快樂地去執行自己的被終生設定的生活方式、消費模式、社會種姓、職業崗位乃至習慣趣味，永遠不被“負面/消極”情緒所困擾。人的情緒還可以通過一種叫作“唆麻”的藥物致幻劑控制：在煩惱、痛苦、焦慮即將襲來時及時吞下一片即可無比快樂。一切情緒問題用“唆麻”解決。

總之，在美麗新世界，思想教育已經告別傳統的灌輸或暴力威脅，而代之以生命技術。我之所以將這種令人震驚的極權統治景象稱為“生命政治”，是因為這里的統治，包括對于人的私人生活、思想、精神、情感、趣味的控制，都是通過生物學方法、醫學方法達到的。這才是地地道道的生命政治——生命的政治化和政治的生命化。通過語言進行的思想教育或其他傳統社會使用的規訓手段，在這里沒有用武之地或者說失去了用武之地。

四

尤瓦爾·赫拉利在其出版于二〇二四年的新著《智人之上》中提出了“極權主義網絡”的概念，指出：“不論在哪里生活，我們都可能被一張看不透的算法大網束縛，控制著我們的生活，重塑著我們的政治與文化，甚至是去改造我們的身體與思想，但人類卻再也無法理解這些控制著我們的力量，更別說加以阻止了。如果二十一世紀真會有某個極權主義網絡成功征服世界，其背后的掌控者可能并不是人類的獨裁者，而是某種非人類智慧。有些人以為，如果人類將會迎來極權主義噩夢，主要來源應該是俄羅斯或后民主時代的美國等國，但這是對極權主義威脅的一種誤解。事實上，不管是俄羅斯人，美國人還是其他人，真正面對的可能是由非人類智慧引發的極權威脅。”（赫拉利：《智人之上》，林俊宏譯，中信出版社，2024，“序言”第xv頁）

尤瓦爾·赫拉利著《智人之上》，中信出版社，2024年

在他最近的演講《為什么法西斯主義如此誘人？》中，赫拉利再次警告：法西斯主義和獨裁統治可能會卷土重來。但它們會以新的面貌出現，而這個新面目就是“更緊密地結合二十一世紀的新技術現實”，如數字技術和生命科學技術，特別是兩者的結合。

赫拉利的警告振聾發聵，但所謂“非人類智慧引發的極權威脅”說到底仍然是人的威脅而不是技術的威脅，而且人工智能等“非人類智慧”畢竟是人發明的，到現在為止也仍然受人的控制。因此，赫拉利所說的網絡極權主義或數字極權主義噩夢，并不是單純的技術極權或數字極權，而是技術極權與政治極權的聯姻或技術賦能的極權主義，它對人的控制是全方位的：從政治到文化、從身體到精神。赫拉利指出：數據正在取代土地、機器，成為當今世界最重要的資源，政治變成了控制數據流的斗爭。今天的獨裁意味著大量數據集中在少數權力集團手中。“自由民主目前面臨的最大危險是，信息技術革命可能使獨裁體制比民主體制更有效率。”本來，將所有信息集中在自己手中一直是獨裁政權難以克服的主要困難，但在今天，集中信息不但不再困難，而且可能會變成獨裁政權的最大優勢。“假設有人想知道你的政治觀點，你的智能手機會知道你看的是哪些新聞頻道，也會記錄你每天平均看四十分鐘福克斯新聞臺，只看四十秒的美國有線電視新聞網。”（《智人之上》，第206頁）算法能精確地記錄下我的每一個言論、行為甚至每一次情感波動、每一次心跳。它比我更了解我自己。一旦有了這樣的算法，一個外部權力系統，比如政府、大企業，不僅能預測每一個人的決定，還能操縱他的情感。一個獨裁者可能無法為我們提供優質的公共服務，卻能讓我們無限愛他，無限恨他的對手。“皮下監控或許最終能充分發揮作用。到那時候，假設生物特征識別傳感器能夠記錄幾百萬人在智能手機上觀看特定新聞時的特定心率與大腦活動，那么計算機網絡能掌握的絕對不再只是我們大致的政治立場，而是能夠精確掌握是什么讓每個人感到憤怒、恐懼或歡愉。然后計算機網絡將能預測并操縱我們的感受，讓我們心甘情愿接受它想推薦的東西——可能是某種產品，可能是某位政客，也可能是某場戰爭。”（《智人之上》，第206頁）如果政府（或某家企業）能夠比我更加了解我自己，而且還能在微觀上管理我的一切行為和思想，就等于是對社會有了精細到每個細胞的掌控。

在赫拉利看來：在這種連每一個人的情緒、感受都可以控制的時代，民主可能很難存活。因為在這種情況下，自由民主的敵人侵入的不是我們的郵箱或銀行賬戶，而是我們的情感。他們利用我們的恐懼、仇恨和傲慢，然后用這些情感來分裂我們，從內部摧毀民主。

這其實是從硅谷開始的一種方法，最初是為了推銷產品。但現在，民主的敵人用同樣的方法向我們推銷恐懼、仇恨和傲慢。他們無法憑空制造這些情感，所以他們得先了解我們的弱點，然后利用這些弱點來對付我們。

那么，在今天，我們能做些什么來阻止法西斯主義的回歸和新獨裁的出現？赫拉利不是一個簡單的樂觀主義者，但也不是一個絕對的悲觀主義者。他依然對民主抱有希望，拒絕宿命論和不作為：“然而我們不能光是因為計算機有能力創造出全面監控制度，就認為這種制度已經不可避免。科技的發展很少是絕對不可避免的。”（《智人之上》，第269頁）到了二十一世紀，飛速發展的數字技術確實有可能做到持續監控所有國民，但這并不代表國家別無選擇。赫拉利指出：對于這種新監控技術，“民主國家可以有節制地運用，以不侵犯公民隱私和自主權的方式，為公民提供更好的醫療保險與安全保障”。（同上）

當然，這不是技術本身能夠完成的任務，它需要借助技術之外的力量。