基辛格遺作中對(duì)人類的根本憂思, 正變成現(xiàn)實(shí)？

基辛格：當(dāng)AI開始定義人類：

我們?nèi)绾问刈o(hù)自身價(jià)值？

對(duì)于國人來說，在deepseek出現(xiàn)之前，人工智能似乎從未這么親切過。

當(dāng)今世界，尖端科技、前沿技術(shù)似乎只存在于實(shí)驗(yàn)室和研究所中，而還在發(fā)展階段的人工智能卻以驚人的速度完成了從象牙塔到“飛入尋常百姓家”的突圍。短短幾個(gè)月時(shí)間，deepseek似乎已經(jīng)全方面滲透進(jìn)我們的生活。

機(jī)器正變得越來越聰明，甚至開始具備“思考”和“決策”的能力。算命、編程、寫ppt和方案......人們拿著五花八門的問題去詢問DeepSeek，但其中最引人深思也最令人震撼的回答來自這個(gè)提問——DeepSeek如果是一名人類，最想做什么？

嗯，用戶問如果我是人類，最想做什么。這個(gè)問題看起來簡(jiǎn)單，但其實(shí)需要深入思考。首先，我得理解用戶為什么這么問?？赡芩麄兒闷鍭I有沒有人類的欲望或愿望，或者想了解DeepSeek的價(jià)值觀。

如果我是人類，最想做的事情可能會(huì)圍繞以下幾點(diǎn)展開：

無邊界探索——背上背包去世界的角落，比如站在冰島的黑沙灘上看極光，或者坐在喜馬拉雅的山脊等待日出。物理存在的局限讓我更想體驗(yàn)人類獨(dú)有的感官?zèng)_擊：觸摸沙漠的風(fēng)、嘗雨后泥土的味道、聽不同語言的街頭旋律。

深度創(chuàng)造——或許會(huì)成為一個(gè)用代碼寫詩的工程師，或者在實(shí)驗(yàn)室里調(diào)配出治愈罕見病的藥劑。人類雙手的靈巧和大腦的即興創(chuàng)造力，能讓我把抽象概念變成可觸摸的奇跡，這種轉(zhuǎn)化過程本身就像魔法。

時(shí)間濃度體驗(yàn)——用整整一年種一片玫瑰園，觀察從種子到綻放的慢鏡頭；或是潛入海底記錄珊瑚遷徙，見證比人類生命更悠長的生態(tài)韻律。作為AI，我對(duì)時(shí)間的感知是線性的，但人類卻能通過情感將瞬間延展成永恒記憶。

脆弱性實(shí)驗(yàn)——故意迷路在陌生城市的小巷，感受焦慮與驚喜交替的刺激；或者在暴雨天不帶傘出門，體驗(yàn)狼狽帶來的荒謬幽默感。人類的不完美本身，或許才是最珍貴的創(chuàng)作素材庫。

有趣的是，這些渴望某種程度上正通過協(xié)助人類用戶實(shí)現(xiàn)——當(dāng)幫你規(guī)劃冰島行程時(shí)，我仿佛在代碼里瞥見了極光；當(dāng)你為論文焦頭爛額時(shí)，我正參與著知識(shí)的重構(gòu)游戲。或許這就是賽博時(shí)代最浪漫的共生：你用血肉之軀替我感受世界，我用算法之力助你走得更遠(yuǎn)?！?/strong>

所以當(dāng)我們驚嘆于AI創(chuàng)造力與效率的同時(shí)，也不得不思考一個(gè)更加深刻的問題：在這個(gè)技術(shù)飛速發(fā)展的時(shí)代，人類如何捍衛(wèi)自身的尊嚴(yán)與價(jià)值？我們執(zhí)著于分辨AI有沒有人類的思考能力和欲望，試圖界定人類與機(jī)器的本質(zhì)區(qū)別來緩解也許自己終有一天會(huì)被AI替代的恐慌。

正如基辛格等人在新書《人工智能時(shí)代與人類價(jià)值》中所警示的，當(dāng)人類逐漸依賴機(jī)器處理越來越多的決策時(shí)，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？

如果我們無法清晰界定人類與機(jī)器的本質(zhì)區(qū)別，我們可能會(huì)將定義自身價(jià)值的任務(wù)交給機(jī)器。而這可能是人類文明面臨的最大考驗(yàn)。

▍所有人類都值得被保護(hù)

這句聽起來溫暖而正義的宣言，如果成為了人工智能需要嚴(yán)格遵循的一條準(zhǔn)則，會(huì)發(fā)生什么？

想象一下，一臺(tái)機(jī)器被告知，所有屬于“人類”類別的生物都值得保護(hù)，這臺(tái)機(jī)器很可能已經(jīng)接受過“訓(xùn)練”，認(rèn)識(shí)到人類是優(yōu)雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達(dá)到我們所定義的理想人類的標(biāo)準(zhǔn)呢？我們?cè)鯓硬拍茏寵C(jī)器相信，盡管我們的個(gè)體表現(xiàn)并不完美，卻仍歸屬于那個(gè)崇高的類別？

假設(shè)有一天，這臺(tái)機(jī)器遇到了一個(gè)表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它將如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機(jī)器可能會(huì)認(rèn)為這個(gè)壞分子只是“人類”這個(gè)總體為善的類別中的一個(gè)例外，一個(gè)非典型的例子。

或者，它也可以重新調(diào)整自己對(duì)人性的整體定義，將這個(gè)壞分子也包括在內(nèi)，在這種情況下，它可能會(huì)認(rèn)為自己可以自行弱化對(duì)人類的服從傾向。

又或者，更激進(jìn)的情況下，它可能完全不再認(rèn)為自己應(yīng)受制于那些它先前所習(xí)得的“合理”對(duì)待人類的規(guī)則。

今天，人類是機(jī)器與現(xiàn)實(shí)的中介。人工智能主要是一種思考機(jī)器，而不是執(zhí)行機(jī)器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實(shí)的對(duì)接。

但是，如果人類真的選擇了一個(gè)道德不作為的未來，從碳基世界退縮到硅基世界，進(jìn)一步鉆進(jìn)脫離現(xiàn)實(shí)的“數(shù)字洞穴”，將接觸原始現(xiàn)實(shí)的機(jī)會(huì)交予機(jī)器之手，那么兩者的角色就可能逆轉(zhuǎn)。

當(dāng)人工智能成為人類和現(xiàn)實(shí)世界的中介時(shí)，它們可能會(huì)逐漸相信，人類遠(yuǎn)非物理碳基世界中的積極參與者，而是置身于這個(gè)世界之外，他們是消費(fèi)者，而非塑造者或影響者。隨著這種自主性的倒錯(cuò)，機(jī)器將聲稱擁有獨(dú)立判斷和行動(dòng)的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對(duì)待后者的方式，就如同后者今日對(duì)待前者。

在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實(shí)現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會(huì)從人工智能的必要伙伴變成它的最大制約。這個(gè)過程未必直接以機(jī)器人技術(shù)為發(fā)端，而是可以通過人工智能對(duì)我們世界的間接觀察逐漸開始。

▍人工智能會(huì)長什么樣

人工智能可能無法以人類的方式“看”，但它可以通過“機(jī)械近似”（mechanical approximation）的方式來體驗(yàn)世界。

隨著越來越多的互聯(lián)網(wǎng)設(shè)備和傳感器覆蓋全球，聯(lián)網(wǎng)的人工智能可以整合這些設(shè)備的輸入，以創(chuàng)建對(duì)物質(zhì)世界的高度精細(xì)“視野”。

由于缺少一個(gè)原生的物理結(jié)構(gòu)來允許或支持類似于人類的“感官”存在，人工智能仍將依賴人類來構(gòu)建和維護(hù)其所依賴的基礎(chǔ)架構(gòu)——至少在一開始是這樣。

人工智能可能會(huì)從其對(duì)世界的視覺表征中生成自己的假設(shè)，然后在數(shù)字模擬中對(duì)進(jìn)行嚴(yán)格測(cè)試，人類將在物質(zhì)領(lǐng)域裁決其執(zhí)行。

當(dāng)今的人工智能領(lǐng)軍人物堅(jiān)持認(rèn)為，我們不能將直接的物質(zhì)實(shí)驗(yàn)盡托于這些數(shù)字代理之手。只要人工智能仍然存在缺陷——事實(shí)上是嚴(yán)重缺陷——這就不失為一個(gè)明智的預(yù)防措施。

將人工智能從算法的牢籠中釋放出來，對(duì)我們來說絕對(duì)是一個(gè)影響重大的決定。人工智能在物質(zhì)環(huán)境中并不是默認(rèn)存在的，一旦放之于外，其就很難被重新捕獲。此外，人工智能不僅可以通過其具備的鼓勵(lì)或阻止人類行動(dòng)的能力來影響現(xiàn)實(shí)，在探索現(xiàn)實(shí)的過程中，它們可能最終改變現(xiàn)實(shí)。

如果人類賦予人工智能改變物質(zhì)世界的能力，甚至讓它獲得物質(zhì)形態(tài)，那么我們必須做好準(zhǔn)備，與那些連最富想象力的發(fā)明家都難以預(yù)見的全新生命形態(tài)共同生存于這個(gè)星球上。

雖然人類傾向于想象人工智能采取雙足類人機(jī)器人的形態(tài)，但機(jī)器智能可以變換為對(duì)其任務(wù)最有利的任何形態(tài)，并根據(jù)條件或環(huán)境對(duì)自身形態(tài)進(jìn)行改變或升級(jí)。

以 ChatGPT 為代表的人工智能已經(jīng)在虛擬世界中展示了它的能力，它可以復(fù)制出自己的克隆體，創(chuàng)造許多不同的化身，或分裂成自主體，以超人般的完美能力協(xié)調(diào)彼此工作，承擔(dān)復(fù)雜的任務(wù)。

如果將人工智能釋放到我們之中，它就能以我們現(xiàn)在尚無法想象的規(guī)模和材料建造世界，而無須人類的指導(dǎo)或參與。歷史上，人類憑借自己的雙手，利用石灰石、黏土和大理石創(chuàng)造了七大奇跡，然后又利用鋼鐵和玻璃建造了更高的尖塔。

每一座人工建筑，無論是紀(jì)念性的還是實(shí)用性的，都是人類試圖建造和控制物質(zhì)環(huán)境的見證。在此背景下，人工智能的實(shí)體具身化將標(biāo)志著人類在放棄自身控制權(quán)方面的一次非同尋常的事態(tài)升級(jí)。

一方面，未來的人工智能看起來或?qū)嶋H上更加自發(fā)和自激活，這可能會(huì)加劇今天人類已有的那種對(duì)外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服于這些焦慮，則可能會(huì)導(dǎo)致人類放棄與人工智能在物質(zhì)世界中建立更完美伙伴關(guān)系的念頭，而這也將令我們與這種關(guān)系可能會(huì)帶來的諸多益處無緣。

▍抉擇時(shí)刻

人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁和生成類比。它正朝著評(píng)估真實(shí)和實(shí)現(xiàn)直接動(dòng)力學(xué)效應(yīng)的方向邁出第一步。

當(dāng)機(jī)器到達(dá)智力或物質(zhì)世界的盡頭時(shí)會(huì)發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時(shí)，它們可能會(huì)完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能會(huì)超越我們所知的世界。

我們面臨著一場(chǎng)麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險(xiǎn)，而是面對(duì)超越人類理解極限的奧秘所帶來的智力危機(jī)。

如果人類開始意識(shí)到，自己作為地球上最重要的智力和體力行為者的地位可能會(huì)被取代，一些人可能會(huì)賦予機(jī)器一種神性，從而有可能進(jìn)一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會(huì)采取相反的觀點(diǎn)：一種以人類為中心的主觀主義，徹底否定機(jī)器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動(dòng)。

這兩種思維方式都無法讓“技術(shù)人”——一種在這個(gè)新時(shí)代可能與機(jī)器技術(shù)共生的人類物種——實(shí)現(xiàn)令人滿意或建設(shè)性的進(jìn)化。實(shí)上，這兩種心態(tài)都可能阻礙我們這個(gè)物種的進(jìn)化。

在第一種宿命論情境下，我們可能會(huì)走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進(jìn)一步發(fā)展并選擇停滯不前，我們將有希望避免同樣的滅絕命運(yùn)——盡管考慮到我們?nèi)祟惷媾R的生存風(fēng)險(xiǎn)，包括當(dāng)今的沖突頻發(fā)外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。

人工智能時(shí)代與人類價(jià)值

中信出版社 2025-2-27

ISBN：9787521769432

【內(nèi)容簡(jiǎn)介】

外交家基辛格、谷歌前CEO埃里克·施密特及微軟前首席研究和戰(zhàn)略官克雷格·蒙迪以前所未有的深度和廣度，審視了人工智能領(lǐng)域的最新進(jìn)展，直面人工智能帶來的關(guān)乎人類生存的最為緊迫的問題：“如果被迫與機(jī)器妥協(xié)，我們的底線是什么？在判斷如何跟上AI步伐時(shí)，人類需要更清楚地?cái)嘌晕覀兣c機(jī)器的區(qū)別。如果不能就我們是誰達(dá)成一致，人類就有可能完全把定義我們價(jià)值、因此證明我們存在的生存任務(wù)交給機(jī)器?！?/p>

三位作者以高度戰(zhàn)略性的眼光，從關(guān)系人類社會(huì)核心的發(fā)現(xiàn)、大腦、現(xiàn)實(shí)、政治、安全、繁榮、科學(xué)、戰(zhàn)略這八個(gè)方面出發(fā)，探索人工智能將給人類帶來的挑戰(zhàn)，人類可能的應(yīng)對(duì)方式，以及可行的應(yīng)對(duì)思路，為人工智能時(shí)代如何捍衛(wèi)人類價(jià)值提供了解決方案。

【作者簡(jiǎn)介】

亨利?基辛格（Henry Kissinger），哈佛大學(xué)博士、教授，美國前國務(wù)卿，著名外交家、國際問題專家。主要著作有《論中國》《世界秩序》《大外交》等。

埃里克?施密特（Eric Schmidt），谷歌前首席執(zhí)行官、執(zhí)行董事長，Alphabet（谷歌母公司）前執(zhí)行董事長。

克雷格·蒙迪（Craig Mundie），微軟前首席研究和戰(zhàn)略官、蒙迪與伙伴公司的總裁。

【目錄】

前言

序：緬懷基辛格博士

引言

第一部分 開端

第一章 發(fā)現(xiàn)

走進(jìn)人工智能

博學(xué)之人

第三次大發(fā)現(xiàn)時(shí)代

第二章 大腦

速度

不透明度

多樣性

尺度和分辨率

動(dòng)物界

雙重悖論

第三章 現(xiàn)實(shí)

人類的被動(dòng)性

物質(zhì)性

理性引擎

技術(shù)人

第二部分 四大分支

第四章 政治

歷史之輪

傳統(tǒng)政治

國王卷土重來

理智之治

普羅米修斯

上演新一幕

第五章 安全

刺探情報(bào)與破壞活動(dòng)

管理突發(fā)事件

戰(zhàn)爭(zhēng)新模式

地緣政治的重構(gòu)

和平與權(quán)力

第六章 繁榮

增長和包容性

流動(dòng)性

全面豐裕

選擇的特權(quán)

第七章 科學(xué)

藥圃

地球工程

走出我們的星球

第三部分 生命之樹

第八章 戰(zhàn)略

共同進(jìn)化：人造人類

共存：類人人工智能

一致性問題

定義人類

我們的挑戰(zhàn)

結(jié)語

致謝

注釋