在超級(jí)智能體面前，人類過(guò)于強(qiáng)調(diào)自己的智力，會(huì)陷入危險(xiǎn)

身處人工智能時(shí)代，我們能夠獲得信息的方式更加多樣化，卻也沉溺在信息的洪流里。

當(dāng)我們回看信息網(wǎng)絡(luò)發(fā)展變化的時(shí)候，是什么造就了這一切？

我們?cè)跉v史敘事中看到了被串聯(lián)起來(lái)的資料時(shí)，不禁生出疑問(wèn)，橫亙?cè)诤暧^歷史與具體生活經(jīng)驗(yàn)之間的鴻溝是否可以被填平？

當(dāng)我們發(fā)現(xiàn)，生活可以被技術(shù)更好地梳理時(shí)，我們是否還會(huì)在意人與人之間的理解？這是否也是我們焦慮的根源？

在歷史學(xué)家尤瓦爾·赫拉利看來(lái)，歷史不僅僅是對(duì)過(guò)去的研究，也是對(duì)現(xiàn)在和未來(lái)的研究，試圖去理解事物是如何變化的。

尤瓦爾·赫拉利

值歷史學(xué)家、哲學(xué)家尤瓦爾·赫拉利來(lái)華之際，中信出版集團(tuán)聯(lián)合北京大學(xué)黨委宣傳部、北京大學(xué)國(guó)際合作部，在北京大學(xué)校內(nèi)共同舉辦了尤瓦爾·赫拉利教授的學(xué)術(shù)交流活動(dòng)，結(jié)合他的“人類簡(jiǎn)史系列”作品，邀請(qǐng)北京大學(xué)哲學(xué)系教授程樂(lè)松對(duì)談，北京大學(xué)藝術(shù)學(xué)院助理教授劉晨擔(dān)任主持。

以下為對(duì)話內(nèi)容精編：

歷史是人類的一種集體心理治療嗎？

劉晨：

我非常榮幸能作為主持人，與尤瓦爾·赫拉利教授與程樂(lè)松教授，這兩位杰出學(xué)者同臺(tái)交流，探討赫拉利教授的系列作品，包括《人類簡(jiǎn)史》《未來(lái)簡(jiǎn)史》《今日簡(jiǎn)史》和他最新出版的作品《智人之上》。接下來(lái)邀請(qǐng)兩位老師開啟對(duì)話。

程樂(lè)松：

當(dāng)下是屏幕時(shí)代，我們沉浸在這種短視頻和那些不嚴(yán)肅的信息之中。然而你所創(chuàng)作的“人類簡(jiǎn)史系列”著墨于理解和反思人類文明與文化的基礎(chǔ)。很多讀者喜歡這種從歷史出發(fā)，但指向未來(lái)的敘事方式。

我想與您探討這種現(xiàn)象，以及您系列作品中蘊(yùn)含的深刻內(nèi)涵，尤其是新作《智人之上》——它在很大程度上引發(fā)了關(guān)于"文明"本質(zhì)的哲學(xué)性思考。您的創(chuàng)作提醒我們：作為專業(yè)學(xué)者，應(yīng)回到公共領(lǐng)域，共同應(yīng)對(duì)人類面臨的挑戰(zhàn)與問(wèn)題。

作為歷史學(xué)家，你有如此多的讀者，對(duì)人類文明給出了如此有力的結(jié)構(gòu)性詮釋，這是可以塑造讀者核心觀點(diǎn)的一個(gè)非常有力的工具。同樣，這也意味著你肩負(fù)著非常重要的道德責(zé)任，因?yàn)槟闼茉炝四愕淖x者的思維。我們?nèi)绾呜?fù)責(zé)任地運(yùn)用這種力量？你期望讀者可以從作品中獲得什么？

赫拉利：

在我所有的作品中，我都試圖幫助人們了解自己，幫助人們更好地理解現(xiàn)實(shí)。這是一項(xiàng)非常微妙的工作，因?yàn)槿藗兺ǔ＜庇谌ピu(píng)判現(xiàn)實(shí)，評(píng)判歷史，評(píng)判過(guò)去和現(xiàn)在。當(dāng)我們急于評(píng)判事物時(shí)，就沒有時(shí)間去理解它們。因此，在我的寫作中，我試圖去書寫歷史，但不指出反派，不指出好人與壞人，而是去深刻理解變化過(guò)程。

“人類簡(jiǎn)史系列”白金紀(jì)念版

我有時(shí)會(huì)感覺，歷史也許是人類的一種集體心理治療。

我每周都去做心理治療。人們可能會(huì)驚訝，為什么人們需要去做心理治療？因?yàn)橹委煹闹黧w就是我自己，誰(shuí)比我更了解自己呢？為什么我需要去找陌生人來(lái)了解我自己？這聽起來(lái)很荒謬，但事實(shí)并非如此。

因?yàn)椋覍?duì)自己的了解可能比其他人都多，但也有很多方面是我并不想了解的。比如在我生命中那些更加痛苦、黑暗的片段等。就像一個(gè)人處于一段關(guān)系中，會(huì)說(shuō)自己是完美的，是另一個(gè)人引發(fā)了所有的問(wèn)題。這就是我需要去心理治療的原因，去接受專業(yè)的幫助，認(rèn)識(shí)到自己內(nèi)心深處真相，去承認(rèn)那些痛苦的事情。

赫拉利教授與北大師生對(duì)話現(xiàn)場(chǎng)。照片來(lái)源：北京大學(xué)融媒體中心

對(duì)于整個(gè)文明或者對(duì)于整個(gè)人類來(lái)說(shuō)，歷史同樣像是一種心理治療。一個(gè)國(guó)家往往不愿意承認(rèn)自己過(guò)去的黑暗片段或現(xiàn)在正在做的黑暗事情。整個(gè)文明也是如此。

我認(rèn)為歷史學(xué)家應(yīng)負(fù)起責(zé)任，不要互相指責(zé)，而要單純地幫人們更好地理解世界中的大問(wèn)題及其根源，這是一項(xiàng)重大的責(zé)任。

程樂(lè)松：

我非常贊同你的觀點(diǎn)，因?yàn)槟銊倓傊赋隽巳祟惖暮诵膬r(jià)值。人類的核心價(jià)值不是提供任何準(zhǔn)確的知識(shí)，不是讓世界變得透明。其實(shí)，最重要的是，通過(guò)人性和反思，我們引導(dǎo)人們不要匆忙地做出任何判斷，嘗試過(guò)一種慢生活，尤其是在思想層面。鑒于人性的復(fù)雜性，不同敘事框架可能交替主導(dǎo)，或在認(rèn)知層面出現(xiàn)偏頗與片面，這恰恰凸顯了審慎思考的必要性。

程樂(lè)松教授。照片來(lái)源：北京大學(xué)融媒體中心

為什么會(huì)這樣？因?yàn)槲覀兝斫獾慕嵌扔邢蕖Ｄ阍谀愕淖髌分校艽蟪潭壬鲜窃谠噲D給人們提供一個(gè)非常謹(jǐn)慎的、精煉的警示，即敦促我們尊重，但絕不盲目地相信我們不完美的人性。

如果我們把目光轉(zhuǎn)向所謂的科技發(fā)展，以及因?yàn)槿斯ぶ悄芗夹g(shù)而正在發(fā)生的巨大變化，我們會(huì)發(fā)現(xiàn)，問(wèn)題不僅僅在于技術(shù)本身。正如辛頓所指出的，最重要的是這項(xiàng)技術(shù)的濫用，而不是技術(shù)本身。這在很大程度上將我們引向了在政治哲學(xué)中一個(gè)非常重要的問(wèn)題，我們稱之為技術(shù)統(tǒng)治論。而那些致力于開發(fā)人工智能技術(shù)的人，實(shí)際上已經(jīng)對(duì)人類建立起了一個(gè)系統(tǒng)的技術(shù)暴政。

你的書試圖敦促我們反思人的缺陷，但人類的這種缺陷正是我們區(qū)別于機(jī)器的關(guān)鍵。因?yàn)槲覀冇星楦校杏赃@在很大程度上促成了一個(gè)對(duì)未來(lái)既特別、又正確的態(tài)度，我稱之為適度樂(lè)觀，即你不應(yīng)該過(guò)于樂(lè)觀，但也絕不能把它說(shuō)成是悲觀的。

不信任人類，卻幻想相信一個(gè)新物種

是不責(zé)任的表現(xiàn)

赫拉利：

我經(jīng)常被問(wèn)到這樣一個(gè)問(wèn)題：我對(duì)未來(lái)是悲觀還是樂(lè)觀？我總是說(shuō)我兩者都不是。悲觀主義滋生絕望，但樂(lè)觀也同樣可以變得危險(xiǎn)，因?yàn)樗鼤?huì)滋生自滿情緒。

我試圖找到一條負(fù)責(zé)任的中間道路。這不是樂(lè)觀主義或悲觀主義，而是意識(shí)到我們面前可能有不同的未來(lái)。我們可以繪制一張不同未來(lái)的地圖，有好有壞，沒有什么是確定的。這需要有足夠多的人來(lái)做出正確的決定，才能到達(dá)正確的目的地。

縱觀當(dāng)今世界，我對(duì)世界各地許多政界和商界領(lǐng)袖所表現(xiàn)出的缺乏責(zé)任感感到震驚。人類似乎正朝著一個(gè)非常危險(xiǎn)的方向發(fā)展。而此時(shí)此刻，由于人工智能革命的到來(lái)，責(zé)任比以往任何時(shí)候都更加重要。我們正在創(chuàng)造的不僅僅是歷史上最強(qiáng)大的技術(shù)，而是一個(gè)潛在的新物種——超級(jí)智能，它們可能很快就會(huì)奪走我們的控制權(quán)。我們只有幾年時(shí)間來(lái)做對(duì)這件事。

當(dāng)我周游世界并與人工智能革命的領(lǐng)導(dǎo)者交談時(shí)，就像他們問(wèn)我“你持樂(lè)觀還是悲觀態(tài)度？”一樣，我以兩個(gè)問(wèn)題來(lái)反問(wèn)他們。

第一個(gè)問(wèn)題是，你們?yōu)楹稳绱诵募保?/strong>為何不給人類留出必要的時(shí)間來(lái)適應(yīng)和反思以更審慎和安全地發(fā)展這項(xiàng)技術(shù)？他們的回答驚人地相似。

他們（人工智能革命的領(lǐng)導(dǎo)者們）回答說(shuō)：“我們知道有很大的風(fēng)險(xiǎn)。我們也希望可以循序漸進(jìn)，但我們不能相信我們的人類競(jìng)爭(zhēng)對(duì)手。如果我們放慢腳步，而其他公司或國(guó)家不慢下來(lái)，他們就會(huì)贏得這場(chǎng)人工智能競(jìng)賽并主宰這個(gè)世界，這個(gè)世界將會(huì)被最無(wú)情的人統(tǒng)治。我們不能允許這種情況發(fā)生，所以我們必須加快速度。”

然后，當(dāng)我與他們的競(jìng)爭(zhēng)對(duì)手交談時(shí)，也會(huì)得到相同的答案。大家都聲稱不相信其他人。

尤瓦爾·赫拉利教授。照片來(lái)源：北京大學(xué)融媒體中心

于是我問(wèn)了他們第二個(gè)問(wèn)題，那你是否相信你們所開發(fā)出來(lái)的超級(jí)智能體？這些剛才還口口聲聲說(shuō)不相信同類的人，突然轉(zhuǎn)向說(shuō)：“我們認(rèn)為超級(jí)智能體是可以信賴的。”

這樣的對(duì)話真的讓人感到精神錯(cuò)亂。因?yàn)槲覀冎廊伺c人之間相處會(huì)有各種麻煩，但我們對(duì)人類的心理和生理有較為全面的了解。在歷史上，我們經(jīng)歷的不僅有暴力和戰(zhàn)爭(zhēng)，也有信任的建立。

人工智能作為一種前所未有的技術(shù)，在開發(fā)之初我們已經(jīng)知道它可能具備撒謊、欺騙和操縱的能力。然而，我們無(wú)法預(yù)測(cè)當(dāng)數(shù)以百萬(wàn)計(jì)的超級(jí)智能體被部署到金融系統(tǒng)、軍事系統(tǒng)和文化領(lǐng)域時(shí)會(huì)發(fā)生什么。因此，那些對(duì)人類失去信任卻幻想可以依賴一種陌生的超級(jí)智能體的人，其行為是極其危險(xiǎn)且不負(fù)責(zé)任的。

程樂(lè)松：

當(dāng)你是一名工程師時(shí)，你創(chuàng)造了某種技術(shù)，你自然會(huì)自信地說(shuō)：“我可以控制它。”當(dāng)我們面對(duì)人工智能時(shí)，它是一個(gè)黑匣子，我們不知道那里會(huì)發(fā)生什么。如果人工智能引擎中存在某種主觀性，我們稱之為“主觀性”，它們是否會(huì)有自己欲望，是否會(huì)有想做某些事情的意愿，是否產(chǎn)生自己的價(jià)值體系，是否有自己的價(jià)值偏好？所有這些問(wèn)題都超級(jí)危險(xiǎn)。

我認(rèn)為問(wèn)題在于，當(dāng)我們聲稱無(wú)法相信其他人的時(shí)候，這意味著我們了解何為人類，了解人性。但如今，我們?nèi)栽谔剿魇裁词茿I，這一新物種的新定義。這實(shí)際上是把我們引向了關(guān)于硅基生命和碳基生命之間的區(qū)別。我們對(duì)碳基生命有著明確的定義，盡管有一些可觀察到的現(xiàn)象，比如我們正在活著之類的。但碳基生命的一般定義是我們終有一天會(huì)死。這個(gè)定義構(gòu)成了人性的基礎(chǔ)。死亡的必然性，對(duì)群體的依賴性以及對(duì)不確定未來(lái)的焦慮，這些都導(dǎo)致我們對(duì)人類的理解不充分。而人與人之間的相互信任是人類歷史上最昂貴的東西。

如果說(shuō)，是智力讓人類與動(dòng)物區(qū)分開來(lái)，我們是一種擁有智力的物種，那么讓我們與AI智能體區(qū)分開的，是因?yàn)槲覀冇星楦校覀兇嬖谌毕荩覀冇芯窒扌?/strong>。

中國(guó)哲學(xué)告訴我們，最重要的事情是人必須認(rèn)清真正的自我，有情感、有局限性的真實(shí)自我。我們不可能無(wú)所不知。當(dāng)我們面對(duì)他人和未來(lái)時(shí)，應(yīng)該非常謙虛。因此，這在很大程度上是中國(guó)古代的智慧。而且，這就是你所說(shuō)的責(zé)任。責(zé)任不僅僅來(lái)自對(duì)于一種社會(huì)機(jī)制，還來(lái)自對(duì)于自己的認(rèn)知以及人的本質(zhì)是什么。

過(guò)于強(qiáng)調(diào)智力培養(yǎng)正在變得危險(xiǎn)

赫拉利：

我認(rèn)為，關(guān)于人類的一個(gè)非常重要的觀點(diǎn)是，我們常常以智力優(yōu)勢(shì)來(lái)作為區(qū)分人與動(dòng)物的核心標(biāo)準(zhǔn)。我們感覺自己比所有動(dòng)物都更高級(jí)。我們?yōu)槭裁锤痈呒?jí)？我們?cè)谏眢w、體力上并無(wú)優(yōu)勢(shì)，但我們認(rèn)為自己比其他動(dòng)物更聰明。所以，在認(rèn)識(shí)我們自己的過(guò)程中過(guò)于強(qiáng)調(diào)智力和聰明才智，這種認(rèn)知正變得越來(lái)越危險(xiǎn)。因?yàn)榈厍蛏霞磳⒊霈F(xiàn)比人類更聰明的智能體。所以，如果只強(qiáng)調(diào)智力，人類可要完蛋了。

赫拉利教授與北大師生對(duì)話現(xiàn)場(chǎng)。照片來(lái)源：北京大學(xué)融媒體中心

我可以分享一些我的親身經(jīng)歷，這段經(jīng)歷給了我一個(gè)慘痛的教訓(xùn)，讓我明白智力不是我們生命中最重要的東西。

在我年少的時(shí)候，學(xué)校發(fā)現(xiàn)我很有天賦，就把我從家附近的學(xué)校選拔到特殊的天才學(xué)校。因?yàn)檫@是一所為天才學(xué)生創(chuàng)辦的特殊學(xué)校，所以大家都把我們視為會(huì)走路的智能體。我們根據(jù)智商高低被評(píng)判，但問(wèn)題也隨之而來(lái)。

在老家學(xué)校的時(shí)候，我總能不費(fèi)吹灰之力地在所有科目上做到最好，無(wú)論是數(shù)學(xué)、閱讀、寫作，還是別的一切。因此我有大把時(shí)間玩耍和做其他事情，同時(shí)我的地位還能輕而易舉得到保證，穩(wěn)坐全班最聰明孩子的交椅。我的身份定位是我是班上最聰明的孩子。可是突然間，我和其他30個(gè)天才兒童在一個(gè)班級(jí)里，他們都把自己定義為班里最聰明的孩子。

當(dāng)30個(gè)同樣聰明的10歲孩子組成一個(gè)班級(jí)，課堂就成為了一個(gè)角斗場(chǎng)。這樣的日子持續(xù)了數(shù)年。天才班的邏輯是只關(guān)注開發(fā)孩子們的智力，沒有人在意培養(yǎng)社交技能、發(fā)展情感技能，以及增強(qiáng)體質(zhì)和訓(xùn)練身體技能。

雖然我現(xiàn)在能一笑置之，但那真是一段非常痛苦的經(jīng)歷。當(dāng)我們離開學(xué)校時(shí)，我們的智力得到了長(zhǎng)足發(fā)展，但社交技能卻非常欠缺。

據(jù)我所知，我們班上的一些同學(xué)至今還沒有擺脫那段時(shí)光帶來(lái)的陰影。這段經(jīng)歷讓我深刻意識(shí)到，我們不能僅憑智力技能來(lái)定義或者培養(yǎng)一個(gè)人，因?yàn)槿松€有很多更重要的東西。人生的本質(zhì)在于感受，而不僅是認(rèn)知能力。

程樂(lè)松：

剛才你回憶了你兒時(shí)的學(xué)校，在童年時(shí)代你是班上最聰明的學(xué)生，但當(dāng)你一旦進(jìn)入這座校園后，就會(huì)發(fā)現(xiàn)自己只是平均水平。這個(gè)認(rèn)知過(guò)程是一個(gè)非常艱難的心理轉(zhuǎn)變過(guò)程，尤其是在第一學(xué)年第一學(xué)期。你必須接受你自己是個(gè)普通人的事實(shí)，接受你在大多數(shù)老師眼中平平無(wú)奇，你并不是那么聰明。你曾經(jīng)用來(lái)炫耀的小聰明現(xiàn)在看來(lái)毫無(wú)意義。這就讓我們得出了一個(gè)重要的論點(diǎn)，即人之所以為人，是因?yàn)槲覀冇腥毕荩驗(yàn)槲覀儞碛性S多與智力無(wú)關(guān)的東西。

當(dāng)我們說(shuō)，我們?cè)噲D控制某些有智力而且可以輔助我們的東西時(shí)，我們?nèi)匀换谝环N重要的推理模式，基于工具推理。我們?cè)噲D將其視為工具，而非一個(gè)主體。如果你把它視為工具，那么實(shí)際上你就會(huì)陷入現(xiàn)代性陷阱。現(xiàn)代性陷阱指的是不斷追求效率，以更快速度處理事情。當(dāng)你面對(duì)各種不同的競(jìng)爭(zhēng)，這些競(jìng)爭(zhēng)對(duì)手可能是其他人、其他公司、其他國(guó)家等等，所有這些都與競(jìng)爭(zhēng)有關(guān)。

現(xiàn)在，我們又面臨了一場(chǎng)新的競(jìng)爭(zhēng)——與AI競(jìng)爭(zhēng)。它是一個(gè)新型的、可疑的、可以提供支持的智能對(duì)手。它讓我們陷入了恐慌。而這種擔(dān)憂引發(fā)了我們對(duì)歷史的反思。因?yàn)閹浊陙?lái)，人們的焦慮總是來(lái)源于同樣的事情，那就是未來(lái)的不確定性，以及我們?cè)撊绾呜?fù)責(zé)任地采取行動(dòng)來(lái)應(yīng)對(duì)正在發(fā)生的變化。

對(duì)我來(lái)說(shuō)，這不不僅僅關(guān)乎技術(shù)，也關(guān)乎我們對(duì)人類缺陷的深層次認(rèn)知。我們應(yīng)該全面了解我們的局限性，然后謹(jǐn)慎地邁向未來(lái)。正如今天討論的主題，理解即解藥。在采取任何行動(dòng)之前，你首先必須進(jìn)行深入反思。但現(xiàn)在我們過(guò)于貿(mào)然采取行動(dòng)。我們過(guò)于草率地投入了一場(chǎng)新型的競(jìng)爭(zhēng)。這在很大程度上就是我所說(shuō)的現(xiàn)代性的后果。我們實(shí)際上面臨的并不是所謂與AI競(jìng)爭(zhēng)，而是在與我們自己競(jìng)爭(zhēng)。

赫拉利：

也許我不會(huì)把所有責(zé)任都?xì)w咎于現(xiàn)代性，因?yàn)樵诠糯灿蓄愃频氖虑榘l(fā)生。我對(duì)道家思想知之甚少，所以我很樂(lè)意聽你的講述。但是至少在西方歷史上，幾千年前發(fā)生過(guò)類似的事情。你提到了人們的恐慌，人們害怕失去控制力，害怕一無(wú)所知。這種恐慌驅(qū)使人們探尋絕對(duì)可靠的東西。

對(duì)超級(jí)智能的幻想并非是最近或幾十年前出現(xiàn)的。至少在西方，對(duì)超級(jí)智能的幻想可以追溯到幾千年前。那時(shí)，人類渴望找到他們的超級(jí)智能體：救世主、彌賽亞、上帝。他無(wú)所不知，絕對(duì)正確，我們可以依賴他。因?yàn)槿祟悷o(wú)法依賴自己。這一幻想催生了首個(gè)源于幻想的人造物，現(xiàn)在這仍是世界上最重要的人造物之一，那就是圣書。進(jìn)而，世界上出現(xiàn)了一批解讀文本的專家。

而如今，一個(gè)有趣的變化正在發(fā)生，至少在上述宗教中是如此，那就是文本開口說(shuō)話了。AI已經(jīng)掌握了語(yǔ)言的用法。

這是我作為歷史學(xué)家對(duì)這一切的看法：不僅僅是現(xiàn)代性，整個(gè)人類的歷史都在為AI變革提供了養(yǎng)分。這場(chǎng)變革可能會(huì)帶來(lái)意想不到的后果。

程樂(lè)松：

在道家思想中，這種情況截然相反。我不是要把所有的責(zé)任都?xì)w咎于現(xiàn)代性。顯而易見地，現(xiàn)代性是西方傳統(tǒng)的產(chǎn)物。但中國(guó)的情況卻完全不同。因?yàn)榈澜趟枷胧且惶讖?fù)雜的思維體系。

讓我從一個(gè)非常簡(jiǎn)單的句子說(shuō)起，那就是《道德經(jīng)》開頭這句“道可道，非常道”。這句話意思是說(shuō)你能言說(shuō)的事情并不是一成不變的。在我看來(lái)，這意味著權(quán)威有一個(gè)非常有趣的定義。你剛才提到的，權(quán)威是絕對(duì)正確的。作為深受道家思想影響的中國(guó)人來(lái)說(shuō)，我們實(shí)際上有前提假設(shè)。

首先，作為普通人，我們的理性有明顯的局限性，我們不會(huì)說(shuō)能夠控制或掌握宇宙的終極真理，掌握一切。這是因?yàn)槲覀兪侨祟悺?/p>

是否存在我們可以依賴的、看起來(lái)永遠(yuǎn)正確的權(quán)威呢？是的，我們對(duì)過(guò)去的事情有某種記憶，比如圣賢。在由圣賢統(tǒng)治的黃金時(shí)代，圣賢知道所謂宇宙的內(nèi)部精確的運(yùn)行機(jī)制，那就是事物在變化。在道家思想看來(lái)，萬(wàn)物都在變化之中，萬(wàn)物都是流動(dòng)的。沒有任何一種制度和規(guī)則可以應(yīng)用于人類歷史的所有時(shí)期。因此，你必須依靠最初的文本。

但你不可完全依賴于它。你可以閱讀并學(xué)習(xí)文本，然后學(xué)以致用，但并不代表你所學(xué)到的制度和規(guī)則是永遠(yuǎn)正確的。

所以最重要的是，對(duì)于中國(guó)人，尤其是對(duì)于道教徒來(lái)說(shuō)，必須以開放的心態(tài)對(duì)待變化，對(duì)待宇宙的終極規(guī)則。我們可以這樣說(shuō)宇宙是永恒的，思辨是真實(shí)的。現(xiàn)代性是西方傳統(tǒng)的保護(hù)者，存在著不足之處，那是它認(rèn)為存在有絕對(duì)的制度和規(guī)則，存在絕對(duì)的廣泛適用的機(jī)制，可以支配我們看到的一切。

中國(guó)傳統(tǒng)思想認(rèn)為，世界上并不存在廣泛適用的正確的絕對(duì)真理。因?yàn)橛钪嫒f(wàn)物都在變化之中。雖然宇宙是一個(gè)整體，但并不存在可以獲知或掌握的終極和廣泛適用的規(guī)則。這就是為什么我會(huì)說(shuō)中國(guó)人對(duì)變化保持謙卑之心。

我們一貫將學(xué)習(xí)和實(shí)踐相結(jié)合，學(xué)習(xí)并將所學(xué)付諸于實(shí)踐，在實(shí)踐中得到反思，再回到文本，然后根據(jù)實(shí)踐和從文本中學(xué)到的東西采取行動(dòng)。因此，這在很大程度上是一種中國(guó)的風(fēng)格。這就是為什么我稱中國(guó)風(fēng)格與西方的截然不同。這也是為什么我們可以從東方來(lái)源中汲取東方思想，找到應(yīng)對(duì)現(xiàn)代性問(wèn)題的方法。這就是為什么我們應(yīng)該拓展我們的智力，互學(xué)互鑒，相互理解。

理論與實(shí)踐的差距是否需要填平？

赫拉利：

佛教中也有很多論點(diǎn)和你提到的道家思想相似，比如我們必須認(rèn)識(shí)到人類的局限性。世界上并沒有可以掌握的絕對(duì)真理。萬(wàn)法皆空。你必須在實(shí)踐中領(lǐng)悟，但不能執(zhí)著于文本。事實(shí)上，人們只是在不斷地背誦文本，即使在寺廟中，僧人們的修行仍是記憶本文，宗教權(quán)威成為解讀文本的權(quán)威專家。文本本身寫著不要依賴文本，專家也會(huì)這么告訴你。

我想起了一個(gè)著名的佛典故事，講的是一名僧人在林中冥想，他的附近棲息著一只鸚鵡，僧人想保護(hù)鸚鵡的安全。

所以他對(duì)鸚鵡說(shuō)：“你要小心啊。在這片林子里的某個(gè)地方，有一個(gè)獵人在來(lái)回地巡視，他會(huì)在地上撒下谷粒。你看到谷物，就會(huì)被吸引飛到地上，只要你啄食這些谷粒，就會(huì)落入獵人設(shè)下的誘捕網(wǎng)，他就會(huì)捉住你。”

“鸚鵡要小心，獵人要來(lái)了。”僧人不斷重復(fù)這句警告，因此鸚鵡學(xué)會(huì)了這句警告，于是它站在枝頭，不斷地重復(fù)這句話。

直到有一天，獵人來(lái)了，在地上撒下谷粒，鸚鵡被谷粒吸引，飛到地上去啄食谷粒。此時(shí)獵人打開了陷阱，鸚鵡被捉住了。在整個(gè)過(guò)程中，甚至當(dāng)獵人抓著鸚鵡，準(zhǔn)備殺死它時(shí)，鸚鵡一直在說(shuō)：“鸚鵡小心啊，獵人要來(lái)了。”

程樂(lè)松：

你剛剛提到了一個(gè)關(guān)鍵的問(wèn)題，即理論與實(shí)踐之間的差距。這個(gè)問(wèn)題與人類的基本需求有關(guān)。我認(rèn)為，人類的基本需求是需要理解外部世界，理解其秩序。這種理解能夠帶領(lǐng)我們建立起智力上的認(rèn)知。但在現(xiàn)實(shí)生活中，人們不得不向眼前緊迫的需求妥協(xié)。這種妥協(xié)成為了我們?nèi)粘Ｉ畹囊徊糠帧Ｋ裕覀儾荒苷f(shuō)，因?yàn)槔碚撆c實(shí)踐之間存在差距，從理論上去理解整個(gè)世界就是無(wú)用的。但我們對(duì)意義的追求構(gòu)成了秩序的基礎(chǔ)。我們必須知道自己在做什么。

你剛才還講到，我們的行為必須要有意圖。在我看來(lái)，我們對(duì)于人生的意義也有系統(tǒng)的理解。這種意義實(shí)際上是建立在秩序的基礎(chǔ)以及對(duì)秩序的承認(rèn)之上的。有了秩序才有我們所謂的知識(shí)。根據(jù)這一邏輯，我得出結(jié)論，即針對(duì)理論與所謂實(shí)踐之間的差距，我們更應(yīng)重視反思的能力與理論建設(shè)的能力。因?yàn)槲覀円趦烧咧g取得平衡，我們必須對(duì)理論進(jìn)行反思，這樣才能避免被誤導(dǎo)而做出錯(cuò)誤的行為。

人類是一種復(fù)雜的存在，我們不能說(shuō)只存在一個(gè)極端。正如我提到的中國(guó)哲學(xué)家一樣，最重要的是我們需要在極端之間取得平衡，而不是說(shuō)只要存在差距，我們就必須將它填平。

赫拉利：

但在歷史的當(dāng)下，我們究竟能做什么？幾千年來(lái)，哲學(xué)家們進(jìn)行了大量像我們這樣的討論，這些內(nèi)容非常重要，但也并非絕對(duì)。因?yàn)闅v史進(jìn)程還在不斷演進(jìn)。人類建立了不同的秩序，之后經(jīng)歷秩序的崩塌，人類再次建立起新的秩序，新的秩序維持一段時(shí)間后又再次崩塌。如此循環(huán)往復(fù)持續(xù)了數(shù)千年。而我擔(dān)心的是，我們即將走到了這條路的終點(diǎn)。我們經(jīng)過(guò)了數(shù)千年的哲學(xué)和歷史積淀下來(lái)的智慧，需要立即付諸實(shí)踐，否則就來(lái)不及了。

我們不知道還有多少年，專家們所說(shuō)的通用人工智能就要出現(xiàn)了。它不是你們智能手機(jī)上的DeepSeek或 ChatGPT 這種AI程序，而是一種全方位超越人類的智能體。它不是專攻某一領(lǐng)域，而是全知全能。它一旦成為現(xiàn)實(shí)，我們就會(huì)失去掌控權(quán)。

比方說(shuō)，我們正在進(jìn)行這場(chǎng)對(duì)話時(shí)，天文學(xué)家告訴我們，他們觀察到了一支來(lái)自其他太陽(yáng)系的外星艦隊(duì)正在駛來(lái)。根據(jù)天文學(xué)家的計(jì)算，這些外星人將在5到15年內(nèi)登陸地球。我們對(duì)他們一無(wú)所知。也許他們會(huì)幫助我們攻克癌癥，化解氣候危機(jī)，也許不會(huì)。但我們只有五到十五年的時(shí)間來(lái)思考對(duì)策。此刻，我們?nèi)祟悢?shù)千年來(lái)積淀的所有智慧傳統(tǒng)教會(huì)了我們什么？我認(rèn)為這個(gè)時(shí)刻不同于歷史上任何時(shí)刻，雖然歷史是變化的過(guò)程，但這一次的變革也許將把我們排斥在外。也許這將是人類文明的終點(diǎn)站。

程樂(lè)松：

人類的優(yōu)勢(shì)正是我們存在的缺陷，因?yàn)槲覀儾⒉煌昝馈?/strong>我們可以構(gòu)想完美的事物，但我不認(rèn)為我們會(huì)被人類創(chuàng)造文明所取代，不會(huì)被某種超級(jí)智能體所取代，因?yàn)槲覀儞碛星楦小?/p>

我實(shí)在無(wú)法想象，硅基生命如何有想法，擁有欲望和意圖想要消滅我們，或者對(duì)人類進(jìn)行統(tǒng)治。因?yàn)槲覀冎援a(chǎn)生欲望，是因?yàn)槲覀儚?qiáng)烈地感知到了自己的不足，感知到了我們的不完美。因此，我可能比你更樂(lè)觀。

赫拉利：

我不知道AI或AGI是否會(huì)產(chǎn)生意識(shí)甚至是情感，這也許是我們的終極之問(wèn)。我只是覺得，實(shí)現(xiàn)一個(gè)目標(biāo)并不一定需要情感，沒有情感也可以獨(dú)立行動(dòng)。當(dāng)你給AI一個(gè)目標(biāo)，或者AI自行產(chǎn)生一個(gè)目標(biāo)，他們就會(huì)做事來(lái)達(dá)到目標(biāo)，而不需要任何情感或欲望。如果你有一輛自動(dòng)駕駛汽車，你可以給這輛車一個(gè)目標(biāo)，讓它以最快的速度到達(dá)火車站，而這輛汽車可能在路上撞向行人。因?yàn)樵O(shè)定了“以最快速度到達(dá)目的地”的目標(biāo)，卻沒有告訴它“途中不要撞死行人”。

類似的例子有很多，最著名的例子就是社交媒體上發(fā)生的事情。社交媒體公司給很早期的AI下達(dá)指令是要求它們提高用戶參與度，增加用戶粘性。而算法卻開始在網(wǎng)上傳播仇恨和恐慌，進(jìn)而引發(fā)了社會(huì)的動(dòng)蕩。因?yàn)樗惴òl(fā)現(xiàn)，提高參與度的最簡(jiǎn)單方法就是散播恐慌、仇恨和貪婪。它們并沒有任何欲望，沒有任何情感，但它們可以有一個(gè)目標(biāo)，并在實(shí)現(xiàn)目標(biāo)的道路上不擇手段。這對(duì)于我們來(lái)說(shuō)是危險(xiǎn)的。

尤瓦爾·赫拉利“人類簡(jiǎn)史系列”白金紀(jì)念版，包含《人類簡(jiǎn)史》《未來(lái)簡(jiǎn)史》《今日簡(jiǎn)史》《智人之上》四本書。

我們擁有情感和感覺，這意味著我們會(huì)遭受很多痛苦。意識(shí)的終極定義是什么？我認(rèn)為意識(shí)的最終定義是感知痛苦并從苦難中解脫的能力，但這并不是什么護(hù)身符。奶牛能感知痛苦，而我們并沒有仁慈地對(duì)待它們，其他動(dòng)物也可以感知痛苦。眾所周知，我們并不一定就是邪惡的，但許多動(dòng)物在我們無(wú)意識(shí)的行為中被毀滅了。所以超級(jí)智能體可能會(huì)擁有各種目標(biāo)，也并無(wú)惡意，它們甚至都沒有任何情感。它們只是在奔向目標(biāo)的過(guò)程中從我們身上碾過(guò)。

我還想說(shuō)，這次的對(duì)談是我最近參加過(guò)的最有啟發(fā)性的討論之一。我之所以要進(jìn)行這樣的討論，寫《智人之上》，是因?yàn)槲艺J(rèn)為人類需要做出也許是人類史上最重要的一次抉擇。

目前，幾乎很少數(shù)國(guó)家的很少數(shù)人能夠理解正在發(fā)生的事情，參與進(jìn)這樣的討論。大多數(shù)人只是聽說(shuō)過(guò)AI，但對(duì)AI革命的認(rèn)知遠(yuǎn)遠(yuǎn)不足，不知道將面臨的危險(xiǎn)，也覺得自己沒能力參與討論。我無(wú)法告訴大家有哪些解決方案或應(yīng)采取哪些政策。我的認(rèn)知也非常有限。

我的使命是讓更多國(guó)家和更多人對(duì)AI革命有一個(gè)基本了解，了解它會(huì)帶來(lái)怎樣的風(fēng)險(xiǎn)，從而讓更多國(guó)家和更多人積極地參與到討論中來(lái)。當(dāng)我們聽到更多意見，受到更多關(guān)注，擁有更豐富的世界觀，我們就能做出更好的抉擇。

目前，真正窺見全貌并手握決策權(quán)的人，并不是能代表普羅大眾的人。他們大多是大型人工智能公司的領(lǐng)導(dǎo)者，這對(duì)人類來(lái)說(shuō)非常危險(xiǎn)。這就是我的初衷。我希望大家能受到激勵(lì)，并積極地參與到討論中來(lái)。因?yàn)橛嘘P(guān)AI的討論關(guān)系著你們的未來(lái)，關(guān)系著所有人的未來(lái)。

“人類簡(jiǎn)史系列”白金紀(jì)念版

點(diǎn)擊卡片，即可購(gòu)買