直播 | 香帥對話萬維鋼：人比AI兇

現(xiàn)實是面對復雜問題，AI要比人強。

數(shù)學、編程和醫(yī)療只是冰山一角，本書還會介紹AI在其他科研領域的進展。AI不但已經(jīng)擁有一定的獨立科研能力，而且在很多方面表現(xiàn)出遠超人類的智能水平，尤其擅長以人類不適應的方式思考科學問題。就在2024年，創(chuàng)造出AlphaFold——一個專門預測蛋白質(zhì)折疊結構的AI模型——的兩位開發(fā)者獲得了諾貝爾化學獎。我們完全可以期待幾年之內(nèi)，就會有一個AI，而不是創(chuàng)造它的人類，因為獨立做出某個科學發(fā)現(xiàn)而獲得諾貝爾獎。

你接受也好不接受也好，當前AI已經(jīng)在各個領域擁有超過人類專家的智能。

一年多以前，AI界的熱門詞匯是“AGI”，也就是通用人工智能（Artificial General Intelligence），意思是這個AI在所有方面都做得像人一樣好。現(xiàn)在看來實現(xiàn)AGI還有一些并非完全屬于技術方面的難度，比如其中涉及大量的上下文存儲和本地知識、涉及調(diào)用權限，等等。我感覺當前風向是跳過AGI，直接追求“ASI”也就是超級人工智能（Artificial Super Intelligence）——這個A做任何主要工作都比人厲害得多，那么，你還會在意它是否了解你們辦公室的政治嗎？

超級智能的時代已經(jīng)到來。

從現(xiàn)在開始，到很可能你的有生之年以內(nèi)，ASI將會對世界作出如下改變：

• 它會解決一些已經(jīng)困擾人類科學家很多年的問題；

• 它會做出一系列諾貝爾獎級別，甚至顛覆學科范式的重大科學發(fā)現(xiàn)；

• 它會接管所有繁重、無聊和危險的勞動；

• 它會治愈一切疾病；

• 它會解決長壽問題，以至于只要你能活到2045年，你就能活到2100年；

• 它會讓物質(zhì)極大豐富，讓全人類實現(xiàn)富足……

ASI是天神級的力量。我們必須加人這個力量。我們必須與ASI共生。

如果你周圍有很多比你聰明得多的存在，它們能替你做不少工作而且做得比你好，你該如何自處，才能確保自己仍然重要繼續(xù)擁有發(fā)言權和決策權呢？這就是本書的主題。

事到如今，我們必須接受兩個關于AI的基本認識。

第一個認識：智能正在變得普及，而且廉價。

不是即將，而是正在，是已經(jīng)。今天在美國也好中國也好，只要你會用智能手機，你就能以免費或者幾乎免費的形式用上相當不錯的主流大模型。更好的智能需要付費，但開源又免費的大模型已經(jīng)能幫你做很多事情，包括日常工作應用、回答科學問題完成大學生的作業(yè)，乃至于提供一切你能遇到的題目的解法。

簡單說，人類直到目前為止的大學教育的所有內(nèi)容，花費那么多時間和金錢培養(yǎng)出來的大學生的技能，2025年水平的主流AI都已經(jīng)會做了，而且可以免費幫你做。

那我們的教育還教什么、學生還學什么呢？

OpenAI前任首席科學家伊利亞·蘇茨科弗Ilya Sutskever早在2023年就說：“如果你把智力看得高于所有其他人類品質(zhì)，你將會過得很糟糕。”

第二個認識：以前你以為不是智能問題的問題，其實是智能問題。

比如所謂“情商”，也就是一般人心目中能與他人共情、能照顧他人情緒、能把事情處理得面面俱到的能力，你可能覺得是AI所不具備的。也許你設想AI就像那些“不會來事兒只懂工作”的理工男。但事實上情商是智商的一部分！理工男不是真的搞不懂人際關系，他們只是沒把心思放在那些事情上而已。只要愿意通盤考慮相關因素，智商高的人完全可以證明自己情商也高。

現(xiàn)實是AI已經(jīng)證明了自己比大多數(shù)人更懂人。AI的心理咨詢水平超過大多數(shù)人類心理醫(yī)生。有研究表明AI可以通過短短三輪對話說服一個人相信科學，而不是迷信陰謀論。現(xiàn)在ChatGPT有了記憶功能，能通過你跟它的對話歷史了解你。只要讓它談談對你的理解和建議，你可能就會發(fā)現(xiàn)它比你所有的親友都更懂你。

再比如很多人認為“創(chuàng)造力”是人類靈感的進發(fā)，是神來之筆，所以AI沒有創(chuàng)造力……可是好幾項研究都證明，AI生成新研究靈感的能力超過人類科學家，AI想出來的創(chuàng)業(yè)點子超過商學院的MBA學生。我一再講，創(chuàng)造力并不神秘：創(chuàng)造只不過是想法的連接而已，AI完全可以通過嘗試更多連接來選擇更好的創(chuàng)造。

還比如審美，比如風格和個性化，現(xiàn)在AI都已經(jīng)做得很好有時候能突破人的想象。

說到底，所有這些活動仍然是智力活動——只不過是多考慮幾種可能性，在更多邊界條件的約束下對方程求解而已。它們本質(zhì)上仍然是智能問題。

既然是智能問題，AI就或早或晚會比我們做得好。而且我們很多時候更愿意跟AI，而不是跟真人打交道……

那么，人的發(fā)揮空間到底還剩下什么？

我不認為人會被淘汰。我也不相信一部分人會在AI的加持下成為所謂“神人”，另一部分人則成為“無用之人”。而且我相信AI會讓人更像人。

AI本質(zhì)上是一個神經(jīng)網(wǎng)絡，人的大腦本質(zhì)上也是神經(jīng)網(wǎng)絡二者并沒有什么神奇的區(qū)別。我們的大腦中并不存在什么神奇的物質(zhì)或者結構，使這件事只有人會做而AI絕對學不會……

但是別擔心，我們跟AI的確有至少四個區(qū)別。并不是說我們有什么比AI強的地方，但是作為碳基生物，我們有一些特殊情況……而有意思的是，正是因為這些特殊情況，碳基生物，比硅基智能，更應該做主。

第一，人有“意識”，而AI（至少目前）沒有。

意識究竟是什么，科學家也好，哲學家也好，并沒有達成絕對的共識。但是大體上，大家都比較能接受的一個說法是，意識跟你一生的“連貫敘事”很有關系。說白了就是你從小到大有連續(xù)的記憶，你一直在給自己講故事。是那些故事，決定了你心中的“自我”，決定了你接下來想要什么。

你想要出人頭地，是因為你給自己講了一個奮斗故事。你想要振興中華，是因為你從小都在聽愛國故事。

AI沒有這種敘事。它很會編故事，但是它沒有人生經(jīng)歷，它沒有歷史，它的參數(shù)是在訓練完成那一刻就固定下來的，不像我們大腦的神經(jīng)元每時每刻都在重新連接更新記憶。AI沒有自己的“元敘事”，所以它沒有——或者至少暫時沒有——自己的執(zhí)念，它暫時不積極地想要什么。

所以人才是主動的發(fā)起者。總是人想要，AI幫著實現(xiàn)。人提問，AI回答。

我不敢說會永遠如此，但至少目前是如此。

第二，人的“想要”是不可預測的。

有很多機構試圖預測人們接下來想要什么：什么樣的款式能在明年流行？什么樣的電影能爆？年輕一代贊成什么政治理念？但是你終究沒法預測。

人的想要受到太多因素影響，其中很多都沒有形成可供AI學習的數(shù)據(jù)。你的基因、你所在的文化、你的經(jīng)歷、你不經(jīng)意間接收到的微妙信息、你早上吃飯了沒有，等等因素都可能起作用。你可能因為某個人喜歡一個東西而喜歡一個東西，也可能因為某個人喜歡一個東西而不喜歡一個東西……

很快每個人都會有自己的“數(shù)字分身”，也就是能代表你做出某些決策的AI智能體。但你的數(shù)字分身不會真正代表你。它就算100%了解你的一切，也只能代表它剛剛完成你的數(shù)據(jù)采集那一刻的你——而從那一刻開始，你跟它的世界線已經(jīng)分道揚鑣。

所以AI智能再強，也不可能完全代替你做決定。

第三，人會死。

這是我們的弱點，但有弱點才高級。因為我們會死，所以我們的每一刻都是寶貴的。你說的每一句話、你做的每一個動作都值得鄭重對待，因為在你有限的生命之中你只能說這么多話、做這么多動作。

這一刻你選擇閱讀這本書，你就沒有選擇娛樂、沒有選擇陪伴家人。那我豈能不好好寫書以對得起你這個選擇呢？

而AI不會死。AI可以無限自我復制，你跟它聊的這一句話是被這臺服務器上的這個副本處理，下一句話就已經(jīng)被安排到另一臺服務器上的另一個副本那里了。AI理論上可以同時跟極多的人說極多的話，那它這一句又能有多珍貴呢？

所以我們用AI根本不需要省著用，你想怎么用就怎么用。

現(xiàn)在很多AI公司都推出了陪伴智能體功能，請允許我提醒你一句：如果你的AI女友不是運行在你自己的私有服務器上，她就不是你一個人的女友。

人會死，所以人有更高的道德優(yōu)先級。當機器人進入千家萬戶的時候，你會更加體會到人的寶貴。你會更加認同哲學家康德（Immanuel Kant）說的：人只能是目的，而不能是手段。所以應該是AI服務我們，而不是我們服務AI。

第四，人必須與他人共處。

一個冷知識是人長這么發(fā)達的大腦主要不是為了解決自己的生存問題——一般動物的大腦都很小，生存也沒問題。我們大腦的主要工作是解決群居問題，是為了琢磨如何與他人相處。靈長類動物的腦容量大小跟族群的大小呈現(xiàn)明顯的正相關。我們能創(chuàng)造這么高級的文明，是因為我們善于與他人相處——我們不只競爭，更愛合作，我們能合作的規(guī)模越來越大。

而與他人相處，似乎不僅僅是個智能問題。你是人別人也是人，所以你不能什么好處都占，所以你的人生并不是圍繞一個單一的目標函數(shù)進行優(yōu)化，所以這不是算法問題。

有時候你可以拿更多，但你選擇分享；你可以得理不讓人但你選擇寬容；你可以做到自己的局部最優(yōu)，但你選擇全局。怎么選？那個度在哪里？這里沒有最優(yōu)解，你的選擇取決于你的條件和心胸，取決于你當時的具體情況。

所以生活不只是智能問題，更需要“智慧”。

AI必須聽我們的，我們才是事情的發(fā)起者，而我們的喜好無法預測，所以AI再強也只是助手，它終究不能代表我們……而我們的決策，終究無法算法化。那么以我之見，因為以上這些區(qū)別，我們跟AI共生的原則就是：

• 第一，盡可能給AI提供本地化的“情境”（context）信息，幫它精準思考；

• 第二，人的主要職責是做好各種“微決策”（micro-decisions ）。

本文節(jié)選自《人比AI兇》

序言部分“與超級智能共生”

活動時間

9月7日（周日）20:00-21:30

主講嘉賓

萬維鋼

前物理學家，現(xiàn)科學作家，“中國好書”“文津圖書獎”得主。1999年畢業(yè)于中國科學技術大學，2005年獲得美國科羅拉多大學物理學博士學位，曾長期從事核聚變等離子體物理研究，現(xiàn)居美國，專職從事寫作；他主張以科學精神鉆研社會現(xiàn)象，擅長讓高端的道理落地，樂于激發(fā)讀者思考。

著有暢銷書《萬萬沒想到》《智識分子》《高手》《你有你的計劃，世界另有計劃》《學習究竟是什么》《相對論究竟是什么》《博弈論究竟是什么》《量子力學究竟是什么》《科學思考者》《拐點》等。他在得到App開設的專欄《精英日課》，已經(jīng)成為得到的“鎮(zhèn)校之寶”，連續(xù)6季累計超過80萬人次訂閱。

主講圖書

《人比AI兇》，新星出版社

當AI無所不能，你靠什么不可替代？翻開這本書，萬維鋼將帶你直面AI浪潮，探討技術爆發(fā)背后，我們該如何升級自己、塑造未來。你將了解——

• 前沿科技：AI有哪些最新進展？超級人工智能會帶來哪些沖擊？你該如何正確使用AI，而非被它替代？

• 世界新趨勢：白領和藍領誰更危險？為什么機器人之戰(zhàn)決定著中國的未來？經(jīng)濟是在衰退還是在走向富足？

• 人類進化指南：在人人都可能被替代的時代，你憑什么成為那個例外？模型可以被訓練，你的心智該如何升級？怎樣才能擁有決策的智慧？

這本書說得不一定全對，但它獨一無二——至少目前，還沒有任何AI能在書中的任何一個議題上寫得更好。它不僅是對超級人工智能的回應，更是對人類自身思考深度的呼喚。AI可以無限進步，但世界的真正走向，仍由人的判斷與行動決定。人，總是比AI兇。

xiang shuai

關注微博，獲取更多香帥時評

更多感悟，更多陪伴