科幻小說，究竟是AI的預(yù)言書，還是我們集體掉入的陷阱？| 萬字訪談劉宇昆、《雪崩》作者、AI科學家與投資人

AI帶來的變化，是否只是以往技術(shù)革命的重演？當智能體逐漸超越我們所熟知的算法邊界，我們將如何定義未來那些真正可稱之為“人工智能”（AI）的存在？而科幻小說，究竟是對未來的胡思亂想，還是精準無比的預(yù)言？

在一場South Park Commons（南方公園共享社區(qū)/SPC）組織的對談中，不同的世界觀碰撞融合。《雪崩》作者尼爾·斯蒂芬森（Neal Stephenson）、《手中紙，心中愛》作者劉宇昆（Ken Liu），與投資過SpaceX、Uber等公司的天使投資人賽安·班尼斯特（Cyan Banister）以及認知科學家與AI研究員約夏·巴赫（Joscha Bach）促膝而談，探討了敘事如何塑造現(xiàn)實，虛構(gòu)如何成為路線圖，以及創(chuàng)造者與夢想家如何跨越時空相互影響。

? 尼爾·斯蒂芬森：“意識和肉體是密不可分的，正因如此，我很難理解AI的存在——我無法想象一個意識或智能，它并不依賴于脆弱、有限、與我們相似的載體。”

? 約夏·巴赫：“恐怕現(xiàn)在沒人可以判斷AGI離我們還有多遠。我至今沒有看到過任何一個足以說服我的論述，無論是支持或者反對AGI的。”

? 賽安·班尼斯特：“在現(xiàn)階段，理解我們自己的意識，比理解AI是否會產(chǎn)生意識，更為重要。”

? 劉宇昆：“早期的科幻小說描繪了技術(shù)如何改變社會；現(xiàn)在在AI時代，我們是否也將見證類似的變革？”

對談嘉賓

尼爾·斯蒂芬森

Neal Stephenson

美國作家、游戲設(shè)計師和科技顧問

以創(chuàng)作科幻小說和歷史小說而聞名。他的作品《雪崩》（Snow Crash）和《鉆石時代》（The Diamond Age）描繪了豐富的未來社會和文化愿景，還預(yù)見了社交網(wǎng)絡(luò)、納米機器人和3D打印機等重大技術(shù)的發(fā)展。

約夏·巴赫

Joscha Bach

人工智能專家和認知科學家

致力于研究和開發(fā)人工智能系統(tǒng)，探索人類認知和智能的本質(zhì)。他的核心研究觀點包括：認知架構(gòu)、情感與意識、通用人工智能（AGI）。

賽安·班尼斯特

Cyan Banister

知名風險投資家、South Park Commons（南方公園共享社區(qū)）的早期成員之一

她在風險投資領(lǐng)域有著豐富的經(jīng)驗，曾投資多家初創(chuàng)公司，尤其關(guān)注人工智能、區(qū)塊鏈和金融科技等領(lǐng)域。她還積極參與社區(qū)活動，推動創(chuàng)新和創(chuàng)業(yè)文化的發(fā)展。SPC是一個社區(qū)驅(qū)動型風險投資組織，旨在支持早期創(chuàng)業(yè)者從“-1到0”的階段開始探索和驗證創(chuàng)業(yè)想法。

劉宇昆

Ken Liu

美籍華裔科幻作家、律師和翻譯家

他的作品如《手中紙，心中愛》和《物哀》等多次獲得雨果獎、星云獎等國際科幻文學獎項。他創(chuàng)作的“絲綢朋克”系列小說《蒲公英王朝》三部曲將中國歷史文化與科幻元素巧妙結(jié)合，開創(chuàng)了獨特的科幻風格。此外，他還翻譯了劉慈欣的《三體》和郝景芳的《北京折疊》等中國科幻作品，推動了中西方科幻文學的交流。

聯(lián)合主持人

克里斯蒂安·西比爾斯·貝爾納德斯

Cristian Cibils Bernardes

Autograph的創(chuàng)始人兼首席執(zhí)行官

他曾在谷歌擔任軟件工程師，致力于利用人工智能技術(shù)為人們創(chuàng)造更好的體驗。Autograph是一家專注于體育和娛樂領(lǐng)域的非同質(zhì)化代幣（NFT）平臺，旨在幫助運動員和名人創(chuàng)建和營銷自己的數(shù)字收藏品。該公司成立于2021年，由美國國家橄欖球聯(lián)盟（NFL）球星湯姆·布雷迪（Tom Brady）和其他創(chuàng)始人共同創(chuàng)立。

喬納森·布雷布納

Jonathan Brebner

South Park Commons（SPC）敘事專家

他擅長幫助成員、公司和社區(qū)打造并講述引人入勝的故事。他曾在競選政治、廣告行業(yè)工作，還是一名獨立作家和電影制作人。SPC是一個社區(qū)驅(qū)動型風險投資組織，旨在支持早期創(chuàng)業(yè)者從“-1到0”的階段開始探索和驗證創(chuàng)業(yè)想法。

AI：重現(xiàn)原子能時代

喬納森·布雷布納：尼爾·斯蒂芬森，你最新的小說Polostan（非官方譯名《赤色馬球》）設(shè)定在冷戰(zhàn)時期。核能的逐步投入利用開啟了原子能時代（the Atomic Era），這常給人一種技術(shù)爆炸的感覺。你在創(chuàng)作Polostan時，是否受到了當下某些社會現(xiàn)象的啟發(fā)？以及，你覺得現(xiàn)在跟原子能時代有何不同？

尼爾·斯蒂芬森：在寫這本書的時候，我并沒有刻意地去思考這兩個時代的相似之處，但既然你這樣問了，那我也覺得它們確實挺像。

為了寫作，我深入地了解了核技術(shù)史，它是如何一步步從核裂變的發(fā)現(xiàn)走到今天的。一切都始于核物理學家莉澤·邁特納（Lise Meitner）的一次瑞典雪橇之行，旅行期間她試圖解析了一座德國實驗室于1938年發(fā)表的一組實驗數(shù)據(jù)。

? Lise Meitner（莉澤·邁特納）是一位奧地利-瑞典裔物理學家，被譽為“原子彈之母”。她與奧托·哈恩共同發(fā)現(xiàn)了核裂變現(xiàn)象，為核能的開發(fā)奠定了基礎(chǔ)，但諾貝爾獎卻未授予她。她的工作推動了現(xiàn)代物理學的發(fā)展，尤其是在放射性研究和核反應(yīng)領(lǐng)域。

她的發(fā)現(xiàn)最初僅在一小群物理學家中流傳，隨后爆發(fā)的二戰(zhàn)中斷了所有的研究。這個時間卡得不早不晚，核裂變的知識剛好還是可以漸漸擴散出去，讓人們意識到它的威脅，最后促成了曼哈頓計劃的制定。若這一發(fā)現(xiàn)提前幾年，二戰(zhàn)的戰(zhàn)場或?qū)⒉辉儆娠w機與坦克主導(dǎo)，而是演變?yōu)楹宋淦鞯南嗷纾蝗敉砹藥啄辏@些研究成果可能永遠不會公開，而是被政府封鎖或列為絕密。

那么AI之于當下是否也會帶來相似的變化？我覺得這是值得我們共同探討的問題，而非我一個人就能回答的。我可以回答的是，AI如今的能力和發(fā)展的速度超出了很多人的預(yù)料。很多人的言行透露出這樣一種困惑：AI讓其他的一切變得無關(guān)緊要了嗎？在關(guān)于AI的一切塵埃落定之前，發(fā)展“老派”的技術(shù)還有意義嗎？

劉宇昆：拿原子能時代與現(xiàn)在進行對比，的確是一個很有意思的話題，但我的觀點會比較謹慎。

對于很多人而言，原子能時代是一個令人失望的時代。如果你去讀那個時代的科幻小說，人們認為原子能技術(shù)會給社會帶來顛覆性的變化。但事實與當時人們的初始幻想相反，在軍事戰(zhàn)略層面，原子能變成了穩(wěn)定局面的力量：它帶來了以往求而不得的強大威力，維護著大國的勢力范圍，阻止戰(zhàn)爭發(fā)生。而在民用層面，我不知道你們感受如何，但我兒時學到核電站工作原理的時候非常失望。我們發(fā)現(xiàn)了令人驚嘆的物理規(guī)律，卻只是用它把水燒開，然后讓水蒸氣推動渦輪來發(fā)電。我覺得這個辦法好蠢，而我們?nèi)祟惥褪沁@樣的一群“蠢貨”。

原子能時代并未如人們所愿，令眾多期待落了空。那AI時代也會如此嗎？我不確定。我認為，當前最突破性和實用價值的的AI技術(shù)是用于蛋白質(zhì)折疊預(yù)測的大語言模型。如果AI能夠在其他領(lǐng)域帶來成百上千個類似的突破，其影響力將遠遠超過原子能技術(shù)。

但還有另一種可能——AI最終只會取代一些“半創(chuàng)意性”工作，讓我們的社會從工業(yè)2.0勉強邁入工業(yè)2.001。若真是如此，AI就是另一種“燒熱水”的方式，而我對AI和核技術(shù)會有著同樣的失望之情。

克里斯蒂安·貝爾納德斯：約夏，你以往寫過很多關(guān)于認知結(jié)構(gòu)的作品，其中涉及注意力機制、轉(zhuǎn)換器（transformer）架構(gòu)、信息檢索、自主行為（agentic behavior）等。能否請你分享一下超人類智能（superhuman intelligence）的最新進展嗎？它會不會同樣令人失望？

約夏·巴赫：我覺得它不會讓人失望，但我對“進步”的理解發(fā)生了一些變化。應(yīng)該說，我發(fā)現(xiàn)人的底線是會變化的。

當我第一次看到《雪崩》和《鉆石時代》時，包括我在內(nèi)的很多人都覺得它們描繪的是反烏托邦社會，但今天看來，我們會覺得它們所描述的世界充滿生機，也不是不能接受。我們世界發(fā)展得越來越慢，如同一坨粘稠、難以流動的蜂蜜，越來越容易預(yù)測——以往能自由發(fā)展幾十年的技術(shù)，如今不過數(shù)年就會被政府的監(jiān)管絞殺。相比之下，《雪崩》的世界依依然生機勃勃、不斷向前發(fā)展，雖然向前的方向有些奇怪，但社會終究是在變化之中。

這里又引出了我的另外一個疑惑：新技術(shù)僵化的速度，是否已經(jīng)超過了我們創(chuàng)新的速度？這是一個開放式的問題。不過，我覺得當下一切正在重新流動起來，未來的技術(shù)可以飛速發(fā)展，把現(xiàn)有的制度甩在后面，讓后者沒法適應(yīng)、支配并摧毀前者。

我認為，通用人工智能（AGI）的開發(fā)路徑，絕不只是投入更多的算力和更多的數(shù)據(jù)那么簡單。如果我們回頭看就能發(fā)現(xiàn)，AI在近70年的技術(shù)發(fā)展史上并不是一個重要的角色。想象這樣的一個平行世界：在這個世界里，羅森布拉特（Rosenblatt）*發(fā)明感知機（perceptron）之后，人們就不再研究機器學習。就算在這樣一個世界里，大語言模型（LLM）之類的現(xiàn)代AI，依然會在摩爾定律*帶來足夠的算力后自然而然地出現(xiàn)。

弗蘭克·羅森布拉特（Frank Rosenblatt）是一位美國心理學家和計算機科學家，被譽為“深度學習之父”之一。他于1957年發(fā)明了感知器（Perceptron），這是現(xiàn)代人工神經(jīng)網(wǎng)絡(luò)的雛形，開啟了機器學習和深度學習研究的新紀元。他1971年意外去世，但他的工作為后來的神經(jīng)網(wǎng)絡(luò)發(fā)展奠定了基礎(chǔ)，對人工智能領(lǐng)域產(chǎn)生了深遠影響。

摩爾定律是由英特爾創(chuàng)始人之一戈登·摩爾（Gordon Moore）1965年提出的。它指出，集成電路上可容納的晶體管數(shù)量大約每兩年翻一番，性能也會相應(yīng)提升。這一趨勢推動了計算機技術(shù)的飛速發(fā)展，使我們能夠獲得越來越強大的算力。

尼爾·斯蒂芬森在他的早期作品里并不認為AGI會出現(xiàn)，后來在《鉆石時代》一書里，尼爾·斯蒂芬森虛構(gòu)了一個LLM，它很聰明但沒有自主性，只是技術(shù)上的錦上添花，并未改變這個世界的本質(zhì)。誠然，我們擁有了超級智能的系統(tǒng)，但它們并不與人類競爭。我們?nèi)匀皇俏覀儯澜缫廊蝗绻省?/p>

這跟我們?nèi)缃竦囊暯缇€不同，我認為，人類將逐漸走向人機混合的形態(tài)——未來人們會與自己的個人AI助手共享所有思考，讓AI參與決策過程。這樣一來，我們終將演化成另一種存在形態(tài)。

喬納森·布雷布納：我不確定這樣的未來是否令人失望，但變化確實是有的。賽安，作為一個投資者，你既要與創(chuàng)業(yè)者同懷熱忱，共同推動事業(yè)發(fā)展，又要保持清醒理性，審慎評估其項目成果及其在現(xiàn)實世界中的應(yīng)用前景。你怎么看？

賽安·班尼斯特：非常明顯，我們正在目睹一場技術(shù)的寒武紀大爆發(fā)，而作為一個投資者，我習慣于向后退一步，嘗試看清楚未來6-8年的發(fā)展前景。

4年前我們已經(jīng)開始思考高性能計算需要什么基礎(chǔ)設(shè)施；而今天，我們依舊在思考如何應(yīng)用高性能計算。因此，我覺得這并不是下注的好時候，盡管大眾可能不理解我為何這么說。

如果我們回到《鉆石時代》這本書中的世界，納米技術(shù)和生物技術(shù)正在發(fā)生爆炸，人類可以進化成超人類，成為超級生物學家或者其他“超人”，然后“超人們”可以橫跨不同的學科，完成不可思議的成就。

“接下來會發(fā)生什么？”這是我們投資者最重要的問題。但如今，我們只能跟其它投資者競價，為“正在發(fā)生的事情”買單，一切都是可預(yù)見的，這搞得我們投資人的利潤率很低。

劉宇昆：可是，我覺得AI的確可以變成一個人類心智的增幅器。AI是一個通用的交互裝置，人們可以方便地從中獲取不同領(lǐng)域的專業(yè)知識，而這些知識以前只會被鎖死在知識庫里。如果這個趨勢繼續(xù)下去，你的設(shè)想有希望成為現(xiàn)實，一小群人只需要利用AI，就可以掌握高度復(fù)雜的納米技術(shù)和生物工程技術(shù)。

約夏·巴赫：你提到了“一小群人”這種說法。那你覺得，人類是否普遍擁有掌握AI的智慧？換個問法，如果你設(shè)想的這種AI真的出現(xiàn)了，那么有多少人有能力融會貫通各領(lǐng)域的知識，真正成為新時代的積極參與者？

你可以放心地讓AI來幫你講法語或者中文、相信它能完滿完成任務(wù)，也可以讓它深入掌握世事動態(tài)，在你需要時提供決策支持。那么，究竟有多少工作是可以被外包給AI的？有多少人可以適應(yīng)這個新時代，而有多少人會被甩在后面？

科幻小說：現(xiàn)代的神話故事

喬納森·布雷布納：我認為，現(xiàn)在這個時代的加速感源于敘事危機（narrative violation）——AI在近幾年的進展，完全偏離了我們在科幻小說里的預(yù)想。

我最喜歡舉的例子是電影《我，機器人》（I, Robot，2004）的一幕，威爾史密斯（Will Smith）問機器人：“你能創(chuàng)作出一曲交響樂嗎？你能憑空創(chuàng)造出一幅傳世杰作嗎？”電影里面的回答是“不能”。然而現(xiàn)階段AI已經(jīng)做到了這一點，至少能夠以假亂真。實際上，在實現(xiàn)能像電影中那樣在物理世界中靈活行動、執(zhí)行復(fù)雜任務(wù)的機器人之前，我們更早開發(fā)了具有豐富創(chuàng)造力的AI。

所以我想問，我們對真實世界技術(shù)發(fā)展的反應(yīng)，是否受到了過往讀過的虛構(gòu)作品的影響？藝術(shù)作品的敘事如何影響了我們對新技術(shù)發(fā)展的判斷？
我們的故事有沒有可能以其他方式塑造對現(xiàn)實世界的期望？

? 圖源：根據(jù)《我，機器人》劇照自制

尼爾·斯蒂芬森：作為一個講故事的人，我唯一的任務(wù)就是吸引讀者讀下去，如果我不能完成這個任務(wù)，我就一無所有。所以如何在易于理解、博人眼球的故事中插入不多不少的技術(shù)細節(jié)，就是一個微妙的平衡。

30年前，我在《鉆石時代》中講述了一個女孩和一個AI之間的故事，后者是前者的代理母親與老師。我需要設(shè)定AI能干和不能干的事情，這樣我才能夠合理確定二者的關(guān)系能進展到哪一步。如果AI像上帝一樣無所不能，我的故事就沒什么可寫的了。

同樣，在你提及《我，機器人》的那個例子里，作者設(shè)定了一個可以到處走動，看起來很先進的機器人，但它無法創(chuàng)作。而如今我們知道，造出一臺這樣的機器人可比人工生成交響樂難多了。

克里斯蒂安·貝爾納德斯：這里有一個很有意思的推論，那就是人們非常驚訝于AI可以創(chuàng)作，而這高度依賴于人類的創(chuàng)造力。什么是創(chuàng)造力與創(chuàng)作？你可以分享一些你的見地嗎？

劉宇昆：作為一個科幻作家，這是我經(jīng)常思考的問題。科幻作家在預(yù)測具體細節(jié)上幾乎總是錯的，但卻常能準確把握住關(guān)于未來的“神話”（mythology）。別急，我現(xiàn)在會解釋這是什么意思。

80年來，所有的AI研究都在嘗試回答圖靈的問題：機器可以思考嗎？在圖靈的年代，這個問題不可能被回答，因為人們都不知道思考的過程是怎樣的。我們只能讓AI去模仿生物思考。在模仿的過程中，我們發(fā)現(xiàn)，所謂“思考”只是一堆次級功能的集合。以前是下棋，現(xiàn)在是詩歌、論文與交響樂，AI一次次成功掌握了這些看起來很難的技能，但另一些人類覺得很簡單的技能卻遲遲未能掌握。

大量科幻小說認為，與世界對話需要意識和自我感知。但事實證明這大錯特錯，你可以擁有一臺可以對話和思考的機器，而它不需要具有意識或自我感知。對圖靈問題的回答就像剝洋蔥一樣，一層一層地把表面的問題轉(zhuǎn)化為更深層、更細小的問題。也有一些人會批評AI仍舊不能“思考”，它們只是朝著某個目標計算，我覺得這個批評很到點子上。我們需要通過反復(fù)嘗試知道目標在哪，適時調(diào)整目標。“我們能做什么”固然有趣，但“我們想做什么”是一個更加有趣的話題。

回到前面關(guān)于創(chuàng)造力的問題。我覺得無論科幻作家對技術(shù)細節(jié)的描繪有多么深入，錯判未來都是稀松平常的，畢竟未來本就難以捉摸。我們常會被歷史慣性綁架，認為技術(shù)的發(fā)展是一條必然之路，殊不知歷史從來都蘊含著無數(shù)可能，我們只是碰巧走上了如今的道路。

所以無論作家的技術(shù)背景多硬核，他們都很難預(yù)測未來的技術(shù)細節(jié)。但是優(yōu)秀的作家也不會拘泥于細節(jié)是否正確。一個作家如果想寫出有趣、有影響力、讓人印象深刻的書，他需要知道，寫科幻小說實際上是在創(chuàng)造神話。

厄休拉·K·勒古恩（Ursula K. Le Guin）*說過，幻想文學古已有之，科幻小說只是它的一個新分支，我深以為然。科幻作者真正在做的，是潛入集體無意識的深處，喚醒沉睡的神明與鬼怪，讓它們用自己的方式，訴說技術(shù)的寓言。

瑪麗·雪萊（Mary Shelley）就沒有任何理工背景，但她召喚出了科幻史上最強大的神明“弗蘭肯斯坦”，這個形象至今仍熠熠生輝，出現(xiàn)在每一場關(guān)于技術(shù)的討論之中。書中制造縫合怪的技術(shù)細節(jié)全是錯的，但這從不是故事的關(guān)鍵——重要的是她將這個神話講述得恰到好處。我堅信，所有那些寫出了打動人心、經(jīng)久不衰的作品的科幻作家們，一定都懂得如何講好一個神話。

?厄休拉·K·勒古恩（Ursula K. Le Guin，1929年10月21日—2018年1月22日）是美國杰出的科幻與奇幻文學作家。她的作品多次榮獲雨果獎、星云獎等國際幻想小說領(lǐng)域的頂級獎項，其中《黑暗的左手》（1969年星云獎，1970年雨果獎）和《一無所有》（1974年星云獎，1975年雨果獎）尤為著名。勒古恩的創(chuàng)作融合了深刻的社會與哲學思考，其代表作還包括《地海傳說》系列，她以獨特的文學風格和對人性、性別、社會的深刻洞察，奠定了她在文學史上的重要地位。

?《弗蘭肯斯坦》中的“科學怪人”形象出自瑪麗·雪萊（Mary Shelley）于1818年創(chuàng)作的小說《弗蘭肯斯坦，或現(xiàn)代的普羅米修斯》，據(jù)說這本書開始創(chuàng)作時作者只有18歲。自1910年托馬斯·愛迪生公司制作的默片《科學怪人》開始，這一形象在過去200多年間被改編了無數(shù)次，僅電影就超過70部。它已經(jīng)成為一個經(jīng)典的流行文化符號，象征著“創(chuàng)造與失控”“責任與逃避”以及科技發(fā)展可能帶來的倫理困境。圖源：monstercomplex

賽安·班尼斯特：我插一句嘴，我覺得在這方面AI非常令人激動，它可以讓以往沒有能力寫作但有能力幻想未來的人，解鎖作家夢想，表達自己的想法。好萊塢把大量資金砸在反烏托邦和其他描繪可怕未來的電影上面，因為毀掉東西總是容易的。但現(xiàn)在可以用極低的成本去創(chuàng)造出一個烏托邦。如果你是一個作家，你可以即刻開始構(gòu)思一個美好的未來，然后在筆上實現(xiàn)它。我們在未來必然會有更加精彩的科幻小說。

幻想與現(xiàn)實的關(guān)系

喬納森·布雷布納：劉宇昆認為，講故事的人是在召喚鬼怪與神明。巴赫，你在工作時也有這種感覺嗎？我們是否正在把這個過程帶進真實世界，還是說幻想只是幻想？

約夏·巴赫：我覺得寫作是一種讓不可見變得可見的獨特工具。斯坦尼斯瓦夫·萊姆（Stanis?aw Lem）最初是一個控制論學者。在德國與友人探討時，他意識到讓計算機學會思考還為時過早，于是他轉(zhuǎn)向?qū)懽鳎J為用故事來激勵下一代人去完成這項事業(yè)更加有意義。這個轉(zhuǎn)折非常神奇。

?斯坦尼斯瓦夫·萊姆（Stanis?aw Lem）是一位波蘭科幻作家、哲學家和散文家。他以深刻的哲學思考和對人類、科技與未來的獨特見解而聞名，作品風格融合了科幻、哲學和諷刺。他的代表作包括《索拉里斯星》

（Solaris）

萊姆的作品既實誠又頗具諷刺。他不是在預(yù)言未來的模樣，而是立足當下，謹慎地延伸一些理念。當時的科幻小說普遍熱衷于這種手法。在萊姆的作品中，你會發(fā)現(xiàn)他只是微調(diào)了當時社會的一兩個變量，就在上世紀五十年代構(gòu)想出了互聯(lián)網(wǎng)的雛形。在他的書中，互聯(lián)網(wǎng)最初就只是一種遠程傳遞文字的工具，像是傳統(tǒng)報刊的電子化，而且人們不曉得如何搜索。萊姆肯定想不到，搜索功能是互聯(lián)網(wǎng)的第一個發(fā)明，所有的一切都是基于搜索建立的。

這很常見，科幻作家缺少正確預(yù)判未來的想象力，每個人都像是被永遠困在了1950年代人的思維中。而當我們認真思考未來時，我們也會發(fā)現(xiàn)，我們很難同時修改多個當下的變量，然后正確地預(yù)判未來。因為這涉及到我們身份的改變和認知方法的改變，這是意義的基石。

克里斯蒂安·貝爾納德斯：我曾經(jīng)在Google工作，我的小組叫做Primer，也就是《鉆石世界》中那個AI的名字。我們的工作目標也跟小說中的“上傳智慧”類似，也就是說我的工作就是讓科幻成真，這也是我組織這個論壇的動機之一。各位作家（或者所有曾經(jīng)創(chuàng)作過的人們），當你們看到你們筆下的東西成真之后，你們有什么感受？

劉宇昆：雖然我也可能會有想要自詡為這項技術(shù)發(fā)明者的沖動，但實際上我很少這樣想。我的一部作品《結(jié)繩記事》中，描寫了一個緬甸部落用繩結(jié)作為文字，主角通過研究繩結(jié)的語言學規(guī)律解決了蛋白質(zhì)的折疊問題。這個技術(shù)背后的邏輯是，打結(jié)者需要提前預(yù)估成結(jié)后繩子各處的局部壓力，想象出成品的形狀。研究人員設(shè)法讓計算機學會了這種思考過程，并用這個算法去解決蛋白質(zhì)的折疊問題。

簡單來說，我的核心創(chuàng)意就是語言學技術(shù)可以用來解決蛋白質(zhì)的折疊問題——現(xiàn)在證明這個方向是對的。如果我不講底線，大可以說我是個先知，但我知道，我只是把這個“神話”寫對了，而不是成功地“預(yù)測”了這個技術(shù)的出現(xiàn)，我不能把這個創(chuàng)意據(jù)為己有。有一些科幻作家正在用類似的方式宣稱自己成功預(yù)言了什么什么東西，你知道我會怎么評價這種人。

當我在看到現(xiàn)實世界中的技術(shù)在某種意義上復(fù)現(xiàn)了我小說里面的想法，我會認為我把神話寫對了，我成功地捕捉到了這個技術(shù)背后的集體無意識。但我不會說我預(yù)言了這個技術(shù)的出現(xiàn)，或者說我的小說為世界帶來了什么什么。我們經(jīng)常會預(yù)測未來，有時候會一語成讖，但這只是瞎貓碰到死耗子。不過，“能把神話寫對”就已經(jīng)很了不起了，因為這意味著我的作品抓住了人性的某個基本特質(zhì)。

尼爾·斯蒂芬森：對我而言，我會認為這是對小說理念的工程與商業(yè)化驗證。

回到我前面“讓讀者讀下去”的理念，讓一部作品讀不下去的最致命原因，就是作品前后矛盾，故事不自洽。在傳統(tǒng)的奇幻故事里面，你需要為你的幻想世界寫一個編年史；在科幻故事里面，你也需要在提出一個新技術(shù)發(fā)明后，告知讀者這個技術(shù)是如何研發(fā)的，背后的經(jīng)濟動力是什么，為什么可以獲得融資并推向市場。為了如此，所有設(shè)定在近未來的技術(shù)都是對現(xiàn)有技術(shù)的合理外推，而整個故事類似于一個商業(yè)案例。

如果現(xiàn)實世界中出現(xiàn)了和我的想法比較接近的東西，我會說我做了該做的功課，對這個概念的工程學與商業(yè)運作有一定的了解。但正如劉宇昆所說的，很多預(yù)測最后都不會成真，不過科幻讀者一般對這些錯誤的預(yù)測是十分包容的。

未來世界觀塑造

喬納森·布雷布納：我們SPC很多時候會跟成員探討“世界觀架構(gòu)”的概念。根據(jù)我的經(jīng)驗，在任何需要“擱置懷疑”的領(lǐng)域，都必須建立一個擁有連貫且一致的內(nèi)部規(guī)則的世界。即便這些規(guī)則與我們現(xiàn)實世界或日常經(jīng)驗中的法則并不相符，故事世界的內(nèi)部邏輯必須始終保持自洽。這個原則在寫作中尤其重要。要推銷一個故事，讓人相信并不存在的事物，你就需要通過邏輯，讓觀眾與你的故事產(chǎn)生連接。

請問在座各位，在你們的創(chuàng)作過程中，或者在其他涉及到塑造世界與講故事的場景，例如作為一個管理者向投資人或創(chuàng)始人推介項目或產(chǎn)品時，或是作為一名研究員需要向公眾解釋你研究的意義時，是否也經(jīng)歷過類似的體驗？建構(gòu)虛擬世界的感受如何？是否有時會“走得太遠”，過分沉浸在構(gòu)建世界的內(nèi)在邏輯中，反而偏離了原本的核心目標——講好一個故事？

賽安·班尼斯特：在我會議不多的時候，我會花大段大段的時間來做白日夢。我會思考這個世界將走向何處，并嘗試編織出一個故事。我需要把視線放得很遠，遠到可以編織出整個世界的故事，然后在其中探索并打撈投資機會。有趣的是，也許是由于某種集體無意識，總會有創(chuàng)業(yè)者不期而至，他們的想法恰好契合我所發(fā)現(xiàn)的這些機遇。這種同步性往往令人驚嘆。

如果一個創(chuàng)業(yè)者能夠講好一個故事，我們的對話會非常愉快。如果他的故事可以引起我的共鳴，我就會不自覺地與他們一同暢想那個未來圖景。這往往會引導(dǎo)我做出投資決策：我愿意投入資金，成為他們勾勒的未來的一部分。我覺得，在投資領(lǐng)域，“世界構(gòu)建”的能力是一個關(guān)鍵但常被低估的要素。

約夏·巴赫：創(chuàng)辦一家公司，需要同時創(chuàng)造一種意義。你會感受到這個意義對你的呼喚，并且堅信你所干的事情是正確的。我認為解釋意識是最重要的哲學問題，所以我創(chuàng)造了加利福尼亞機器意識研究所（California Institute for Machine Consciousness）。

同時，我也覺得，描繪一個能夠可持續(xù)運轉(zhuǎn)并可與當下交互的世界，也很關(guān)鍵且必要。以馬斯克（Elon Musk）為例，他的成功很大程度上源于他出色的故事講述能力。“年輕人需要擁有一輛開得很快的車”，這是一個很老的故事，但是他可以舊瓶裝新酒，把這個故事變成登陸火星，甚至是在新的星球上建立新的文明。他的故事有力地連接了現(xiàn)在與未來，引導(dǎo)我們思考遙遠的可能性，并為之長遠謀劃。

劉宇昆：我覺得技術(shù)人員熱衷于建構(gòu)世界有兩個原因。第一，在既定規(guī)則下構(gòu)建世界就像是一場引人入勝的積木游戲。語言、萬智牌、計算機程序很“好玩”，是因為我們享受在規(guī)則框架內(nèi)，運用手中的基礎(chǔ)元素，體驗創(chuàng)造的過程。

第二個原因則是，技術(shù)創(chuàng)造是技術(shù)人員自我表達的方式，甚至可能是最重要的方式。我們會把我們的價值觀灌注到造物當中，換言之，人的造物是其思想的外顯，技術(shù)就是人類思想可以觸碰的形式。而技術(shù)人員，就是喜歡以這種方式表達自我的人。

因此，建構(gòu)虛擬世界就是在以游戲化的形式表達自己的價值觀。這正是它的魅力所在。雖然錢是好東西，但是很多人從事某一行業(yè)不一定是為了錢。我們希望讓自己的價值觀轉(zhuǎn)化為切實的事物，用我們的價值觀去影響這個宇宙，而技術(shù)就是當下實現(xiàn)這個目的最好的手段。無論是作家還是技術(shù)人員，我們熱愛自己的工作，是因為我們的工作既好玩，又可以表達自己的價值觀。

尼爾·斯蒂芬森：并不存在世界設(shè)定的通解。一些小說把背景放在遠未來，遠到與奇幻幾乎無異。比如《沙丘》（Dune）里面關(guān)于星艦工作原理的描述，就完全是一個奇幻點子，而跟現(xiàn)有技術(shù)沒有什么關(guān)系。而《蒼穹浩瀚》（The Expanse）這部劇集就更接近我們的世界，只是在當下現(xiàn)實世界之上添加了少量關(guān)鍵設(shè)定。比如說，設(shè)想出一種火箭發(fā)動機，它可以讓飛船保持1G加速度直到航程中點。只是多了這樣一個發(fā)動機，未來世界會發(fā)生怎樣的改變？而基于這個核心設(shè)定，我們可以建構(gòu)出一個怎樣的世界？

因此，每本書都不同，但創(chuàng)作過程中往往遵循一個基本脈絡(luò)：先有一個想要表達的核心想法，然后填充人物和情節(jié)；下一步則是精心構(gòu)建一個自圓其說而又完美服務(wù)于故事本身的世界。

喬納森·布雷布納：你之前提到你喜歡那種“獲得了一個有更高G力的火箭引擎”的小說。我感覺你喜歡向過去看，比如你的《赤色馬球》就帶著讀者回到了原子能時期。我也有過類似的喜好，有一段時間在鉆研《圣經(jīng)》古文本考據(jù)。我覺得這是一種對時代加速感的防御性反應(yīng)，時代發(fā)展得越來越快，沒人可以完全理解現(xiàn)在正在發(fā)生的一切。而“考古”只是在發(fā)現(xiàn)業(yè)已生成的舊信息，你知道它不會創(chuàng)造新的信息，這可以逃避加速感給人的不適。

我知道你10年前就已經(jīng)開始寫《赤色馬球》了。你寫這本書的動機包括逃避世界的飛速變化嗎？

尼爾·斯蒂芬森：現(xiàn)在LLM給大眾的沖擊，就像1950年代太平洋上的核試驗給人的沖擊一樣。看啊，美國造出了一顆一千萬噸的氫彈，蘇聯(lián)造出了五千萬噸的氫彈，我們的技術(shù)是多么的強大！

但是我，還有很多人，會更喜歡一些更小層面上的核技術(shù)，比如熒光手表讓我們可以在黑暗中看到時間，熒光鏡讓醫(yī)生不用剖腹探查。它們以一種可感知的方式，以一種具體的方式改變了我們生活的某個細節(jié)，而不是用宏大的技術(shù)神跡來讓人迷失。我覺得這就是我們面對加速感無所適從的根源。而且，我也同意看向過去，比如破譯被燒毀的龐培手稿，可以讓人走回舒適圈，找到內(nèi)心的寧靜。

通用型人工智能（AGI）

喬納森·布雷布納：現(xiàn)在來討論AI與意識吧，這應(yīng)該是個有趣的話題。我想問的是，你覺得未來什么樣的技術(shù)可以被歸類為AGI？AGI離我們還有多遠？

約夏·巴赫：恐怕現(xiàn)在沒人可以回答這個問題，我至今沒有看到過任何一個足以說服我的論述，無論是支持或者反對AGI的。

從現(xiàn)象學角度看，LLM確實展現(xiàn)出了一些類AGI特質(zhì)，但這與人類意識有本質(zhì)區(qū)別。Transformer架構(gòu)不同于人類意識，它不需要在工作記憶中創(chuàng)建連貫敘事來主導(dǎo)心智活動（colonize the mind）。LLM是基于給定的模型子集工作，具有決定論特征。當你用提示詞引導(dǎo)LLM扮演對話伙伴時，它可以呈現(xiàn)很多種可能；而當你讓它模擬某個應(yīng)用程序，這些現(xiàn)象學特質(zhì)則會消失。而如果你引導(dǎo)它進入一種具有覺知和自我意識的狀態(tài)，它會建立因果模型來解釋自身行為，試圖模擬這場對話底層的因果關(guān)系。

這就帶出了一個復(fù)雜的問題，LLM生成出的多媒體故事與大腦產(chǎn)生的敘事孰優(yōu)孰劣？我們也只是幾千億個神經(jīng)元的集合，細胞之間彼此協(xié)作，共同塑造了一個嚴絲合縫的認知世界。對我而言，這是一個懸而未決的重要問題。或許我們需要一個模型，來精確重構(gòu)人腦古怪的認知回路。我們能否將其轉(zhuǎn)化為某種可通過機械可解釋性（mechanistic interpretability）來檢測的東西？

還是說，我們該從另一個方向下手——從零開始建立一個自組織系統(tǒng)，讓它處理足夠復(fù)雜的任務(wù)，如視頻序列預(yù)測或機器人身體控制。在學習過程中，會出現(xiàn)某個臨界時刻，這個系統(tǒng)會發(fā)生相變，性能出現(xiàn)質(zhì)的飛躍，然后它會以傳統(tǒng)的方式學習語言，并最終報告其自身的現(xiàn)象學體驗。

AI還有一個“普遍性假說”（the universality hypothesis in AI），只要訓練數(shù)據(jù)集相同，不同架構(gòu)的AI模型最終會收斂到相似的特征層級結(jié)構(gòu)（feature hierarchy）。這是OpenAI的克里斯·奧拉（Chris Olah）提出的假說，他注意到不同的視覺模型會提取同樣的視覺特征，甚至人腦的視覺皮層提取的也是這些特征。所以，如果我們建立一個AI模型，然后用人腦的輸入輸出數(shù)據(jù)去訓練它，那么這個模型會因此產(chǎn)生意識嗎？

細想這個問題，更是讓人腦洞大開：某種程度上，人類自己也是一個經(jīng)過端到端訓練的模型，訓練集目標是成為人類。沒人知道人類的認知過程究竟是否存在AI所不具備的隱秘“神識”。

回到我自己，我研究的課題就是，是什么讓我們產(chǎn)生了內(nèi)驅(qū)力？我們需要怎樣的火花，讓一個自組織系統(tǒng)變成一個具有自我覺知、可以與世界互動的系統(tǒng)？也許再來幾篇論文就能解決這個問題，也許再過幾年就有了。

我認為意識并不是某種魔法，更不是什么陰謀，我們也并非芯片上運行的模擬人。根據(jù)我們對人腦數(shù)據(jù)處理能力的觀測和認知復(fù)雜度的估算，理論上一張H100顯卡應(yīng)該就足以模擬我們的“內(nèi)心影院”了。看看現(xiàn)在的生成式模型，它們創(chuàng)作的作品展現(xiàn)的豐富細節(jié)和思維深度，它們在計算能力上已經(jīng)達到了人類神經(jīng)網(wǎng)絡(luò)相當?shù)乃健?/p>

? NVIDIA H100 GPU是英偉達2022年發(fā)布的基于Hopper架構(gòu)的高性能計算與AI加速利器，具備第四代Tensor Cores、HBM3內(nèi)存和多實例GPU技術(shù)，AI訓練速度比上一代A100快9倍，推理速度快30倍，廣泛應(yīng)用于AI模型訓練、數(shù)據(jù)分析、高性能計算和云服務(wù)等領(lǐng)域，是未來計算的重要發(fā)展方向。不過，H100的下一代H200也已于2023年11月發(fā)布。圖源：https://neysa.ai/

現(xiàn)在還需要解決的問題就是，我們是否可以讓這個系統(tǒng)涌現(xiàn)出自主性，使其可以主動觀察世界，形成類似生物的感知-反應(yīng)回路？雖然目前我還不清楚具體的實現(xiàn)路徑，但我認為突破點在不遠的未來一定會出現(xiàn)。這個解決方法也許只是對現(xiàn)有LLM和多模態(tài)模型的擴展延伸，也可能是需要設(shè)計全新的損失函數(shù)（Loss Function），正是這種未知性，讓這個問題變得如此吸引人。

喬納森·布雷布納：現(xiàn)在看來，也許只需要再來幾篇突破性論文就能看到機器意識的問世。可是放在幾年前，大多數(shù)人還認為機器意識是天方夜譚。

約夏·巴赫：說不定，這些突破性論文甚至不是人類寫的。雖然，LLM并不是我們追求的AGI，但是LLM或許可以用窮舉法比人類更高效地找到實現(xiàn)AGI的技術(shù)路徑，我們可以把這個工作完全交給它。

幻想與現(xiàn)實的關(guān)系

克里斯蒂安·貝爾納德斯：賽安剛才說AI是一場新的技術(shù)革命，約夏也說沒人知道AI會走向何處。賽安，作為一個靠預(yù)測未來吃飯的投資人，AI的加速進步會如何影響你的投資分析？

賽安·班尼斯特：創(chuàng)業(yè)者既是實干家又是夢想家，我依賴于他們給我的信息來判斷未來。我會追逐離群值（outliers）。作為投資人，我經(jīng)常聽到許多相似的創(chuàng)業(yè)故事，直到某個人帶來一個全新的故事，讓人耳目一新。我就是在找這樣的人。投資行業(yè)把這種人稱之為“領(lǐng)頭羊”（bellwether）。

現(xiàn)在我對靈性技術(shù)（spirit-tech）很感興趣。靈性技術(shù)把技術(shù)引導(dǎo)回主觀意識，開始有一些人思考技術(shù)對靈性與宗教的影響，如何用技術(shù)啟蒙我們對自己的認知。在現(xiàn)階段，理解我們自己的意識比理解AI是否會產(chǎn)生意識更為重要。

AI產(chǎn)生意識的時刻，會跟圣靈感孕*一樣具有神性。我們恐怕還沒有充分認識到這一事件的重大意義。回頭看來，我們習以為常的先進技術(shù)，在過去的某個時刻也曾被認為是不可能的。一千年前的古人可沒法通過Zoom打視頻會議。所以，當AI真正產(chǎn)生意識時，人類可能也不會那么震撼，而是淡淡地“哦，知道了。”

我的很多投資決策、我對未來的一部分想象，跟尼爾·斯蒂芬森的作品是一致的。我認為科幻作品的意義在于，它想象了我們可能生活的未來，也是我愿意投資的未來。但是在我經(jīng)歷過的很多關(guān)于AI的其他會議里，大家對科幻小說并不感冒。我真心希望人們可以讀更多的科幻小說，知道自己在向怎樣的未來邁進。

約夏·巴赫：不過我們要意識到，故事創(chuàng)作本身也有其局限性。為什么基督教神話以“被提”*結(jié)尾？因為當所有靈魂融為一體，成為某種不可知的存在，擺脫了肉體的痛苦，就再也沒有“人”的故事可講了。我懷疑也是因為這個原因，類似主題的科幻小說少之又少。

圣靈感孕是基督教信仰中描述的奇跡，指耶穌由神的力量在處女瑪利亞子宮中成孕的過程，而非通過人類性行為。

被提（Rapture）是某些基督教信仰中，信徒突然被神的力量帶到天堂的末世事件。

尼爾·斯蒂芬森：我可以為沒有被提的人寫一個很精彩的故事——至于上了天堂的人，肯定很無聊，他們除了彈豎琴和飛行以外什么都不會干。

克里斯蒂安·貝爾納德斯：在我跟LLM的對話之后，我改變了我對我認知的一些看法。約夏，你在與LLM互動的時候，有沒有改變了你對自我及其邊界的一些想法？

約夏·巴赫：并沒有什么改變。一個正常運作的LLM并不是自由發(fā)揮的算法，而只是在執(zhí)行人類給它的任務(wù)。他們只是在通過模擬人類的語言，來模擬人類的思考過程。我感興趣的是做一些現(xiàn)在做不到的事情，比如用它們創(chuàng)作以往不存在的藝術(shù)類型，一些人在嘗試利用LLM給音樂配上人類不可能想到的歌詞。

當我們寫故事、挖想法、碼代碼的時候，我們只能在人類思維的框架下去做這些。人類不會為了寫幾行詩就創(chuàng)造出一個跟《鉆石時代》一樣完善的世界，這樣性價比很低，但LLM可以。單是理解這個世界、與之互動，已經(jīng)超出了人類的能力范圍；而對于LLM，它可能并不具備意識，但很快就能夠操控這樣的世界，在其中創(chuàng)造藝術(shù)，與之互動。這非常令我興奮。一旦LLM走到了這一步，人類就很難跟上它的腳步了。

彩蛋/快問快答：

你們的意識理論是什么？

尼爾·斯蒂芬森：我認為，意識和肉體是密不可分的，正因如此，我很難理解AI的存在——我無法認識一個意識或智能，而它并不依賴于脆弱、有限、與我們相似的載體。

劉宇昆：作為一個唯物主義者（materialist），我從根本上相信意識可以體現(xiàn)在其他物質(zhì)而不是人體中。但問題是，我們是目前唯一存在的意識案例。一個與我們截然不同的意識體？我不知道它到底是什么。

賽安·班尼斯特：肉體是我們在地球上穿的太空服，意識是一種能量，它無處不在。

約夏·巴赫：很多其它的文化都信仰泛靈論（Animism）。泛靈論認為，生與死的邊界在于物質(zhì)是否承載靈體，而靈體具有主觀能動性與意識體驗。但在科學的世界，我們不相信靈體，我們只相信機制。所以我們才有意識的難問題，我們很難用機制去解釋心理表征、內(nèi)省、情緒體驗，盡管AI已經(jīng)展現(xiàn)了復(fù)制這些體驗的可能性。

我自稱“賽博泛靈論”者（cyberanimist），我認為靈體的實質(zhì)是從大自然出現(xiàn)、接受大自然塑造、在大自然的推動下運行的自組織程序。如果你接受了我的世界觀，你會發(fā)現(xiàn)亞里士多德也有同樣的想法，他認為靈體在動態(tài)地塑造物質(zhì)，然后讓物質(zhì)以特定規(guī)律運行。

從這個角度來說，我是物理主義者（physicalist）或自然主義者（naturalist），但我認為軟件是我們描述現(xiàn)實的一種方式。如果忽視軟件，你就無法更簡單地描述現(xiàn)實。軟件本身并沒有什么神奇的，它具有這些非物質(zhì)的特性。現(xiàn)在很多科學無視了軟件的部分，只是把腦當成純物質(zhì)的神經(jīng)簇來研究，這是一個巨大的錯誤。

譯者后記

我自認為看過的科幻不少了。先展示一下成分：我看過《三體》、《基地》、《你一生的故事》這樣的科幻小說，也很喜歡愛死機、攻殼、流浪地球等科幻電影和電視劇。不過我最喜歡的是電子游戲：在《地平線》的世界里扮演埃洛伊狩獵機械獸，在《群星》中領(lǐng)導(dǎo)剛剛發(fā)現(xiàn)超光速飛行的文明統(tǒng)治銀河，在《死亡擱淺》里重新連接破碎的世界，在《2077》中以朋克精神把象征跨國公司權(quán)威的雄偉大樓燒成灰。

《三體》在技術(shù)上無比硬核，黑暗森林理論甚至在現(xiàn)實中成為了反對METI（主動發(fā)送信息到地外）的理論依據(jù)；《我，機器人》的阿西莫夫三定律及其推演出的內(nèi)在矛盾，迄今仍是機器人與AI倫理的一盞明燈。這樣的“硬”科幻作品固然可貴，但科幻作品并不一定要懂科學。攻殼和2077并沒有深入探討作為核心科幻點子的義體技術(shù)，但卻深入地討論了技術(shù)對人性的異化、技術(shù)加重資本主義剝削等嚴肅的哲學與社會議題。它們在科學方面的“軟”并沒有影響它們作為文學作品的分量。因此，科幻的偉大既在于它能成為像《三體》、阿西莫夫機器人學那樣的理性圣殿，又能夠如劉宇昆所述般“深入集體無意識”，打撈出披著技術(shù)外殼的賽博神祗。我個人雖偏好前者，但我承認兩者同樣閃閃發(fā)光。

對談視頻鏈接：

https://www.youtube.com/watch?v=J7FN53FqB1U&t=2026s

對談音頻鏈接：
https://open.spotify.com/episode/6SHoBM5J96mA7TzA1thaGw?si=7d10e96d781744aa

關(guān)于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。歡迎評論區(qū)留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復(fù)哦~

關(guān)于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創(chuàng)建的世界最大私人腦科學研究機構(gòu)之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經(jīng)科學研究院。

Chen Institute建成了支持腦科學和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎勵計劃、、等。