阿尼爾·塞斯：為何AI會陷入無限循環？

追問快讀：AI常陷入“無限循環”困境——程序會無休止重復相同步驟，卻始終無法抵達終點；但反觀有意識的生物，從不會出現這類無限重復的行為。二者為何存在這般差異？神經科學家阿尼爾?塞斯（Anil Seth）給出了關鍵解答：生命體的核心優勢在于“扎根于時間與熵”，而這種與時間、熵的深度綁定，或許正是意識得以存在的重要根基。

?阿尼爾·塞斯（Anil Seth）神經科學家、作家和公共演說家，20多年來致力于對大腦意識基礎的前沿研究。他著有《意識機器：成為你自己》（Being You: A New Science of Consciousness）一書。

我們的航班準時降落在馬德里巴拉哈斯機場，下機卻出現了延誤。原來，這里的登機橋由一套新的人工智能系統操控——本無需人工介入，直到這次出了狀況。透過舷窗，我看到AI操控的登機廊橋反復靠近飛機，在清晨的空氣中微微晃動，接著又退回原位，一遍又一遍，徹底陷入了無限循環。最終，一名工作人員趕來解決了問題：他一眼就找出了癥結，很快便完成了修復。

人類不會陷入無休止重復同一行為的困境，但AI卻偶爾如此——無論是在停機坪上陷入停滯，還是在自動呼叫中心的“煉獄”里打轉。這些例子看似只是AI的簡單智能故障，但在我看來，它們揭示了更深層的問題：這是一種根本性局限。即便未來出現最先進的AI，也可能永遠擺脫不了陷入無限循環的風險——AI既無法察覺自身正處于困境，也無法自主從中脫身。

試想一套更智能的登機廊橋系統：它能監控自身運行狀態，察覺自身何時出現晃動故障。借助這套涵蓋環境與自身行為的內部模型，它能做到如今自動登機橋做不到的事。但即便如此，這套系統歸根結底也會出故障。于是，你為它添加另一層更高階的反饋循環——也就是“模型中的模型”，專門監控其自身的監控過程。要是這層監控也失靈了呢？那就再添一層。以此類推，每增加一個遞歸層級，系統就能獲得某種程度的智能提升，同時也提升了穩定性。

但問題在于，故障永遠難以根除——哪怕是在這種層層嵌套的自我監控系統中，仍可能出現差錯。除非能構建出無限層級的遞歸自我檢查機制，否則系統終會陷入無限循環，始終無法滿足停止條件，最終導致整個系統崩潰。

近一個世紀以來，計算機科學家一直在努力攻克這一難題。1936年，艾倫?圖靈（Alan Turing）證明了一個重要結論：沒有任何算法能始終判定在給定輸入下是會終止運行還是無限循環下去。

舉個例子：假設你在編寫指令讓機器人執行任務。有些程序很簡單，機器人完成任務，算法就終止。但另一些程序更復雜，包含循環和條件判斷，比如“一直移動，直到看到紅色物體為止”。如果機器人始終沒看到紅色物體，或者程序邏輯存在缺陷，它可能就會無休止地執行指令。而無論你的代碼多么先進，都可能無法預測它最終是否會停止。

圖靈的見解較為抽象，約翰?麥卡錫（John McCarthy）與帕特里克?J?海耶斯（Patrick J. Hayes）于1969年提出“框架問題”則更具體地揭示了算法的局限。框架問題的核心直指，要教會機器只基于相關信息做出明智決策，而不要逐一考慮所有無關細節，是極其困難的。但由于特定場景中的無關信息可能無窮無盡，機器很難判斷該忽略哪些內容，這就為另一種無限循環埋下了隱患。

對這些問題的思考在智能（無論是自然智能還是人工智能）研究中具有里程碑意義，但隨著社群中深度神經網絡和生成式模型的興起，它們在很大程度上已逐漸被淡忘。但這并不意味著這些問題已經消失。正如馬德里登機廊橋的例子所揭示的，技術落地時依然充滿各種可能的陷阱。AI系統之所以可能永遠難以擺脫陷入無限循環的風險，并非因為它們缺乏處理能力，而是因為這些系統與我們具身的生物大腦之間存在更深層的差異。

這種差異始于計算機與大腦對時間的不同感知方式，最終體現在日常的意識奇跡之中。

“智能”與“意識”是兩個不同的概念——盡管一些科技巨頭錯誤地認為，智能的不斷提升必然會催生意識。簡而言之，智能關乎“行動”，而意識關乎“存在”或“感受”。但至少在人類和其他動物身上，二者仍有關聯。我的假設是：某些形式的智能——尤其是在開放世界中徹底擺脫無限循環陰影所必需的智能——依賴于意識心智所具備的能力，而這種意識深深植根于時間的流動之中。

植根于時間與熵之中

雖然疊加自我監控層級或許足以讓登機廊橋正常運轉，但人類處理復雜性的方式并非如此。像你我這樣有生命、有意識的生物，即便在遠比機場更難預測的環境中，無需依賴那些越來越復雜的循環機制，也能生存甚至發展。

事實上，人類心智縱然奇妙，卻并不擅長處理遞歸問題。大多數人最多能應對三個層級的遞歸，即“知道自己知道自己知道”，例如，我有時能確信自己有能力判斷自己的對錯。如此看來，我們在開放世界中展現出的出色適應能力，必然基于某種“其他機制”。

這種“其他機制”會是什么？一種可能是我們的心智、大腦，以及有意識的體驗，以一種算法無法設計出的實現方式，深深植根于時間與熵之中。

我們人類作為動物，與其他活著的生物一樣，需要不斷抵御由熱力學第二定律所決定的向衰退與無序滑落的趨勢。該定律指出，孤立系統的熵只會增加（或保持不變），而熵正是衡量系統混亂度或隨機性的物理量。一滴墨水會在一杯水中擴散開來，且永遠無法重新聚集；一枚破碎的雞蛋，也絕不會自行恢復完整。物理學家阿瑟?愛丁頓（Arthur Eddington）曾指出，這一定律不容置喙，“若你的理論被證明違背了熱力學第二定律，那我只能說你毫無希望；除了徹底崩塌、顏面盡失，你別無出路。”

熱力學第二定律成立的關鍵點在于，它僅適用于孤立系統，比如密封保溫杯，這類系統與周圍環境之間不存在能量交換。而在開放系統中，系統與環境之間可進行能量交換，因此熵的降低成為可能。生命系統正是開放系統的典型范例——從環境中獲取能量，將自身維持在“存活”這一統計學上極具特殊性的狀態。

這一過程以多種方式、在不同層面展開。我們體內的細胞通過新陳代謝的能量流動，持續重建自身存活所需的條件。神經科學領域的一些重要理論（尤其是自由能原理）認為，神經環路不斷運作，以最大限度地降低感覺輸入帶來的意外性（即減少其信息熵），并借此過程，對身體的生理狀態予以預測性調控。

有意識的體驗，同樣直接體現了這種維持生存的根本驅動力。每一次有意識的體驗都會整合大量與生存相關的信息，有意無意地引導我們的行為。而且，可以說所有這些體驗，都包含一絲情感“效價”，這些或多或少的積極或消極感受，潛移默化地推動我們做出特定行為。正如我在《意識機器：成為你自己》一書中所寫的：

我們感知周遭世界，也感知身處其中的自己，這一切都依賴于我們鮮活的身體。

這些多尺度過程深度交織，且均與時間緊密關聯，區別僅在于其關聯方式各不相同。代謝過程在生化時間中展開，人體每個細胞每秒可發生十億次生化反應。神經的時間則相對緩慢，但同樣受神經生物學的調控：既有髓鞘動作電位的疾速傳遞，也有神經遞質的緩慢擴散。而在意識流中，時間的流逝是連續、不可抗拒且復雜的——它不僅包含時序更迭，還涵蓋了流動感、持續性與存續感。

無論是身體、大腦還是心智中的時間，都是豐富、動態且多維度的，并且在從生化層面到個人身份認同層面的各個層級中，相互深度依存。我們的整個存在方式，都不可避免地植根于物理時間之中；而物理時間本身，在眾多物理學家看來，又根植于熱力學第二定律。

AI的貪得無厭

人類大腦與計算機之間的分野，既涇渭分明，又發人深省。對數字計算機而言，時間是扁平、一維的，并且全然脫離了其熱力學箭頭。計算的核心就是狀態的躍遷：從A到B，從0到1。在圖靈提出的經典計算模型中，只有序列至關重要，其物質基礎的內在動態過程則無關緊要。任何算法，不過是一連串接踵而至的狀態而已。算法中兩個步驟（比如從A到B）之間的間隔，可能是一微秒，也可能是一百萬年，但這并不影響算法本身的性質，計算過程也始終保持一致。

這種對時間的漠視代價高昂。計算固然可以脫離時間（如圖靈對計算的形式化定義），但計算機自身卻不能。如今AI的驚天能量缺口，很大程度上源于糾錯需求，必須始終確保1是1、0是0——因為就算是死寂的硅沙，也無法逃脫熵的卷須。假裝時間不存在，其實是一門昂貴的交易。

之所以算法會陷入無限循環，而智能動物卻幾乎不會，我認為關鍵原因正是如此。算法被困在序列空間中，原則上不受熵的拉扯；因此總會出現一些無法預見的意外——計算還未完成，時間就已終結（更有可能的情況是，能量耗竭）。

與計算機不同，我們是身處時間之中的生命——既是具身的，又植根于環境，并與時間同行（embodied, embedded, and entimed）。我們永遠不會陷入無限循環，因為我們的存在從未脫離時間。對人類這樣的生命體而言，在時間壓力的驅動下，那股不斷消解統計意外并維持生理存活的內在動力，既是一道終極相關性過濾器，也是我們幾乎總能找到出路的關鍵所在。

我之所以說“幾乎”，是因為現實中存在許多行為重復性案例，它們雖非無限循環，卻帶有某種循環傾向。這類情況范圍廣泛：從額葉受損后出現的持續性重復行為，到強迫癥，再到重度自閉癥與抽動穢語綜合征（Tourette’s syndrome）患者的重復動作，甚至還包括具有自我毀滅傾向的成癮行為。從某種意義上說，這些案例恰恰印證了我的觀點——因為它們本質上反映的是“正常”神經認知功能的紊亂。

若這些觀點方向正確，那么依賴圖靈計算的AI系統，將永遠缺乏某些具身與具時性（entimed）的智能行為。而倘若這一結論成立，那么通用人工智能（AGI，即能在任何認知任務中達到或超越人類水平的智能）的前景，將比以往任何時候都更像是一場虛幻泡影。

有意識的AI的神話

新型AI能否以比經典計算更豐富的方式，與時間流建立關聯？這一領域既有悠久的歷史，也有著充滿可能的未來。最早的“計算機”，如有2000年歷史的天文預測裝置“安提基特拉機械”（Antikythera mechanism），就屬于模擬計算機，以連續時間模式運行。而在當代，研究人員正探索多種新方法，“凡人計算”（mortal computation）便是其中之一。在這種模式下，計算過程可依賴于執行它的特定硬件，當硬件“失效”時，算法也會隨之“消亡”。這種方法通過對熱力學第二定律的無常性擁抱而不抗拒，有望大幅提升能量利用效率。此外，還有多種類型的神經形態計算（neuromorphic computing），與圖靈那種脫離時間的基準模型相比，這類計算在不同程度上模擬人類大腦的工作方式，且更植根于時間維度。

基于動力系統的智能研究方法，則完全避開了計算的思路，轉而聚焦于更加重視時間的吸引子（attractor）、相空間（phase space）等概念。這類方法的源頭可追溯至AI發展初期，以及在歷史上曾被忽視的控制論（cybernetics）傳統：控制論關注的是反饋與調控，而非算法符號處理。

這些方法能帶來諸多收獲，還有許多新型AI有待探索。但即便如此，我仍懷疑：即便采用具時性計算或控制論工程，也無法完全擺脫無限循環的陰影，更難以徹底實現生物系統所具備的那種開放式、適應性智能。

我認為，這類智能不僅與時間緊密關聯，甚至可能與意識必要綁定。至少，若像我一樣理解意識（將其視為與生存驅動力深度關聯的過程），便會認同這一點。在這種視角下，有意識的體驗實現了貫穿多個層面的整合，從代謝層面對熵的抵抗，到感知層面為行動與規劃提供契機，且始終不可分割地嵌入時間流之中。正是這種多尺度整合，構成了關鍵差異所在——也正因如此，有意識的體驗才如同一種具備足夠“信用”的“通用工具”，足以幫助生物擺脫幾乎所有無限循環，并重新界定任何框架問題。

還有其他一些觀點將意識與開放式智能聯系起來，盡管它們并未聚焦于時間和熵。

二十年前，認知科學家默里?沙納漢（Murray Shanahan）受意識的全局工作空間（global workspace theory）理論啟發，提出意識能提供必要的資源，通過以不同方式整合認知與感知元素，來解決或至少回避框架問題。

理論生物學家伊娃?雅布隆卡（Eva Jablonka）和西蒙娜?金斯伯格（Simona Ginsburg）認為，意識與所謂的“無限聯想學習”（unlimited associative learning）相關，這是一種特殊的學習形式，能促成新解決方案的開放式發現。

總之，目前呈現的圖景是：某些形式的智能（至少在生物身上，又或許在任何情境下），可能都需要意識的參與。

換個角度思考也很有意義。如果有意識的體驗依賴于深度嵌入時間之中，依賴于在熵主導的宇宙中維持生存的代謝需求，這將對AI的未來有著重要啟示。具體而言，經典數字計算在時間維度上的扁平特性（狀態依次更迭，而時間間隔全然任意），似乎與意識“豐富動態過程”的本質存在根本沖突。如果意識確實與物理時間密不可分，那么它就不可能僅僅是算法的產物。這給“AI意識即將到來”論調的棺材板上又釘上了一枚釘子——如果說它死得還不夠徹底的話。

哲學家丹尼爾?丹尼特（Daniel Dennett）晚年喜歡談論意識科學中的“困難問題”，這是對大衛?查默斯（David Chalmers）著名的“困難問題”（即意識究竟如何產生）的趣味呼應。在丹尼特看來，這些“困難問題”都關乎意識的功能——并未意識“是什么”，而是意識“做什么”。正如他所說：有意識的體驗發生了，“然后呢？”

答案或許就藏在時間之中。意識，或許正是造化的一種手段，讓其孕育的智能造物得以存續綿延，（幾乎）總能在困境中找到出路。

譯者后記

編譯這篇文章時，最觸動我的是它用馬德里登機橋的日常案例，把圖靈停機問題、熵增定律這些抽象概念拉到了現實里——原來AI的“卡殼”不是技術漏洞，而是與生物意識在時間感知上的根本差異。文章關于“意識是抗熵與時間的多尺度整合”的觀點，讓我格外認同。但也留下疑問：神經形態計算雖模擬大腦時序，可它能復現意識里那種“效價”——哪怕微弱的積極或消極感受嗎？這或許是AI突破循環的關鍵缺口。若大家想深入探索，推薦作者的（Being You），書中對“具身意識”的闡釋更細膩。希望這篇編譯，能讓更多人思考：AI的局限，或許恰是幫我們看清人類意識獨特性的鏡子。

https://bigthink.com/neuropsych/anil-seth-consciousness-time-perception/

關于追問nextquestion

天橋腦科學研究院旗下科學媒體，旨在以科學追問為紐帶，深入探究人工智能與人類智能相互融合與促進，不斷探索科學的邊界。歡迎評論區留言，或后臺留言“社群”即可加入社群與我們互動。您也可以在后臺提問，我們將基于追問知識庫為你做出智能回復哦~

關于天橋腦科學研究院

天橋腦科學研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一，圍繞全球化、跨學科和青年科學家三大重點，支持腦科學研究，造福人類。

Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室；與加州理工學院合作成立了加州理工天橋神經科學研究院。

Chen Institute建成了支持腦科學和人工智能領域研究的生態系統，項目遍布歐美、亞洲和大洋洲，包括、、、科研型臨床醫生獎勵計劃、、等。