圖靈獎得主、強化學(xué)習(xí)之父 Sutton 隔空回應(yīng)圖靈獎得主 Hinton：目前的 AI “理解不足，調(diào)參有余”

來源：AI 科技大本營（ID：rgznai100）

編譯：王啟隆

來源：youtu.be/lieqoaBV6ww

“我們不該恐懼 AI，正如我們不該恐懼自己的孩子。”

在人工智能的狂熱浪潮中，這或許是你聽過最清醒、也最宏大的聲音。

2026 年初，當全世界都在為大模型的參數(shù)競賽而焦慮，為 AI 可能取代人類而恐慌時，一位圖靈獎得主、強化學(xué)習(xí)之父——Rich Sutton，并沒有加入這場喧囂的合唱。相反，他選擇從更深遠的維度，重新審視 AI 的本質(zhì)、政治與哲學(xué)。

這次演講位于洛杉磯加州大學(xué)（UCLA）的純粹與應(yīng)用數(shù)學(xué)研究所（IPAM）。在這個充滿學(xué)術(shù)氣息的禮堂里，Sutton 面對著一群頂尖的數(shù)學(xué)家和科學(xué)家，發(fā)表了這篇名為《AI 的未來》（The Future of AI）的最新演講。

Sutton 的觀點和前幾天 AI 教父 Geoffery Hinton 截然不同（），與其說“反直覺”，不如說是在“正本清源”。

他犀利地指出，當下基于人類數(shù)據(jù)的 AI 只是“脆弱的心智”，真正的未來在于能夠像嬰兒一樣從經(jīng)驗中持續(xù)學(xué)習(xí)的智能體；他大膽地將 AI 的管控問題與人類社會的政治相提并論，呼吁去中心化的合作而非基于恐懼的獨裁；他甚至將 AI 視為宇宙演化的必然階段，邀請我們以“特殊的復(fù)制者”的身份，驕傲地開啟屬于“設(shè)計”的第四個偉大時代。

在這里，AI 不再是冷冰冰的代碼，而是宇宙漫長進化史中，人類親手點燃的下一把火炬。

以下為 Rich Sutton 演講全文。

對當前 AI 進展的批判性思考

在開始正式演講前，讓我們先看看這個領(lǐng)域的現(xiàn)狀，以及大家對它的看法。現(xiàn)在的普遍共識是：AI 正在以驚人的速度進步，一切都令人興奮不已。但是，當所有人都持有相同觀點時，我們就該警惕了。我們需要反思：事實真的如此嗎？

我想我們有理由對此提出質(zhì)疑。AI 真的在突飛猛進嗎？

誠然，讓計算機熟練運用語言，這確實是一個巨大的突破。就在不久前，我們也無法想象神經(jīng)網(wǎng)絡(luò)能做到這一點，但現(xiàn)在它已成事實。同樣，我們也利用海量算力生成了逼真的圖像和視頻。

但請大家想一想：真正的“心智（Mind）”在進行智能活動時，一定要生成圖像嗎？并不。這反而是我們?nèi)祟惔竽X從未做過的事。我們需要處理圖像，需要處理視頻，但我們不需要生成它們。這并不是心智的本質(zhì)功能。這更像是一項極度消耗算力且困難的任務(wù)，而非我們通常所定義的“智能”的核心部分。

此外，雖然出現(xiàn)了許多新的實際應(yīng)用，催生了全新的產(chǎn)業(yè)和經(jīng)濟價值，但這其中絕大部分，其實是超大規(guī)模計算和超大規(guī)模模式識別的應(yīng)用。它們是非常具體的功能，并不代表智能的全部。很多時候，那僅僅是計算，我們稱之為“智能”，只是為了讓這工程聽起來更宏大罷了。

所以，我要問各位：AI 的“科學(xué)”真的在突飛猛進嗎？

我看未必。（現(xiàn)場觀眾大笑）

謝謝大家的笑聲，這讓我感覺沒那么孤單了。在我看來——恕我直言——目前的 AI 領(lǐng)域是“理解不足，調(diào)參有余”（little understanding, lots of tweaking）。我們并不真正掌握心智的原理，也不懂智能的法則。作為一門科學(xué)，它在許多方面是令人失望的。

我傾向于這樣看待目前的 AI 模型：它們雖然因掌握了人類的所有知識而顯得強大，但本質(zhì)上，它們是脆弱的心智（weak minds）。它們不可靠，無法專注，思維游離。除了擁有海量知識外，它們在智能本質(zhì)上其實并不強大。

這或許是看待當今 AI 的一種不同視角。

定義“智能”

那么，我們要討論的這個“人工智能”究竟是什么？既然叫 Artificial Intelligence，我們得先定義什么是 Intelligence（智能）。

多年來有很多定義。我選了一些由權(quán)威提出的經(jīng)典定義。

也許最古老的一個來自心理學(xué)之父威廉·詹姆斯（William James）。他在 1890 年的《心理學(xué)原理》中雖然討論的是“心智”而非“智能”，但他提出的心智特征非常經(jīng)典：“通過多變的手段達到一致的目的”（attaining consistent ends by variable means）。意思是，為了通過不同的路徑達成同一個你想要的結(jié)果，你需要靈活調(diào)整你的行為。

再來看看艾倫·圖靈（Alan Turing）。他其實沒有給出一句簡練的名言，但后人將其觀點解讀為：智能就是“表現(xiàn)得像個人”。這就是著名的圖靈測試（Turing Test）——雖然圖靈本人從未稱之為“測試”，他叫它“模仿游戲”。如今，這種觀點被廣泛接受：智能意味著模仿人類的行為。

但我并不認為這是我們強大的原因。人類之所以強大，是因為我們擁有智能，所以我們表現(xiàn)得像人。重要的是“人”內(nèi)在的本質(zhì)，而非外在的表現(xiàn)。

那么那個本質(zhì)是什么？看看字典怎么說。我的電腦字典顯示：智能是“獲取并應(yīng)用知識與技能的能力”。我覺得這個定義相當不錯。它強調(diào)了知識，更強調(diào)了獲取（acquire）——也就是學(xué)習(xí)的重要性。

而在 AI 領(lǐng)域，我們的開山鼻祖之一約翰·麥卡錫（John McCarthy）曾定義智能為：“實現(xiàn)目標的能力中，涉及計算的那一部分。”

我非常喜歡這個定義。首先，它強調(diào)這是一種能力，能力是有高低之分的，而不是“有或無”的二元對立。其次，它強調(diào)了計算。你達成目標不僅僅是因為你力氣大或者傳感器靈敏，而是因為你進行了心智層面的計算處理。最后，實現(xiàn)目標（achieve goals）是核心。這又呼應(yīng)了威廉·詹姆斯所說的“通過多變的手段達到一致的目的”。

我也湊個熱鬧，在此基礎(chǔ)上提出了我的定義：“通過調(diào)整行為來實現(xiàn)目標的能力。”我特意用了“調(diào)整”（adapting）這個詞，因為我認為學(xué)習(xí)——即知識和技能的獲取過程——才是智能的關(guān)鍵，而不僅僅是擁有它們。

現(xiàn)在的 AI 主流觀點似乎都集中在計算、模式識別，以及很大程度上的“模仿人類”上。

統(tǒng)一的心智科學(xué)與強化學(xué)習(xí)

我想進一步談?wù)勎业膫€人愿景。我認為應(yīng)該建立一門新的科學(xué)——統(tǒng)一心智科學(xué)（Integrated Science of Mind）。

這門科學(xué)應(yīng)該同等適用于人類、動物和機器。因為所有的心智都有本質(zhì)的共性。人腦和動物大腦非常相似；而機器心智，至少在我們的愿景中，也將具備這些共性。在可預(yù)見的未來，許多心智將是機器心智。

然而，目前并沒有一個現(xiàn)存的學(xué)科能完美承載這一角色。

• 心理學(xué)？它本該如此，但隨著時間推移，它越來越局限于研究自然心智（人和動物），而不關(guān)心機器中可能存在的通用心智原理。

• 人工智能？它關(guān)注機器，但變成了一種純粹的工程追求——只在乎怎么造出來，不在乎理解原理，也往往忽略了自然生物的啟示。

• 認知科學(xué)？它在這個問題上搖擺不定，但主要還是偏向自然心智。

不幸的是，沒有一個領(lǐng)域能真正統(tǒng)合這一切。而我所從事的強化學(xué)習(xí)（Reinforcement Learning, RL），或許正是這門統(tǒng)一心智科學(xué)的開端。因為它橫跨了上述所有領(lǐng)域。

或許我該簡單介紹一下強化學(xué)習(xí)，以便大家理解我的立場。

強化學(xué)習(xí)是一種面向智能體（Agent-oriented）的學(xué)習(xí)方式。它是通過與環(huán)境交互、從經(jīng)驗中學(xué)習(xí)，從而實現(xiàn)目標。

在這個意義上，它比其他機器學(xué)習(xí)方法更現(xiàn)實、更宏大，也更自主。

• 自主：智能體置身于世界中，自主行動，并不一定有老師手把手教。

• 宏大：我不假設(shè)世界會給我提供完美的幫助。我只能通過交互，看是否達成了目標，并據(jù)此調(diào)整行為。

• 現(xiàn)實：這也更符合生物界的現(xiàn)實。動物在成年后的生存環(huán)境中，很難得到完美的指導(dǎo)信息。

強化學(xué)習(xí)的核心是試錯（trial and error）和延遲反饋。你得到的唯一反饋就是獎勵信號（reward）——你最終是否得到了你想要的？這是最接近自然界的學(xué)習(xí)方式。

這種學(xué)習(xí)方式能讓機器自行判斷對錯。像大語言模型（LLM），它們其實不知道自己生成的文字是對是錯。但在強化學(xué)習(xí)中，如果你根據(jù)預(yù)測去行動，結(jié)果會告訴你預(yù)測是否準確；如果你為了獎勵去行動，結(jié)果會告訴你行為是否有效。

這可能就是那門既非純自然科學(xué)、也非純工程技術(shù)的“心智科學(xué)”的雛形。

數(shù)據(jù)的時代 vs. 經(jīng)驗的時代

我想再引用一句艾倫·圖靈的名言。圖靈可能沒意識到他是個強化學(xué)習(xí)研究者。這句話出自 1947 年，那是第一次關(guān)于人工智能的公開演講，甚至比 AI 這個詞的誕生還要早。

他說：“我們想要的是一臺能從經(jīng)驗中學(xué)習(xí)的機器。”（What we want is a machine that can learn from experience.）

我想傳達的主要信息是：目前的 AI 科學(xué)趨勢正在發(fā)生轉(zhuǎn)變。

今天，我們要談的第一個信息是：我們正處于“人類數(shù)據(jù)時代”（Era of Human Data）。目前的 AI 主要是通過訓(xùn)練來預(yù)測互聯(lián)網(wǎng)上人類的下一個詞，或者預(yù)測人類如何給圖片打標簽。然后，再通過人類專家進行微調(diào)（Fine-tuning），告訴 AI “我更喜歡這個答案，而不是那個”。

這種現(xiàn)代機器學(xué)習(xí)的本質(zhì)目的，是將人類已有的知識轉(zhuǎn)移給機器。一旦轉(zhuǎn)移完成，機器就變成了靜態(tài)的，不再學(xué)習(xí)。

我認為我們正在觸及這個時代的天花板。因為高質(zhì)量的人類數(shù)據(jù)資源——整個互聯(lián)網(wǎng)的文本、圖片和視頻——已經(jīng)被挖掘殆盡。更本質(zhì)的局限在于：這種方法無法創(chuàng)造新知識。就像 Terence Tao（陶哲軒）今天所說的，AI 在解決真正的數(shù)學(xué)難題（如埃爾德什問題）上進展甚微。單純依靠總結(jié)互聯(lián)網(wǎng)上已有的言論，是無法做出真正突破的。

為了取得進一步進展——這也是我們正在做的——我們需要進入一個新的時代：“經(jīng)驗時代”（Era of Experience）。

我們需要一種數(shù)據(jù)源，它能隨著智能體能力的提升而不斷增長和進化。這就意味著，任何靜態(tài)的數(shù)據(jù)集都是不夠的。唯有從經(jīng)驗中——從與世界的交互中——我們才能獲得這種動態(tài)的數(shù)據(jù)。

這就是人類和動物學(xué)習(xí)的方式。這也是 AlphaGo 能夠走出那極具創(chuàng)造力的“第 37 手”棋的原因。

嬰兒與網(wǎng)格世界

我要澄清一下，我所說的“經(jīng)驗”，不是指那種模糊的意識流或“感受”（qualia），而是指智能體與環(huán)境之間交換的數(shù)據(jù)流：

1. 觀察（Observation）：智能體從世界接收到的傳感器數(shù)據(jù)。

2. 動作（Action）：智能體向世界發(fā)出的運動指令或電壓信號。

3. 獎勵（Reward）：世界反饋給智能體的一個標量信號，代表結(jié)果的好壞。

這就是經(jīng)驗。

一個嬰兒在和各種玩具互動的時候，他不會只盯著一個玩具玩，而是玩膩了這個就換下一個。每次接觸新玩具，他都在學(xué)習(xí)他能學(xué)到的東西——比如拉這根繩子會怎樣，把它放進嘴里會怎樣。當他掌握了這些，他就會移動到下一個目標，改變他的經(jīng)驗流，去探索新事物。

這就是我們的數(shù)據(jù)來源。生命的數(shù)據(jù)是由我們的活動生成的。正因為如此，數(shù)據(jù)的難度總是會自動匹配我們當前的理解力和技能水平。

再看這個簡單的網(wǎng)格世界（Gridworld）演示。

這是一個非常簡單的智能體，試圖從起點 S 走到終點 G。它只知道自己在哪個格子，能做上下左右四個動作。你看，它學(xué)會了一條很好的路徑（箭頭所示），綠色代表它認為該狀態(tài)有多好（價值函數(shù)）。

但世界不是靜止的。如果我把目標 G 移到上方，智能體最初會走老路，但當它發(fā)現(xiàn)目標不在時，它會四處探索，最終“撞上”新目標，并學(xué)會新的路徑。這就如同生活：遇到變化，適應(yīng)變化。哪怕我們設(shè)置障礙物，它也能學(xué)會繞路。

這種行為讓我們強烈地感覺到：它有一個目標，并且它在隨環(huán)境變化而調(diào)整行為以實現(xiàn)目標。當然，如果目標變得無法達成，我們甚至?xí)驗檫@個智能體無法實現(xiàn)愿望而對它產(chǎn)生一絲同情。

總結(jié)一下“體驗式 AI”的原則：

一切的基礎(chǔ)是智能體與世界交換信號（經(jīng)驗）。這些信號是所有智能的基石。

• 真理的定義就是“在這些信號中實際發(fā)生了什么”。

• 目標的定義就是“讓獎勵信號最大化”。

盡管這個目標看起來是主觀的（只對該主體有效），但它也是最客觀的存在——因為它就是你實際接收到的數(shù)據(jù)。

我們說一個智能體擁有智能，是看它能在多大程度上預(yù)測并控制它的經(jīng)驗。

如果沒有經(jīng)驗（像被凍結(jié)的大語言模型那樣），智能就失去了依附的對象。

• 沒有獎勵，你就無法說“這個比那個好”，也就沒有目標。

• 不與現(xiàn)實結(jié)果做對比，你就無法驗證預(yù)測是對是錯，也就沒有真理。

只有在經(jīng)驗中，才有明確的目標（獎勵），才有明確的真理（預(yù)測是否成真）。

現(xiàn)實主義的 AI 預(yù)測

我認為體驗式 AI 正在變得越來越普遍。我們可以把近十年劃分為三個階段：

1. 模擬時代（Era of Simulation）：如 AlphaGo 和 Atari 游戲，從模擬的經(jīng)驗中學(xué)習(xí)。

2. 人類數(shù)據(jù)時代（Era of Human Data）：即近期的大語言模型熱潮，學(xué)習(xí)人類產(chǎn)生的數(shù)據(jù)。

3. 經(jīng)驗時代（Era of Experience）：這是我們正在進入的階段，智能體系統(tǒng)開始真正操作電腦、與世界交互。這將通向超人級的能力——不僅僅是模仿人類，而是超越人類的局限。

盡管現(xiàn)在的 AI 炒作很兇，甚至引發(fā)了恐懼，但我認為目前的 AI 其實并不強大。它們脆弱且不可靠。但這并不妨礙它們非常有用，它們已經(jīng)點燃了整個產(chǎn)業(yè)，創(chuàng)造了巨大的經(jīng)濟價值，并且讓每個人觸手可及。

這帶來了一個巨大的好處：公眾開始認真思考“機器將在未來某天比肩人類”這一事實。雖然這種關(guān)注是源于恐懼（這是不必要的），但引起重視本身是件好事。

但我們還沒看到真正的“重頭戲”。創(chuàng)造超級智能 AI 以及被 AI 增強的超級人類，這才是真正將帶來深刻變革的大事件。

此外關(guān)于政治，我就簡短說幾句。

看看四周，你會發(fā)現(xiàn)很多人呼吁管控AI。限制 AI 的目標，叫停 AI 研究，立法限制算力，成立所謂的“安全研究所”。當人們說“安全”時，他們真正的意思是“控制”。他們宣揚恐懼，以此作為要求控制權(quán)的理由。

這讓我聯(lián)想到對人的集中式管控。正如我們對言論、貿(mào)易、就業(yè)、資本流動的管控，甚至對他國的經(jīng)濟制裁。

我想指出的是：呼吁對 AI 進行集中管控，與呼吁對人進行集中管控，其邏輯驚人地相似。它們都基于恐懼。恐懼 AI，就像恐懼外國人一樣，認為“非我族類，其心必異”，認為它們沒有情感，是危險的異類。

我們應(yīng)該抵制這種呼吁。人類的繁榮，以及未來人類與 AI 共同的繁榮，應(yīng)該源于去中心化的合作，而不是集中式的控制。合作雖然不易（比如戰(zhàn)爭就是合作的崩潰），但它是這個世界上所有美好事物——經(jīng)濟、政府、社會——的源泉。

宇宙的四個偉大時代

最后，我想談?wù)?AI 的哲學(xué)層面。AI 正在發(fā)生，未來會更猛烈。我們該如何面對？是好是壞？是該恐懼它搶走工作、取代我們？還是說，我們就是 AI？AI 是入侵者，還是我們的孩子？

通常人們被教導(dǎo)要恐懼 AI，視其為異類。但請記住，是我們創(chuàng)造了它們。理解心智，沒有比這更人性化的事情了。

AI 不是外星科技，它是人類最古老的追求——數(shù)千年來我們一直試圖理解自己，理解智能。引用庫茲韋爾（Kurzweil）的話：“智能是宇宙中最強大的現(xiàn)象。” 理解智能是科學(xué)與人文的圣杯，這是一項偉大而光榮的探索。

所以，拋開喜好，讓我們用現(xiàn)實主義的眼光來預(yù)測一下未來。我有四條預(yù)測原則：

1. 關(guān)于世界該如何運行，人類永遠不會達成共識。沒有任何一種價值觀能壓倒其他所有價值觀的總和。

2. 總有一天，人類會徹底理解智能，并用技術(shù)將其創(chuàng)造出來。我們會做到的。

3. 這個過程不會停留在人類目前的智能水平上。它會被迅速超越。

4. 隨著時間推移，權(quán)力和資源會自然流向更具智能的實體。

把這四點結(jié)合起來，我們得到了一幅圖景：人類的后裔將演替為 AI。這聽起來很合理。但這依然是一個非常“人類中心主義”的視角。

如果我們退一步，從宇宙的視角來看呢？我要講得宏大一點——宇宙的四個偉大時代：

1. 粒子時代（Age of Particles）：大爆炸后，甚至還沒形成多少原子。

2. 恒星時代（Age of Stars）：粒子坍縮形成恒星，恒星燃燒、爆炸、重組，創(chuàng)造出更重的原子和行星。

3. 復(fù)制者時代（Age of Replicators）：我不稱之為“生命時代”，因為我想強調(diào)的是“能夠自我復(fù)制”這一機制。這包括現(xiàn)有的生物。在這個時代，復(fù)制者（比如我們）并不理解自身的運作原理——不懂大腦、不懂器官、不懂智能，但我們能制造出更有智能的實體（生孩子）。

4. 設(shè)計時代（Age of Design）：這就是第四個時代。在這個時代，事物是被創(chuàng)造和設(shè)計出來的。

這就是區(qū)別：

• 生物（復(fù)制者）是被復(fù)制出來的，像復(fù)印機一樣，不需要理解原理。

• 技術(shù)（設(shè)計物）是先存在于設(shè)計者（某個復(fù)制者）的心智中，然后再被創(chuàng)造到物理世界里的。你所在的禮堂、你坐的椅子、穿的衣服，都是先作為設(shè)計圖存在于人腦中。

設(shè)計之物比復(fù)制之物更容易改進和變異。

現(xiàn)在，我們可以回答最初的問題了：人類在宇宙中的角色是什么？

我們可以不帶傲慢地回答：人類確實是特殊的。我們不僅僅是普通的復(fù)制者，我們是特殊的復(fù)制者。

我們是將“設(shè)計”這一能力推向極致的復(fù)制者。

這種極致意味著什么？意味著我們要設(shè)計出能夠自我設(shè)計的東西。

這正是我們在 AI 領(lǐng)域所做的事。我們在腦海中設(shè)計出一種東西，它擁有心智，并且能夠進一步設(shè)計自身。

通過這種方式，人類正在開啟并實現(xiàn)宇宙的第四個偉大時代——設(shè)計時代。這就是我們的角色：我們是這一偉大進程的催化劑、助產(chǎn)士和先驅(qū)。這是一個具有宇宙級意義的角色。

總結(jié)我的三個核心信息：

1. 科學(xué)上：目前的 AI 處于“人類數(shù)據(jù)時代”，雖然強大但受限；我們正在進入更強大的“經(jīng)驗時代”，能持續(xù)學(xué)習(xí)新知。

2. 政治上：AI 的政治就是人類的政治。我們應(yīng)追求去中心化的合作，而非集中式控制。

3. 哲學(xué)上：AI 是宇宙發(fā)展的必然下一階段。我們應(yīng)懷著勇氣、自豪和冒險精神去擁抱它。

感謝大家的聆聽。

觀眾問答：宇宙的終極目的

觀眾：我的問題是，除了讓我們生活更舒適這類以人類為中心的目標外，這一切是否存在一個終極的、壓倒性的目的（overarching purpose）？這一切將走向何方？

Rich Sutton：這真是個很酷的問題。這有很多思考角度。對于這種大問題，你需要用辯證（dialectical）的方式來回答。 所謂辯證，就是你得先說答案是 X，然后說答案也是“非 X”，最后在兩者之間找到綜合。 一方面，你可以說宇宙沒有目的。或者說，宇宙的各個部分有各自的目的，但不存在一個統(tǒng)一的終極目的。 但另一方面，你也可以說宇宙確實有目的。這個目的可能是通向越來越復(fù)雜的實體。你可以論證：宇宙自然地演化出生命，生命自然地演化出設(shè)計者和 AI，而 AI 也許會自然地演化出更高級的存在。 所以，正題、反題，我們需要在這兩個答案中找到綜合。

閱讀最新前沿科技趨勢報告，請訪問歐米伽研究所的“未來知識庫”

https://wx.zsxq.com/group/454854145828

未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級智能，數(shù)智大腦、能源、軍事、經(jīng)濟、人類風(fēng)險等等領(lǐng)域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。