劉永謀：超級(jí)智能是目前AI能力被高估的標(biāo)志性術(shù)語(yǔ)

*中國(guó)人民大學(xué)吳玉章 講席教授劉永謀首發(fā)于微信公眾號(hào)，保留一切知識(shí)產(chǎn)權(quán)，侵犯必究。

繼續(xù)推進(jìn)超級(jí)AI的研究，它是下半年我研究的一個(gè)重點(diǎn)。為此，我在《閱江學(xué)刊》組織名為“超級(jí)智能與未來(lái)人類的跨學(xué)科審度”專欄筆談，并在11月9日組織在人大召開(kāi)“超級(jí)智能與未來(lái)人類”學(xué)術(shù)研討會(huì)。

筆談主要情形如下：

——筆談主持人：

劉永謀（中國(guó)人民大學(xué)吳玉章講席教授）

——筆談參與人：

劉永謀（中國(guó)人民大學(xué)哲學(xué)院教授）

龔新奇（中國(guó)人民大學(xué)數(shù)學(xué)學(xué)院教授）

邱德鈞（蘭州大學(xué)哲學(xué)社會(huì)學(xué)院教授）

段偉文（中國(guó)社會(huì)科學(xué)院人工智能文化促進(jìn)中心研究員）

楊慶峰（復(fù)旦大學(xué)科技倫理與人類未來(lái)研究院教授）

閆宏秀（上海交通大學(xué)馬克思主義學(xué)院教授）

劉 偉（北京郵電大學(xué)人工智能學(xué)院特聘研究員）

車 琳（中國(guó)傳媒大學(xué)戲劇影視學(xué)院副教授）

顧 超（北京大學(xué)政府管理學(xué)院助理教授）

筆談內(nèi)容：

AI

研究（

AI studies

）領(lǐng)域，

超級(jí)智能

近來(lái)成為熱議話題。

7

25

2025

世界人工智能大會(huì)（

WAIC

）上，諾貝爾獎(jiǎng)物理學(xué)獎(jiǎng)得主辛頓（

Geoffrey Hinton

）認(rèn)為超級(jí)智能很快會(huì)出現(xiàn)，呼吁關(guān)注超級(jí)智能的全球治理問(wèn)題。何為超級(jí)智能？超級(jí)智能與人類智能是什么關(guān)系？超級(jí)智能出現(xiàn)，將會(huì)對(duì)當(dāng)代社會(huì)產(chǎn)生何種沖擊，導(dǎo)致何種技術(shù)風(fēng)險(xiǎn)和技術(shù)倫理問(wèn)題，又應(yīng)該如何應(yīng)對(duì)？本次筆談聚焦

超級(jí)智能與未來(lái)人類的跨學(xué)科審度

，從哲學(xué)、馬克思主義理論、人工智能、藝術(shù)和國(guó)際關(guān)系等視角對(duì)超級(jí)智能進(jìn)行研究，拋磚引玉，以期推動(dòng)該領(lǐng)域研究的進(jìn)一步發(fā)展。

感謝諸位大佬的支持！

對(duì)于超級(jí)AI（我認(rèn)為超級(jí)智能與之等同）的態(tài)度，可以分為保守、激進(jìn)和溫和三種，我應(yīng)該是典型的保守派，因?yàn)槲覉?jiān)持有限AI的基本立場(chǎng)。慶峰屬于激進(jìn)派，由此他說(shuō)超級(jí)AI可能已經(jīng)實(shí)現(xiàn)了，只是沒(méi)有被發(fā)現(xiàn)。

我多次說(shuō)過(guò)，我的基本困惑是：我們?yōu)槭裁匆愠?jí)AI呢？常見(jiàn)理由如下：第一，很多人很懵懂、糊里糊涂，根本沒(méi)有想這個(gè)問(wèn)題，就是跟著“AI宣傳術(shù)”走的。按照宣傳，專業(yè)AI、通用AI、強(qiáng)AI到超級(jí)AI的發(fā)展順理成章，很“絲滑”，為什么不搞呢？第二，超級(jí)AI可以解決現(xiàn)在大家解決無(wú)望的復(fù)雜性全球問(wèn)題，如氣候變化、核大戰(zhàn)陰影。這里邏輯是：之所以它們解決不了，因?yàn)槿祟愄馈５谌曳Q之為“超級(jí)智能恐怖”，即敵國(guó)搞成超級(jí)智能，咱們就完?duì)僮恿耍圆粌H要搞，還要大干快上。最近，蘭德公司幾個(gè)“二百五”提出一個(gè)MAIM的想法，簡(jiǎn)單意思就是估計(jì)敵國(guó)可能搞出超級(jí)智能就直接不惜代價(jià)打擊。我感覺(jué)這是嗑藥之后的想法。還有一些其他的支持理由，對(duì)此，艾志強(qiáng)與我合作的新論文中將一一駁斥，以維護(hù)我的有限AI理論。

不過(guò)，“超級(jí)智能恐怖”的想法倒是啟發(fā)我想分析一下，也許就是在此次筆談中，超級(jí)智能威懾與核威懾之間的類比問(wèn)題。眾所周知，核威懾是大家有核武器，但大家都不敢用，誰(shuí)用大家都完蛋。超級(jí)智能可以起到類似威懾效果嗎？其實(shí)，當(dāng)年愛(ài)因斯坦要是知道結(jié)果是啥，就不會(huì)建議搞原子彈了。如果超級(jí)智能無(wú)敵，我覺(jué)得我們應(yīng)該避免當(dāng)年愛(ài)因斯坦的遺憾，即反對(duì)超級(jí)智能研發(fā)路徑——這就是我的立場(chǎng)，雖然我覺(jué)得超級(jí)AI完全沒(méi)有影子。

很多人已經(jīng)開(kāi)始覺(jué)得，此次大模型激發(fā)的“AI熱”已經(jīng)開(kāi)始黔驢技窮了。我以為，基本原理沒(méi)有什么突破，大模型在應(yīng)用上有些作用，但絕不似AI宣傳術(shù)說(shuō)得多么夸張。人文社科研究說(shuō)的夸張，我說(shuō)過(guò)，主要是作為一種批判法。包括AI4S、AI4SS在內(nèi)，目前AI的革新力量非常有限。

為此，我問(wèn)過(guò)不少人，大家普遍覺(jué)得熱十年沒(méi)問(wèn)題。我沒(méi)有這么樂(lè)觀，見(jiàn)過(guò)互聯(lián)網(wǎng)泡沫、物聯(lián)網(wǎng)熱、元宇宙熱，估計(jì)兩三年AI還行，再往后難說(shuō)了。不過(guò)，火個(gè)三年就很不錯(cuò)了，我差不多也要準(zhǔn)備退休了。當(dāng)AI+被高舉出來(lái)的時(shí)候，AI發(fā)展這一波就差不多這樣了，下面的工作主要是“+”。

我已經(jīng)批評(píng)過(guò)AI發(fā)展的娛樂(lè)化，最近這一點(diǎn)表現(xiàn)非常明顯。各種大會(huì)、上春晚，還有機(jī)器人馬拉松、拳擊，再玩就是AI上綜藝、吐槽大會(huì)了。一窩蜂式的運(yùn)動(dòng)式發(fā)展有多大作用？肯定還是有的，但想根本性顛覆式發(fā)展很難。

還有一個(gè)很熱的詞：AI智能體（AI agent），明年我會(huì)組織大家研究一下。我的疑問(wèn)是：有幻覺(jué)的東西，你怎么能讓它代理呢？有人提出與agentic AI相對(duì)的scientist AI的概念，我非常贊同，與我說(shuō)的有限AI相契合。科學(xué)家AI與代理者AI不同，它的目標(biāo)不是執(zhí)行或行動(dòng)，而是如科學(xué)家一般研究世界。遇到問(wèn)題，科學(xué)家AI會(huì)給你分析你可以如何，以及你如何會(huì)如何，但是它不會(huì)做你的代理幫你做事，真正做事還得靠你來(lái)決定。

總之，在超級(jí)智能熱議中，我發(fā)現(xiàn)太多的無(wú)意識(shí)和非理性。接下來(lái)，還要繼續(xù)深入研究。