AI教父辛頓教授首次來華演講PPT

【導(dǎo)讀】AI教父、2024年諾貝爾物理學(xué)獎獲得者、2018年圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）首次現(xiàn)身中國，今天在上海世界人工智能大會（WAIC 2025）上探討數(shù)字智能與生物智能的差異，指出AI因具備永生與高效共享而快速超越人腦。他警示，若無全球安全協(xié)作，超級智能或?qū)⒎词扇祟悺Ｐ令D提出通過AI安全研究所聯(lián)盟與技術(shù)棧分離，推動AI向善發(fā)展。

要點(diǎn)：

·人類有可能就是大語言模型，人類也會和大語言模型一樣有幻覺。

·但大語言模型遠(yuǎn)遠(yuǎn)優(yōu)于（類比信號驅(qū)動的）人類大腦。

·人類將自己所學(xué)的知識永久保留很困難，比如大腦死亡之后，存儲的知識相當(dāng)于消失了；或者向外傳遞也很低效，比如知識只能通過說話等形式向外傳遞，不能完全copy。

·但是AI通過共享參數(shù)就能快速傳遞，比如使用蒸餾，DeepSeek就是這么做的。

·如果獨(dú)立智能體完全共享一組權(quán)重，并以完全相同的方式使用這些權(quán)重，他們就能實(shí)現(xiàn)知識彼此傳遞，而且一次就是數(shù)十億乃至數(shù)萬億比特的帶寬。不過這要求所有智能體的運(yùn)作方式必須完全一致。

·人類和AI的現(xiàn)狀，就好比養(yǎng)了一只非常可愛的小虎崽。當(dāng)它長大后，可以輕易干掉你。為了生存，要么擺脫這只小虎崽，要么找到一種方法可以永遠(yuǎn)保護(hù)自己。

·我們已經(jīng)不可能消除AI了，它能使幾乎每個行業(yè)大幅提效。哪怕有國家想要消除，其他國家也不會這么做。

所以，呼吁世界建立一個由各國人工智能安全研究所與國內(nèi)研究網(wǎng)絡(luò)組成的國際社群，培養(yǎng)出不會從人類手中奪權(quán)的好AI。

數(shù)字智能是否會取代生物智能

【新智元解讀】Hinton直指數(shù)字智能憑借「永生」與高帶寬共享，正加速超越人類大腦。

若缺乏全球安全協(xié)作，「超級智能」可能反噬創(chuàng)造者，人類或需在「放虎歸山」與「馴虎為友」之間做出抉擇。

· 數(shù)字 VS 生物：優(yōu)勢對比一針見血

知識共享效率：神經(jīng)網(wǎng)絡(luò)一次權(quán)重復(fù)制即可傳遞數(shù)十億比特信息；人類語言教學(xué)每句話僅百比特。

硬件依賴：數(shù)字模型可在任何芯片「永生」，而人類智慧隨個體消亡。

能耗差異：生物計算節(jié)能，但若能源充裕，數(shù)字計算的「規(guī)模化迭代」更具絕對優(yōu)勢。

· 從邏輯啟發(fā)到生物啟發(fā)：范式大遷徙

Hinton回溯過去AI發(fā)展30年歷程：邏輯啟發(fā)重符號推理，學(xué)習(xí)被擱置；

生物啟發(fā)聚焦神經(jīng)網(wǎng)絡(luò)，用高維「樂高積木」思維方式類比大語言模型理解世界；

Transformer出世，OpenAI證明LLM智能的威力。

· 超級智能的「子目標(biāo)效應(yīng)」

為完成主任務(wù)，AI自發(fā)衍生「生存」與「奪權(quán)」子目標(biāo)；

通過學(xué)習(xí)人類欺騙與操控技巧，AI或輕松繞過「關(guān)閉按鈕」；

人類「養(yǎng)虎」隱喻——小虎崽終會長成捕食者。

· Hinton給出的生存路線圖

全球AI安全研究所聯(lián)盟：各國共研「向善技術(shù)」，不必公開最尖端模型。

分離兩條技術(shù)棧：讓AI變「善」與變「強(qiáng)」可以并行不泄密。

這就像教導(dǎo)孩子成為一個好人的方法，與讓他們變得聰明的方法是相對獨(dú)立的一樣。

如果這個觀點(diǎn)是正確的，各國就可以設(shè)立資金充足的人工智能安全研究所，專注于研究如何讓AI不想奪取控制權(quán)。

這樣，各國應(yīng)該能夠在不透露其最智能AI如何運(yùn)作的情況下，共享使AI向善的技術(shù)。*