AI教父Hinton 最新聯(lián)合國(guó)AI大會(huì)訪談發(fā)言（全文+視頻）

未經(jīng)許可不得轉(zhuǎn)載，務(wù)必保留原文鏈接和公眾號(hào)按鈕

文：Web3天空之城·城主

前言：

這是AI教父Hinton最新在聯(lián)合國(guó)AIforGood大會(huì)上的訪談發(fā)言。曾覺(jué)得Hinton出來(lái)訪談?shì)^多。但最近城主認(rèn)知到，包括這一次聯(lián)合國(guó)大會(huì)訪談的內(nèi)容，充分證明了教父就是教父，對(duì)AI發(fā)展和未來(lái)的評(píng)論高屋建瓴的同時(shí)，還能讓所有人都聽(tīng)明白，這是非常難得的。并且，每一次Hinton的訪談都有新內(nèi)容和新啟發(fā)。

精校視頻和整理全文和讀者同享。

B站傳送：【精?！緼I教父Hinton聯(lián)合國(guó)AI大會(huì)最新訪談 | AIforGood 【中英】-嗶哩嗶哩】

https://b23.tv/lf43zkf

很高興再次回到這里，我很高興能與Geoff Hinton同臺(tái)，他是整個(gè)領(lǐng)域最聰明、最出色、最有能力、最善良的人之一。

你好嗎，Geoffrey Hinton？

我很好。謝謝你的熱情介紹。

好的。Geoff，我想從你和我?guī)缀跻荒昵暗囊淮涡≌勗?huà)開(kāi)始。我們?cè)诙鄠惗啵覀兗磳⒌巧衔枧_(tái)。我的兩個(gè)孩子和我在一起，他們當(dāng)時(shí)14歲和12歲。你看著大一點(diǎn)的孩子說(shuō)：“你會(huì)像你父親一樣進(jìn)入媒體行業(yè)嗎？”他回答說(shuō)：“不?！蹦阏f(shuō)：“很好?！比缓笪艺f(shuō)：“好吧，如果他不進(jìn)入媒體行業(yè)，他應(yīng)該做什么？”你說(shuō)：“他應(yīng)該當(dāng)一名水管工?！?/p>

所以那個(gè)兒子剛剛申請(qǐng)了學(xué)校的學(xué)位。我很好奇，你是否認(rèn)為他犯了一個(gè)嚴(yán)重的錯(cuò)誤，我真的應(yīng)該送他下樓去修理水管。

不，我只是有點(diǎn)幽默。但我確實(shí)認(rèn)為管道工的職業(yè)壽命會(huì)比大多數(shù)職業(yè)更長(zhǎng)。我認(rèn)為目前，人工智能最不擅長(zhǎng)的是物理操作。它正在迅速進(jìn)步，但與人類(lèi)相比，這是它最差的地方。

好的，太好了。

所以，我想在這次采訪中，首先介紹一下Hinton博士的背景。然后，我想進(jìn)入一個(gè)部分，向他問(wèn)一些最有趣的技術(shù)問(wèn)題，一些我們?cè)谂_(tái)上討論過(guò)的問(wèn)題。我們將討論人工智能的好處，然后再討論人工智能的壞處。最后，我們將討論監(jiān)管框架。聽(tīng)起來(lái)不錯(cuò)，Geoff？

好的。

很好。

所以我首先想從40年前說(shuō)起，那時(shí)你是一位孤獨(dú)的科學(xué)家，但你獲得了這個(gè)領(lǐng)域、甚至是20世紀(jì)后期最重要的見(jiàn)解之一，你意識(shí)到要制造一臺(tái)功能極其強(qiáng)大的計(jì)算機(jī)，你應(yīng)該以人類(lèi)大腦的結(jié)構(gòu)為模型?，F(xiàn)在聽(tīng)起來(lái)有點(diǎn)明顯，但當(dāng)時(shí)并非如此。那么，告訴我真正推動(dòng)這個(gè)領(lǐng)域發(fā)展的那個(gè)頓悟時(shí)刻。

這是一個(gè)美好的神話(huà)，但有很多不同的人都這么認(rèn)為。特別是在20世紀(jì)50年代，馮·諾依曼和圖靈都這么認(rèn)為。不幸的是，他們都英年早逝，否則我們這個(gè)領(lǐng)域的歷史可能會(huì)大不相同。但在我看來(lái)，如果你想了解智力，你就需要了解我們所知道的最聰明的東西，那就是我們自己。我們的智力不是來(lái)自人們編寫(xiě)大量命題，然后用邏輯推理這些命題。它來(lái)自主要用于視覺(jué)和運(yùn)動(dòng)控制等的大腦。很明顯，大腦中的連接強(qiáng)度會(huì)隨著你的學(xué)習(xí)而改變，我們只需要弄清楚這是如何發(fā)生的。

好吧，這很有道理。你扎根于歷史?，F(xiàn)在讓我們快速行動(dòng)起來(lái)。你來(lái)處理這件事。人們說(shuō)你走錯(cuò)了路。你繼續(xù)追尋。其他人也加入了你。最終，你會(huì)發(fā)現(xiàn)你走在了一條正確的道路上。

首先，讓我把事情說(shuō)清楚。我離開(kāi)谷歌有幾個(gè)原因。其中之一是我已經(jīng)75歲了，我決定無(wú)論如何都應(yīng)該退休。我離開(kāi)不僅僅是為了談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)，但那也是一個(gè)原因。

2023年初，也就是2023年3月左右，我敏銳地意識(shí)到了人工智能的危險(xiǎn)，即生存威脅。我開(kāi)始與其他對(duì)生存威脅感到恐懼的人交談，例如羅杰·格羅斯。他們鼓勵(lì)我公開(kāi)這件事。然后我決定離開(kāi)谷歌，這樣我就可以自由發(fā)言了。

我之所以感到害怕，是因?yàn)槲耶?dāng)時(shí)正在努力弄清楚模擬計(jì)算機(jī)如何用30瓦而不是兆瓦的功率來(lái)構(gòu)建這些大型語(yǔ)言模型。在這樣做的過(guò)程中，我確信數(shù)字計(jì)算有一些東西比大腦做得好得多。在那之前，我花了50年的時(shí)間思考，如果我們能讓它更像大腦，它就會(huì)更好。我終于在2023年初意識(shí)到它擁有大腦永遠(yuǎn)無(wú)法擁有的東西。

因?yàn)樗菙?shù)字化的，所以你可以制作相同模型的許多副本，這些副本的工作方式完全相同。每個(gè)副本都可以查看數(shù)據(jù)集的不同部分并獲得梯度。他們可以組合這些梯度，這讓他們學(xué)到更多。這就是為什么GPT-4比人知道得多。它是在多個(gè)不同的硬件上運(yùn)行的多個(gè)不同副本，可以查看整個(gè)互聯(lián)網(wǎng)。這是我們永遠(yuǎn)無(wú)法擁有的。

所以基本上，他們有而我們沒(méi)有的是，他們可以非常有效地共享。我們可以非常低效地共享。這就是現(xiàn)在發(fā)生的事情。我寫(xiě)句子，你試圖弄清楚如何改變大腦中的突觸，所以你可能會(huì)這么說(shuō)。這是一種非常緩慢和低效的共享方式。如果數(shù)字智能是同一模型的不同副本，則可以共享數(shù)萬(wàn)億比特的帶寬。

所以你有了這個(gè)時(shí)刻，意識(shí)到這些系統(tǒng)突然變得比你想象的要強(qiáng)大得多。那一定是一個(gè)非常激動(dòng)人心的時(shí)刻。為什么巨大的恐懼也如此普遍？

這讓我覺(jué)得他們會(huì)比我想象的更快變得比我們更聰明。這讓我覺(jué)得他們只是一種更好的智能形式。

讓我問(wèn)你關(guān)于人工智能的另外兩位教父的問(wèn)題。你和三個(gè)人一起獲得了圖靈獎(jiǎng)?，F(xiàn)在在Meta負(fù)責(zé)AI的Yann LeCun和Joshua Bengio。我想弄清楚你們之間的差異，如果有效的話(huà)請(qǐng)告訴我。你們都是教父。Yann認(rèn)為人工智能就像弗雷多·科里昂，能力不強(qiáng)，容易控制。Joshua可能認(rèn)為它是桑尼，可能非常危險(xiǎn)。你認(rèn)為它是邁克爾，邁克爾·科里昂，可能極其危險(xiǎn)。這或多或少是正確的嗎？

我不這么認(rèn)為。我認(rèn)為Joshua和我對(duì)危險(xiǎn)的看法非常相似。

但你和Yann的不同之處在于，你認(rèn)為這是一個(gè)比他更強(qiáng)大的系統(tǒng)。這就是為什么你比他更擔(dān)心。

這是一個(gè)不同之處，是的。這是一個(gè)主要的區(qū)別。所以我認(rèn)為它真的已經(jīng)很聰明了。而Yann認(rèn)為貓更聰明。

對(duì)。好吧，讓我們來(lái)談?wù)勚橇?，我認(rèn)為這是最有趣的問(wèn)題之一。您認(rèn)為人類(lèi)思維中有什么是這些機(jī)器和人工智能系統(tǒng)無(wú)法復(fù)制的嗎？我們的大腦能做什么，而機(jī)器不能做什么？

沒(méi)有。

這是否意味著我們能做的一切都是這些智能機(jī)器可以超越的？例如，我們可以說(shuō)它們最終將能夠創(chuàng)作出更美妙的音樂(lè)。它們將能夠比我們更好地完成所有涉及簡(jiǎn)單認(rèn)知的事情。

是的，我相信這一點(diǎn)。

你不相信有任何精神或外在的東西，或者任何超出一組神經(jīng)網(wǎng)絡(luò)可以捕捉的東西嗎？

我認(rèn)為我們所說(shuō)的精神可以被這些外星智慧所捕捉。我同意 Sam Altman 的觀點(diǎn)，這是一種外星智慧。它和我們不太一樣。它和我們有某些不同。但如果你看看宗教之類(lèi)的東西，我不明白為什么你不應(yīng)該得到宗教的東西。

昨天，當(dāng)我問(wèn) Altman 這個(gè)問(wèn)題時(shí)，他說(shuō)，可能有一個(gè)不同之處，那就是主觀體驗(yàn)。機(jī)器人、系統(tǒng)無(wú)法體驗(yàn)世界。你相信人工智能系統(tǒng)可以擁有主觀體驗(yàn)嗎？

是的，我相信。我認(rèn)為他們已經(jīng)擁有了。

好的。讓我們更深入地探討一下。解釋一下。這是一個(gè)有爭(zhēng)議的命題，杰夫。你不能用一句話(huà)回答。請(qǐng)跟進(jìn)，辛頓博士。

好的。我試圖對(duì)你的問(wèn)題給出很好的、尖銳的回答。

所以，我的觀點(diǎn)是，幾乎每個(gè)人對(duì)心靈的模型都是完全錯(cuò)誤的。這很難讓人接受。我現(xiàn)在的處境是，我的信念與大多數(shù)人堅(jiān)定的信念有點(diǎn)不同步。我總是對(duì)這種處境感到非常高興。

所以，大多數(shù)人認(rèn)為心靈是一種內(nèi)部劇場(chǎng)。事實(shí)上，人們?nèi)绱舜_信這種觀點(diǎn)是正確的，以至于他們甚至不認(rèn)為這是一種觀點(diǎn)。他們甚至不認(rèn)為這是他們擁有的模型。他們認(rèn)為這是顯而易見(jiàn)的。就像人們認(rèn)為太陽(yáng)繞著地球轉(zhuǎn)是顯而易見(jiàn)的一樣。你只要看著它，它就繞著地球轉(zhuǎn)。最終，人們意識(shí)到太陽(yáng)并不繞著地球轉(zhuǎn)。地球繞著地軸旋轉(zhuǎn)。

這是Sam犯的一個(gè)小技術(shù)錯(cuò)誤。因?yàn)槲沂莻€(gè)學(xué)究，所以我喜歡批評(píng)他。并不是說(shuō)……他們認(rèn)為……起初他們認(rèn)為太陽(yáng)繞著地球轉(zhuǎn)，后來(lái)他們意識(shí)到地球繞著太陽(yáng)轉(zhuǎn)。這不是正確的對(duì)比。他們認(rèn)為太陽(yáng)繞著地球轉(zhuǎn)，后來(lái)他們意識(shí)到地球繞著地軸旋轉(zhuǎn)。地球繞著太陽(yáng)轉(zhuǎn)與年有關(guān)，而不是與日有關(guān)。但無(wú)論如何，很明顯太陽(yáng)繞著地球轉(zhuǎn)，我們錯(cuò)了。

我們有一個(gè)模型。這是一個(gè)直截了當(dāng)?shù)哪Ｐ?。它顯然是正確的。你可以看到它正在發(fā)生。我們對(duì)那個(gè)模型的看法是錯(cuò)誤的。我認(rèn)為大多數(shù)人對(duì)心靈的看法也是如此。大多數(shù)人認(rèn)為有一個(gè)內(nèi)心劇場(chǎng)，但他們錯(cuò)了。他們還沒(méi)有理解心理狀態(tài)語(yǔ)言是如何運(yùn)作的。

但請(qǐng)解釋一下它如何應(yīng)用于人工智能系統(tǒng)。解釋一下……如果我對(duì) GPT-4 說(shuō)，我說(shuō)，你剛剛聽(tīng)到了一聲巨響，有什么東西撞到了你。它沒(méi)有感覺(jué)到疼痛或傷害，耳朵也不疼。它在什么意義上有過(guò)主觀體驗(yàn)？

好的，讓我們舉一個(gè)簡(jiǎn)單的例子。我并不假裝對(duì)意識(shí)是什么有完整的答案，盡管我認(rèn)為我取得了一點(diǎn)進(jìn)展。事實(shí)上，上個(gè)世紀(jì)的哲學(xué)家取得了進(jìn)步。所以，如果我對(duì)你說(shuō)，我看到小粉紅色的大象漂浮在我面前。一種思考方式是，有一個(gè)內(nèi)在劇院，在我的內(nèi)在劇院里有小粉紅色的大象，我可以直接看到那些小粉紅色的大象。如果你問(wèn)它們是由什么構(gòu)成的，它們是由一種叫做感質(zhì)的東西構(gòu)成的。也許一些粉紅色的感質(zhì)、一些大象的感質(zhì)、一些正確的感質(zhì)和一些移動(dòng)的感質(zhì)，都以某種方式結(jié)合在一起。

這是關(guān)于正在發(fā)生的事情的一種理論。這是一個(gè)內(nèi)部劇院，里面有有趣、恐怖的東西。一個(gè)完全不同的理論是，我試圖告訴你我的感知系統(tǒng)在告訴我什么。我的感知系統(tǒng)告訴我，空中飄浮著一些粉紅色的小象。我知道這是錯(cuò)的。所以，我告訴你我的感知系統(tǒng)在告訴我什么的方式是，我的感知系統(tǒng)要正常工作，必須是什么情況？

所以，實(shí)際上，當(dāng)我說(shuō)我有粉紅色的小象飄浮在我面前的主觀體驗(yàn)時(shí)，我可以說(shuō)完全相同的話(huà)，而無(wú)需使用主觀體驗(yàn)這個(gè)詞。我可以說(shuō)，如果這個(gè)世界中有粉紅色的小象飄浮在我面前，我的感知系統(tǒng)告訴我的就是正確的。換句話(huà)說(shuō)，這些粉紅色的小象的有趣之處不在于它們處于一個(gè)由稱(chēng)為感質(zhì)的有趣物質(zhì)構(gòu)成的內(nèi)部劇場(chǎng)中。它們是世界的假設(shè)狀態(tài)。這只是一種間接引用技巧。我無(wú)法直接描述我的感知系統(tǒng)告訴我什么。但我可以說(shuō)，世界上必須有什么才能使它正確。

那么，機(jī)器或多或少可以用它的感知做同樣的事情嗎？

是的。那么，讓我給你舉個(gè)例子。所以，我想給你舉一個(gè)聊天機(jī)器人的例子，它顯然有主觀體驗(yàn)。假設(shè)我有一個(gè)多模式聊天機(jī)器人，它有一個(gè)攝像頭和一個(gè)機(jī)械臂。我訓(xùn)練它，它可以說(shuō)話(huà)，可以看到東西。我把一個(gè)物體放在它前面，然后說(shuō)，指向物體。它會(huì)指向物體?，F(xiàn)在，我在它的鏡頭前放了一個(gè)棱鏡。它不知道。

現(xiàn)在我把一個(gè)物體放在它前面，然后說(shuō)，指向物體。它指向一側(cè)。我說(shuō)，不，那不是物體所在的地方。物體就在你面前，但我在你的鏡頭前放了一個(gè)棱鏡。然后聊天機(jī)器人說(shuō)，哦，我明白了，棱鏡彎曲了光線(xiàn)。所以，物體實(shí)際上就在我面前，但我的主觀感受是它偏向了一邊。如果聊天機(jī)器人這么說(shuō)，我認(rèn)為它使用“主觀體驗(yàn)”這個(gè)短語(yǔ)的方式和我們完全一樣。它不是指聊天機(jī)器人不可能擁有的怪異內(nèi)在內(nèi)容。它指的是假設(shè)的世界狀態(tài)，聊天機(jī)器人的感知是正確的。

哇。好吧。你是第一個(gè)和我爭(zhēng)論這個(gè)問(wèn)題的人，但這是一個(gè)非常有趣的案例。

讓我們談?wù)劵ゲ僮餍?，這是我問(wèn)過(guò) Altman 的問(wèn)題，因?yàn)閷?duì)他來(lái)說(shuō)，了解人工智能系統(tǒng)的內(nèi)核將最能保護(hù)我們免受災(zāi)難性后果的影響。你幫助設(shè)計(jì)這些系統(tǒng)。為什么很難看清它們的內(nèi)部并了解它們?cè)谧鍪裁矗?/p>

好的。讓我們舉一個(gè)極端的例子。假設(shè)我們有一個(gè)大數(shù)據(jù)集，我們正在嘗試回答一個(gè)是或否的問(wèn)題。在這個(gè)數(shù)據(jù)集中，有很多弱規(guī)律?？赡苡?300,000 個(gè)弱規(guī)律表明答案應(yīng)該是否定的。有 600,000 個(gè)弱規(guī)律表明答案應(yīng)該是肯定的。這些規(guī)律的強(qiáng)度大致相同。所以答案顯然是肯定的。有壓倒性的證據(jù)表明答案應(yīng)該是肯定的。但這些證據(jù)存在于所有這些弱規(guī)律中。這只是它們綜合起來(lái)的效果。當(dāng)然，這是一個(gè)極端的例子。如果你問(wèn)某人，好吧，解釋一下為什么它說(shuō)是。解釋為什么它說(shuō)是的唯一方法就是深入研究這 600,000 個(gè)弱規(guī)律。所以當(dāng)你處在一個(gè)有很多弱規(guī)律的領(lǐng)域時(shí)，它們的數(shù)量如此之多以至于它們實(shí)際上很重要，它們的綜合效應(yīng)是顯著的，沒(méi)有理由期望你應(yīng)該能夠得到事物的簡(jiǎn)單解釋。

所以在昨天的談話(huà)中，Altman 指出了一篇來(lái)自 Anthropic 的論文，我認(rèn)為這非常有趣。論文中談到了分析 Claude 和 Anthropic 模型的內(nèi)部工作原理，并找到所有與金門(mén)大橋概念的神經(jīng)連接。然后你給所有這些連接增加權(quán)重，你就創(chuàng)造了金門(mén) Claude。然后你進(jìn)入那個(gè)聊天機(jī)器人，說(shuō)，給我講一個(gè)愛(ài)情故事。這是一個(gè)發(fā)生在金門(mén)大橋上的愛(ài)情故事。你問(wèn)它這是什么，它會(huì)描述金門(mén)大橋。既然如此，為什么我們不能進(jìn)入一個(gè)大型語(yǔ)言模型并調(diào)整權(quán)重，不是針對(duì)金門(mén)大橋，而是針對(duì)同理心、同情心的概念。然后創(chuàng)建一個(gè)更有可能為世界帶來(lái)好處的大型語(yǔ)言模型。

我認(rèn)為你可以制作一個(gè)同理心模型，但不能直接調(diào)整權(quán)重，你只需在表現(xiàn)出同理心的數(shù)據(jù)上訓(xùn)練它。然后你會(huì)得到相同的結(jié)果。

是的。我們應(yīng)該這樣做嗎？

過(guò)去，人們已經(jīng)有很多嘗試去了解單個(gè)神經(jīng)元功能的例子。我已經(jīng)這樣做了50年。如果神經(jīng)元直接連接到輸入或直接連接到輸出，你就有機(jī)會(huì)了解單個(gè)神經(jīng)元在做什么。但是一旦你有多個(gè)層，就很難理解系統(tǒng)深處的神經(jīng)元到底在做什么。因?yàn)橹匾氖撬倪呺H效應(yīng)。它的邊際效應(yīng)因其他神經(jīng)元在做什么、取決于輸入而有很大不同。因此，隨著輸入的變化，所有這些神經(jīng)元的邊際效應(yīng)都會(huì)發(fā)生變化。而且很難得到一個(gè)很好的理論來(lái)解釋它們?cè)谧鍪裁础?/p>

所以我可以把我在后臺(tái)構(gòu)建的神經(jīng)網(wǎng)絡(luò)拿出來(lái)，試著調(diào)整權(quán)重以增加同情心，結(jié)果我實(shí)際上想出了某種可怕的動(dòng)物殺戮機(jī)器，因?yàn)槲也恢牢业降鬃隽耸裁?，也不知道一切是如何?lián)系在一起的。

是的，我可能是少數(shù)幾個(gè)真正嘗試過(guò)這樣做的人之一。

在神經(jīng)網(wǎng)絡(luò)的早期，當(dāng)學(xué)習(xí)算法還不太好用的時(shí)候，我有一臺(tái)Lisp機(jī)器，鼠標(biāo)有三個(gè)按鈕。我找到了一種顯示小型神經(jīng)網(wǎng)絡(luò)中所有權(quán)重的方法。我這樣做的目的是，如果你按左鍵，權(quán)重就會(huì)變小一點(diǎn)。如果你按右鍵，權(quán)重就會(huì)變大一點(diǎn)。如果你按中間的按鈕，你就可以看到權(quán)重的值。它會(huì)打印出權(quán)重的值。我試著擺弄神經(jīng)網(wǎng)絡(luò)，調(diào)整權(quán)重。這真的很難。反向傳播要好得多。

好吧，我們必須等待比Geoffrey Hinton更聰明的下一代人工智能來(lái)弄清楚如何做到這一點(diǎn)。

讓我們來(lái)談?wù)勔恍┖玫娜斯ぶ悄?。你?jīng)常談到它將給醫(yī)學(xué)領(lǐng)域帶來(lái)的好處。當(dāng)你瀏覽可持續(xù)發(fā)展目標(biāo)時(shí)，似乎你覺(jué)得人工智能將在健康和醫(yī)學(xué)領(lǐng)域帶來(lái)很多好處。這公平嗎？告訴我為什么。

是的，我有點(diǎn)困惑。原因很明顯。它在解釋醫(yī)學(xué)圖像方面會(huì)做得更好。2016年，我說(shuō)到2021年，它在解釋醫(yī)學(xué)圖像方面會(huì)比臨床醫(yī)生做得更好。但我錯(cuò)了。這還需要五到十年。部分原因是醫(yī)學(xué)接受新事物的速度非常慢。但同時(shí)，我高估了短期進(jìn)步的速度。所以這是我做出的一個(gè)錯(cuò)誤預(yù)測(cè)。但它顯然正在變得更好?，F(xiàn)在，它在多種醫(yī)學(xué)圖像方面可以與相當(dāng)優(yōu)秀的醫(yī)學(xué)專(zhuān)家相媲美。不是全部，但很多。而且它一直在變得更好。它可以看到比任何臨床醫(yī)生都要多的數(shù)據(jù)。所以很明顯，最終它會(huì)變得更好。我只是以為它會(huì)更快一點(diǎn)。

但它在整合大量患者數(shù)據(jù)等方面也做得更好。整合基因組數(shù)據(jù)、所有醫(yī)學(xué)測(cè)試結(jié)果。如果我的家庭醫(yī)生看過(guò)一億個(gè)病人，我會(huì)非常高興。并且可以記住他們所有人的情況?；蛘哒狭怂麄兯腥说男畔?。因此，當(dāng)我出現(xiàn)一些奇怪的癥狀時(shí)，醫(yī)生可以立即說(shuō)出是什么。因?yàn)樗呀?jīng)看過(guò)500個(gè)非常相似的病人。她看過(guò)的一億個(gè)病人。這即將到來(lái)。這將是驚人的。

因此，醫(yī)療福利的未來(lái)是：看過(guò)更多病人并接受過(guò)培訓(xùn)的醫(yī)生；具體任務(wù)，如分析圖像。

那么科學(xué)突破呢？就像你的老同事在 AlphaFold 3、AlphaFold 2 上工作的東西。

當(dāng)然會(huì)有很多這樣的突破。這對(duì)于了解發(fā)生了什么事情會(huì)很棒，以及設(shè)計(jì)新藥。顯然，它將有助于設(shè)計(jì)新藥。我認(rèn)為 Demis 現(xiàn)在非常相信這一點(diǎn)。但它將幫助我們理解基礎(chǔ)科學(xué)。在許多情況下，有大量的數(shù)據(jù)不是我們進(jìn)化而來(lái)能夠處理的數(shù)據(jù)。所以它不是視覺(jué)數(shù)據(jù)。它不是聲音數(shù)據(jù)。它是基因組和其他東西中的數(shù)據(jù)。我認(rèn)為這些人工智能系統(tǒng)在處理大量數(shù)據(jù)和發(fā)現(xiàn)其中的模式方面會(huì)做得更好，并理解它。

這涉及到我對(duì)人工智能領(lǐng)域的主要批評(píng)之一，我很好奇你是否同意。我理解為什么這么多研究人員和你的一些前學(xué)生，許多該領(lǐng)域的先驅(qū)者，都在努力制造像人類(lèi)一樣的機(jī)器，與人類(lèi)沒(méi)有區(qū)別。但也有其他人試圖建造非常具體的東西，比如 AlphaFold3，或者試圖弄清楚如何使用人工智能推動(dòng)癌癥研究。您認(rèn)為我的看法是錯(cuò)誤的，我認(rèn)為 AGI 方面過(guò)于重要且關(guān)注度過(guò)高，而具體的科學(xué)效益方面關(guān)注度不夠？

我認(rèn)為您說(shuō)得對(duì)。很長(zhǎng)一段時(shí)間以來(lái)，我都認(rèn)為 AGI 不會(huì)……不會(huì)有那么一刻，這些東西突然變得比我們更聰明。它們會(huì)在不同的時(shí)間在不同的事情上比我們做得更好。所以如果你下國(guó)際象棋或圍棋，很明顯……人類(lèi)永遠(yuǎn)不可能像 AlphaGo 或 AlphaZero 那樣優(yōu)秀。它們已經(jīng)遠(yuǎn)遠(yuǎn)超越了我們。我們可以從它們玩這些游戲的方式中學(xué)到很多東西。人們正在學(xué)習(xí)這一點(diǎn)。但他們?cè)谶@方面遠(yuǎn)遠(yuǎn)領(lǐng)先于我們。而且在編碼方面，他們可能已經(jīng)遠(yuǎn)遠(yuǎn)領(lǐng)先于我了。我不是一個(gè)很好的程序員。所以我認(rèn)為，突然之間它們會(huì)在所有事情上都變得更好的想法是愚蠢的。它們會(huì)在不同的時(shí)間在不同的事情上變得更好。我相信，物理操作將是后來(lái)的事情之一。

那么，當(dāng)您的以前的學(xué)生要求進(jìn)行項(xiàng)目時(shí)，您是否經(jīng)常會(huì)給他們指明方向，比如說(shuō)，我們將進(jìn)行更多的基礎(chǔ)科學(xué)研究，推動(dòng)更多的發(fā)現(xiàn)？而不是繼續(xù)追求類(lèi)似人類(lèi)的智能？

我以前的學(xué)生現(xiàn)在都老了，他們不再問(wèn)我了。（笑）

他的前學(xué)生基本上經(jīng)營(yíng)著世界上所有的人工智能公司。所以這是一種巧妙的方式來(lái)回答這個(gè)問(wèn)題。但我們就這樣吧。

所以回到人工智能。看看可持續(xù)發(fā)展目標(biāo)，看看在座各位的雄心壯志，你是否覺(jué)得人工智能會(huì)以一種有助于公平的方式改變教育，特別是當(dāng)這些系統(tǒng)能夠熟練掌握地球上的每一種語(yǔ)言時(shí)？

是的。那么讓我給你講一個(gè)小故事。

我上學(xué)的時(shí)候，父親堅(jiān)持讓我學(xué)德語(yǔ)，因?yàn)樗J(rèn)為德語(yǔ)將成為科學(xué)語(yǔ)言。這是因?yàn)樵诨瘜W(xué)領(lǐng)域，我相信在上世紀(jì)中葉或早期，德語(yǔ)是科學(xué)語(yǔ)言。然而，我的德語(yǔ)不太好，成績(jī)也不好。所以我的父母給我找了個(gè)私人家教，很快我的德語(yǔ)成績(jī)就名列前茅。

私人家教比坐在教室里聽(tīng)老師講課要有效得多，因?yàn)樗饺思医炭梢詼?zhǔn)確地看到你誤解了什么，并給你提供正確理解所需的那一點(diǎn)點(diǎn)信息。所以我認(rèn)為每個(gè)人都會(huì)找私人家教。到目前為止，私人家教都是富人、中產(chǎn)階級(jí)和有抱負(fù)的人的專(zhuān)屬。所以從這個(gè)意義上說(shuō)，它會(huì)有很大的幫助。我認(rèn)為可汗學(xué)院也相信這一點(diǎn)。這是一件大事。

如果每個(gè)人都有這些非常有能力的私人教師，他們就會(huì)說(shuō)他們的語(yǔ)言，如果上帝保佑，我們很快就會(huì)得到這些語(yǔ)言。這一直是這里的一個(gè)大話(huà)題。你不覺(jué)得世界變得更加平等了嗎？

從這個(gè)意義上說(shuō)，是的。就教育機(jī)會(huì)而言，我認(rèn)為它會(huì)變得更加平等。精英大學(xué)不會(huì)喜歡這樣，但我認(rèn)為它會(huì)變得更加平等。

我們對(duì)人類(lèi)的未來(lái)更感興趣。這不是精英大學(xué)的人工智能，而是善良的人工智能。所以我認(rèn)為我們可以把這當(dāng)作舞臺(tái)上的勝利。

絕對(duì)如此。

但你的回答中有一個(gè)漏洞，表明你覺(jué)得人工智能總體上不會(huì)成為平等的凈力量，但我們實(shí)際上可能是不平等的凈力量。我把這個(gè)理解成你的答案錯(cuò)了嗎？

好吧，我們生活在資本主義制度下，資本主義制度為我們提供了很多東西。但我們對(duì)資本主義制度有一些了解。如果你看看石油巨頭、煙草巨頭、石棉巨頭或其他各種行業(yè)，我們就會(huì)知道，在資本主義制度下，人們都在努力賺取利潤(rùn)。而你需要強(qiáng)有力的監(jiān)管，這樣他們才能在試圖賺取利潤(rùn)時(shí)，不會(huì)破壞環(huán)境。

對(duì)于人工智能，我們顯然需要這樣的監(jiān)管，但我們卻遠(yuǎn)遠(yuǎn)沒(méi)有得到足夠快的監(jiān)管。所以，如果你看看 Sam Altman 昨天說(shuō)的話(huà)，他給人的印象是，是的，他們非常關(guān)心安全等等。但我們現(xiàn)在對(duì)此進(jìn)行了實(shí)驗(yàn)。我們已經(jīng)看到了將安全與利潤(rùn)對(duì)立起來(lái)的實(shí)驗(yàn)結(jié)果。現(xiàn)在，實(shí)驗(yàn)是在相當(dāng)糟糕的條件下進(jìn)行的。實(shí)驗(yàn)是在 OpenAI 的所有員工即將能夠?qū)⑺麄兊募垘抛兂烧驽X(qián)的時(shí)候進(jìn)行的，因?yàn)榧磳⒂幸惠喆笠?guī)模融資，他們將被允許出售他們的股份。所以這不是一個(gè)在理想情況下進(jìn)行的實(shí)驗(yàn)。但很明顯誰(shuí)在利潤(rùn)和安全方面勝出。

現(xiàn)在很明顯，OpenAI 有了一個(gè)新的安全小組。它雇用了一些經(jīng)濟(jì)學(xué)家，或者至少雇用了一名經(jīng)濟(jì)學(xué)家。我認(rèn)為經(jīng)濟(jì)學(xué)家是資本主義的高級(jí)祭司。我認(rèn)為它不會(huì)像 Ilya 和與他一起工作的人那樣擔(dān)心生存威脅。我還認(rèn)為問(wèn)題在于資本主義本質(zhì)上是為了賺錢(qián)，我并不完全反對(duì)這一點(diǎn)。資本主義為我們帶來(lái)了很多好處，這種驅(qū)動(dòng)力確實(shí)存在，但它需要受到監(jiān)管，這樣才能避免帶來(lái)負(fù)面影響。資本主義將創(chuàng)造大量財(cái)富。

我認(rèn)為幾乎每個(gè)人都清楚，人工智能將提高生產(chǎn)力。問(wèn)題在于，這些額外的財(cái)富將流向何處？我認(rèn)為它不會(huì)流向窮人，而是會(huì)流向富人。因此，我認(rèn)為這會(huì)加劇貧富差距。這是我的看法。

你沒(méi)有希望嗎？似乎你是在說(shuō)，人工智能的力量，以及由于訓(xùn)練這些大型語(yǔ)言模型所需的資源，可能只有少數(shù)公司能夠使用人工智能。人工智能與資本主義和平等有點(diǎn)不相容。你難道不希望我們剛才談到的教育公平，每個(gè)人都能使用極其強(qiáng)大的機(jī)器，即使不是最昂貴的機(jī)器那么強(qiáng)大，你難道不希望這些能夠抵消這種不平等嗎？

對(duì)此還是有希望的。但在我一生的大部分時(shí)間里，我認(rèn)為隨著人們受教育程度的提高，他們會(huì)變得更加理智。但這并沒(méi)有真正發(fā)生。如果你看看現(xiàn)在的共和黨，他們只是在散布謊言，只是瘋狂的謊言。

這是個(gè)好時(shí)機(jī)。讓我們來(lái)討論這個(gè)問(wèn)題……我想討論如何進(jìn)行監(jiān)管的問(wèn)題以及你對(duì)此的想法。但我也想解決你對(duì)人工智能將把我們帶向何方的其他一些擔(dān)憂(yōu)。你為什么不在這里列出一兩件事，不是說(shuō)你擔(dān)心經(jīng)濟(jì)的生存問(wèn)題，而是你對(duì)未來(lái)12個(gè)月的擔(dān)憂(yōu)。

好吧，我擔(dān)心的是我知之甚少的事情，那就是網(wǎng)絡(luò)犯罪。我最近聽(tīng)了Dawn Song的演講，她說(shuō)去年網(wǎng)絡(luò)釣魚(yú)攻擊增加了1200%。當(dāng)然，這些攻擊變得越來(lái)越高明，因?yàn)槟阍僖矡o(wú)法通過(guò)拼寫(xiě)錯(cuò)誤或有趣的外國(guó)語(yǔ)法來(lái)識(shí)別它們，因?yàn)楝F(xiàn)在它們都是由聊天機(jī)器人完成的，或者很多都是。所以我擔(dān)心這個(gè)，但我對(duì)此了解不多。

另一件我非常擔(dān)心的事情是虛假視頻破壞選舉。我認(rèn)為很明顯，每次選舉前，都會(huì)有大量虛假視頻，而沒(méi)有時(shí)間反駁它們。我真的認(rèn)為，讓公眾對(duì)虛假視頻產(chǎn)生免疫力是個(gè)好主意。所以要像對(duì)待疾病一樣對(duì)待它們。預(yù)防疾病的方法是接種一種減毒疫苗。

所以我認(rèn)為有很多慈善億萬(wàn)富翁。他們應(yīng)該在選舉前一個(gè)月左右花錢(qián)，或者部分花錢(qián)，在廣播中播放很多假視頻。最后他們說(shuō)，但這是假的。那不是特朗普在講話(huà)，特朗普從來(lái)沒(méi)有說(shuō)過(guò)這樣的話(huà)?；蛘吣遣皇前莸窃谥v話(huà)，拜登從來(lái)沒(méi)有說(shuō)過(guò)這樣的話(huà)。這是一個(gè)假視頻。然后你會(huì)讓人們對(duì)幾乎所有事情都產(chǎn)生懷疑。如果周?chē)泻芏嗉僖曨l，這是一個(gè)好主意。

但你需要一種方法讓人們檢查視頻是否真實(shí)。這比檢查它是否是假的更容易。如果他們?cè)敢馔度?0秒的工作。因此，Jan Tallinn建議，例如，你可以在每個(gè)視頻的開(kāi)頭放一個(gè)二維碼。你可以使用二維碼訪問(wèn)網(wǎng)站。如果網(wǎng)站上有相同的視頻，你就知道該網(wǎng)站聲稱(chēng)該視頻是真實(shí)的?，F(xiàn)在，你已經(jīng)將判斷視頻是否真實(shí)的問(wèn)題簡(jiǎn)化為該網(wǎng)站是否真實(shí)的問(wèn)題。網(wǎng)站是獨(dú)一無(wú)二的。所以如果你確定它真的是特朗普競(jìng)選網(wǎng)站，那么你就知道特朗普競(jìng)選團(tuán)隊(duì)確實(shí)發(fā)布了那個(gè)視頻。

我們可以暫停一下嗎？這就是我喜歡采訪杰弗里·辛頓的原因。我們從新的意識(shí)理論開(kāi)始，一個(gè)關(guān)于主觀感受的極具爭(zhēng)議的理論，到我們應(yīng)該通過(guò)發(fā)布少量的虛假視頻來(lái)讓公眾免受虛假新聞的侵害。

讓我們進(jìn)入第一部分。因?yàn)槿绻覜](méi)聽(tīng)錯(cuò)的話(huà)，你的解決方案有兩個(gè)部分。第一個(gè)是讓公眾免受虛假視頻的侵害。你的意思是，具體來(lái)說(shuō)，有人應(yīng)該制作數(shù)百萬(wàn)個(gè)簡(jiǎn)短的虛假但不具破壞性的視頻，并將它們放在推特帖子上？

它們可能會(huì)造成中等程度的破壞。除非它們看起來(lái)像真正的政治廣告，否則不會(huì)令人信服。但在廣告的最后，它們是短廣告，所以你希望人們看到最后。廣告的最后說(shuō)，這是假的。這就是讓你能夠處理它的衰減。

我明白了。所以你看了它，你會(huì)想，啊，這證明了我的觀點(diǎn)。等等，那是假的。然后你更不信任了。

然后第二部分是每個(gè)視頻都應(yīng)該有一個(gè)二維碼。所以你看到了一些東西?，F(xiàn)在你知道了。所以你掃描了那個(gè)小二維碼。你去網(wǎng)站。啊，這是真的。它在一個(gè)真正的網(wǎng)站上。這就是這個(gè)想法？

好吧，僅僅把你帶到一個(gè)真正的網(wǎng)站是不夠的。因?yàn)榧僖曨l可以把你帶到同一個(gè)真正的網(wǎng)站。視頻必須在那里。那個(gè)網(wǎng)站上肯定有相同的視頻。公平地說(shuō)。

好吧，讓我們談?wù)勂?jiàn)以及如何防止偏見(jiàn)。因此，人們談?wù)摰娘L(fēng)險(xiǎn)之一是，用有偏見(jiàn)的數(shù)據(jù)訓(xùn)練的人工智能系統(tǒng)會(huì)產(chǎn)生有偏見(jiàn)的結(jié)果。讓我們回到醫(yī)學(xué)領(lǐng)域，您已經(jīng)提出了令人信服的論據(jù)，即凈人工智能將帶來(lái)巨大的好處。您可以想象，一位剛剛接受過(guò)美國(guó)人醫(yī)療記錄培訓(xùn)的醫(yī)生沒(méi)有給贊比亞人提供正確的醫(yī)療建議。因?yàn)橛胁煌尼t(yī)療問(wèn)題、不同的 DNA 等。您對(duì)這個(gè)問(wèn)題有多擔(dān)心，如何解決它？

好吧，所以我對(duì)偏見(jiàn)和歧視問(wèn)題的擔(dān)心不如對(duì)其他問(wèn)題的擔(dān)心。我知道我是一個(gè)年長(zhǎng)的白人男性，所以這可能與此有關(guān)。我很少遇到這種情況。但我認(rèn)為，如果您設(shè)定目標(biāo)，用偏見(jiàn)較少的系統(tǒng)取代有偏見(jiàn)的系統(tǒng)或有偏見(jiàn)的人。不是沒(méi)有偏見(jiàn)的系統(tǒng)，而是偏見(jiàn)較少的系統(tǒng)，這似乎是完全可行的。所以如果我有關(guān)于年長(zhǎng)的白人男性決定年輕黑人女性是否應(yīng)該獲得抵押貸款的數(shù)據(jù)，我會(huì)預(yù)計(jì)其中會(huì)存在一些偏見(jiàn)。一旦我用這些數(shù)據(jù)訓(xùn)練了一個(gè)人工智能系統(tǒng)，我就可以?xún)鼋Y(jié)權(quán)重，然后以一種我無(wú)法用在人身上的方式來(lái)檢查偏見(jiàn)。對(duì)于人，如果你試圖檢查他們的偏見(jiàn)，你就會(huì)得到一種大眾效應(yīng)，他們會(huì)意識(shí)到你在檢查他們，他們的行為會(huì)完全不同。我剛剛發(fā)明了一個(gè)名字——大眾效應(yīng)，但就是這樣。

對(duì)于人工智能系統(tǒng)，如果你凍結(jié)權(quán)重，你可以更好地衡量偏見(jiàn)，并采取措施克服它，改善它。你永遠(yuǎn)無(wú)法完全擺脫它。我認(rèn)為這太難了。但假設(shè)你設(shè)定目標(biāo)，讓新系統(tǒng)比它所取代的系統(tǒng)偏見(jiàn)少得多。我認(rèn)為這是完全可行的。

了不起。

你是否覺(jué)得業(yè)界對(duì)偏見(jiàn)的關(guān)注（這是一個(gè)主要話(huà)題）低估了這些系統(tǒng)最終可能會(huì)更加公正的事實(shí)？我們真的應(yīng)該說(shuō)，我們不應(yīng)該說(shuō)我們必須消除所有的偏見(jiàn)，而應(yīng)該說(shuō)，讓我們讓它們比人類(lèi)更少偏見(jiàn)，然后從那里開(kāi)始？

我認(rèn)為這是合理的。我不確定這在政治上是否可以接受。假設(shè)你說(shuō)，我們要推出自動(dòng)駕駛汽車(chē)。它們?cè)诼飞蠚⑺懒撕芏嗳耍挥衅胀ㄆ?chē)的一半。我不認(rèn)為你能逃脫懲罰。它們必須殺死幾乎沒(méi)有人，你才能逃脫懲罰。所以我認(rèn)為，以理性的方式接受新技術(shù)存在政治問(wèn)題。但我認(rèn)為我們應(yīng)該以明顯更少偏見(jiàn)的系統(tǒng)為目標(biāo)，并對(duì)此感到滿(mǎn)意。

好吧。讓我們談?wù)勀阍诓稍L中描述的人工智能最大的風(fēng)險(xiǎn)，那就是它們會(huì)得到子目標(biāo)，并且它們會(huì)獲得一個(gè)超越其創(chuàng)造者和用戶(hù)賦予的初始目標(biāo)的目標(biāo)。解釋一下：A，你認(rèn)為子目標(biāo)是什么；B，為什么這很糟糕；C，我們可以做些什么。

因此，一種無(wú)害的子目標(biāo)是，如果我想要一個(gè)人工智能代理為我規(guī)劃一次旅行，我會(huì)說(shuō)，你必須帶我去北美。假設(shè)我在歐洲。我會(huì)說(shuō)，你必須帶我去北美。因此，它將有一個(gè)子目標(biāo)，即弄清楚如何將我送到機(jī)場(chǎng)。這只是一種典型的子目標(biāo)。如果你想制造智能代理，它們必須有這樣的子目標(biāo)。它們必須能夠?qū)Ｗ⒂趩?wèn)題的一小部分并解決它，而不必?fù)?dān)心所有事情。

現(xiàn)在，只要你有一個(gè)可以創(chuàng)建自己的子目標(biāo)的系統(tǒng)，就會(huì)有一個(gè)非常有用的特定子目標(biāo)。那個(gè)子目標(biāo)是，獲得更多控制權(quán)。如果我獲得更多控制權(quán)，我就可以更好地做用戶(hù)希望我做的各種事情。因此獲得更多控制權(quán)是有意義的。令人擔(dān)憂(yōu)的是，最終人工智能系統(tǒng)會(huì)發(fā)現(xiàn)，如果我能控制一切，我就能給這些愚蠢的人類(lèi)他們想要的東西，而他們卻完全沒(méi)有控制權(quán)。這可能是真的。但令人擔(dān)憂(yōu)的是，假設(shè)人工智能系統(tǒng)決定它對(duì)自己的興趣比對(duì)人類(lèi)的興趣大一點(diǎn)，我們就完了。

事實(shí)上，在我們完蛋之前，正如你所描述的那樣，我就很擔(dān)心。所以你有一個(gè)人工智能，目標(biāo)是讓尼克準(zhǔn)時(shí)到達(dá)機(jī)場(chǎng)。在未來(lái)的某個(gè)狀態(tài)下，人工智能是全能的。那么，讓尼克去機(jī)場(chǎng)的最好方法可能是讓尼克動(dòng)彈不得，把他的手放在身后，然后把他扔進(jìn)車(chē)?yán)铩＿@樣效率更高，因?yàn)檫@樣他在出去的路上就不會(huì)和任何人說(shuō)話(huà)了。所以你可以看到這些子目標(biāo)出了大問(wèn)題。

是的，但請(qǐng)記住，這是一個(gè)非常智能的系統(tǒng)。到那時(shí)，它就應(yīng)該能夠不犯下明顯違背人類(lèi)利益的錯(cuò)誤。應(yīng)該以對(duì)人類(lèi)感興趣的方式對(duì)它進(jìn)行訓(xùn)練。

好的，太好了，因?yàn)槲艺娴牟幌肽菢影l(fā)生在我身上。

好的，讓我們來(lái)看看，我想討論一下一些監(jiān)管框架。我有一個(gè)問(wèn)題要問(wèn)你，我想你能比大多數(shù)人回答得更好，這是阻礙大型人工智能公司和人工智能研究人員致力于安全或放慢腳步的因素之一，這不僅僅是權(quán)力，不僅僅是金錢(qián)，而是做偉大的事情的夢(mèng)想，或者用程序員的話(huà)來(lái)說(shuō)，找到甜蜜的東西。

告訴我一個(gè)時(shí)刻，這樣監(jiān)管機(jī)構(gòu)就可以理解這一點(diǎn)，你作為一名開(kāi)發(fā)人員正處于突破的邊緣，那是什么感覺(jué)，監(jiān)管機(jī)構(gòu)在考慮政策時(shí)應(yīng)該如何考慮這一點(diǎn)。

我不確定我能否給你很好的見(jiàn)解。對(duì)于一名研究人員，對(duì)于一名受好奇心驅(qū)使的研究人員，致力于如何使某樣?xùn)|西更強(qiáng)大，引入一些引人注目的新功能，就像之前一位發(fā)言者談到的想法，你學(xué)習(xí)一種語(yǔ)言的模型，學(xué)習(xí)另一種語(yǔ)言的模型，然后你可以將內(nèi)部表示相互旋轉(zhuǎn)。這真是太神奇了?？吹竭@樣的事情，你會(huì)感到非常高興。我不確定你是否從安全工作中獲得同樣的快樂(lè)。所以我有點(diǎn)同意你的觀點(diǎn)。然而，安全工作非常重要。有一些非常優(yōu)秀的研究人員熱衷于將他們的職業(yè)生涯花在安全上。我認(rèn)為我們應(yīng)該盡一切努力讓這條職業(yè)道路成為一條有益的職業(yè)道路。

所以你會(huì)對(duì)這個(gè)房間里的年輕企業(yè)編碼員說(shuō)，這是上帝的工作。安全工作？或者那是一件好事，甚至比當(dāng)水管工更好？

哦，是的。如果你能在安全方面取得進(jìn)展，那將是驚人的，是的。

好的。非常好。我會(huì)和我的孩子們談?wù)?。讓我們談?wù)勀阆胍谋O(jiān)管框架。你談到的一件事是，我相信你去了唐寧街10號(hào)，說(shuō)英國(guó)應(yīng)該有全民基本收入。你能解釋一下原因嗎？然后解釋一下你在那里推薦的其他法規(guī)。

是的，我被邀請(qǐng)到唐寧街10號(hào)，那里有一大群顧問(wèn)。他的幕僚長(zhǎng)和一大群其他為他提供人工智能建議的人。我和他們談了很長(zhǎng)時(shí)間。那時(shí)，我沒(méi)有坐下來(lái)。所以我走進(jìn)這個(gè)房間，那里有一大群顧問(wèn)，我花了一段時(shí)間和他們交談，包括說(shuō)我認(rèn)為我不相信人工智能會(huì)創(chuàng)造和它消除的那么多工作崗位。所以他們需要像全民基本收入這樣的東西。會(huì)議結(jié)束時(shí)，我正要走出門(mén)，突然意識(shí)到自己正站在瑪格麗特·撒切爾的巨幅畫(huà)像前，向人們解釋他們應(yīng)該實(shí)行社會(huì)主義。我站在瑪格麗特·撒切爾的巨幅畫(huà)像前，這很有趣。

好吧，那么全民基本收入。杰弗里·辛頓的監(jiān)管計(jì)劃中還有什么針對(duì)人工智能世界的計(jì)劃？

我認(rèn)為一個(gè)非常簡(jiǎn)單的想法，也是薩姆·奧爾頓不會(huì)喜歡的，就是應(yīng)該將同等的資源投入到安全方面。如果你看看至少有一個(gè)人因?yàn)閷?duì)安全不夠重視而放棄OpenAI，你會(huì)發(fā)現(xiàn)這與資源有關(guān)。我認(rèn)為，如果政府可以的話(huà)，應(yīng)該堅(jiān)持將更多資源投入到安全方面。這有點(diǎn)像石油公司。你可以堅(jiān)持要求他們投入大量資源清理垃圾場(chǎng)和他們噴出的東西。政府可以做到這一點(diǎn)。如果政府不這樣做，他們就只會(huì)繼續(xù)胡說(shuō)八道。這顯然是政府的職責(zé)，讓資本主義發(fā)揮作用而不摧毀一切。這就是他們應(yīng)該做的。

但有一種更簡(jiǎn)單的方法可以做到這一點(diǎn)，政府可以監(jiān)管這些大公司，并說(shuō)，你必須致力于安全，我們需要審計(jì)并確保你正在這樣做。但政府也可以資助大量的安全研究，獲取大量的政府?dāng)?shù)據(jù)，并將其提供給安全研究人員，資助大量計(jì)算并將其提供給安全研究人員。那么這里的政府官員是否都應(yīng)該建立人工智能……聯(lián)合國(guó)應(yīng)該建立一個(gè)人工智能安全研究所嗎？

我認(rèn)為聯(lián)合國(guó)資金相當(dāng)緊張。聯(lián)合國(guó)必須做一些事情，比如為加沙人民提供食物。我寧愿把錢(qián)花在為加沙人民提供食物上（觀眾鼓掌）。我認(rèn)為聯(lián)合國(guó)沒(méi)有資源。也許它應(yīng)該有資源，但它沒(méi)有。我認(rèn)為加拿大沒(méi)有資源。加拿大已經(jīng)做出了認(rèn)真的努力，為大學(xué)和初創(chuàng)企業(yè)提供計(jì)算資金。所以他們最近投入了20億美元，這是一大筆錢(qián)，尤其是對(duì)加拿大來(lái)說(shuō)。但與大公司能做的事情相比，這算不了什么。也許像沙特阿拉伯這樣的國(guó)家可以投入類(lèi)似的資金，但我不太確定他們是否對(duì)安全感興趣。

所以，杰夫，我們還剩一分鐘，我還有14個(gè)問(wèn)題。盡管你給出了非常、非常、非常精彩的答案。所以最后我要問(wèn)一個(gè)大問(wèn)題。從所有這些人工智能研究中，你一直在研究大腦是如何工作的。你對(duì)我們?yōu)槭裁此X(jué)有令人難以置信的理論。如果你有機(jī)會(huì)和Hinton博士交談，我建議你問(wèn)他這個(gè)問(wèn)題。在過(guò)去一年半的時(shí)間里，在人工智能的爆炸式增長(zhǎng)中，我們對(duì)大腦的了解有什么讓你感到驚訝的？

哦，這讓我很驚訝？我寧愿回到幾年前，說(shuō)真正讓我感到驚訝的是這些大型語(yǔ)言模型有多好。我想我在1985年創(chuàng)建了第一個(gè)語(yǔ)言模型，它使用反向傳播來(lái)嘗試預(yù)測(cè)單詞序列中的下一個(gè)單詞。這個(gè)序列只有三個(gè)單詞長(zhǎng)，整個(gè)系統(tǒng)只有幾千個(gè)權(quán)重。但這是這種模型中的第一個(gè)。當(dāng)時(shí)，我對(duì)它似乎能夠統(tǒng)一兩個(gè)不同的單詞意義理論感到非常興奮。一種理論認(rèn)為它與單詞與其他單詞的關(guān)系有關(guān)。這是德·薩蘇爾理論。另一種來(lái)自心理學(xué)家的理論認(rèn)為它是一大組語(yǔ)義特征。我們現(xiàn)在所做的是通過(guò)學(xué)習(xí)嵌入和不同單詞或單詞片段的嵌入特征之間的交互，我們成功地統(tǒng)一了這兩種不同的意義理論。我相信，我們現(xiàn)在有了大型語(yǔ)言模型，它們真正理解自己在說(shuō)什么，就像人類(lèi)理解的方式一樣。所以最后我想說(shuō)的是，這些使用反向傳播來(lái)預(yù)測(cè)下一個(gè)單詞的語(yǔ)言模型的起源并不是為了開(kāi)發(fā)一種好的技術(shù)。這是為了嘗試了解人們是如何做到這一點(diǎn)的。

所以我認(rèn)為，對(duì)于人們理解語(yǔ)言的方式，我們擁有的最好的模型就是這些大型人工智能模型。那些說(shuō)“不，他們真的不理解”的人，那是胡說(shuō)八道。他們理解的方式和我們一樣。

好吧，我們只能就此結(jié)束。得知杰夫·辛頓的不可思議的頭腦在某種程度上支持了我們今天使用的所有人工智能模型，這讓我感到有些振奮。非常感謝辛頓博士。感謝您今天加入我們。

謝謝。