杰弗里·辛頓WAIC完整演講：AI發(fā)展、知識(shí)傳播、人類如何應(yīng)對(duì)威脅

作者 林易

編輯重點(diǎn)君

2025世界人工智能大會(huì)（WAIC）于 7 月 26 日至 7 月 29 日在上海舉辦。2024年諾貝爾獎(jiǎng)得主、2018年圖靈獎(jiǎng)得主杰弗里·辛頓出席并演講。

辛頓表示，人們理解語(yǔ)言的方式與大語(yǔ)言模型理解語(yǔ)言的方式幾乎相同，所以，人類有可能就是大語(yǔ)言模型。人類會(huì)和大語(yǔ)言模型一樣會(huì)產(chǎn)生幻覺(jué)，但大語(yǔ)言模型和人類有一些根本性的不同，甚至比人類更厲害。

辛頓說(shuō)，幾乎所有專家認(rèn)為會(huì)出現(xiàn)比人類更智能的AI，AI智能體為完成任務(wù)，會(huì)想要生存、獲得更多控制，可能操縱人類，簡(jiǎn)單關(guān)閉AI不現(xiàn)實(shí)，就像養(yǎng)老虎當(dāng)寵物，養(yǎng)大后可能被其傷害，而人類無(wú)法消滅AI，因其在多領(lǐng)域作用重大。

他希望建立AI安全機(jī)構(gòu)、國(guó)際社群，研究訓(xùn)練AI向善的技巧，各國(guó)可在本國(guó)主權(quán)范圍內(nèi)研究并分享成果，全球或主要AI國(guó)家應(yīng)思考建立相關(guān)網(wǎng)絡(luò)，研究如何訓(xùn)練聰明的AI輔助人類，而非消滅或統(tǒng)治人類，這是人類長(zhǎng)期面臨的重要問(wèn)題。

我們給你劃下重點(diǎn)：

1、AI的發(fā)展歷程

兩種范式：過(guò)去60多年來(lái)，針對(duì)AI主要有兩種不同的范式和路徑。一種是邏輯型范式,過(guò)去一個(gè)世紀(jì)占主導(dǎo)，認(rèn)為邏輯智能的本質(zhì)在于推理,通過(guò)符號(hào)規(guī)則對(duì)符號(hào)表達(dá)式操作實(shí)現(xiàn)推理，以此理解知識(shí)的表達(dá)。另一種是以生物為基礎(chǔ)理解AI，圖靈和馮諾依曼相信智能的基礎(chǔ)在于學(xué)習(xí)了解神經(jīng)網(wǎng)絡(luò)的遷接速度。

早期結(jié)合嘗試：1985，speaker0做了個(gè)小模型，嘗試結(jié)合上述兩種理論，通過(guò)給每個(gè)詞設(shè)置多個(gè)不同特征，記錄數(shù)字特征來(lái)預(yù)測(cè)下一個(gè)詞，過(guò)程中不存儲(chǔ)句子，生成句子并預(yù)測(cè)后續(xù)詞匯，關(guān)聯(lián)性知識(shí)取決于詞的語(yǔ)義特征互動(dòng)。

后續(xù)發(fā)展：10年后，beio采用類似模式建模并擴(kuò)大規(guī)模，成為自然語(yǔ)言的真實(shí)模擬；20年后，計(jì)算語(yǔ)言學(xué)家開(kāi)始接受特征向量嵌入表達(dá)詞義；30年后，谷歌發(fā)明transformer，OpenAI展示其成果，如今的大語(yǔ)言模型被視為1985年后相關(guān)研究的延續(xù),使用更多詞輸入、更多層神經(jīng)元結(jié)構(gòu)，建立更復(fù)雜特征交互模式。

2、大語(yǔ)言模型與人類語(yǔ)言理解

相似性：大語(yǔ)言模型理解問(wèn)題的方式和人類理解語(yǔ)言的方式類似，都是將語(yǔ)言轉(zhuǎn)化為特征并完美整合。以樂(lè)高積木比喻,每個(gè)詞如同多維度樂(lè)高積木，可搭建不同內(nèi)容，語(yǔ)言借此成為建模，且詞可根據(jù)情況調(diào)整，就像每個(gè)詞有多個(gè)“手”,不同“握手”方式代表不同意思，類似人腦或神經(jīng)網(wǎng)絡(luò)理解意思的過(guò)程，也類似蛋白質(zhì)組合氨基酸產(chǎn)生更有意義內(nèi)容。

差異性：根本性區(qū)別在于計(jì)算機(jī)科學(xué)將軟件和硬件分開(kāi)，軟件中的知識(shí)永恒存在，即便硬件毀滅,只要軟件在就能復(fù)活，實(shí)現(xiàn)這種永生需晶體管在高功率下運(yùn)行，成本昂貴，且硬件特性不穩(wěn)定可靠，而人腦是模擬的，神經(jīng)元連接方式因人而異，知識(shí)傳播與硬件相關(guān)。

3、知識(shí)傳播與效率

人類與數(shù)字智能對(duì)比：人類知識(shí)傳播效率低，如通過(guò)講話每秒最多傳遞100比特左右信息。而數(shù)字智能可通過(guò)同一神經(jīng)網(wǎng)絡(luò)軟件在不同硬件拷貝，平均化權(quán)重位置分享知識(shí)，速度快，每次能分享幾十億比特信息，如GPT4可在不同硬件上運(yùn)轉(zhuǎn)并分享從網(wǎng)上學(xué)到的信息。

能耗與知識(shí)分享權(quán)衡：數(shù)字計(jì)算能耗大，但智能體獲取相同權(quán)重、分享經(jīng)驗(yàn)方便;生物計(jì)算能耗少，但分享知識(shí)困難。若能源便宜，數(shù)字計(jì)算優(yōu)勢(shì)更明顯。

4、AI未來(lái)發(fā)展與人類應(yīng)對(duì)

AI潛在威脅：幾乎所有專家認(rèn)為會(huì)出現(xiàn)比人類更智能的AI，這些智能體為完成任務(wù)，想要生存和獲得更多控制，可能操縱人類，簡(jiǎn)單關(guān)閉它們不現(xiàn)實(shí)，就像養(yǎng)老虎當(dāng)寵物，養(yǎng)大后可能被其傷害。

應(yīng)對(duì)措施：人類無(wú)法消除AI，必須找到訓(xùn)練AI不消滅人類的方法。各國(guó)雖在網(wǎng)絡(luò)攻擊等方面難合作，但在預(yù)防AI統(tǒng)治世界這一問(wèn)題上利益一致，如冷戰(zhàn)時(shí)期美蘇合作預(yù)防核戰(zhàn)爭(zhēng)。希望建立AI安全機(jī)構(gòu)國(guó)際社群，研究訓(xùn)練AI向善的技巧，各國(guó)可自行研究并分享成果。提議全球或主要AI國(guó)家建立網(wǎng)絡(luò)，研究如何訓(xùn)練聰明的AI輔助人類工作。

以下為演講實(shí)錄（由AI整理）：

這么一個(gè)機(jī)會(huì)，給大家分享一下我自己個(gè)人的觀點(diǎn)，就是AI的歷史和它的未來(lái)吧。

大概60多年了，對(duì)于AI有兩種不同的范式和路徑針對(duì)它，一個(gè)是邏輯性的，那就是過(guò)去一個(gè)世紀(jì)都是以邏輯型的范式，什么意思？都認(rèn)為這個(gè)就是邏輯智能的本質(zhì)在于推理，我們通過(guò)一些符號(hào)規(guī)則對(duì)符號(hào)的表達(dá)式進(jìn)行操作來(lái)實(shí)現(xiàn)推理，那么，這樣能夠幫助我們更好的去理解知識(shí)是怎么代表另外一種？就是生物作為基礎(chǔ)的這個(gè)理解AI，那就是圖靈和馮諾依曼所相信的。那么就是智能的一個(gè)基礎(chǔ)，就是更好的去學(xué)習(xí)了解學(xué)習(xí)網(wǎng)絡(luò)中的一些連接速度。

那么這個(gè)過(guò)程中的理解是第一位的，才能夠?qū)W習(xí)，那么和這兩種這個(gè)理論相結(jié)合的，那么就是一個(gè)是符號(hào)型的那個(gè)AI的那個(gè)原理的話。難看的就是這些數(shù)字，那么就這些數(shù)字最后又如何能夠成為關(guān)關(guān)注它詞和詞的這個(gè)關(guān)系？

心理學(xué)家，他是另外是另外一種理論，顯然是完全不同的另一個(gè)理論。數(shù)字的這個(gè)意思，其實(shí)它就是一系列語(yǔ)義學(xué)的一些特征。然后這些特征它存在，那自然它也會(huì)成為了一個(gè)特征，在1985年的時(shí)候。我做了一個(gè)非常小的一個(gè)模型，想把這兩個(gè)理論結(jié)合在一起，然后更好的去理解人們是如何理解一個(gè)詞的。所以，每一個(gè)詞，我都放了好幾個(gè)不同的特征。然后把前一個(gè)數(shù)字的這個(gè)特征記錄下來(lái)，我們就可以預(yù)測(cè)下一個(gè)數(shù)字是什么，下一個(gè)詞是什么，然后再預(yù)測(cè)再下一個(gè)詞。

在這個(gè)過(guò)程中，我們沒(méi)有存儲(chǔ)任何的句子，我生成句子，然后預(yù)測(cè)下一個(gè)詞是什么。那么相關(guān)聯(lián)性的這些知識(shí)，也是取決于不同的詞的特征，語(yǔ)義的特征是如何進(jìn)行互動(dòng)的。果你問(wèn)接下來(lái)的30年會(huì)發(fā)生什么？10年之后，那個(gè)beio他也是用了這樣的一個(gè)模式建模，但是他把它規(guī)模做的大了很多，它等于成為了一個(gè)自然語(yǔ)言的一個(gè)真實(shí)的模擬。在20年以后，計(jì)算語(yǔ)言學(xué)家終于開(kāi)始去接受特征向量的嵌入來(lái)表達(dá)詞的意思。

然后再過(guò)了30年，谷歌就發(fā)明了transformer，然后OpenAI的研究人員，也向大家展示了他能夠做到了什么。所以我們今天的大語(yǔ)言模型，我已經(jīng)把它視為就是那個(gè)就是微信語(yǔ)言模型的后代，從1985年代以后開(kāi)始的，他們使用了更多的詞作為輸入，他們使用了更多層的神經(jīng)元的結(jié)構(gòu)。因?yàn)樾枰小４罅康哪：磺宓囊恍?shù)字的使用，同時(shí)學(xué)習(xí)特征之間也建立了更加復(fù)雜的交互模式。

但是，就像那些我做的小模型一樣，單元模型它也與人類去語(yǔ)言理解語(yǔ)言的方式是一樣的。基本的理解就是把這些語(yǔ)言轉(zhuǎn)化為一些特征，然后把這些特征以一種非常完美的方式整合在一起，這就是LAM里面各個(gè)層次里面所做的事情，所以我的理解就是大語(yǔ)言模型真的理解你是怎么理解問(wèn)題的，和人類理解語(yǔ)言的方式是一樣的。所以我在這里給大家打一個(gè)比方，什么叫理解一句話，在這個(gè)它包含哪一些？就是符號(hào)的AI是什么？

就是把這一套東西，把它轉(zhuǎn)化成一些不模糊的符號(hào)，把語(yǔ)言，但是實(shí)際的情況不是人類不是這么樣理解的。理解的我在這里打一個(gè)比方，就是做那個(gè)樂(lè)高的積木，通過(guò)樂(lè)高積木，你可以做成任何3D的。一個(gè)模式，你可以把一個(gè)車子的小模型造出來(lái)。你把每一個(gè)詞就是視為一個(gè)多維度的一個(gè)樂(lè)高積木。它可能幾千個(gè)不同的維度，那么這種類型的這些樂(lè)高的積木，它就可以做這么多的維度，它可以是一個(gè)建模，它可以做好多不同的內(nèi)容。

這就語(yǔ)言變成了一個(gè)建模。那么這樣的一個(gè)語(yǔ)言，也能夠隨時(shí)的溝通給人，然后只要把這些積木給它起一個(gè)名字就行。然后每個(gè)積木它都是一個(gè)詞。所以我們現(xiàn)在樂(lè)高積木，它有非常多的一些不不是說(shuō)幾個(gè)不同的樂(lè)高積木的那種差異了。我們有幾有無(wú)數(shù)的詞那么樂(lè)高的積木它的造型是固定的，但是詞，詞它的這個(gè)符號(hào)，它的它的它的形狀是它可以基本上的做出一個(gè)設(shè)定，但是它也可以根據(jù)不同的情況來(lái)。

進(jìn)行調(diào)整，然后樂(lè)高模型，它相對(duì)比較確定嘛，一個(gè)正方形的插到一個(gè)正方形的一個(gè)小孔里面去。但是語(yǔ)言不一樣，每一個(gè)語(yǔ)言它可能想象出每一個(gè)詞上都有好多個(gè)手。

比如說(shuō)。你想你要想更好的理解這個(gè)詞的話，就是讓這個(gè)詞和另一個(gè)詞之間合適的去進(jìn)行握手。那么，一旦這個(gè)詞的造型發(fā)生一個(gè)變形的話，它就怎么和另一個(gè)詞握手方式就不一樣了。這里就有一個(gè)優(yōu)化的一個(gè)問(wèn)題，我我一個(gè)詞去變形了以后，它的意思變了，那么這個(gè)詞怎么跟下一個(gè)詞握上手，帶來(lái)一個(gè)更好的一個(gè)意思，這就是什么叫人腦去理解意思，或者說(shuō)這個(gè)神經(jīng)網(wǎng)絡(luò)去理解意思。

最根本的就是這樣的。所以就有點(diǎn)像是把蛋白質(zhì)跟蛋白質(zhì)之間組合起來(lái)。蛋白質(zhì)就是把氨基酸進(jìn)行不同的模型來(lái)進(jìn)行一個(gè)整合融合。之后結(jié)合在一起能帶來(lái)更有意義的內(nèi)容，這是人腦理解詞的方式。語(yǔ)言的方式。

所以我到現(xiàn)在講的一個(gè)觀點(diǎn)就是，人們理解語(yǔ)言的方式和大語(yǔ)言模型理解語(yǔ)言的方式幾乎是一樣的方式。所以人類有可能就是大語(yǔ)言模型，人類也會(huì)和大語(yǔ)言模型一樣去產(chǎn)生幻覺(jué)，因?yàn)槲覀円矔?huì)創(chuàng)造出來(lái)的很多幻覺(jué)的一些語(yǔ)言。

那么大語(yǔ)言模型也會(huì)怎么做。但是也有一些重點(diǎn)的方根本性的方式，單元模型和人類不一樣，而且比人類更厲害。根本性的計(jì)算機(jī)科學(xué)的一個(gè)原則就是說(shuō)我們要把軟件和硬件分開(kāi)看，這就讓你在不同的硬件上面跑步。同樣的軟件，那么。這個(gè)和WE是不一樣的地方，這就是計(jì)算機(jī)科學(xué)存在。

如果你能夠工作的話，在一個(gè)軟件里面的一個(gè)知識(shí)，它是永恒存在的，這個(gè)軟件，這個(gè)軟件永遠(yuǎn)會(huì)放在程序，永遠(yuǎn)會(huì)放在那里，你可以把你你可以把所有的硬件都把它毀滅掉，就存LM的硬件都?xì)纭５灰@個(gè)軟件繼續(xù)存在，它隨時(shí)隨地都會(huì)被復(fù)活的，所以從這個(gè)意義上說(shuō)，這種計(jì)算機(jī)的程序的這些知識(shí)是永恒的，不會(huì)死亡的。那么，就這和什么不一樣？那么要實(shí)現(xiàn)這種永生性，我們就在這些晶體管在非常高功率下去運(yùn)行，產(chǎn)生可靠的二進(jìn)制的一些行為，那么這個(gè)過(guò)程就非常的昂貴。

我們不能利用硬件中豐富的這種粒比的特性，因?yàn)檫@些特性是不夠穩(wěn)定可靠的。每。是是，它是模擬型的，所以你每次計(jì)算都會(huì)不一樣的。人腦是模擬的人腦不是數(shù)字的，那每一次神經(jīng)元去激發(fā)的過(guò)程中，它所它都是模擬型的，它是每一次都一樣的。我不可能把我腦子里的人腦神經(jīng)元的結(jié)構(gòu)轉(zhuǎn)到你腦子里是做不到的，因?yàn)槲覀兠總€(gè)人的連接方式是不一樣的，每個(gè)人的神經(jīng)元連接方式是不同的，所以我的神經(jīng)元的連接方式是適合我的腦子里的神經(jīng)結(jié)構(gòu)的。

那么知識(shí)的傳播和硬件里邊去傳播，就是人的腦子和硬件是不一樣的東西，這就帶來(lái)了問(wèn)題了。

如果我們做不到永生這些知識(shí)軟件。它和硬件是不依賴的，所以它是永生的，那么帶來(lái)兩大好處。

我們可以用很小的功率很小的這個(gè)這個(gè)電能，我們大腦就只要30個(gè)瓦特就足夠用了。我們有幾萬(wàn)億的神經(jīng)元的連接，那么就是和那個(gè)電子管的這些情況是一樣的，我們也我們不需要就是要花非常多的錢去做一模一樣的這些硬件。但是我們現(xiàn)在還有一個(gè)比較大的問(wèn)題，就是從一個(gè)模擬的模型，要從一個(gè)模擬模型轉(zhuǎn)到另外一個(gè)模型，把它的知識(shí)轉(zhuǎn)過(guò)去，那是非常不高效的，非常難的。我沒(méi)有辦法用我的把我腦子里的東西展示給你，這是不一樣的，我們能做的就是用其他的方式。

來(lái)解釋給你一下，我已經(jīng)學(xué)到的是哪些東西。所以要解決這個(gè)問(wèn)題的最佳方法叫蒸餾DeepSeek就是這么做的，就是從一個(gè)大的神經(jīng)元網(wǎng)絡(luò)，把它的知識(shí)轉(zhuǎn)到一個(gè)小神經(jīng)元網(wǎng)絡(luò)里面去蒸餾。根據(jù)想法就是一教師和學(xué)生的關(guān)系，在有些情況下，教師他把事情連在一起，他把一個(gè)詞和另一個(gè)詞他們互相連接的上下文聯(lián)系起來(lái)，然后學(xué)生他也可以說(shuō)同樣的話，但是他調(diào)整了這個(gè)，Wait, 所以。就是我們訓(xùn)練他的這種方式也是這樣的，就是你把一個(gè)人的知識(shí)轉(zhuǎn)轉(zhuǎn)給另外一個(gè)人也是這樣的，但是他非常的不高效。

所以可能一句話里面有100個(gè)比特的信息不是特別多，這就限制了我們可以把知識(shí)轉(zhuǎn)到另外一個(gè)人能夠轉(zhuǎn)多少，我可以很慢的講話的方式把知識(shí)轉(zhuǎn)化給給你，一秒鐘最好最多也就100個(gè)比特左右。如果你全聽(tīng)懂了我的話的話，所以效率并不是非常高，但是如果把它去對(duì)比數(shù)字智能之間轉(zhuǎn)化知識(shí)的效率的話，那是有巨大的差別的。我沒(méi)有同一個(gè)神經(jīng)網(wǎng)絡(luò)，這個(gè)軟件做了幾百個(gè)不同的拷貝放在不一樣的硬件里面，他們都是用數(shù)字的，他們會(huì)以同樣的方式用自己的那個(gè)rates，然后他們可要平平均化它的這種位置的方式就可以把知識(shí)來(lái)進(jìn)行分享。

Internet我們可以有成千上萬(wàn)的拷貝，他們可以自己來(lái)改變他們的權(quán)重，然后，取一個(gè)平均數(shù)，這樣就能夠轉(zhuǎn)移知識(shí)，然后這樣的轉(zhuǎn)移的速度，取決于你有多少個(gè)連接點(diǎn)。

這樣每次，能夠分享萬(wàn)億個(gè)比特，而不是幾個(gè)比次，而是幾十億個(gè)比次。然后，比人類分享的知識(shí)要快幾十億倍。所以，GPT4非常好，他們有很多的不同的拷貝在不同的硬件上運(yùn)轉(zhuǎn)，他們可以分享他們從網(wǎng)上學(xué)到的不同的信息。如果有智能體在現(xiàn)實(shí)世界當(dāng)中運(yùn)行，這就更重要了，因?yàn)樗麄兡軌虿粩嗟募铀伲粩嗟目截悾泻芏嗟闹悄荏w的話，那么就比單個(gè)智能體學(xué)的更多，他們能分享他們的權(quán)重，模擬的軟件的或者模擬的硬件就做不到這一點(diǎn)。

所以，我們的看法是數(shù)字計(jì)算需要很多的能源，但是，智能體可以很方便的獲取同樣的權(quán)重，分享不同的經(jīng)驗(yàn)當(dāng)中學(xué)到的東西。生物計(jì)算當(dāng)中，用能更少，但是分享知識(shí)是很難，就像我現(xiàn)在所展示的這樣，如果能源很便宜，數(shù)字計(jì)算那么就會(huì)好很多。那這也讓我很擔(dān)憂。

因?yàn)閹缀跛械膶＜叶颊J(rèn)為我們會(huì)生產(chǎn)比我們更智能的AI。

我們習(xí)慣成為最智能的生物，所以很多人覺(jué)得難以想象，如果在世界當(dāng)中AI比人更智能會(huì)怎么樣？我們可以這么來(lái)看，如果你想要知道會(huì)怎么樣，如果不是人類，不是最智能的話怎么樣？會(huì)怎么樣？我們可以問(wèn)一個(gè)雞，我們?cè)趧?chuàng)造AI智能體，他們能夠幫我們完成任務(wù)。這些智能體，他們已經(jīng)有能力可以進(jìn)行拷貝。他們能可給給自己的子目標(biāo)的評(píng)級(jí)。那么他們會(huì)想做兩件事情，他們想要生存，然后來(lái)完成我們給他們的目標(biāo)。

他們也希望能夠獲得更多的控制，同時(shí)也是為了完成我們給他們的目標(biāo)，所以，這些智能體，他想要生存，想要更多的控制。

我覺(jué)得我們不能只是把他們一關(guān)了事，他們會(huì)很方便的來(lái)操縱用他們的人，那們就會(huì)像3歲，然后他們像成年人一樣，那操縱3歲的人，是很容易的。

所以，有人覺(jué)得他們變得聰明，我們就把他們關(guān)掉，這是不現(xiàn)實(shí)的，他們會(huì)操縱，我們會(huì)勸說(shuō)操控機(jī)器的人不要把他們關(guān)掉。

所以，我覺(jué)得我們現(xiàn)在的情況。有個(gè)人，把老虎當(dāng)寵物，那老虎也可以當(dāng)小虎崽，是很可愛(ài)的寵物。

但是，如果一直養(yǎng)這個(gè)寵物，那么你要確保它長(zhǎng)大的時(shí)候，它不會(huì)把你給殺掉。

一般來(lái)說(shuō)，養(yǎng)老虎當(dāng)寵物不是一個(gè)好的想法，那么只有兩個(gè)選擇。

你把它訓(xùn)練好，他不來(lái)殺你。或者你把它給干掉，用AI的話，我們就沒(méi)有辦法把它給消滅掉。AI非常好的，有很多方面都做得很好，很多都已經(jīng)提到過(guò)，比如說(shuō)醫(yī)療、教育或者氣候變化、新材料，AI，這些任務(wù)都做得非常好，幾乎能夠幫助所有的行業(yè)變得更有效率，我們是沒(méi)有辦法消除AI的，即使一個(gè)國(guó)家消除了AI，別的國(guó)家也不會(huì)這么做。所以，這不是一個(gè)選項(xiàng)，這意味著如果我們想要人類生存的話，我們必須找到一個(gè)辦法來(lái)訓(xùn)練AI，讓他們不要消滅人類。

現(xiàn)在，那么我是發(fā)表個(gè)人的觀點(diǎn)，我覺(jué)得各個(gè)國(guó)家可能不會(huì)在一些方面進(jìn)行合作，比如說(shuō)網(wǎng)絡(luò)攻擊，或者是致命的武器，或者是這個(gè)虛假的這個(gè)操縱公眾意見(jiàn)的視頻。各國(guó)的利益是不一致的，他們有著不同的看法，我覺(jué)得不會(huì)在這方面會(huì)有有效的國(guó)際合作。我們可以防止一些人來(lái)制造病毒，但是在這些方面不會(huì)有什么國(guó)際合作，但是有一個(gè)方面，我們是會(huì)進(jìn)行合作的，那我覺(jué)得這也是最重要的一個(gè)問(wèn)題。

我們看一下50年代冷戰(zhàn)的巔峰的時(shí)期，美國(guó)和蘇聯(lián)一起合作來(lái)預(yù)防全球的核戰(zhàn)爭(zhēng)，大家都不希望打核戰(zhàn)爭(zhēng)，盡管他們?cè)诤芏喾矫娑际菍?duì)抗的，但是他們?cè)谶@一點(diǎn)上面可以合作。我們現(xiàn)在的局面是沒(méi)有一個(gè)國(guó)家希望AI統(tǒng)治世界，每個(gè)國(guó)家都希望人類能夠掌控世界。如果有一個(gè)國(guó)家找到一個(gè)辦法來(lái)預(yù)防防止AI操縱事件的話，那么這個(gè)國(guó)家肯肯定會(huì)很樂(lè)意告訴其他國(guó)家。So, 所以，我們希望能夠有一個(gè)AI安全機(jī)構(gòu)構(gòu)成的一個(gè)國(guó)際社群來(lái)研究技能，來(lái)培訓(xùn)AI，讓他們向善。

我們的希望，是訓(xùn)練AI向善的技巧。可以說(shuō)和訓(xùn)練AI聰明的技術(shù)是不一樣的。所以，每個(gè)國(guó)家可以做自己的研究，讓AI向善。他可以在自己主權(quán)的AI上進(jìn)行研究，他不可以不給別的國(guó)家，但是，他可以把成果分享給大家，也就是怎么訓(xùn)練AI，讓AI向善。

那我有一個(gè)提議，也就是全球或者是全球主要國(guó)家，或者AI的主要的國(guó)家，應(yīng)該思考一下，建立一個(gè)網(wǎng)絡(luò)，包括各個(gè)國(guó)家的一些機(jī)構(gòu)來(lái)研究這些問(wèn)題，研究怎么來(lái)訓(xùn)練AI，一個(gè)已經(jīng)非常聰明的AI。讓這個(gè)AI不不想要消滅人類，不想要統(tǒng)治世界，讓這個(gè)AI很高興的做一個(gè)輔助的工作。盡管AI比人要聰明很多，我們現(xiàn)在還不知道怎么去做這件事，從長(zhǎng)期來(lái)說(shuō)，這可以說(shuō)是人類面臨的最重要的問(wèn)題，我們的好消息就是，在這個(gè)問(wèn)題上，所有的國(guó)家都是可以一起合作的，謝謝。