Yann LeCun舌戰(zhàn)參議院：捍衛(wèi)Llama開源大模型

文：城主

前言

近日，AI三巨頭之一的楊立昆Yann LeCun在參議院接受了質(zhì)詢，議員們的問題基本都圍繞著Llama大模型是否應(yīng)該開源展開。Yann LeCun給予了有理有據(jù)的回應(yīng)。

Llama對(duì)于AI學(xué)界和企業(yè)界的重要性不言而喻，作為當(dāng)今世界上毫無(wú)疑問排名第一的開源LLM大模型，Llama2已經(jīng)形成了一個(gè)很好的發(fā)展社區(qū)，而且一切才剛開始。很多的垂直生態(tài)和衍生模型都基于Llama2火熱開展中。雖然吃瓜群眾都比較喜歡噴Meta，但在AI開源貢獻(xiàn)上，城主認(rèn)為全世界都是要感謝Meta。

而作為Meta AI的扛把子，楊立昆面對(duì)面的接受參議院議員詢問，捍衛(wèi)Llama頂尖大模型開源對(duì)人類社會(huì)的正當(dāng)性和必要性，這是讓人尊敬的。

喜歡看視頻的讀者以下是傳送門：

【LeCun舌戰(zhàn)參議院實(shí)錄：捍衛(wèi)Llama開源大模型【LeCun個(gè)人Cut】-嗶哩嗶哩】 https://b23.tv/Tk8B23b

=以下是本城根據(jù)談話內(nèi)容重寫的全文=

華納主席、盧比奧副主席以及尊敬的委員會(huì)成員們，感謝您們給予我今天這個(gè)機(jī)會(huì)，來(lái)到這里，和您們探討關(guān)于人工智能的重要問題。我叫Yann LeCun 楊立昆，目前是紐約大學(xué)計(jì)算機(jī)科學(xué)和數(shù)據(jù)科學(xué)的教授，同時(shí)也是Meta的首席AI科學(xué)家，以及Meta基礎(chǔ)人工智能研究實(shí)驗(yàn)室的聯(lián)合創(chuàng)始人。在Meta，我的工作重點(diǎn)是人工智能研究、發(fā)展戰(zhàn)略和科學(xué)領(lǐng)導(dǎo)。

自從我在20世紀(jì)80年代開始我的研究生生涯以來(lái)，人工智能取得了突飛猛進(jìn)的發(fā)展。今天，我們正在見證生成式人工智能，特別是大型語(yǔ)言模型（LLM）的快速發(fā)展。這些系統(tǒng)通過自我監(jiān)督學(xué)習(xí)進(jìn)行訓(xùn)練，簡(jiǎn)而言之，它們被訓(xùn)練來(lái)填補(bǔ)空白。在這個(gè)過程中，這些AI模型學(xué)會(huì)了理解文本或圖像，包括多種語(yǔ)言的含義、風(fēng)格和語(yǔ)法。然后，這些內(nèi)部表示可以應(yīng)用于各種下游任務(wù)，例如翻譯、主題分類等。它們還能用于預(yù)測(cè)文本中的下一個(gè)單詞，從而使LLM能夠回答問題、撰寫論文并編寫代碼。我們不能低估這些模型所帶來(lái)的深遠(yuǎn)潛在機(jī)會(huì)。

人工智能的發(fā)展具有微處理器的發(fā)明、個(gè)人電腦、互聯(lián)網(wǎng)和移動(dòng)設(shè)備等基礎(chǔ)性技術(shù)的影響力。就像所有基礎(chǔ)技術(shù)一樣，人工智能將具有多種用途，而且，人們會(huì)將其用于正面或負(fù)面的目的。隨著人工智能系統(tǒng)的不斷發(fā)展，我想強(qiáng)調(diào)兩個(gè)關(guān)鍵問題：第一個(gè)是安全性，第二個(gè)是可訪問性。

解決這兩個(gè)問題的一種方法是公開共享當(dāng)前的技術(shù)和科學(xué)信息。科學(xué)論文、代碼的自由交換以及AI訓(xùn)練模型的公開共享使美國(guó)在科學(xué)技術(shù)領(lǐng)域保持領(lǐng)先地位。這個(gè)理念并非新穎，很久以前就有了。開源技術(shù)推動(dòng)了我們現(xiàn)在視為基礎(chǔ)設(shè)施的系統(tǒng)，例如互聯(lián)網(wǎng)和移動(dòng)通信網(wǎng)絡(luò)，取得了快速進(jìn)步。

這并不意味著每個(gè)模型都可以或應(yīng)該開放。專有模型和開源模型都有其作用，但開源基礎(chǔ)模型應(yīng)該是構(gòu)建活力四射的生態(tài)系統(tǒng)的基石。開源模型創(chuàng)建了行業(yè)標(biāo)準(zhǔn)，就像90年代中期的互聯(lián)網(wǎng)模型一樣。通過這種協(xié)作努力，AI技術(shù)將更快地發(fā)展，變得更加可靠、更加安全。

開源還為企業(yè)和研究人員提供了他們無(wú)法自行構(gòu)建的工具，這有助于創(chuàng)造大量的社會(huì)和經(jīng)濟(jì)機(jī)會(huì)。換句話說(shuō)，開源實(shí)現(xiàn)了對(duì)訪問的民主化。它讓更多的人和企業(yè)有能力利用最先進(jìn)的技術(shù)，并彌補(bǔ)潛在的弱點(diǎn)。這也有助于促進(jìn)民主價(jià)值觀和制度，減少社會(huì)差距并改善競(jìng)爭(zhēng)。

我們希望確保美國(guó)和美國(guó)公司，以及其他民主國(guó)家在人工智能開發(fā)方面領(lǐng)先于我們的競(jìng)爭(zhēng)對(duì)手，以便在這里開發(fā)基礎(chǔ)模型，并代表和分享我們的價(jià)值觀。通過開源當(dāng)前的人工智能工具，我們可以比競(jìng)爭(zhēng)對(duì)手更快地發(fā)展我們的研發(fā)生態(tài)系統(tǒng)。隨著人工智能技術(shù)的進(jìn)步，各國(guó)政府，特別是民主國(guó)家，有迫切的需要共同努力，制定共同的人工智能標(biāo)準(zhǔn)和治理模式。

這是一個(gè)具有價(jià)值的領(lǐng)域，我們歡迎與監(jiān)管機(jī)構(gòu)合作，制定適當(dāng)?shù)耐该鞫纫蟆⒓t隊(duì)標(biāo)準(zhǔn)和安全緩解措施，以幫助確保這些行為準(zhǔn)則、標(biāo)準(zhǔn)和保護(hù)措施在世界各地保持一致。白宮的自愿承諾是確保負(fù)責(zé)任保護(hù)措施的關(guān)鍵一步，并為其他政府樹立了榜樣。美國(guó)國(guó)會(huì)和白宮的持續(xù)領(lǐng)導(dǎo)對(duì)于確保社會(huì)能夠從人工智能創(chuàng)新中獲益，同時(shí)在保護(hù)權(quán)利和自由之間取得適當(dāng)平衡，維護(hù)國(guó)家安全利益并減輕出現(xiàn)的風(fēng)險(xiǎn)，都非常重要。

最后，我要感謝華納主席、副主席盧比奧和委員會(huì)的各位成員，感謝您們的領(lǐng)導(dǎo)。歸根結(jié)底，我們的任務(wù)是與您們、與國(guó)會(huì)、與其他國(guó)家以及與其他公司合作，以安全、可靠且符合我們國(guó)家安全利益的方式推動(dòng)創(chuàng)新和進(jìn)步。謝謝您，我期待您的提問。

我們確實(shí)對(duì)此投入了深思熟慮。我認(rèn)為，思考這個(gè)問題的最佳方式是將迄今為止已發(fā)布的人工智能系統(tǒng)視為基礎(chǔ)設(shè)施。這些系統(tǒng)本身并不特別有用，為了發(fā)揮作用，它們需要針對(duì)特定的垂直應(yīng)用程序進(jìn)行定制。一個(gè)很好的例子就是開源的互聯(lián)網(wǎng)基礎(chǔ)設(shè)施。最初，它并不是開源的，而是為了商業(yè)目的而創(chuàng)建的。后來(lái)，因?yàn)殚_源平臺(tái)更安全、更容易定制、更可靠，并具有各種優(yōu)勢(shì)，所以逐漸流行起來(lái)。

人工智能將成為一個(gè)通用平臺(tái)，由于其通用性，如果我們希望它成為可以構(gòu)建整個(gè)生態(tài)系統(tǒng)的平臺(tái)，就需要實(shí)行開源。我們需要在這種模式下工作，因?yàn)檫@是盡可能快地取得進(jìn)展的最佳方式。我非常贊同丁教授的觀點(diǎn)，事實(shí)上，在美國(guó)，我們非常擅長(zhǎng)抓住機(jī)會(huì)，當(dāng)新的創(chuàng)新或科學(xué)進(jìn)展出現(xiàn)時(shí)，它會(huì)很快擴(kuò)散到本地產(chǎn)業(yè)中。這就是硅谷能夠成為硅谷的原因。信息在那里流動(dòng)得非常快，而其他智力上生態(tài)系統(tǒng)較為孤立的國(guó)家不會(huì)產(chǎn)生同樣的效果。因此，擁有開放的平臺(tái)對(duì)我們有利。

我對(duì)有關(guān)立法的細(xì)節(jié)不甚了解。當(dāng)然，在基本原則上，這些都符合我個(gè)人和META公司的想法。我很愿意幫助您與公司內(nèi)負(fù)責(zé)立法事務(wù)的相關(guān)人員取得聯(lián)系。

聽到您對(duì)這些原則的認(rèn)同，是一個(gè)良好的開端，我們會(huì)繼續(xù)跟進(jìn)。目前，美國(guó)智能領(lǐng)域?qū)θ斯ぶ悄艿氖褂锰岢隽嗽S多疑問，首先是問責(zé)制的問題。如果人工智能要為智能界的監(jiān)視決策提供信息，我想問的是，當(dāng)一個(gè)美國(guó)人被監(jiān)視并確定違法時(shí)，應(yīng)由誰(shuí)負(fù)責(zé)？

參議員，這已超出了我的專業(yè)知識(shí)范圍，我并非律師或立法者。在優(yōu)先事項(xiàng)方面，隱私和安全始終是我們的首要任務(wù)，這些原則絕對(duì)值得我們遵循，我們會(huì)盡力執(zhí)行。

需要明確的一點(diǎn)是，當(dāng)前的人工智能技術(shù)，如大型語(yǔ)言模型，是基于公共數(shù)據(jù)和公開可用數(shù)據(jù)進(jìn)行訓(xùn)練的，而非私人用戶數(shù)據(jù)。因此，不存在任何形式的侵犯隱私的可能性。您強(qiáng)調(diào)了問責(zé)制的重要性，以及制定人工智能行業(yè)應(yīng)遵循的指導(dǎo)方針，這與您的提問密切相關(guān)。感謝您的提問。

一般而言，使機(jī)器達(dá)到智能的問題要比人們最初意識(shí)到的復(fù)雜得多。人工智能的發(fā)展歷程就是一系列新思想的誕生，人們?cè)J(rèn)為這些新思想會(huì)引領(lǐng)我們創(chuàng)造出與人類一樣智能的機(jī)器。但一次又一次，我們發(fā)現(xiàn)答案都是否定的。這些新思想解決了許多問題，但人類水平的智能仍然遙不可及，至今仍是如此。因此，盡管我們有了極為強(qiáng)大、流暢且看似能夠掌握語(yǔ)言的系統(tǒng)，至少與人類相當(dāng)，但這些系統(tǒng)距離真正的人類智能還有很長(zhǎng)的路要走。

現(xiàn)在，直接回答您的問題，我們之所以在過去十年里頻繁聽到人工智能，主要原因是一種名為深度學(xué)習(xí)的新技術(shù)的出現(xiàn)。這種技術(shù)使得機(jī)器不再是直接編程，而是針對(duì)特定任務(wù)進(jìn)行訓(xùn)練。這一方法在相對(duì)狹窄的任務(wù)上取得了極大的成功，我們可以訓(xùn)練機(jī)器達(dá)到超人的表現(xiàn)。但至今為止，我們還沒有辦法像訓(xùn)練人類或動(dòng)物一樣有效地訓(xùn)練機(jī)器。這就是我們至今仍然沒有自動(dòng)駕駛汽車和能夠清理餐桌、裝滿洗碗機(jī)的家用機(jī)器人的原因。在將系統(tǒng)投入實(shí)際使用之前，還有很多道德和其他問題需要解決。

您認(rèn)為META的人工智能和信任安全團(tuán)隊(duì)，或者任何人工智能開發(fā)團(tuán)隊(duì)，是否有能力真正了解潛在的風(fēng)險(xiǎn)和收益，從而做出是否應(yīng)該開發(fā)某一系統(tǒng)，將其投入實(shí)際使用或開放給公眾的決定？

參議員，感謝您的提問。我可以簡(jiǎn)要描述一下我們?cè)陂_發(fā)Llama和Llama2系統(tǒng)時(shí)的過程。首先，Llama系統(tǒng)并沒有完全開源。開源包含兩個(gè)部分，一是代碼，實(shí)際上代碼相對(duì)簡(jiǎn)單，沒有太多創(chuàng)新之處；二是訓(xùn)練模型和權(quán)重，這是開發(fā)中的重要部分，目前主要由大公司完成。我們發(fā)布的模型是不允許用于商業(yè)目的的，我們還對(duì)可以下載此模型的人進(jìn)行了審查，主要是研究人員和學(xué)者。

在此基礎(chǔ)上，我們還有三年開源LLM模型的經(jīng)驗(yàn)，迄今為止并未出現(xiàn)重大問題。對(duì)于Llama2系統(tǒng)，我們執(zhí)行了一套非常詳盡的流程。首先，在整理數(shù)據(jù)集時(shí)，我們剔除了其中最具爭(zhēng)議和有毒的內(nèi)容，以保證模型的質(zhì)量。其次，我們組織了多個(gè)紅隊(duì)，這些團(tuán)隊(duì)嘗試找出系統(tǒng)的漏洞，制造危險(xiǎn)的輸出，這個(gè)過程耗費(fèi)了數(shù)千個(gè)小時(shí)。我們還設(shè)有一個(gè)專門負(fù)責(zé)這項(xiàng)工作的團(tuán)隊(duì)，名為Responsible AI。

此外，我們還在DEF CON會(huì)議上有限地向白帽黑客提供了該模型，這一較大的社區(qū)中有專業(yè)人士嘗試找出系統(tǒng)的漏洞，從而增強(qiáng)我們對(duì)這些系統(tǒng)的信心。我們對(duì)找出的漏洞進(jìn)行了修復(fù)，制定了錯(cuò)誤獎(jiǎng)勵(lì)政策，以激勵(lì)那些發(fā)現(xiàn)我們系統(tǒng)中弱點(diǎn)的人告訴我們。實(shí)際上，自Llama 2發(fā)布以來(lái)，開源社區(qū)的反饋熱情很高，我們一直在收到反饋，不斷提高系統(tǒng)的安全性。

LeCun博士，我想我會(huì)將這個(gè)問題交給您來(lái)回答。我是一個(gè)負(fù)責(zé)為商業(yè)、司法和科學(xué)部門撥款的小組委員會(huì)的首席共和黨人。NSF正在進(jìn)行的一項(xiàng)工作就是國(guó)家人工智能研究所計(jì)劃。我很高興聽到您或我們的任何小組成員對(duì)該計(jì)劃的成果或能力提出批評(píng)或贊揚(yáng)。我們?nèi)绾尾拍艽_保該計(jì)劃適應(yīng)大多數(shù)由私營(yíng)部門進(jìn)行的研究？

參議員先生，這是一個(gè)很好的問題。作為一個(gè)在學(xué)術(shù)界和工業(yè)界都有涉足的人，我們今天觀察到，在進(jìn)行人工智能研究時(shí)，學(xué)術(shù)界因缺乏計(jì)算資源而陷入困境。因此，我認(rèn)為該法案中的一項(xiàng)內(nèi)容是為學(xué)術(shù)界和其他非商業(yè)科學(xué)家提供基礎(chǔ)設(shè)施、計(jì)算基礎(chǔ)設(shè)施來(lái)取得進(jìn)展，這可能是資金的最佳用途。另一個(gè)可能性是促進(jìn)信息和思想的自由流通，從根本上改善工業(yè)界和學(xué)術(shù)界之間的交流過程。在一些歐洲國(guó)家，有一些項(xiàng)目允許博士生進(jìn)行工業(yè)實(shí)習(xí)，這不僅僅是短期實(shí)習(xí)，而是在攻讀博士學(xué)位期間花費(fèi)長(zhǎng)達(dá)兩三年的時(shí)間。實(shí)際上，我們?cè)贛ETA已經(jīng)與美國(guó)各地的大學(xué)簽訂了雙邊協(xié)議，建立了類似的項(xiàng)目，因?yàn)樗跉W洲非常成功，所以我們?cè)噲D將其引入到這里。如果政府能為此提供一些幫助，那就太好了。最后一點(diǎn)是關(guān)于數(shù)據(jù)訪問，這是詹森博士在不同背景下提到的，但這對(duì)醫(yī)療保健領(lǐng)域的研究，例如醫(yī)學(xué)領(lǐng)域，尤為重要。如果研究人員能夠更好地獲得數(shù)據(jù)，情況會(huì)大大改善，而目前這些數(shù)據(jù)由于各種原因、復(fù)雜的法律問題而大多保密。也許國(guó)會(huì)可以幫助解決這個(gè)問題。謝謝。

關(guān)于如何定制現(xiàn)成的人工智能模型，它們是如何組合在一起的？政府如何才能最好地利用商業(yè)的、現(xiàn)成的和定制的人工智能技術(shù)，以確保充分發(fā)揮人工智能的能力，特別是在智能界？

參議員先生，我認(rèn)為目前人工智能市場(chǎng)的狀態(tài)以及我預(yù)測(cè)的發(fā)展方向會(huì)有點(diǎn)像互聯(lián)網(wǎng)。因?yàn)闀?huì)有一些本質(zhì)上是開源的通用平臺(tái)，由如MITA這樣的公司生產(chǎn)，并可能有學(xué)術(shù)界的貢獻(xiàn)。在這些平臺(tái)之上，會(huì)產(chǎn)生商業(yè)產(chǎn)品，這些產(chǎn)品不一定是開源的，它們可能會(huì)以各種方式進(jìn)行商業(yè)化。還會(huì)有一些定制化的、針對(duì)特定應(yīng)用進(jìn)行微調(diào)的解決方案，無(wú)論是在政府部門、教育、工業(yè)、制造服務(wù)，還是娛樂，都是如此。我認(rèn)為這就是未來(lái)的模式。這是我們今天在軟件各個(gè)領(lǐng)域，當(dāng)然也包括互聯(lián)網(wǎng)，所觀察到的模型類型。我認(rèn)為這就是發(fā)展的方向。謝謝。

一個(gè)非常實(shí)際的問題。人工智能生成圖像的水印可行性如何？坦白地說(shuō)，這是我們所關(guān)心的，因?yàn)槲覀兒芸赡苁艿饺斯ぶ悄苌傻奶摷傩畔⒌挠绊懀浅Ｊ炀毜啬７挛覀兊哪槨⑽覀兊穆曇簟⑽覀兊氖謩?shì)，但完全是虛假的。要求人工智能在 Facebook、TikTok 或 Instagram 上生成的圖像都帶有水印或標(biāo)簽，以便消費(fèi)者知道他們所看到的并非真實(shí)，這在技術(shù)上可行嗎？當(dāng)我們考慮監(jiān)管時(shí)，這是我們應(yīng)該考慮的事項(xiàng)嗎？

參議員先生，確實(shí)，這是一個(gè)非常實(shí)際的問題。從技術(shù)上講，這是可行的。主要的問題在于采納全行業(yè)的通用標(biāo)準(zhǔn)。因此，需要有一種通用的方法來(lái)以可見或不可見的方式使用隱寫術(shù)加水印。事實(shí)上，這可以通過圖像、視頻和音頻的生成過程來(lái)實(shí)現(xiàn)，以便計(jì)算機(jī)能夠檢測(cè)這個(gè)系統(tǒng)是否是由生成式人工智能系統(tǒng)生成的。但是，用戶必須接受它，并使用符合該標(biāo)準(zhǔn)的產(chǎn)品。因此，這需要全行業(yè)范圍內(nèi)的采納。對(duì)于文本來(lái)說(shuō)，問題更為復(fù)雜，沒有簡(jiǎn)單的方法可以在文本內(nèi)隱藏水印。人們?cè)噲D通過調(diào)整不同單詞的頻率來(lái)實(shí)現(xiàn)這一點(diǎn)，但效果尚不完美。但對(duì)于文本來(lái)說(shuō)，文本是由人類產(chǎn)生的。它不像照片那樣可以隨意傳播。發(fā)布文字的人最終應(yīng)該對(duì)其內(nèi)容負(fù)責(zé)，因此我們不應(yīng)該有像第230條那樣的責(zé)任保護(hù)。

出版商應(yīng)該對(duì)他們的作品負(fù)責(zé)嗎？主席，我希望專家組能幫助我們解決這個(gè)水印問題，因?yàn)檫@是我們需要理解的問題。這很可能成為我們即將制定的任何立法的一部分。我們需要您在這方面的專業(yè)知識(shí)，消費(fèi)者應(yīng)該知道他們所看到的是什么。謝謝。

參議員，我不是律師，但我知道第230條對(duì)互聯(lián)網(wǎng)的發(fā)展至關(guān)重要。我當(dāng)然愿意讓您與專家聯(lián)系。

如果每個(gè)平臺(tái)都有不同的標(biāo)準(zhǔn)，我們可能會(huì)有七、八或十個(gè)不同的標(biāo)準(zhǔn)，這將不利于實(shí)現(xiàn)我們的目標(biāo)。

歐洲目前已經(jīng)在開發(fā)一種模式，或者至少他們正在通過歐洲議會(huì)制定這種模式，來(lái)監(jiān)管人工智能。他們確定了高風(fēng)險(xiǎn)類別和其他兩個(gè)風(fēng)險(xiǎn)較低的類別。您有機(jī)會(huì)了解這個(gè)模式嗎？您對(duì)他們采取這種方法來(lái)監(jiān)管人工智能有何看法？

參議員先生，我認(rèn)為該法案中的一些原則可能是個(gè)好主意，但坦白地說(shuō)，我不了解細(xì)節(jié)。據(jù)我了解，歐洲的初創(chuàng)企業(yè)和工業(yè)界已經(jīng)相當(dāng)一致地反對(duì)這項(xiàng)規(guī)定，并不是因?yàn)槟岢龅挠^點(diǎn)（我認(rèn)為這些觀點(diǎn)可能很好），而是因?yàn)榉ㄒ?guī)的細(xì)節(jié)。坦白說(shuō)，我對(duì)它的了解太膚淺，無(wú)法發(fā)表更多評(píng)論。

我認(rèn)為這不應(yīng)該被強(qiáng)制執(zhí)行，它不應(yīng)該因監(jiān)管而消失。有人認(rèn)為人工智能技術(shù)，特別是未來(lái)的人工智能技術(shù)，太危險(xiǎn)，無(wú)法接觸。而我所主張的是，至少應(yīng)該開放基礎(chǔ)技術(shù)，而不是基于它的產(chǎn)品，以確保美國(guó)的領(lǐng)導(dǎo)地位，因?yàn)檫@是我們所知道的推動(dòng)進(jìn)步并保持領(lǐng)先地位的唯一方式。這是第一點(diǎn)。然后，就有一種未來(lái)，想象一下未來(lái)的人工智能系統(tǒng)達(dá)到了人類智力水平。假設(shè)從現(xiàn)在起一兩年，雖然這個(gè)時(shí)間可能有誤。我們與數(shù)字世界的每一次互動(dòng)都將由人工智能系統(tǒng)介導(dǎo)。我們每個(gè)人都會(huì)有一個(gè)人工智能助手，時(shí)刻在日常生活中幫助我們。所以這基本上就像擁有一個(gè)可能比您更聰明的員工。我很熟悉與比我更聰明的人共事。

我認(rèn)為，我們無(wú)法預(yù)知20年后主要的職業(yè)將是什么。肯定會(huì)出現(xiàn)新的職業(yè)類型，而今天我們無(wú)法想象它們。然而，延續(xù)這個(gè)話題，每個(gè)人的信息以及與數(shù)字世界的互動(dòng)都將由這些人工智能系統(tǒng)之一來(lái)協(xié)調(diào)，這基本上將構(gòu)成所有人類知識(shí)的存儲(chǔ)庫(kù)。這不能是專有的，這樣太危險(xiǎn)了。它必須是開放的，且由廣泛的人群貢獻(xiàn)，就像維基百科是通過眾包制作的一樣。這是唯一能培養(yǎng)出能夠講所有語(yǔ)言，了解所有文化的多樣化觀點(diǎn)的方法。這不可能由單一的私人實(shí)體來(lái)完成。它必須是開放的。如果不加以管制，它將消失，因?yàn)檫@是最自然的發(fā)展方式，就像互聯(lián)網(wǎng)一樣。互聯(lián)網(wǎng)已經(jīng)變得開放，因?yàn)檫@是最有效的模型。

如果我理解正確的話，我認(rèn)為這涉及了幾個(gè)問題。第一，供應(yīng)商應(yīng)該被信任嗎？這就是我們制定法規(guī)的原因，例如，針對(duì)汽車駕駛輔助系統(tǒng)或使用人工智能的醫(yī)學(xué)圖像分析系統(tǒng)。但是，您應(yīng)該知道，至少在社交媒體方面，盡管已經(jīng)有公司表示愿意，國(guó)會(huì)還是什么也沒做。我非常清楚這一點(diǎn)。所以，社交網(wǎng)絡(luò)所經(jīng)歷的有趣歷史，某些未預(yù)料到的副作用，可能是由于某種程度的天真或其他原因，但它們并未被預(yù)見。然而，對(duì)于其中大多數(shù)人來(lái)說(shuō)，它們已經(jīng)被盡快修復(fù)。因此，每當(dāng)有攻擊發(fā)生，例如，試圖干擾選舉，都會(huì)有相應(yīng)的對(duì)策。

對(duì)于傳播CSAM內(nèi)容，誤導(dǎo)信息，危險(xiǎn)的錯(cuò)誤信息，Deepfakes等等，都有對(duì)策。所有這些對(duì)策都大量使用了人工智能。所以，這實(shí)際上是人工智能不是問題，而是解決方案的例子。例如，在過去五年中，已經(jīng)取得了顯著進(jìn)展，刪除了令人反感的內(nèi)容，打擊了恐怖主義宣傳等。所以，再次強(qiáng)調(diào)，我不會(huì)重復(fù)老生常談，但良好的人工智能比邪惡的人工智能更為優(yōu)越，因?yàn)楹萌烁啵苓^更多的教育，擁有更多的人工智能資源。而且，人工智能是對(duì)抗人工智能攻擊的對(duì)策。這就是第二點(diǎn)。

第三點(diǎn)，我認(rèn)為推斷是錯(cuò)誤的，關(guān)于當(dāng)前人工智能系統(tǒng)、當(dāng)前LLM的局限性。LLM非常適合創(chuàng)作詩(shī)歌，但它們不太擅長(zhǎng)生成事實(shí)上正確的東西。它們不能很好地替代...它可以很有趣，這是肯定的，但事實(shí)上正確是不同的。所以，我實(shí)際上不認(rèn)為現(xiàn)有的人工智能技術(shù)，特別是LLM，可以用于詹森博士所說(shuō)的那種應(yīng)用，因?yàn)樗壳疤豢煽苛恕?/p>

然而，這項(xiàng)技術(shù)即將取得進(jìn)展。我個(gè)人一直在從事的一個(gè)方面，以及其他許多人，是研發(fā)能夠進(jìn)行規(guī)劃和推理的人工智能系統(tǒng)。當(dāng)前的LLM不具備規(guī)劃能力，它們沒有推理能力。您不會(huì)希望將它們用于國(guó)防應(yīng)用，因?yàn)樗鼈儫o(wú)法進(jìn)行規(guī)劃。它們可以檢索已經(jīng)過培訓(xùn)的現(xiàn)有計(jì)劃，并使之適應(yīng)當(dāng)前情況，但這并不是真正的規(guī)劃。這更像是一種記憶檢索。

因此，直到我們擁有真正能夠在實(shí)際情況下進(jìn)行規(guī)劃的技術(shù)為止，我們現(xiàn)在擁有的這種技術(shù)僅限于游戲。例如，能夠發(fā)揮外交作用的系統(tǒng)，我們剛剛與詹森博士討論過這個(gè)問題，或者玩撲克或圍棋之類的，這些系統(tǒng)都可以進(jìn)行規(guī)劃。但目前，我們還沒有能夠處理現(xiàn)實(shí)世界、進(jìn)行規(guī)劃的系統(tǒng)。這種進(jìn)步可能會(huì)在未來(lái)十年內(nèi)實(shí)現(xiàn)。我一直稱之為目標(biāo)驅(qū)動(dòng)的人工智能。

因此，這是一種人工智能系統(tǒng)，它不僅僅生成一個(gè)接一個(gè)的單詞，就像LLM一樣，而是能夠規(guī)劃它們的回答，使之滿足多種約束和限制。這些將是未來(lái)的人工智能系統(tǒng)，與現(xiàn)有的系統(tǒng)有很大的不同。它們將變得更加可控、更加安全、更加有用、更加智能。我無(wú)法準(zhǔn)確告訴您它們何時(shí)會(huì)出現(xiàn)，這是未來(lái)幾年的事情，也許是未來(lái)十年的事情。這是我們必須努力達(dá)成的目標(biāo)。