真相｜造神：人工智能神話的起源和破除

圖片

老正按：在AI神話炙手可熱的當(dāng)下，對(duì)于任何想要看清AI真相，不愿向“AI神明”臣服的人來說，美國(guó)計(jì)算機(jī)科學(xué)家埃里克·拉森的《造神：人工智能神話的起源和破除》一書都能提供深刻啟發(fā)，助你一臂之力。

今天這篇文章節(jié)選自作者為這本書的寫的前言和本書的主要觀點(diǎn)介紹。

在這本書里，你將讀到關(guān)于人工智能的神話。人工智能的神話認(rèn)為人工智能的到來是必然的，這只是時(shí)間問題——我們已經(jīng)踏上了這條道路，它通往人類水平的人工智能，然后通向超級(jí)智能。在媒體專家和以埃隆?馬斯克（Elon Musk）為代表的思想領(lǐng)導(dǎo)者，甚至許多所謂的人工智能科學(xué)家的宣傳下，人工智能的必然性已經(jīng)在大眾的討論中根深蒂固，而反對(duì)者也常被當(dāng)作盧德主義者①，至少被認(rèn)為是用短淺的目光看待科技的未來，或是未做好進(jìn)入智能機(jī)器世界的準(zhǔn)備的人。

正如我要在本書中展現(xiàn)的，人工智能關(guān)乎智能的核心奧秘，現(xiàn)在還沒有人知道如何解答它。人工智能的支持者們躊躇滿志，要把它已知的局限性減到最小。畢竟，人工智能是一樁大事，在文化領(lǐng)域中的地位也在不斷提升。然而，無論我們承認(rèn)與否，我們目前對(duì)智能本質(zhì)的了解程度限制了未來人工智能系統(tǒng)的可能性。在此，我們應(yīng)該坦率地說：所有證據(jù)都顯示，人類和機(jī)器的智能是完全不同的。人工智能神話的擁躉者們堅(jiān)持認(rèn)為，這種差異只是暫時(shí)的，終將被更強(qiáng)大的人工智能系統(tǒng)抹去。未來學(xué)家雷?庫茲韋爾（RayKurzweil）以及哲學(xué)家尼克 ?波斯特洛姆（Nick Bostrom） 等人都是這個(gè)神話的大力宣揚(yáng)者。他們聲稱人類水平的人工智能一定會(huì)出現(xiàn)，而且隨著它的出現(xiàn)，人類將被超級(jí)智能機(jī)器遠(yuǎn)遠(yuǎn)地甩在后面。

這本書闡述了人工智能神話的兩個(gè)重要方面，一個(gè)是科學(xué)方面，一個(gè)是文化方面。在科學(xué)方面，這個(gè)神話認(rèn)為，我們只需通過在狹隘的特定領(lǐng)域中取得進(jìn)步，比如做游戲或圖像認(rèn)知，就能找到通用智能的突破口。這是個(gè)嚴(yán)重的錯(cuò)誤：

在狹義的應(yīng)用上取得的成功無法拉近我們和通用智能之間的距離。有人推斷，人工智能系統(tǒng)需要通用智能來閱讀報(bào)紙，進(jìn)行基本的對(duì)話，或成為家庭喜劇動(dòng)畫片《杰森一家》里的機(jī)器人羅西那樣的伙伴——以我們現(xiàn)在對(duì)人工智能的了解，這些都無法被程序化、被學(xué)習(xí)或被設(shè)計(jì)。受益于運(yùn)算速度更快的計(jì)算機(jī)和海量的數(shù)據(jù)，人工智能也有了更簡(jiǎn)單、更狹隘的版本。我們成功地使用這種人工智能時(shí)，并沒有在逐漸進(jìn)步，而是在摘取低處的果實(shí)。而跳躍到通用智能是一件截然不同的事，也沒有人知道從一處通往另一處的道路。通用智能中不存在算法。我們也沒有足夠的理由猜測(cè)，通過進(jìn)一步研究深度學(xué)習(xí)系統(tǒng)或現(xiàn)在流行的其他任何方式，算法就會(huì)出現(xiàn)。它更可能需要重大的科學(xué)突破，而我們目前對(duì)這種突破一無所知，更別談具體獲得的途徑了。

人工智能的神話不是好事，因?yàn)樗鼰o休止地談?wù)摮掷m(xù)的進(jìn)展，掩蓋了科學(xué)中的奧秘。這個(gè)神話倡導(dǎo)人們相信必然的成功，然而對(duì)科學(xué)真正的敬意會(huì)把我們帶回原點(diǎn)。這將帶我們進(jìn)入人工智能神話的文化層面，即人工智能神話對(duì)文化的影響。追尋這個(gè)神話對(duì)科學(xué)不利，也對(duì)我們不利。為什么呢？原因之一是，如果我們選擇忽視智能的核心奧秘而不是面對(duì)它，我們就很難取得創(chuàng)新。健康的創(chuàng)新文化強(qiáng)調(diào)探索未知，而非宣揚(yáng)現(xiàn)有方法的擴(kuò)展——尤其當(dāng)這些方法已經(jīng)明顯不足以讓我們走得更遠(yuǎn)時(shí)。人工智能必將成功的神話容易抹殺取得真正進(jìn)步（無論這種進(jìn)步中是否包含人工智能）所需的創(chuàng)造性文化。這個(gè)神話還鼓動(dòng)人們聽任機(jī)器在各個(gè)領(lǐng)域蔓延，在那些領(lǐng)域，真正的發(fā)明被邊緣化，取而代之的是鼓吹未來主義的言論，而這些言論往往來自既得利益者。

誰應(yīng)該讀這本書？當(dāng)然是所有既對(duì)人工智能感到興奮不已又想知道它為何總是離我們有十幾年到二十幾年之遙的人。如果你認(rèn)為人工智能發(fā)展為超級(jí)智能是必然的，又不知道那天到來時(shí)該做些什么，那你也應(yīng)該讀這本書。我無法確定人工智能是否會(huì)在某一天主宰世界，但我會(huì)給出理由，讓你大大降低對(duì)這個(gè)情景的預(yù)期。總而言之，如果你只是對(duì)社會(huì)上圍繞人工智能鋪天蓋地的宣傳感到好奇而又心存疑惑，那你就應(yīng)該讀這本書。我將解釋人工智能神話的起源，我們對(duì)于真正達(dá)到人類水平的人工智能的前景的已知和未知，以及我們?yōu)槭裁匆由羁痰乩斫馕覀兡壳八摹⑽ㄒ徽嬲闹悄堋覀冏陨淼闹悄堋?/p>

圖片

關(guān)于本書

在第一部分“簡(jiǎn)化的世界”中，我將解釋人工智能文化如何簡(jiǎn)化與人有關(guān)的想法，擴(kuò)展與科技有關(guān)的想法。這一想法始于“人工智能之父”艾倫?圖靈（Alan Turing）的觀點(diǎn)，其中包含的“簡(jiǎn)化”易于理解但并不成功，我稱之為“智能的錯(cuò)誤”。1965年，英國(guó)數(shù)學(xué)家1.J.古德（I.J.Good）則提出了“超級(jí)智能機(jī)器”的概念。他認(rèn)為，一旦一臺(tái)機(jī)器的智能水平遠(yuǎn)超人類的智能水平，“智能爆炸”就是可預(yù)見的結(jié)果。

在圖靈和古德兩人之間，人工智能的現(xiàn)代神話逐漸形成。它的發(fā)展把我們帶人了一個(gè)被我稱為技術(shù)媚俗的時(shí)代。這種對(duì)深層思想的膚淺模仿，隔絕了智能，也削弱了文化。“媚俗”左右我們的思考和感受；“媚俗” 為提供者帶來利益，使消費(fèi)者蒙受損失：“媚俗”使我們落入一個(gè)膚淺的世界。

在第二部分“推理的問題”里，我認(rèn)為只有一種推理的形式——思考——對(duì)人類水平的人工智能有用。然而，關(guān)于推理，我們完全不知道如何規(guī)劃和設(shè)計(jì)。推理的問題之所以成為人工智能的爭(zhēng)論焦點(diǎn)，是因?yàn)樗椭悄苤苯酉嚓P(guān)，無論人類智能還是機(jī)器智能。我們所擁有的不同類型的推理的知識(shí)源于亞里士多德和其他古希臘人，并在邏輯和數(shù)學(xué)的領(lǐng)域里發(fā)展起來。我們通常用形式化的符號(hào)系統(tǒng)來描述推理，就像計(jì)算機(jī)程序的運(yùn)行一樣。因此，通過探究推理，我們將對(duì)設(shè)計(jì)智能的課題有一個(gè)清晰的認(rèn)識(shí)。推理有三種形式：經(jīng)典人工智能探索過的演繹推理、現(xiàn)代人工智能探索過的歸納推理、有助通用智能的發(fā)展卻少有人研究的溯因推理。三種形式的推理互不相同，且無法互相轉(zhuǎn)化，因此如果用來構(gòu)建人工智能系統(tǒng)的推理形式無法支撐通用智能，那么實(shí)現(xiàn)通用人工智能（Artificial General Inteligence,AGI）也將遙遙無期。

在第三部分“神話的未來”里，我認(rèn)為，人工智能的神話會(huì)顛覆科學(xué)。把“神話”當(dāng)真，導(dǎo)致的糟糕后果將侵蝕人類智能和創(chuàng)新文化——而創(chuàng)新文化正是我們了解自己未來所必需的突破口。數(shù)據(jù)科學(xué)（人工智能在“大數(shù)據(jù)”中的應(yīng)用）充其量只是人類智能的假體，如果使用得當(dāng)，它能幫助我們應(yīng)對(duì)現(xiàn)代“數(shù)據(jù)洪流”；如果用來代替人類智能，它很可能吞噬掉大量的投入，卻無法得到我們想要的結(jié)果。我特別解釋了在一些近期的科學(xué)研究中，人工智能的神話如何對(duì)神經(jīng)科學(xué)的研究產(chǎn)生負(fù)面影響—我們正在為這個(gè)神話付出高昂的代價(jià)。為了人類自身的美好前景，既然我們沒有充足的科學(xué)理由接受這個(gè)神話，那么我們就有足夠的理由拒絕它，所以我們需要從根本上重新思考有關(guān)人工智能的討論。

圖片

目錄

第一部分：簡(jiǎn)化的世界

第一章 智能的錯(cuò)誤
第二章 圖靈在布萊切利園
第三章 超級(jí)智能的錯(cuò)誤
第四章 奇點(diǎn)、過去和現(xiàn)在
第五章 自然語言理解
第六章 技術(shù)媚俗
第七章 簡(jiǎn)化與謎團(tuán)

第二部分：推理的問題

第八章 別計(jì)算，要分析
第九章 皮爾士的謎題和困惑
第十章 演繹和歸納的問題
第十一章 機(jī)器學(xué)習(xí)和大數(shù)據(jù)

第十二章 溯因推理
第十三章 推理與語言
第十四章 推理與語言

第三部分：神話的未來

第十五章 神話和英雄
第十六章 人工智能神話入侵神經(jīng)科學(xué)
第十七章人類智能的新皮層理論
第十八章 科學(xué)的終結(jié)？

注｜①在19世紀(jì)初英國(guó)工業(yè)革命期間，受機(jī)械化沖擊而仇視、破壞機(jī)器，進(jìn)而反對(duì)工業(yè)革命的人被稱為盧德主義者，后引申為仇視一切新奇的發(fā)明及科技進(jìn)步的人。——譯者注