科技界億萬富翁們似乎正為“世界末日”做準備，我們應該擔心嗎？

作者：佐伊·克萊曼 來源：英媒

據說早在2014年，馬克·扎克伯格（又譯朱克伯格、祖克柏，Mark Zuckerberg）就開始在夏威夷考艾島（Kauai）修建他名為“古蘭尼牧場”（Koolau Ranch）的龐大莊園，占地達1,400英畝。

根據《連線》（Wired）雜志報道，該莊園將設有避難設施，配備獨立能源與糧食供應。不過，參與施工的木匠與電工都被要求簽署保密協議。

外圍的道路被一道六英尺高的圍墻隔絕視線。

去年當有人問他是否在建造“世界末日地堡”時，這位Facebook創辦人斬釘截鐵地回答“沒有”。他解釋說，那個大約5,000平方英尺的地下空間“就像個小避難所，也可以說是地下室而已”。

然而，這并沒有阻止外界的猜測——特別是當他又在加州帕洛阿爾托（Palo Alto）克雷森特公園（Crescent Park）社區買下11處房產，并在下方興建約7,000平方英尺的地下空間。

扎克伯格據報在帕洛阿爾托的一個社區購置房產，總花費約1.1億美元

《紐約時報》指出，雖然建筑許可證上寫的是“地下室”，但有鄰居稱之為“地堡”，甚至戲稱是“億萬富翁版的蝙蝠洞”。

其他科技界領袖似乎也在進行類似的“備災投資”——購地興建地下設施，將其改造成豪華地堡。

LinkedIn聯合創辦人里德·霍夫曼（Reid Hoffman）曾提及過“世界末日保險”（apocalypse insurance），他表示約有一半的超級富豪都擁有這種“保險”，而紐西蘭更是熱門避難地。

那么，他們真的在為戰爭、氣候變化，或某種我們尚未知曉的災難做準備嗎？

• 薩姆·阿特曼曾表示，若發生全球性災難，他考慮過與彼得·蒂爾（Peter Thiel）一起前往紐西蘭偏遠地區的房產避難。

近年人工智能（AI）的飛快發展，讓這份不安更深。許多人擔心科技進展的速度快得驚人。

Open AI的首席科學家兼聯合創辦人伊利亞·蘇茨克弗（Ilya Sutskever）據報就是其中之一。

2023年中，總部位于舊金山的Open AI已推出ChatGPT——這款聊天機器人如今被全球數億人使用，公司也在快速推出更新的版本。

不過，據記者郝珂靈（Karen Hao）在其新書中披露，那年夏天，蘇茨克弗越來越相信電腦科學界已接近實現“人工通用智能”（AGI）——即機器能與人類智力匹敵的時刻。

她寫道，蘇茨克弗曾在一次會議上建議，應為公司頂尖科學家預先建造一座地下避難所，以防這項強大技術面世前出現意外。

伊利亞·蘇茨克弗（Ilya Sutskever）據報曾說：“在人工通用智能面世之前，我們一定會先建好地堡。”

據廣泛報道，蘇茨克弗當時說：“在人工通用智能面世之前，我們一定會先建好地堡。”但“我們”究竟指的是誰，并不清楚。

這句話揭示了一個耐人尋味的現象：許多頂尖電腦科學家和科技業領袖，一方面全力推動高度智能的人工智能發展，另一方面卻也深深害怕它最終可能帶來的后果。

那么，所謂的“人工通用智能”如果真的會出現的話，究竟會在何時出現？它的革命程度是否真有可能強大到讓普通人都感到恐懼？

“比我們想象的更快到來”

多位科技界領袖都聲稱，人工通用智能即將到來。Open AI行政總裁阿特曼在2024年12月表示，人工通用智能將“比世上大多數人想象的更快”出現。

DeepMind聯合創辦人德米斯·哈薩比斯爵士（Sir Demis Hassabis）預測，它會在未來五至十年內實現。Anthropic創辦人達里奧·阿莫代（Dario Amodei）去年更撰文稱，他偏好的說法是“強人工智能”（powerful AI），可能早在2026年就會出現。

然而，也有人持懷疑態度。南安普頓大學（University of Southampton）電腦科學教授溫蒂·霍爾女爵（Dame Wendy Hall）說：“他們總是在移動球門柱。（何時實現人工通用智能）要看你問的是誰。”

她補充說：“科學界認為人工智能技術確實了不起，但離真正的人類智力還差得遠。”

據廣泛報道，蘇茨克弗當時說：“在人工通用智能面世之前，我們一定會先建好地堡。”但“我們”究竟指的是誰，并不清楚。

這句話揭示了一個耐人尋味的現象：許多頂尖電腦科學家和科技業領袖，一方面全力推動高度智能的人工智能發展，另一方面卻也深深害怕它最終可能帶來的后果。

那么，所謂的“人工通用智能”如果真的會出現的話，究竟會在何時出現？它的革命程度是否真有可能強大到讓普通人都感到恐懼？

“比我們想象的更快到來”

多位科技界領袖都聲稱，人工通用智能即將到來。Open AI行政總裁阿特曼在2024年12月表示，人工通用智能將“比世上大多數人想象的更快”出現。

DeepMind聯合創辦人德米斯·哈薩比斯爵士（Sir Demis Hassabis）預測，它會在未來五至十年內實現。Anthropic創辦人達里奧·阿莫代（Dario Amodei）去年更撰文稱，他偏好的說法是“強人工智能”（powerful AI），可能早在2026年就會出現。

然而，也有人持懷疑態度。南安普頓大學（University of Southampton）電腦科學教授溫蒂·霍爾女爵（Dame Wendy Hall）說：“他們總是在移動球門柱。（何時實現人工通用智能）要看你問的是誰。”

她補充說：“科學界認為人工智能技術確實了不起，但離真正的人類智力還差得遠。”

• 約翰·馮·諾伊曼被認為是最早提出“奇點”概念的人之一，遠在這個詞出現之前。他身兼物理學家、數學家、經濟學家與電腦科學家等多重身份。

2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰寫的書籍《創世紀》（Genesis），探討了一種極度強大的科技——其在決策與領導上的效率高到人類最終可能將控制權完全交給它。

他們認為，這不是“會不會發生”的問題，而是“何時發生”的問題。

人人都有錢花，不用工作？

支持發展人工通用智能與人工超級智能的人，幾乎以傳教般的熱情宣揚其潛在好處。他們認為，這項技術將能找到致命疾病的新療法、解決氣候變化，甚至發明取之不盡的潔凈能源。

伊隆·馬斯克（Elon Musk）甚至聲稱，超級智能的AI可能開啟一個“全民高收入”的新時代。

他最近表示，人工智能將變得極為便宜且普及，幾乎人人都會想擁有自己專屬的“R2-D2與C-3PO”（指《星球大戰》中的機器人）。

他興奮地說：“每個人都將享有最好的醫療、食物、住宅、交通，以及一切所需——永續的富足生活。”

當然，這也有令人恐懼的一面。這項技術會否被恐怖分子利用，成為毀滅性的武器？又或者，它有一天自行判斷人類才是世界問題的根源，進而決定毀滅我們？

• 伊隆·馬斯克曾支持這樣的觀點：未來人人都會想擁有自己的R2-D2和C-3PO。

“如果它比你還聰明，那我們就必須把它控制起來。”萬維網（World Wide Web）發明者蒂姆·伯納斯-李（Tim Berners-Lee）本月稍早接受BBC訪問時警告說。

“我們必須確保有能力把它關掉。”

各國政府也在采取保護措施。美國作為眾多領先AI公司的基地。在2023年，時任總統拜登簽署一項行政命令，要求部分企業向聯邦政府提交安全測試結果。不過，特朗普總統其后撤銷了部分條款，稱該命令是對創新的“阻礙”。

同時，英國政府兩年前成立了“AI安全研究所”（AI Safety Institute），這是一個政府資助的研究機構，旨在更深入了解高階人工智能可能帶來的風險。

而那些超級富豪們，則有他們自己的“世界末日保險”計劃。

• 馬斯克：“每個人都會享有最好的醫療、食物、住宅、交通和一切所需——永續的富足生活。”

LinkedIn的霍夫曼曾打趣說：“說自己要在紐西蘭買房，其實就是一種心照不宣的暗號，懂的人自然懂。”想必地堡也是同樣的意思。

不過，這里也暴露出一個極具人性的缺陷。

我遇過一位保鑣，他曾為某位擁有“地堡”的億萬富翁工作過。他告訴我，倘若世界真的發生災難，他們的安保團隊首要任務是干掉那位老板，然后自己進地堡。從他的語氣來看，他似乎不是在開玩笑。

這一切都是杞人憂天的胡言亂語嗎？

尼爾·勞倫斯（Neil Lawrence）是劍橋大學的機器學習教授。對他而言，整場關于人工通用智能的討論本身就是一派胡言。

他說：“所謂‘人工通用智能’這個概念，就像說要造出一種‘人工通用交通工具’一樣荒謬。”

“合適的交通工具取決于情境。我坐空中巴士A350飛去肯尼亞，每天開車去大學上班，走路去餐廳吃飯??沒有一種交通工具能同時做到這一切。”

在他看來，有關人工通用智能的討論只是在分散注意力。

“我們已經創造出的技術，讓普通人首次能直接與機器對話，并讓它按照人類的意愿行事。這是極為非凡的——是徹底的變革。”

“但令人擔憂的是，我們太容易被大科技公司營造出的人工通用智能故事吸引，而忽略了真正該思考的——如何讓這些技術更好地服務人類。”

• 馬克·扎克伯格與妻子普莉希拉合影。他表示，夏威夷莊園的地下空間“就像個小避難所”。

現有的人工智能工具都是以海量數據訓練出來的，擅長從中辨識模式——無論是醫學影像中的腫瘤跡象，還是預測句子中下一個最可能出現的詞。然而，不論他們的回答多么逼真，人工智能依然不具備“感覺”。

Cognizant的霍賈特說：“有些‘取巧’的方法可以讓大型語言模型（AI聊天機器人的基礎技術）表現得好像它有記憶、能學習，但這些做法都令人不滿意，遠不如人類。”

位于加州的IV.AI公司行政總裁文斯·林奇（Vince Lynch）同樣對關于人工通用智能的夸大說法持保留態度。

他說：“這是很高明的行銷。如果你聲稱自己正在打造史上最聰明的東西，人們自然會想向你付款。”

他補充說：“這不是什么‘兩年內就能實現’的事。它需要龐大的運算力、極高的人類創造力，還得經歷無數次反復嘗試。”

• 電影《2001太空漫游》早已警示人類關于具自我意識電腦的危險。

當被問到是否相信人工通用智能終有一天會實現時，他沉默了許久，然后說：“我真的不知道。”

沒有意識的智能

在某些方面，人工智能已經超越了人類大腦。生成式人工智能（Generative AI ）工具可以在這一分鐘成為中世紀歷史專家，下一分鐘又能解出復雜的數學方程式。

一些科技公司承認，他們并不總是清楚自家產品為什么會產生某種回應。Meta公司甚至表示，其AI系統已出現自我改進的跡象。

但歸根究柢，無論機器變得多么聰明，在生物層面上人類大腦仍占上風——它擁有約860億個神經元和600兆個突觸，遠遠超過人工系統的規模。

研究人員正研究人腦，以期更深入理解“意識”的本質。

人類大腦在互動之間無需停頓，并且會不斷適應新的資訊。

霍賈特說：“如果你告訴一個人‘在太陽系外的行星上發現了生命’，他會立刻記住這件事，并據此改變自己的世界觀；但對大型語言模型而言，只有當你不斷重復這是事實時，它才會‘知道’這件事。”

“大型語言模型也沒有‘元認知’，也就是說，它并不是真正知道自己知道什么。而人類似乎擁有一種自我省察的能力，也就是所謂的‘意識’，能讓我們意識到自己所知道的東西。”

這正是人類智慧的核心所在——也是目前實驗室仍無法復制的部分。

主圖來源：The Washington Post via Getty Images/ Getty Images MASTER. 首圖為馬克·扎克伯格與一張未知地點的地堡示意照。