奧特曼家被扔燃燒瓶后，他發(fā)長(zhǎng)文回應(yīng)：我理解你們對(duì) AI 的恐懼

AI 的時(shí)代焦慮，終于以一種極端的方式落到了現(xiàn)實(shí)。

凌晨 3 點(diǎn) 45 分，美國舊金山北灘社區(qū)。一枚燃燒瓶砸向大門，火苗躥起，隨即熄滅。住在里面的，是全球最具爭(zhēng)議的科技公司掌舵人：OpenAI CEO Sam Altman（山姆·奧特曼）。

幸運(yùn)的是，燃燒瓶彈開了。沒有人受傷。一個(gè)多小時(shí)后，同一名嫌疑人出現(xiàn)在 OpenAI 舊金山總部門口，揚(yáng)言要燒掉這棟樓。警方隨即將其拘押，一名 20 歲的男性。

這條新聞本來可以就這樣結(jié)束：「AI 公司高管遭遇襲擊，嫌疑人落網(wǎng)，暫無人傷亡。」

但奧特曼沒有選擇沉默。他于一個(gè)小時(shí)前發(fā)了一篇很長(zhǎng)的文章。

「這是我家人的照片。他們是我的一切。」開頭就是這句話，配了一張他和伴侶、兒子的合照。他解釋為什么要公開這張平時(shí)刻意藏起來的照片：「希望能讓下一個(gè)人在沖我家扔燃燒瓶之前三思，無論他們對(duì)我有什么看法。」

然后他說，幾天前有一篇「針對(duì)我的煽動(dòng)性文章」，有人提醒過他，那篇文章的發(fā)布時(shí)機(jī)，恰逢公眾對(duì) AI 極度焦慮的節(jié)點(diǎn)，可能讓他陷入更危險(xiǎn)的處境。他當(dāng)時(shí)沒當(dāng)回事。

「現(xiàn)在我在深夜輾轉(zhuǎn)難眠，怒火中燒，開始意識(shí)到自己低估了文字與敘事的力量。」

這是 AI 時(shí)代第一次，一位 CEO 在「有人想燒死我」之后，沒有選擇報(bào)警聲明加公關(guān)稿的標(biāo)準(zhǔn)流程，而是把這種恐懼、憤怒和反思，原原本本地寫出來。

他在深夜說了什么

文章分三部分：信念、個(gè)人反思、行業(yè)思考。

信念部分其實(shí)沒什么新鮮的。AI 是人類能力的最強(qiáng)擴(kuò)展工具，必須民主化，權(quán)力不能過度集中，社會(huì)需要適應(yīng)機(jī)制……這些他說過很多次了。

真正值得停下來讀的，是「?jìng)€(gè)人反思」這一段。他說自己「有很多值得驕傲的事，也有不少錯(cuò)誤」。

驕傲的是什么？他提到了和馬斯克的那場(chǎng)糾紛。

當(dāng)年馬斯克試圖對(duì) OpenAI 謀求單方面控制權(quán)，奧特曼拒絕了。他說：「我為自己當(dāng)時(shí)守住的那條底線感到自豪，也為我們走出的那條窄路感到自豪，正是那條路讓 OpenAI 得以延續(xù)。」

不驕傲的是什么？他說自己「回避沖突」，給公司和自己都帶來了巨大痛苦。他說在與前任董事會(huì)的沖突中「處置失當(dāng)」，造成了混亂。他說自己是「一個(gè)有缺陷的人，身處一個(gè)異常復(fù)雜的處境」。

對(duì)于那些他曾經(jīng)傷害過的人，他道了歉。

這是這篇文章里最罕見的部分。科技圈的高管道歉，通常要么是 PR 危機(jī)后的被迫姿態(tài)，要么措辭模糊到?jīng)]有任何實(shí)質(zhì)性認(rèn)錯(cuò)。奧特曼這段話說得不算完整，但至少是真實(shí)的。

文章最后一部分，他還說他理解過去幾年為什么會(huì)上演這么多「莎士比亞式戲劇」：「一旦看見 AGI，就再也無法視而不見。它有一種真實(shí)的『權(quán)力之戒』式動(dòng)力，會(huì)讓人做出瘋狂之舉。」

正如他所理解的那樣，成為掌控 AGI 之人這種執(zhí)念，它能腐蝕任何人。

包括OpenAI 的歷史本身就是一部權(quán)力爭(zhēng)奪的紀(jì)錄片。馬斯克的出走與反目、前董事會(huì)的突然解雇風(fēng)波、微軟的深度綁定、Ilya Sutskever 的離開……每一段都牽涉到對(duì)「誰掌控 AI 未來」這個(gè)問題的不同答案。

奧特曼說，唯一的解法是「把技術(shù)向更廣泛的人群開放，讓任何人都無法獨(dú)握那枚戒指」。

那名 20 歲的嫌疑人，沒有留下任何宣言。

我們不知道他為什么去扔那枚燃燒瓶。是被哪篇文章激怒？是對(duì) AI 奪走工作的恐懼？是某種更私人的偏執(zhí)？

但這件事本身，代表了一種真實(shí)存在的社會(huì)情緒。

失業(yè)焦慮、技術(shù)恐懼、對(duì)少數(shù)人掌控未來的憤怒，這些情緒在過去兩年被 AI 的爆發(fā)式發(fā)展急劇放大。當(dāng) OpenAI 每隔幾個(gè)月就發(fā)布一款能「取代某類工作」的新產(chǎn)品，當(dāng) ChatGPT 出現(xiàn)在每個(gè)行業(yè)的重組報(bào)告里，當(dāng)「你的崗位會(huì)被 AI 替代嗎」成為刷屏話題，積累下來的東西，總會(huì)找到出口。

奧特曼在文章里說，他現(xiàn)在擔(dān)心的已經(jīng)不只是「模型對(duì)齊」，而是整個(gè)社會(huì)層面能否及時(shí)建立起應(yīng)對(duì)機(jī)制。這話聽起來像是在為監(jiān)管松綁找理由，但放在這次事件的語境里，它有另一層意思：

連 AI 公司的 CEO 自己，也開始承認(rèn)技術(shù)的速度已經(jīng)超出了社會(huì)的消化能力。

這不是什么新發(fā)現(xiàn)，但由奧特曼在凌晨、在燃燒瓶的余溫里說出來，分量就不一樣了。過去幾年，科技圈慣用的敘事是「我們?cè)诮鉀Q問題」。監(jiān)管跟不上？我們自律。就業(yè)沖擊？我們會(huì)創(chuàng)造新崗位。

每一次質(zhì)疑，都有一套對(duì)應(yīng)的話術(shù)。

但燃燒瓶的出現(xiàn)說明，有一部分人的憤怒，已經(jīng)溢出了「理性討論」的范圍。

暴力當(dāng)然沒有任何正當(dāng)性。

無論動(dòng)機(jī)如何，向一個(gè)熟睡嬰兒的家投擲燃燒瓶，都應(yīng)受到譴責(zé)和處罰。雖然警方尚未確認(rèn)此次襲擊是與 AI 反對(duì)情緒有關(guān)，還是受近期《紐約客》負(fù)面報(bào)道影響，但這件事本身已折射出 AI 發(fā)展帶來的社會(huì)焦慮正在升溫。

那種不安是可以理解的，從沒有一項(xiàng)技術(shù)像 AI 一樣以瘋狂的速度改變世界，這種恐懼是真實(shí)的。

奧特曼這篇文章，是他少有的一次沒有站在「我們?cè)诮鉀Q問題」的位置上發(fā)言。他承認(rèn)了錯(cuò)誤，承認(rèn)了恐懼，也承認(rèn)了自己也不完全知道前路在哪里。

人和 AI 應(yīng)該如何相處，可能是比實(shí)現(xiàn) AGI 更大的難題。

附上 Sam Altman 博客原文：

這是我家人的照片。他們是我的一切。

圖像有力量，我希望如此。平時(shí)我們都很注重隱私，但這次我選擇公開這張照片，希望能讓下一個(gè)人在沖我家扔燃燒瓶之前三思——無論他們對(duì)我有什么看法。

第一個(gè)人昨晚凌晨 3 點(diǎn) 45 分這么做了。幸好燃燒瓶彈開了，沒有人受傷。

文字同樣有力量。幾天前有一篇針對(duì)我的煽動(dòng)性文章。昨天有人跟我說，他認(rèn)為這篇文章發(fā)布的時(shí)機(jī)恰逢公眾對(duì) AI 極度焦慮之際，可能會(huì)讓我陷入更危險(xiǎn)的處境。我當(dāng)時(shí)沒放在心上。

現(xiàn)在我在深夜輾轉(zhuǎn)難眠，怒火中燒，開始意識(shí)到自己低估了文字與敘事的力量。趁這個(gè)機(jī)會(huì)，我想說幾件事。

一、我的信念

• 推動(dòng)全民繁榮、賦能所有人、推進(jìn)科學(xué)與技術(shù)的進(jìn)步，對(duì)我來說是道義上的責(zé)任。
• AI 將是有史以來最強(qiáng)大的人類能力擴(kuò)展工具。對(duì)這一工具的需求幾乎沒有上限，人們將用它創(chuàng)造出令人驚嘆的成就。世界需要大量的 AI，我們必須想清楚如何實(shí)現(xiàn)這一目標(biāo)。
• 這條路不會(huì)一帆風(fēng)順。人們對(duì) AI 的恐懼與焦慮是有根據(jù)的——我們正在經(jīng)歷人類社會(huì)很長(zhǎng)時(shí)間以來，乃至有史以來最大的變革。安全問題必須做好，這不只是模型對(duì)齊的問題——我們迫切需要整個(gè)社會(huì)層面的應(yīng)對(duì)機(jī)制，以抵御新型威脅，包括出臺(tái)新政策，幫助我們渡過艱難的經(jīng)濟(jì)轉(zhuǎn)型期，走向更美好的未來。
• AI 必須實(shí)現(xiàn)民主化，權(quán)力不能過度集中。未來的掌控權(quán)屬于所有人及其制度。AI 需要賦能每一個(gè)個(gè)體，我們需要集體做出關(guān)于未來走向與新規(guī)則的決策。我認(rèn)為，由幾家 AI 實(shí)驗(yàn)室來主導(dǎo)塑造我們未來的最關(guān)鍵決策，是不正確的。
• 適應(yīng)能力至關(guān)重要。我們都在以極快的速度學(xué)習(xí)全新的事物；有些判斷會(huì)對(duì)，有些會(huì)錯(cuò)，有時(shí)我們需要隨著技術(shù)發(fā)展和社會(huì)演進(jìn)迅速調(diào)整認(rèn)知。目前沒有人真正理解超級(jí)智能的影響，但這種影響將是深遠(yuǎn)的。

回顧我在 OpenAI 頭十年的工作，有很多值得驕傲的事，也有不少錯(cuò)誤。

我想起我們即將與埃隆對(duì)簿公堂，想起當(dāng)年我如何堅(jiān)守底線，拒絕接受他對(duì) OpenAI 謀求的單方面控制權(quán)。我為此感到自豪，也為我們當(dāng)時(shí)走出的那條窄路感到自豪——正是那條路讓 OpenAI 得以延續(xù)，并取得了此后的一切成就。

我并不為自己的回避沖突感到自豪，那給我和 OpenAI 都帶來了巨大的痛苦。我也不為自己在與前任董事會(huì)的沖突中處置失當(dāng)、給公司造成混亂感到自豪。OpenAI 走過的歷程跌宕起伏，我在其中犯下過許多錯(cuò)誤；我是一個(gè)有缺陷的人，身處一個(gè)異常復(fù)雜的處境，每年都在努力變得好一點(diǎn)，始終為這一使命而工作。我們從一開始就清楚 AI 的賭注有多大，也知道善意之人之間的個(gè)人分歧會(huì)因此被無限放大。但親歷這些激烈的沖突、往往還要在其中充當(dāng)仲裁者，其代價(jià)是沉重的。對(duì)于那些我曾經(jīng)傷害過的人，我深感抱歉，也希望自己能更快從中汲取教訓(xùn)。

我也清醒地意識(shí)到，OpenAI 如今已是一個(gè)重要的平臺(tái)，我們需要以更具可預(yù)期性的方式運(yùn)營。過去幾年極其緊張、混亂、高壓。

但總體而言，我為我們正在兌現(xiàn)使命感到無比自豪——這在當(dāng)初看來幾乎是不可能的。克服重重阻礙，我們摸索出了構(gòu)建強(qiáng)大 AI 的方法，籌集到了足夠的資本來建設(shè)交付所需的基礎(chǔ)設(shè)施，建立起了一家產(chǎn)品公司和商業(yè)體系，以大規(guī)模提供相當(dāng)安全、穩(wěn)健的服務(wù)，還有更多。

很多公司都說要改變世界；我們真的做到了。

三、關(guān)于這個(gè)行業(yè)的思考

綜觀過去幾年，我對(duì)這個(gè)領(lǐng)域?yàn)楹紊涎萘巳绱硕嗌勘葋喪綉騽〉膫€(gè)人理解是：「一旦看見 AGI，就再也無法視而不見。」 它有一種真實(shí)的「權(quán)力之戒」式動(dòng)力，會(huì)讓人做出瘋狂之舉。我說的不是 AGI 本身就是那枚戒指，而是「成為掌控 AGI 之人」這種無所不包的執(zhí)念。

我能想到的唯一解法，是著力于向更廣泛的人群開放這項(xiàng)技術(shù)，讓任何人都無法獨(dú)握那枚戒指。實(shí)現(xiàn)這一目標(biāo)的兩個(gè)顯而易見的途徑，是個(gè)體賦權(quán)，以及確保民主制度始終掌握主導(dǎo)權(quán)。

民主進(jìn)程的力量必須凌駕于公司之上。法律與規(guī)范會(huì)不斷演變，但我們必須在民主進(jìn)程的框架內(nèi)行事，盡管這個(gè)過程會(huì)混亂、也會(huì)比我們期望的更慢。我們希望成為其中的一個(gè)聲音、一個(gè)利益相關(guān)方，但不是要獨(dú)攬一切權(quán)力。

業(yè)界受到的許多批評(píng)，源自人們對(duì)這項(xiàng)技術(shù)極高風(fēng)險(xiǎn)的真誠憂慮。這種憂慮完全合理，我們歡迎善意的批評(píng)與辯論。我理解反技術(shù)的情緒，技術(shù)的確并非對(duì)每個(gè)人都始終有益。但從整體來看，我相信技術(shù)進(jìn)步能夠讓未來變得無與倫比地美好——對(duì)你我的家庭都是如此。

在我們進(jìn)行這場(chǎng)辯論的同時(shí)，我們應(yīng)當(dāng)共同降低言辭與行動(dòng)的烈度，讓更少的人家——無論是字面意義上還是隱喻意義上——遭遇爆炸。

附上博客地址：
https://blog.samaltman.com/2279512