Ilya曝光70頁(yè)OpenAI絕密文件

夢(mèng)瑤 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI

Ilya偷拍備份的OpenAI機(jī)密文件，剛剛曝光。

70頁(yè)內(nèi)部證據(jù)、200+頁(yè)私人筆記，偷拍視頻、繞開(kāi)公司系統(tǒng)、用閱后即焚的方式傳遞消息，甚至上來(lái)直接一個(gè)大暴擊：

Sam Altman撒謊成性！！！（大聲.jpg)

《紐約客》剛剛披露這一事件詳情，里面的內(nèi)容堪稱抓馬：

• 從OpenAI董事會(huì)到微軟高級(jí)高管，跨越20年、橫跨多個(gè)組織，大家對(duì)奧特曼的核心評(píng)價(jià)幾乎都是撒謊成性
• OpenAI的非營(yíng)利使命要求CEO必須具備誠(chéng)信的品質(zhì)，但I(xiàn)lya后來(lái)發(fā)現(xiàn)奧特曼恰恰不具備這種品質(zhì)，甚至恰恰相反…
• 奧特曼被解雇后的5天，在自家豪宅搞了個(gè)宮斗備戰(zhàn)室，資本、員工、輿論三線齊發(fā)，最終董事會(huì)無(wú)力抵抗！
• 宮斗事件之后，奧特曼不僅沒(méi)有收斂，反而加速了安全承諾的瓦解，SuperAlignment團(tuán)隊(duì)被邊緣化。

誰(shuí)成想呢，本以為再無(wú)瓜葛的硅谷甄嬛傳，奧特曼和llya的愛(ài)恨情仇又又又更新了。

為啥OpenAI首席科學(xué)家要用間諜片手法搜集CEO的罪證？

這份備忘錄里到底寫(xiě)了什么，讓董事會(huì)成員回憶時(shí)只說(shuō)了三個(gè)字——“He was terrified”？

準(zhǔn)備好瓜子兒，大家伙兒邊嗑邊看吧…

(太精彩了，太精彩了，太精彩了…)

llya偷拍70頁(yè)OpenAI秘密文件曝光！

山姆·奧特曼，撒謊成性

只能說(shuō)，OpenAI從一開(kāi)始，就給自己設(shè)了一道幾乎不留余地的門(mén)檻。

這份70頁(yè)機(jī)密備忘錄中提到，OpenAI從創(chuàng)建之初的時(shí)候就被被設(shè)計(jì)成一個(gè)的安全性拉滿的組織——

非營(yíng)利結(jié)構(gòu)、董事會(huì)優(yōu)先對(duì)人類負(fù)責(zé)，甚至在極端情況下，可以犧牲公司本身。

也正因如此具備公共利益的性質(zhì)，所以O(shè)penAI對(duì)于CEO的要求同樣具備一定特殊性，那就是，必須非常非常非常非常的有信用。

好巧不巧，問(wèn)題恰恰出在這里。

2019年，Ilya還在OpenAI辦公室的時(shí)候，為Greg Brockman主持婚禮，甚至安排了一只機(jī)械手來(lái)?yè)?dān)任捧環(huán)人。

那個(gè)時(shí)候，技術(shù)、理想、人與人之間的信任看起來(lái)是統(tǒng)一的，但隨著模型能力不斷臨界線，他開(kāi)始重新思考同一個(gè)問(wèn)題：

如果這項(xiàng)技術(shù)真的被做出來(lái)，誰(shuí)在控制它，他的答案變得越來(lái)越明確，甚至冷靜到只剩一句判斷：

“我不認(rèn)為奧特曼是那個(gè)能為OpenAI拍板兒的人。”

理由嘛——

llya倒不是懷疑奧特曼能力有問(wèn)題，主要吧，還是懷疑這個(gè)人的人性…

于是乎，接下來(lái)llya的一系列操作，只能說(shuō)已經(jīng)不太像一家科技公司的內(nèi)部討論了，正如我們看到的：

70頁(yè)材料被系統(tǒng)整理出來(lái)，包含Slack記錄與內(nèi)部文件，關(guān)鍵內(nèi)容用手機(jī)拍下，刻意避開(kāi)公司設(shè)備，再通過(guò)會(huì)自動(dòng)消失的消息發(fā)送給董事會(huì)。

一位收到材料的董事后來(lái)回憶，看到這個(gè)大爆料的時(shí)候，他直言：我是真被嚇得沒(méi)邊了…

5天宮斗，從F1賽場(chǎng)到豪宅備戰(zhàn)室

在Ilya那份70頁(yè)機(jī)密備忘錄里，當(dāng)年的OpenAI宮斗事件被還原得更加具體，也更抓馬。（doge）

而且這事兒的開(kāi)端，本身就帶著一點(diǎn)《荒誕感》——

當(dāng)時(shí)奧特曼人在拉斯維加斯看F1，被一通視頻電話叫走，電話那頭兒，Ilya讀了一段極其簡(jiǎn)短的聲明——

他（奧特曼）已經(jīng)不再是OpenAI的CEO。

沒(méi)有鋪墊，也沒(méi)有證據(jù)披露，更離譜的是，連微軟里德·霍夫曼這種級(jí)別的核心投資人，事前也完全不知情。

（甚至一度以為是挪用資金這種級(jí)別的大雷，結(jié)果啥也沒(méi)查到？？）

聽(tīng)到自己被“斬立決”的消息，當(dāng)晚奧特曼直接連夜在自己豪宅里直接搭起了一個(gè)堪稱“拯救奧特曼”主題的臨時(shí)指揮部。

△圖片由AI生成

奧特曼的目的，是迅速推進(jìn)三件事：

第一，資本施壓。

Thrive凍結(jié)關(guān)鍵投資，微軟直接放話可以另起爐灶：你們可以換CEO，但OpenAI也可以從此消失。

第二，員工站隊(duì)。

聯(lián)名信迅速擴(kuò)散，幾乎全員簽字，甚至連臨時(shí)接任CEO、最初站在董事會(huì)一側(cè)的Murati，最終也倒向奧特曼，簽下支持回歸的聯(lián)名信。

緊接著，便是輿論失控。

董事會(huì)選擇沉默，奧特曼一方持續(xù)釋放信息，掌控輿論大局。

結(jié)果嘛，就是Ilya最后也不得不松口：如果奧特曼不回來(lái)，公司可能會(huì)直接崩掉。

五天之后，結(jié)局落定—奧特曼回宮，董事會(huì)出局。

甚至，OpenAI內(nèi)部員工還給這場(chǎng)硅谷史上最經(jīng)典的宮斗反轉(zhuǎn)，起了個(gè)名字——The Blip（意為“小插曲”或“短暫失常”）。

The Blip之后，安全承諾開(kāi)始崩塌

The Blip結(jié)束后，OpenAI所發(fā)生的變化沒(méi)有停在權(quán)力層面，那套用來(lái)“限制權(quán)力”的機(jī)制，開(kāi)始逐步松動(dòng)。

最先出問(wèn)題的，是資源。

OpenAI曾對(duì)外承諾，會(huì)拿出20%的算力，用于長(zhǎng)期安全研究，這是OpenAI當(dāng)時(shí)最核心的安全底牌。

但實(shí)際執(zhí)行，很快變了味兒——算力占比一路下滑到1%-2%，分到的還是最老的集群、最差的芯片。

當(dāng)負(fù)責(zé)人Jan Leike提出異議時(shí)，得到的回應(yīng)是：這件事從一開(kāi)始就不現(xiàn)實(shí)。

從優(yōu)先事項(xiàng)，變成象征性存在，安全開(kāi)始失去真正的投入。

第二步，就是流程開(kāi)始被繞開(kāi)。

在OpenAI里，原本涉及高風(fēng)險(xiǎn)能力的發(fā)布，正常應(yīng)該需要經(jīng)過(guò)安全委員會(huì)審核。

但在后續(xù)產(chǎn)品迭代中，一些爭(zhēng)議最大的功能都沒(méi)有走完整審批流程就直接上線，甚至連地區(qū)版本的產(chǎn)品，也在安全評(píng)估尚未完成的情況下發(fā)布。

（流程不流程的，似乎也沒(méi)那么重要了…)

第三步，是調(diào)查失去約束力。

事實(shí)上董事會(huì)風(fēng)波之后，OpenAI請(qǐng)來(lái)了一家參與過(guò)多起公司丑聞?wù){(diào)查的律所“WilmerHale”做獨(dú)立調(diào)查。

按這家律所的正常工作流程和外界普遍預(yù)期來(lái)說(shuō)，OpenAI的事情會(huì)有一份正式、可追溯的書(shū)面報(bào)告。

但最終的結(jié)果是——沒(méi)有報(bào)告。（doge）

調(diào)查結(jié)論，只以口頭形式匯報(bào)給新董事會(huì)，而不寫(xiě)報(bào)告的建議，恰恰來(lái)自?shī)W特曼參與選擇的董事的私人律師。

三件事兒——先削資源，再松流程，最后弱化調(diào)查。

看起來(lái)每一步都是輕微調(diào)整，但是吧，當(dāng)系統(tǒng)可以繞過(guò)限制，限制本身也就不再存在了。

20年前就有人看透了山姆·奧特曼？

u1s1，圍繞奧特曼好的壞的一籮筐評(píng)價(jià)，并不是在OpenAI才出現(xiàn)的。

事實(shí)上跨越20年、橫跨多個(gè)組織，對(duì)奧特曼的核心評(píng)價(jià)驚人一致，那就是——

這小子，嘴里忒沒(méi)實(shí)話，干事兒忒不著邊兒。（doge）

最早的一次，可以追溯到2013年。

當(dāng)時(shí)已故的天才程序員Aaron Swartz，在私下對(duì)朋友留下過(guò)一句對(duì)奧特曼非常極端判斷：

你必須明白，奧特曼這個(gè)人永遠(yuǎn)不值得信任，他是個(gè)反社會(huì)人格的人，為了目的什么都做得出來(lái)。

他第一次創(chuàng)業(yè)階段，問(wèn)題已經(jīng)出現(xiàn)。

公司內(nèi)部員工曾兩次推動(dòng)董事會(huì)撤換他，甚至需要投資人親自下場(chǎng)，在公司里盯著他。

到了后來(lái)，當(dāng)他開(kāi)始進(jìn)入更核心的創(chuàng)業(yè)與投資圈層，問(wèn)題開(kāi)始升級(jí)——

從內(nèi)部矛盾，變成信任危機(jī)。

內(nèi)部有人后來(lái)直接承認(rèn)，奧特曼一直在隱瞞事情，比如對(duì)外公告不斷修改說(shuō)法， 職位描述一改再改，甚至最后干脆刪除等等。

但在正式的監(jiān)管文件里，他依然被標(biāo)注在原來(lái)的位置上？？

換句話說(shuō)就是表面在變化，實(shí)際關(guān)系卻沒(méi)有同步調(diào)整。

這些分散在不同階段的口碑，到了OpenAI，開(kāi)始集中爆發(fā)——

董事會(huì)成員給出的評(píng)價(jià)是：他不受事實(shí)的約束，甚至奧特曼還被大家形容為，對(duì)欺騙可能帶來(lái)的后果缺乏基本顧慮。

而另一位高管給出的說(shuō)法是：他未來(lái)，有可能會(huì)被放進(jìn)那些重大商業(yè)丑聞人物的序列中被討論。

喜歡寫(xiě)日記的不正經(jīng)人還有一個(gè)，后來(lái)成為Anthropic CEO的Dario Amodei也留下了200多頁(yè)筆記內(nèi)容，筆記中包含大量對(duì)于OpenAI和奧特曼本人的評(píng)價(jià)。

盡管和llya算不上啥關(guān)系多好的朋友，但是吧，人家和Ilya得出了同一個(gè)結(jié)論——

那就是OpenAI內(nèi)部出現(xiàn)的一籮筐問(wèn)題不在公司系統(tǒng)本身，而是奧特曼本人有問(wèn)題。

甚至，Amodei的措辭更為激烈，對(duì)奧特曼的評(píng)價(jià)是——他說(shuō)的話幾乎可以確定是胡扯！！！

咋說(shuō)呢，來(lái)源不同、階段不同，但指向高度一致。

更微妙的是，別看差評(píng)如此之多，架不住奧特曼自己的腰板直，在被質(zhì)疑時(shí)，人家?jiàn)W特曼只是說(shuō)：

不好意思哈，我無(wú)法改變我的性格～（好牛的精神狀態(tài)）

最后頗值得一提的是，在llya的70頁(yè)機(jī)密備忘錄中，還有個(gè)蠻值得一瞧的事情，那就是——

在OpenAI的辦公區(qū)里，”Feel the AGI”的標(biāo)語(yǔ)隨處可見(jiàn)。

這句話最早是Ilya用來(lái)警告同事AGI風(fēng)險(xiǎn)的，但是吧，The Blip宮變事件之后，變成了慶祝未來(lái)的口號(hào)。

（這多少有點(diǎn)地獄級(jí)笑話了啊，llya：我？？？）

OMT

家人們，這瓜還沒(méi)完。

就在剛剛，曝光此備忘錄的《紐約客》記者在x上表示，當(dāng)他們想采訪“研究AI生存風(fēng)險(xiǎn)”的研究員時(shí)，OpenAI官方回應(yīng)是：

你說(shuō)的存在性安全是啥？這東西壓根不存在哈～

但是吧，還得是OpenAI，說(shuō)歸說(shuō)，做歸做，這是兩碼事兒：

就在這篇調(diào)查報(bào)告發(fā)布幾個(gè)小時(shí)后， OpenAI剛巧推出了支持安全研究的項(xiàng)目。（doge）

還得是OpenAI，還得是奧特曼。

（llya：這下你們知道我說(shuō)的都是實(shí)話了吧，這奧特曼是真說(shuō)一套做一套啊？？）