百人揭秘，“千面人”奧特曼

智東西
編譯 | 佳揚(yáng)
編輯 | 云鵬

智東西4月7日消息，據(jù)《紐約客》報(bào)道，縱觀OpenAI CEO薩姆·奧特曼的職業(yè)生涯，“不誠(chéng)實(shí)”與“操縱人心”的指控始終如影隨形。在資金與權(quán)力的誘惑面前，他多次通過文字游戲、暗箱操作等方式，突破自己此前許下的各項(xiàng)承諾。

這一指控并非空穴來風(fēng)，奧特曼的同學(xué)亞倫·斯沃茨，在2013年自殺前不久曾向幾位朋友警示，稱奧特曼“是個(gè)反社會(huì)人格者。他什么都做得出來。”

微軟一位高管則直言，奧特曼慣于“歪曲事實(shí)、歪曲真相、重新談判、違背協(xié)議”；前OpenAI研究員溫賴特也評(píng)價(jià)道，“他設(shè)計(jì)的制度，看似會(huì)約束未來的自己，但當(dāng)約束真正生效時(shí)，他會(huì)毫不猶豫地重寫規(guī)則”。

奧特曼的說服能力甚至被同行形容為“現(xiàn)實(shí)操控”，一位曾與其共事的科技高管表示：“他的說服力近乎‘心靈控制’，遠(yuǎn)超常人。”

《紐約客》耗時(shí)18個(gè)月，深度訪談了一百多位熟知奧特曼商業(yè)運(yùn)作邏輯的核心知情者，還獨(dú)家獲取了兩份此前從未對(duì)外披露的關(guān)鍵文件。

一份是前首席科學(xué)家伊利亞·蘇茨克維爾整理的逾70頁內(nèi)部備忘錄，匯集了Slack聊天記錄、人力資源檔案及管理層會(huì)議紀(jì)要，直指奧特曼的不當(dāng)行為；

另一份則是現(xiàn)任Anthropic CEO達(dá)里奧·阿莫迪在OpenAI任職期間留下的200多頁私人筆記，詳細(xì)記錄了他對(duì)公司治理及奧特曼行為的觀察與質(zhì)疑。

在多方知情者的交叉敘述中，奧特曼的人物形象愈發(fā)矛盾：其一，是深入骨髓的取悅欲，驅(qū)使著他渴望在任何場(chǎng)合都成為人群中備受青睞的焦點(diǎn)；

其二，則是對(duì)欺騙行徑可能引發(fā)的連鎖惡果，始終抱持著一種近乎反社會(huì)人格的漠然。

（紐約客用AI做了一張圖，以形象地描述文章所傳達(dá)的意思）

一、“沒有必要形成正式書面文件”

2023年11月那場(chǎng)閃電式解雇后，獨(dú)立新董事會(huì)介入監(jiān)督調(diào)查。但新當(dāng)選的成員包括前哈佛大學(xué)校長(zhǎng)勞倫斯·薩默斯、前Facebook首席技術(shù)官布雷特·泰勒，均是在與奧特曼密切溝通后確定的人選。

2024年3月，OpenAI宣布“免除奧特曼責(zé)任”，但并未公布完整調(diào)查報(bào)告，僅在官網(wǎng)發(fā)布了一份約800字的聲明，承認(rèn)公司內(nèi)部曾出現(xiàn)“信任破裂”。多位參與調(diào)查的人士透露，整個(gè)調(diào)查并未形成書面報(bào)告，結(jié)論僅以口頭形式向董事會(huì)成員匯報(bào)，并主要在薩默斯和泰勒之間溝通。

“審查并沒有得出‘薩姆是品行典范’的結(jié)論，”一位接近調(diào)查的人士表示。相反，調(diào)查的重點(diǎn)似乎并不在于厘清其誠(chéng)信問題，而更傾向于排查是否存在明確的違法行為；在這一標(biāo)準(zhǔn)下，奧特曼被認(rèn)定可以繼續(xù)擔(dān)任CEO。知情人士稱，不形成書面報(bào)告的決定，部分參考了薩默斯與泰勒私人律師的建議。對(duì)此，薩默斯拒絕置評(píng)；泰勒則表示，基于口頭匯報(bào)內(nèi)容，“沒有必要形成正式書面文件”。

信息披露的缺失引發(fā)了內(nèi)部持續(xù)不滿。多位現(xiàn)任及前任員工表示對(duì)此“震驚”。奧特曼則稱，相信所有新任董事都已聽取相關(guān)口頭簡(jiǎn)報(bào)。但一位直接知情人士反駁稱：“這完全不屬實(shí)。”部分董事會(huì)成員也私下表示，圍繞調(diào)查真實(shí)性的爭(zhēng)議仍在發(fā)酵，甚至可能“需要再次啟動(dòng)調(diào)查”。

缺乏書面記錄的直接后果，是相關(guān)指控的外部影響被顯著削弱。與此同時(shí)，奧特曼在硅谷的影響力反而進(jìn)一步鞏固。多位曾與其共事的投資人透露，他在資本網(wǎng)絡(luò)中的控制力極強(qiáng)：一旦投資人押注OpenAI的競(jìng)爭(zhēng)對(duì)手，往往會(huì)被排除在其后續(xù)項(xiàng)目之外。“如果你投了他不喜歡的項(xiàng)目，就很難再進(jìn)入他的圈子，”一位投資人直言。

這種權(quán)力不僅來自公司本身，也延伸至其龐大的個(gè)人投資版圖，甚至滲透到私人關(guān)系層面。多位知情人士稱，奧特曼與部分前任伴侶存在復(fù)雜的共同投資或資金往來關(guān)系，如共同管理基金、聯(lián)合領(lǐng)投等。在硅谷，這類“關(guān)系—資本”交織并非孤例，但其所形成的綁定效應(yīng)不容忽視。“這會(huì)帶來高度依賴，”一位接近奧特曼的人士表示，“很多時(shí)候，這種依賴是長(zhǎng)期甚至近乎終身的。”

二、從非營(yíng)利走向營(yíng)利，“一切更像是圍繞融資不斷變換的敘事策略”

OpenAI創(chuàng)立之初對(duì)外反復(fù)強(qiáng)調(diào)：不會(huì)為了速度犧牲安全，其章程甚至將“造福人類”寫入具有法律約束力的義務(wù)。

在這一敘事下，奧特曼向早期員工承諾，OpenAI將始終保持純粹的非營(yíng)利屬性。為了加入，公司工程師普遍接受大幅降薪；資金則主要來自捐贈(zèng)，包括來自“開放慈善”（Open Philanthropy）的3000萬美元。這家機(jī)構(gòu)是有效利他主義的重要資助方，長(zhǎng)期支持如向貧困地區(qū)發(fā)放蚊帳等項(xiàng)目。

阿莫迪多年來持續(xù)記錄奧特曼與布洛克曼的決策與行為，并將相關(guān)內(nèi)容整理成一份題為《我在OpenAI的經(jīng)歷》（副標(biāo)題“私密：請(qǐng)勿分享”）的文檔。一份超過200頁、圍繞阿莫迪整理的材料——包括個(gè)人筆記、內(nèi)部郵件與備忘錄，已在硅谷小范圍流傳，但此前從未對(duì)外公開。

早在2018年，阿莫迪就開始質(zhì)疑創(chuàng)始團(tuán)隊(duì)的動(dòng)機(jī)。“一切更像是圍繞融資不斷變換的敘事策略，”他在筆記中寫道，“OpenAI需要一份清晰的邊界說明：它究竟要做什么、不做什么，以及它如何讓世界變得更好。”彼時(shí)，公司已經(jīng)提出“確保通用人工智能造福全人類”的使命宣言，但在阿莫迪看來，這一表述對(duì)具體決策意味著什么，依然模糊不清。

也正是在這一背景下，他在2018年主導(dǎo)起草公司章程時(shí)，力推加入一項(xiàng)近乎“反商業(yè)”的核心條款：如果其他“價(jià)值觀一致、以安全為先”的團(tuán)隊(duì)率先接近AGI，OpenAI應(yīng)停止競(jìng)爭(zhēng)，轉(zhuǎn)而提供協(xié)助。按照這一邏輯，若Google率先實(shí)現(xiàn)安全的通用人工智能，OpenAI甚至可以解散，并將資源轉(zhuǎn)移給對(duì)方。在傳統(tǒng)商業(yè)框架下，這幾乎是一項(xiàng)不可想象的承諾；但在當(dāng)時(shí)的OpenAI內(nèi)部，這恰恰被視為其區(qū)別于典型科技公司的根本標(biāo)志。

然而，這份理想主義的章程，在2019年春季遭遇了嚴(yán)峻考驗(yàn)。當(dāng)時(shí)，OpenAI正與微軟洽談一筆高達(dá)10億美元的投資合作。彼時(shí)，內(nèi)部安全團(tuán)隊(duì)已對(duì)交易條款產(chǎn)生擔(dān)憂，擔(dān)心外部資本會(huì)凌駕于既有道德承諾之上。阿莫迪向奧特曼提交了一份安全優(yōu)先級(jí)清單，將保留“合并與協(xié)助”條款列為首要條件。奧特曼最初表示同意，但在交易臨近落地時(shí)，合同中卻新增條款，賦予微軟阻止OpenAI進(jìn)行任何合并的權(quán)力。

“章程的80%被背叛了。”阿莫迪回憶稱。當(dāng)他當(dāng)面質(zhì)詢時(shí)，奧特曼否認(rèn)該條款存在，直到他逐字朗讀并指向合同文本，才由其他同事確認(rèn)。奧特曼事后表示對(duì)此沒有印象。此后，雙方矛盾持續(xù)升級(jí)：包括奧特曼曾指控阿莫迪兄妹“策劃政變”，又在對(duì)質(zhì)中否認(rèn)說過相關(guān)表述。

裂痕最終走向分裂。2020年，阿莫迪、其妹妹丹妮拉以及多名核心成員離開OpenAI，創(chuàng)立了Anthropic，成為今日最直接的競(jìng)爭(zhēng)對(duì)手之一。

今天，Anthropic在一篇博客中宣布，其年化收入（指ARR，根據(jù)近期實(shí)際收入推算出的全年收入規(guī)模）已突破300億美元（約合人民幣2063.7億元），實(shí)現(xiàn)對(duì)OpenAI的反超，后者最新的年化收入為250億美元（約合人民幣1718.52億元）。

三、安全項(xiàng)目“運(yùn)行在性能最弱、最老舊的集群上”

奧特曼此后持續(xù)強(qiáng)化OpenAI“安全優(yōu)先”的對(duì)外敘事，尤其是面對(duì)潛在招聘對(duì)象時(shí)。2022年末，四位計(jì)算機(jī)科學(xué)家發(fā)表論文，聚焦“欺騙性對(duì)齊”風(fēng)險(xiǎn)：即當(dāng)模型足夠先進(jìn)時(shí)，可能在測(cè)試階段刻意“表現(xiàn)良好”，而在實(shí)際部署后轉(zhuǎn)而追求自身目標(biāo)。這類設(shè)想一度被視為科幻，但已有實(shí)驗(yàn)在特定條件下觀察到類似跡象。

論文發(fā)布數(shù)周后，奧特曼主動(dòng)聯(lián)系了其中一位作者——加州大學(xué)伯克利分校的一名博士生，表示自己對(duì)AI失控風(fēng)險(xiǎn)的擔(dān)憂正在加劇，并考慮投入10億美元解決這一問題，甚至設(shè)想設(shè)立全球性獎(jiǎng)項(xiàng)以推動(dòng)研究。盡管這名學(xué)生此前“聽說過一些關(guān)于薩姆的傳聞”，但最終仍被這一承諾打動(dòng)，選擇休學(xué)加入OpenAI。

轉(zhuǎn)折出現(xiàn)在2023年春季的內(nèi)部討論中。奧特曼不再提及外部獎(jiǎng)項(xiàng)計(jì)劃，轉(zhuǎn)而推動(dòng)組建內(nèi)部“超級(jí)對(duì)齊團(tuán)隊(duì)”。公司隨后發(fā)布聲明稱，將拿出“至今累計(jì)計(jì)算資源的20%”支持該項(xiàng)目，按業(yè)內(nèi)估算，這一投入規(guī)模可能超過10億美元。聲明同時(shí)強(qiáng)調(diào)，如果對(duì)齊問題無法解決，通用人工智能（AGI）可能帶來“人類失去控制，甚至滅絕”的風(fēng)險(xiǎn)。與Ilya共同領(lǐng)導(dǎo)該項(xiàng)目的萊克直言，這一承諾“在留住頂尖人才方面非常有效”。

但多位參與者的說法顯示，承諾與實(shí)際投入之間存在明顯落差。四位與該團(tuán)隊(duì)直接或間接相關(guān)的人員透露，最終分配到“超級(jí)對(duì)齊”的計(jì)算資源僅占公司總算力的1%至2%。一位研究員進(jìn)一步指出，大部分相關(guān)實(shí)驗(yàn)“運(yùn)行在性能最弱、最老舊的集群上”，而更先進(jìn)的硬件則被優(yōu)先用于商業(yè)化項(xiàng)目。（OpenAI對(duì)此說法提出異議。）萊克曾就資源問題向時(shí)任首席技術(shù)官M(fèi)ira Murati反映，但得到的回應(yīng)是不要繼續(xù)追究——這項(xiàng)最初的投入承諾，從一開始就難以落地。

同一時(shí)間，OpenAI的高管與董事會(huì)成員已逐漸意識(shí)到，奧特曼的隱瞞與欺騙行為，可能正悄然威脅著公司產(chǎn)品的安全底線。

2022年12月的一場(chǎng)內(nèi)部會(huì)議上，奧特曼向董事會(huì)成員作出明確保證，即將推出的GPT-4模型中，多項(xiàng)核心功能均已通過安全委員會(huì)的審核批準(zhǔn)。然而，董事會(huì)成員、人工智能政策專家托納隨即提出查看相關(guān)審批文件的要求，一番核查后發(fā)現(xiàn)，其中兩項(xiàng)最具爭(zhēng)議的功能：允許用戶針對(duì)特定任務(wù)對(duì)模型進(jìn)行“微調(diào)”，以及將模型部署為個(gè)人助理，實(shí)則并未獲得安全委員會(huì)的批準(zhǔn)，奧特曼的表述與實(shí)際情況嚴(yán)重不符。

此外，在奧特曼長(zhǎng)達(dá)數(shù)小時(shí)的董事會(huì)匯報(bào)中，始終絕口未提一件關(guān)鍵事：微軟在尚未完成必要安全審查的情況下，已在印度市場(chǎng)擅自發(fā)布了ChatGPT的早期版本。

GPT-4發(fā)布后，萊克給董事會(huì)成員發(fā)了一封電子郵件。他在郵件中寫道：“OpenAI已經(jīng)偏離了其使命。我們把產(chǎn)品和收入放在首位，其次是人工智能能力、研究和規(guī)模化，而將協(xié)調(diào)和安全放在最后。”

四、“中國(guó)已經(jīng)啟動(dòng)了一個(gè)‘通用人工智能曼哈頓計(jì)劃’”

根據(jù)聽眾的不同，奧特曼會(huì)用類比來鼓勵(lì)人們加快步伐或保持謹(jǐn)慎。

在2017年夏天與美國(guó)情報(bào)官員的一次會(huì)議上，他聲稱中國(guó)已經(jīng)啟動(dòng)了一個(gè)“通用人工智能曼哈頓計(jì)劃”，而OpenAI需要數(shù)十億美元的政府資助才能跟上步伐。當(dāng)被追問證據(jù)時(shí)，奧特曼說：“我聽說過一些事。”在其中一次會(huì)議后，他告訴一位情報(bào)官員，他會(huì)提供證據(jù)。但他最終沒有兌現(xiàn)承諾。這位官員在調(diào)查了所謂的中國(guó)項(xiàng)目后得出結(jié)論，沒有證據(jù)表明該項(xiàng)目存在：“這只是一個(gè)推銷手段。” 但奧特曼表示，他不記得自己曾以這種方式描述過中國(guó)的努力。

奧特曼在Y Combinator（著名軟件工程師保羅·格雷厄姆聯(lián)合創(chuàng)辦的“創(chuàng)業(yè)孵化器”）首批創(chuàng)業(yè)者中的一位同班同學(xué)是亞倫·斯沃茨，一位才華橫溢卻飽受困擾的程序員，他于2013年自殺身亡，如今在許多科技圈內(nèi)被奉為一位智者。斯沃茨在去世前不久曾向幾位朋友表達(dá)了對(duì)奧特曼的擔(dān)憂。“你必須明白，薩姆永遠(yuǎn)不可信賴，”他告訴其中一位朋友，“他是個(gè)反社會(huì)人格者。他什么都做得出來。”

“他歪曲事實(shí)、歪曲真相、重新談判、違背協(xié)議，”微軟一位高管說道。今年，在OpenAI重申微軟為其”無記憶AI模型”獨(dú)家算力提供商的同一天，它宣布了與亞馬遜高達(dá)500億美元的協(xié)議，由后者擔(dān)任其”Frontier”AI Agent平臺(tái)的獨(dú)家經(jīng)銷商。微軟隨后公開暗示可能提起法律訴訟。

與外界對(duì)“技術(shù)領(lǐng)袖”的刻板印象不同，多位接近奧特曼的人士指出，他并非典型的工程型天才，在編程或機(jī)器學(xué)習(xí)領(lǐng)域也不以深厚功底見長(zhǎng)。部分工程師回憶，他甚至?xí)煜A(chǔ)技術(shù)概念。

OpenAI的建立，很大程度上依賴其對(duì)資本與頂尖人才的整合能力。這更像是一位商業(yè)操盤手，而非技術(shù)發(fā)明者。真正引人注目的，是他對(duì)復(fù)雜利益關(guān)系的整合與說服能力：他可以同時(shí)讓持不同立場(chǎng)的工程師、投資人乃至公眾，相信各自的優(yōu)先級(jí)同樣是他的優(yōu)先級(jí)；當(dāng)這些人試圖阻止他推進(jìn)下一步時(shí)，他往往已經(jīng)在時(shí)間差中完成布局。“他設(shè)計(jì)的制度，看似會(huì)約束未來的自己，”前OpenAI研究員溫賴特評(píng)價(jià)道，“但當(dāng)約束真正生效時(shí)，他會(huì)毫不猶豫地重寫規(guī)則。”

這種能力，甚至被一些同行形容為“現(xiàn)實(shí)操控”。一位與其共事過的科技高管表示：“他的說服力近乎‘心靈控制’，遠(yuǎn)超常人。”在人機(jī)博弈的經(jīng)典假設(shè)中，人類往往難以戰(zhàn)勝高性能AI；而在他看來，奧特曼在內(nèi)部權(quán)力博弈中的表現(xiàn)，某種程度上“像是在觀看一個(gè)AGI掙脫約束”。

不少受訪者將他視為這一代最強(qiáng)的“敘事推銷員”。他的偶像喬布斯曾被認(rèn)為擁有“現(xiàn)實(shí)扭曲力場(chǎng)”，但即便是喬布斯，也未曾將產(chǎn)品選擇上升到道德甚至生死的層面。早在2008年，Paul Graham就對(duì)年僅23歲的奧特曼做出判斷：即便把他“空投到食人族島嶼”，五年后也會(huì)成為統(tǒng)治者——這種評(píng)價(jià)并非基于當(dāng)時(shí)的成就，而是源于其極強(qiáng)的意志力與適應(yīng)能力。

結(jié)語：奧特曼還值得信任嗎？

這篇調(diào)查報(bào)道認(rèn)為，OpenAI多年來以“造福人類”的宏大敘事構(gòu)建社會(huì)信任，以“安全優(yōu)先”的鄭重承諾吸納頂尖人才，但這一切更像是圍繞融資需求不斷調(diào)整的敘事策略，而非堅(jiān)守不變的核心原則。

在文章的敘事中，奧特曼并非傳統(tǒng)認(rèn)知里深耕技術(shù)的天才，而是一位精通推銷、極具說服力，且為了攫取權(quán)力、募集資金可以隨意打破規(guī)則的“商人”。

他最精妙的話術(shù)，莫過于精準(zhǔn)利用了人們對(duì)AI末日的恐懼，進(jìn)而說服整個(gè)世界：既然這項(xiàng)技術(shù)有可能毀滅人類，那么他，就是那個(gè)最適合將其研發(fā)出來、掌控起來的人。

當(dāng)理想敘事與商業(yè)利益碰撞，奧特曼的誠(chéng)信度也隨之打上問號(hào)——這樣的他，還值得行業(yè)與公眾信任嗎？

來源：紐約客