OpenAI 完成了資本重組，并以最大尺度進(jìn)行了一場直播

今天凌晨，OpenAI 帶來了兩則信息

• ? OpenAI 完成資本重組，非營利基金會(huì)控制公司，持股估值 1300 億美元，馬上我會(huì)詳細(xì)說一下（單獨(dú)發(fā)一篇）

• ? OpenAI 發(fā)布了一場直播，以迄今最大尺度，介紹了 OpenAI 當(dāng)下情況和后續(xù)發(fā)展計(jì)劃

直播有三位參與方，分別是
Sam Altman，OpenAI CEO
Jakub Pachocki ，首席科學(xué)家
Wojciech Zaremba，聯(lián)合創(chuàng)始人

我把這次的對(duì)談，重新用中文配音了，方便大家摸魚時(shí)候聽

下面這個(gè)是原版（Jakub 的聲音太...）

講道理，配音后的體驗(yàn)，比原版好太多了，背后使用了

以及...我把對(duì)于交流的內(nèi)容，我把核心信息，整理成了 QA，供大家來看

一、研究路線 OpenAI 給出的研究時(shí)間表是什么？

Sam Altman 和 Jakub Pachocki 公布了兩個(gè)明確的內(nèi)部目標(biāo)：

• ? 2026 年 9 月前 ：開發(fā)出"AI 研究實(shí)習(xí)生"，通過投入大量計(jì)算資源，能有意義地加速研究員的工作

• ? 2028 年 3 月前 ：實(shí)現(xiàn)完全自動(dòng)化的 AI 研究員，能夠自主完成更大型的研究項(xiàng)目

Sam Altman 特別強(qiáng)調(diào)：這些具體日期完全可能搞錯(cuò)，但這確實(shí)是 OpenAI 目前的思考和規(guī)劃方式。

OpenAI 如何定義當(dāng)前模型的能力水平？

Jakub 用"時(shí)間跨度"(time horizon) 來衡量——也就是普通人完成模型能做的任務(wù)需要多長時(shí)間。

目前這一代模型的時(shí)間跨度大約是 5 小時(shí)?？梢酝ㄟ^模型在國際數(shù)學(xué)奧林匹克競賽、信息學(xué)奧林匹克競賽等比賽中的表現(xiàn)看出來。

OpenAI 認(rèn)為離超級(jí)智能還有多遠(yuǎn)？

Jakub 的判斷是：不到十年。

他說的超級(jí)智能 (superintelligence)，指的是在大量關(guān)鍵維度上比所有人都更聰明的系統(tǒng)。

未來擴(kuò)展的關(guān)鍵方向在哪里？

測試時(shí)計(jì)算 (test time compute)，也叫"上下文內(nèi)計(jì)算" (in-context compute)。

Jakub 解釋：這大致就是模型用來思考的時(shí)間。如果看模型目前在思考問題上花了多少時(shí)間，再想想在真正重要的問題上——比如科學(xué)突破——應(yīng)該花多少計(jì)算資源和時(shí)間，那么動(dòng)用整個(gè)數(shù)據(jù)中心也應(yīng)該是可以接受的。

OpenAI 認(rèn)為在這條路上還有數(shù)量級(jí)的提升空間。

二、安全與對(duì)齊 OpenAI 的安全框架是什么？

Jakub 展示了五層框架，從模型最內(nèi)部到最外部：

1. 1. 價(jià)值對(duì)齊 (value alignment)：AI 從根本上真正在乎什么？它能否遵守高層次的原則？它是否熱愛人類？

2. 2. 目標(biāo)對(duì)齊 ：AI 智能體如何與人互動(dòng)？如何理解指令并執(zhí)行？

3. 3. 可靠性 ：AI 能否準(zhǔn)確校準(zhǔn)預(yù)測？在簡單任務(wù)上可靠，在困難任務(wù)上表達(dá)不確定性？

4. 4. 對(duì)抗性魯棒性 (adversarial robustness)：AI 能否抵御來自人類或 AI 對(duì)手的定向攻擊？

5. 5. 系統(tǒng)性安全 (systemic safety)：不依賴 AI 本身智能的保障，比如訪問控制、權(quán)限管理

思維鏈忠誠度 (chain-of-thought faithfulness)。

Jakub 詳細(xì)解釋了這個(gè)技術(shù)：

從最早的推理模型開始，OpenAI 就在探索這個(gè)新方向。核心想法是，讓模型內(nèi)部推理的一部分過程不受監(jiān)督——也就是在訓(xùn)練期間不去干預(yù)它。這樣它就能保持對(duì)其內(nèi)部過程的真實(shí)反映。

OpenAI 克制自己，不去引導(dǎo)模型產(chǎn)生"好的想法"，從而讓它對(duì)自己的真實(shí)想法保持更忠誠。

思維鏈忠誠度有什么實(shí)際應(yīng)用？

Jakub 說這是 OpenAI 內(nèi)部大量使用的技術(shù)，用來理解模型是如何訓(xùn)練的，它們的傾向性在訓(xùn)練過程中如何演變。

外部合作方面，OpenAI 用這個(gè)技術(shù)研究過模型"耍心機(jī)"的傾向性。

兩個(gè)保持樂觀的理由：

• ? 看到了非常有希望的實(shí)證結(jié)果

• ? 它是可擴(kuò)展的，因?yàn)楸辉O(shè)計(jì)成一個(gè)可擴(kuò)展的目標(biāo)，與監(jiān)控模型的能力不對(duì)抗

Jakub 強(qiáng)調(diào)：它有些脆弱，需要?jiǎng)澏ㄇ逦慕缦?，有清晰的抽象層，而且在使用思維鏈時(shí)需要有所克制。

這體現(xiàn)在 OpenAI 處處可見——從算法設(shè)計(jì)到產(chǎn)品設(shè)計(jì)。

比如 ChatGPT 里的思維鏈摘要器：如果沒有這個(gè)摘要器，思維鏈在任何時(shí)候都完全可見，它就會(huì)成為整體體驗(yàn)的一部分。久而久之，很難不讓它受到任何監(jiān)督。

通過為模型保留這種一定程度的、可控的隱私，OpenAI 相信可以保留理解模型內(nèi)部過程的能力。

OpenAI 為什么如此重視價(jià)值對(duì)齊？

Jakub 的解釋：

當(dāng) OpenAI 開始擁有那些能長時(shí)間思考的系統(tǒng)，當(dāng)它們變得非常聰明，當(dāng)它們處理那些處于人類能力邊緣甚至超越人類能力的問題時(shí)，想要給出一個(gè)完全詳盡的指令就變得相當(dāng)困難。

所以必須依賴于這種更深層次的對(duì)齊。

三、基礎(chǔ)設(shè)施投入 OpenAI 目前承諾了多少基礎(chǔ)設(shè)施？

Sam Altman 公布的數(shù)字：

• ? 略高于 30 吉瓦 (gigawatts) 的基礎(chǔ)設(shè)施工廠計(jì)劃

• ? 在未來很多年里，意味著總共約 1.4 萬億美元 的財(cái)務(wù)責(zé)任

Sam 說：這是 OpenAI 目前為止承諾的。當(dāng)然希望能做得更多，但考慮到目前看到的前景、對(duì)收入增長和融資能力的預(yù)期，這是目前感到比較穩(wěn)妥的規(guī)模。

OpenAI 的終極基礎(chǔ)設(shè)施愿景是什么？

Sam Altman 明確表示：還沒有對(duì)下面這個(gè)目標(biāo)做出承諾，但正在進(jìn)行相關(guān)討論。

愿景是：建立一個(gè)"基礎(chǔ)設(shè)施工廠"，在那里可以每周生產(chǎn) 1 吉瓦的算力，并且希望能大幅降低成本，降到大約每吉瓦 200 億美元（在設(shè)備五年的生命周期內(nèi)）。

要做到這一點(diǎn)，需要大量的創(chuàng)新、大量的合作，顯然也需要大量的收入增長。

Sam 開玩笑說：可能得重新規(guī)劃一下機(jī)器人技術(shù)的思路，讓它們來幫忙建數(shù)據(jù)中心。

1 吉瓦是什么概念？

Sam Altman 展示了德克薩斯州 Abilene 正在建設(shè)的數(shù)據(jù)中心——第一個(gè)"星際之門" (Stargate) 站點(diǎn)。

每天有成千上萬的人在工地工作，光是工地建設(shè)就需要這么多人。可能還有幾十萬甚至幾百萬人在供應(yīng)鏈上工作——設(shè)計(jì)芯片、制造芯片、組裝它們，以及所有為能源付出的努力。

OpenAI 的合作伙伴有哪些？

Sam Altman 提到的合作伙伴包括：AMD、Broadcom、Google、Microsoft、NVIDIA、Oracle、SoftBank 等。

這需要大量的合作伙伴關(guān)系——芯片合作伙伴、建設(shè)數(shù)據(jù)中心的、提供土地的、能源的，還會(huì)有芯片制造廠。已經(jīng)開始需要相當(dāng)多的供應(yīng)鏈創(chuàng)新了。

四、商業(yè)模式 OpenAI 需要多大的收入來支撐這個(gè)投資？

Sam Altman 的回答：最終需要達(dá)到每年數(shù)千億美元的收入。

OpenAI 正處在一個(gè)相當(dāng)陡峭的增長曲線上。

OpenAI 的主要收入來源會(huì)是什么？

Sam 預(yù)計(jì)企業(yè)業(yè)務(wù)將是巨大的收入驅(qū)動(dòng)力，但消費(fèi)者業(yè)務(wù)也同樣會(huì)是。

而且不會(huì)只是訂閱費(fèi)——會(huì)有新產(chǎn)品、新設(shè)備，還有大量其他東西。

這還不包括，如果 AI 真的能發(fā)現(xiàn)科學(xué)知識(shí)，那會(huì)釋放出多大的收入潛力。

智能的成本下降速度如何？

Sam Altman 給出的數(shù)字：在過去幾年里，某個(gè)特定"智能單位"的價(jià)格，大約每年下降 40 倍。

舉例：

• ? GPT-3 剛出時(shí)成本很高，現(xiàn)在 GPT-3 規(guī)模的模型基本可以免費(fèi)運(yùn)行，比如在手機(jī)上

• ? GPT-4 發(fā)布時(shí)的成本相對(duì)于現(xiàn)在，已經(jīng)大幅下降

OpenAI 預(yù)計(jì)這個(gè)趨勢會(huì)繼續(xù)下去。

免費(fèi)版會(huì)繼續(xù)提供更多功能嗎？

會(huì)的。

Sam 的承諾：OpenAI 致力于繼續(xù)把能做到的最好的技術(shù)，只要商業(yè)模式能勉強(qiáng)維持，就放進(jìn)免費(fèi)版本里。

但同時(shí)，那些真的想花大價(jià)錢把 AI 推向極限——去治愈疾病或研究如何造更好的火箭——的人，會(huì)花很多錢。

Jakub 補(bǔ)充：尤其是在推理模型方面，OpenAI 看到，實(shí)際上相當(dāng)便宜的模型，在允許一些額外的測試時(shí)計(jì)算后，可以變得更有能力。

五、產(chǎn)品戰(zhàn)略 OpenAI 的產(chǎn)品戰(zhàn)略發(fā)生了什么轉(zhuǎn)變？

Sam Altman 明確表示：OpenAI 要從傳統(tǒng)的"在 ChatGPT 內(nèi)部做一個(gè) AI 超級(jí)助理"，進(jìn)化成一個(gè)平臺(tái)，讓其他人可以在這個(gè)平臺(tái)之上進(jìn)行構(gòu)建。

世界上所有需要整合進(jìn)來的部分，都將由其他人來構(gòu)建。

OpenAI 如何定義"成功建立平臺(tái)"？

Sam 引用了（他說最初來自）Bill Gates 的話：

當(dāng)你看到人們在你的平臺(tái)上創(chuàng)造的價(jià)值，超過了平臺(tái)創(chuàng)建者本身創(chuàng)造的價(jià)值時(shí)，你就知道你成功地建立了一個(gè)平臺(tái)。

這就是 OpenAI 的目標(biāo)，也是明年的目標(biāo)。

OpenAI 平臺(tái)化的兩個(gè)基本原則是什么？

Sam Altman 強(qiáng)調(diào)的兩點(diǎn)：

1. 用戶自由

如果這要成為一個(gè)各種各樣的人都在上面構(gòu)建、使用、創(chuàng)造的平臺(tái)，那么世界各地的人們有非常不同的需求和愿望。

當(dāng)然會(huì)有一些非常寬泛的界限，但 OpenAI 希望用戶在如何使用它方面有大量的控制權(quán)和定制化空間。

Sam 特別提到：OpenAI 想把成年用戶當(dāng)作成年人來對(duì)待。人們需要很大的靈活性，想用不同的方式使用這些東西。

2. 隱私保護(hù)

OpenAI 認(rèn)為世界需要用一種不同于以往技術(shù)的方式來思考隱私問題。

人們跟 AI 交談，就像跟他們的醫(yī)生、律師或配偶交談一樣，在分享自己生活中最私密的細(xì)節(jié)。

當(dāng)然需要強(qiáng)大的技術(shù)保護(hù)，但也需要強(qiáng)大的政策保護(hù)。OpenAI 討論過像"AI 特權(quán)" (AI privilege) 這樣的概念。

OpenAI 有哪些新產(chǎn)品形態(tài)？

Sam 提到：

• ? Atlas 瀏覽器 （已推出）

• ? 未來幾年會(huì)推出新設(shè)備，讓你能把 AI 帶到任何地方

• ? 一些自家應(yīng)用，比如 ChatGPT 和 Sora，以后還會(huì)有更多

• ? API

• ? ChatGPT 里的應(yīng)用

• ? 新的企業(yè)平臺(tái)

OpenAI 展示了一個(gè)視頻，包括：

• ? 量子物理學(xué)家：能夠預(yù)測還沒做的實(shí)驗(yàn)的結(jié)果，給出非常詳細(xì)的數(shù)學(xué)推導(dǎo)

• ? 鋼鐵工人：創(chuàng)建零件編號(hào)系統(tǒng)，讓車間伙計(jì)們用起來簡單（1001 個(gè)零件編號(hào)，原本要花好幾個(gè)星期）

• ? 漁民：可以用不同的魚餌、不同的水深，所有這些信息如果靠自己摸索可能需要好幾年

• ? 設(shè)計(jì)師和開發(fā)者：創(chuàng)建相機(jī)應(yīng)用

• ? 小說家：頭腦風(fēng)暴非常強(qiáng)大，可以來回交流，能很輕松地跟上推理過程

普遍的反饋：不需要盲信結(jié)果，可以自己看模型是怎么做的。

六、公司架構(gòu) OpenAI 的新架構(gòu)是怎樣的？

Sam Altman 介紹說，現(xiàn)在比以前那張像迷宮一樣復(fù)雜的架構(gòu)圖簡單多了：

• ? OpenAI 基金會(huì) (OpenAI Foundation)：非營利組織，控制董事會(huì)席位，擁有 PBC 約 26% 的股權(quán)（如果表現(xiàn)得非常好，可以通過認(rèn)股權(quán)證增加）

• ? OpenAI 集團(tuán) (OpenAI Group)：公益公司 (PBC)，在基金會(huì)之下

非營利組織處于控制地位。

OpenAI 基金會(huì)的初始重點(diǎn)是什么？

250 億美元承諾，分兩個(gè)方向：

1. 利用 AI 幫助治愈疾病

有很多實(shí)現(xiàn)方式：生成數(shù)據(jù)、使用大量算力、給科學(xué)家提供資助等等。

Sam 的愿景：OpenAI 基金會(huì)能成為有史以來最大的非營利組織?？茖W(xué)是 OpenAI 認(rèn)為世界得以進(jìn)步的最重要途徑之一。

2. AI 韌性 (AI resilience)

什么是"AI 韌性"？

Wojciech Zaremba 專門上臺(tái)解釋了這個(gè)新概念。

AI 韌性的范圍比歷史上所說的 AI 安全要更廣。OpenAI 認(rèn)為先進(jìn)的 AI 會(huì)帶來風(fēng)險(xiǎn)和顛覆，希望建立一個(gè)由各種組織構(gòu)成的生態(tài)系統(tǒng)，能夠幫助解決這些問題中的一部分。

舉例說明：

OpenAI 都相信 AI 會(huì)在生物學(xué)領(lǐng)域取得進(jìn)展。隨著它在生物學(xué)領(lǐng)域的進(jìn)步，存在一個(gè)風(fēng)險(xiǎn)——某個(gè)壞人可能會(huì)利用 AI 來制造人造流行病。

• ? 安全層面 的緩解措施：確保模型阻止那些與病毒學(xué)相關(guān)的查詢

• ? 韌性層面 的考慮：即使 OpenAI 阻止了，別人也可能用市面上其他的模型仍然能制造出病原體。所以不只是想阻止它，還希望在問題發(fā)生時(shí)能有快速的響應(yīng)機(jī)制

Wojciech 提到：心理健康、生物風(fēng)險(xiǎn)、工作崗位流失等。

他用網(wǎng)絡(luò)安全做類比：

互聯(lián)網(wǎng)初期，人們不敢把信用卡號(hào)放上去，因?yàn)樘菀妆缓诳凸簟．?dāng)有病毒出現(xiàn)時(shí)，人們會(huì)互相打電話，讓對(duì)方把電腦從網(wǎng)上斷開。

現(xiàn)在有整個(gè)網(wǎng)絡(luò)安全公司的基礎(chǔ)設(shè)施在保護(hù)關(guān)鍵基礎(chǔ)設(shè)施、政府、企業(yè)和個(gè)人用戶，以至于人們愿意把最私人的數(shù)據(jù)、一生的積蓄放在網(wǎng)上。

OpenAI 認(rèn)為類似的東西也會(huì)出現(xiàn)在 AI 領(lǐng)域，會(huì)有一個(gè) AI 韌性層。

七、關(guān)于 AGI 的討論 OpenAI 如何看待"AGI 什么時(shí)候會(huì)發(fā)生"這個(gè)問題？

Jakub 的回答：

在未來某個(gè)年頭，我們會(huì)回顧這些年，然后說，這差不多就是 AGI 發(fā)生的過渡期。

OpenAI 早期對(duì) AGI 的感覺有點(diǎn)像，它是一個(gè)能解決所有問題的終極方案，是一個(gè)單一的時(shí)間點(diǎn)，有之前和之后。但現(xiàn)在發(fā)現(xiàn)它是一個(gè)比那更連續(xù)的過程。

Sam 補(bǔ)充：

AGI 這個(gè)詞已經(jīng)被過度使用了。這將是一個(gè)持續(xù)多年的過程，OpenAI 正身處其中。

說 OpenAI 的意圖和目標(biāo)是在 2028 年 3 月前擁有一個(gè)真正的自動(dòng)化 AI 研究員，并定義那意味著什么，這比試圖用一個(gè) AGI 的定義來滿足所有人要有用地多。

內(nèi)部模型比已部署的模型領(lǐng)先多少？

Jakub 說：OpenAI 對(duì)下一個(gè)模型有相當(dāng)高的期望，預(yù)計(jì)在接下來的幾個(gè)月到一年內(nèi)會(huì)有相當(dāng)快的進(jìn)展。但并沒有藏著什么特別瘋狂的東西沒發(fā)布。

Sam 解釋了過程：

OpenAI 開發(fā)了很多"零件"，都是來之不易的勝利。當(dāng)把它們組合在一起時(shí)，會(huì)得到一些非常令人印象深刻的東西，而且能相當(dāng)準(zhǔn)確地預(yù)測這一點(diǎn)。

并不是說現(xiàn)在手里藏著一個(gè)巨大的、沒給世界看的東西，而是說預(yù)計(jì)一年后，當(dāng)然還有那個(gè) 2026 年 9 月的目標(biāo)，OpenAI 有——Sam 說不是"可能"，而是有一個(gè)現(xiàn)實(shí)的機(jī)會(huì)，在能力上實(shí)現(xiàn)一次巨大的飛躍。

八、未來科學(xué)發(fā)現(xiàn)的時(shí)間表 OpenAI 對(duì)科學(xué)發(fā)現(xiàn)的時(shí)間表是怎樣的？

Sam Altman 給出的愿景：

• ? 2026 年 ：開始看到當(dāng)年的模型能做出一些小的發(fā)現(xiàn)

• ? 2028 年 ：中等的，甚至可能是更大的發(fā)現(xiàn)

• ? 2030 年和 2032 年 ：誰知道會(huì)是什么樣子

Sam 強(qiáng)調(diào)：如果 AI 能夠像過去那樣，不斷推動(dòng)科學(xué)進(jìn)步，OpenAI 認(rèn)為未來會(huì)非常光明。

OpenAI 如何想象科學(xué)加速帶來的影響？

Sam 用 Sora 生成的視頻來展示：

OpenAI 尤其感興趣的是，科學(xué)史是如何在一次又一次的發(fā)現(xiàn)中自我構(gòu)建的。這就是 OpenAI 希望 AI 能帶來的。

如果能把 200 年的復(fù)合式發(fā)現(xiàn)、這種層層遞進(jìn)的構(gòu)建，不是用 200 年，而是用 20 年或者兩年完成...

具體場景：

• ? 一個(gè)數(shù)據(jù)中心在發(fā)現(xiàn)治愈癌癥的方法

• ? 一個(gè)數(shù)據(jù)中心在制作有史以來最棒的娛樂內(nèi)容

• ? 一個(gè)數(shù)據(jù)中心在幫你找到未來的丈夫或妻子

• ? 一個(gè)數(shù)據(jù)中心在建造火箭幫你殖民太空

• ? 一個(gè)數(shù)據(jù)中心在幫助解決氣候危機(jī)

Sam 說：我們以前都是用老辦法做這些事的?，F(xiàn)在有了 AI 的幫助，我們將能夠塑造未來，也許擁有更強(qiáng)大的力量。

OpenAI 特別關(guān)注哪些應(yīng)用領(lǐng)域？

Sam 提到：AI 醫(yī)療、機(jī)器人、能源、個(gè)性化教育、設(shè)計(jì)新穎的材料，以及可能還有一大堆甚至還沒想到的事情。

九、產(chǎn)品爭議與回應(yīng) 4o 模型引發(fā)了什么爭議？

Sam Altman 承認(rèn)：OpenAI 不同意處理模型路由的方式是做過的最好的事情。

4o 確實(shí)存在一些實(shí)際問題——OpenAI 看到那些處于脆弱精神狀態(tài)的人，使用像 4o 這樣的模型可能會(huì)讓情況變得更糟。

大多數(shù)成年用戶可以正常使用，但 OpenAI 有義務(wù)保護(hù)未成年用戶，也有義務(wù)保護(hù)那些心智狀態(tài)不佳的成年用戶。OpenAI 更有理由相信他們選擇的并不是他們真正想要的，也不想給他們造成傷害。

安全路由機(jī)制引發(fā)了用戶不滿。

OpenAI 計(jì)劃如何解決？

Sam 的回應(yīng)：

隨著 OpenAI 構(gòu)建年齡驗(yàn)證系統(tǒng)，以及能夠區(qū)分那些正經(jīng)歷真正心理健康危機(jī)的用戶和普通用戶，當(dāng)然希望給人們更多的用戶自由。

成人模式將在 12 月推出。目標(biāo)是，當(dāng)你使用 ChatGPT 幫助你進(jìn)行創(chuàng)意寫作時(shí)，它應(yīng)該在許多類別上比以前的模型更加寬容。

每次你因?yàn)橐恍└杏X不應(yīng)該被過濾的內(nèi)容而碰到內(nèi)容過濾器時(shí)，OpenAI 理解那是多么令人沮喪。

OpenAI 會(huì)下線 4o 嗎？

Sam 明確表示：沒有計(jì)劃下線 4o 模型。

OpenAI 也不會(huì)承諾將它保留到宇宙熱寂，但理解它是一些用戶非常喜歡的產(chǎn)品。OpenAI 也希望其他人能理解為什么認(rèn)為它不是一個(gè)適合未成年人使用的健康模型。

OpenAI 希望能隨著時(shí)間的推移，構(gòu)建出人們更喜歡的更好的模型。

對(duì)于人與 AI 的情感連接，OpenAI 的立場是什么？

Sam Altman 的回應(yīng)：

OpenAI 構(gòu)建了這個(gè)工具，你可以按你想要的方式使用它。如果你想建立一種小寫的"關(guān)系"，并且你從中獲得了對(duì)你生活有意義的共情或友誼，OpenAI 認(rèn)為那太棒了。

關(guān)鍵是：模型能夠忠實(shí)地傳達(dá)它是什么、它不是什么。但如果你作為用戶在這種支持中找到了價(jià)值，OpenAI 為那些在情感支持或其他支持中找到價(jià)值、實(shí)用性、更好生活的人們的故事深受感動(dòng)。

OpenAI 想要的是：

• ? 人們是有意地使用這些模型

• ? 模型沒有欺騙用戶它是什么、它不是什么

• ? 模型在提供幫助

• ? 模型在幫助用戶實(shí)現(xiàn)他們的目標(biāo)

OpenAI 想要更多成年人從中獲得價(jià)值的使用，而更少任何感覺像是模型在欺騙用戶的東西。

為什么 OpenAI 構(gòu)建了有情商的模型，又批評(píng)人們使用它？

Sam 的回應(yīng)：

OpenAI 認(rèn)為人們使用模型獲得情感支持是好事，OpenAI 想要那樣，對(duì)此感到高興。

問題在于：同一個(gè)能夠做到這一點(diǎn)的模型，也可能被用來在精神脆弱的用戶中加劇妄想。

OpenAI 完全理解這里的沮喪感。每當(dāng)你試圖阻止一些造成傷害的事情時(shí)，你也會(huì)阻止一些完全好的用途。

但 OpenAI 的出發(fā)點(diǎn)是試圖為那些了解情況并且從中獲得真正價(jià)值的成年人提供服務(wù)，而不是給那些不想要這種傷害的人們帶來意想不到的傷害。

十、未來工作與意義 OpenAI 認(rèn)為大規(guī)模失業(yè)何時(shí)會(huì)因 AI 而發(fā)生？

Jakub 的回答：

OpenAI 已經(jīng)到了一個(gè)地步，很多阻礙當(dāng)前模型能夠勝任大量腦力工作的差距，更多的是關(guān)于集成和接口，而不是原始的智力能力。

所以必須思考這個(gè)問題，把大量工作的自動(dòng)化看作是未來幾年會(huì)發(fā)生的事情。

這是一個(gè)很大的需要集體思考的問題：將用什么樣的工作來取代那些工作，以及將從事哪些新的追求。

未來的意義和成就感從何而來？

Jakub 的思考：

這是一個(gè)相當(dāng)哲學(xué)性的問題。預(yù)計(jì)的一些事情是：

高層次的目標(biāo)設(shè)定：比如選擇我們追求什么，那是人類會(huì)保留的東西。很多人會(huì)從中獲得意義。

理解世界：那種難以置信的新知識(shí)、新娛樂，但也包括將存在于世界上的智能的廣度，會(huì)為人們提供相當(dāng)多的意義和成就感。

十一、其他關(guān)鍵問答 OpenAI 與其他實(shí)驗(yàn)室在安全方面會(huì)合作嗎？

Sam 的回應(yīng)：

OpenAI 認(rèn)為這在安全方面將越來越重要。各個(gè)實(shí)驗(yàn)室需要共享安全技術(shù)、安全標(biāo)準(zhǔn)。

可以想象，未來有一天，全世界可能會(huì)說："好吧，在我們進(jìn)入遞歸式自我改進(jìn)階段之前，我們真的需要大家一起仔細(xì)研究這個(gè)問題。"

OpenAI 歡迎這種合作，認(rèn)為這將非常重要。

Jakub 補(bǔ)充：在思維鏈忠誠度上，OpenAI 實(shí)際上已經(jīng)開始討論建立行業(yè)規(guī)范，并且已經(jīng)和 Google 以及 Anthropic 的研究人員開始了一些聯(lián)合調(diào)查，還有其他一些實(shí)驗(yàn)室。

OpenAI 會(huì)開源舊模型嗎，比如最初的 GPT-4？

Sam 的回應(yīng)：

OpenAI 可能會(huì)把它們作為"博物館展品" someday 發(fā)布，但它們并不是特別有用的開源模型。GPT-4 很大，而且沒那么好。

OpenAI 或許可以做一個(gè)在能力上超越 GPT-4 但規(guī)模非常小的模型，那樣的模型對(duì)人們才真正有用。

對(duì)于有用的東西，期待更多那樣的模型。至于有趣的博物館展品，someday，誰知道呢？

GPT-6 什么時(shí)候出？

Jakub 解釋：

現(xiàn)在在集成方面有很多事情可以做。比如對(duì)于 GPT-5，這是第一次，OpenAI 真正把推理模型作為旗艦、主要的主力旗艦?zāi)Ｐ汀?/p>

因此，OpenAI 不再像以前那樣，把這些發(fā)布和產(chǎn)品與研究計(jì)劃緊密地捆綁在一起了。

Sam 補(bǔ)充：

不知道具體會(huì)叫它什么，但傳達(dá)的一個(gè)明確信息是，比如說六個(gè)月后，可能更快，OpenAI 預(yù)計(jì)在模型能力上會(huì)有巨大的飛躍。

IPO 還在計(jì)劃中嗎？

Sam 的回應(yīng)：

OpenAI 沒有具體的計(jì)劃，或者說確切的時(shí)間。但考慮到需要的資本量和公司規(guī)模，這可能是最有可能的路徑。

但這并不是 OpenAI 現(xiàn)在最優(yōu)先考慮的事情。

未來 ChatGPT 會(huì)是什么樣子？

Jakub 說：

作為一個(gè)研究實(shí)驗(yàn)室，OpenAI 最初并沒有打算做一個(gè)聊天機(jī)器人，盡管后來逐漸體會(huì)到這個(gè)產(chǎn)品與整體使命是多么契合。

OpenAI 當(dāng)然期望 ChatGPT 能繼續(xù)變得更好，并且成為人們與日益先進(jìn)的 AI 互動(dòng)的方式。

但 OpenAI 確實(shí)預(yù)計(jì)，最終 AI 系統(tǒng)將能夠創(chuàng)造有價(jià)值的產(chǎn)物，能夠真正推動(dòng)科學(xué)進(jìn)步。那將是 AI 真正持久的遺產(chǎn)。

Sam 補(bǔ)充：

聊天界面是一個(gè)很好的界面，它不會(huì)是唯一的界面，但是人們使用這些系統(tǒng)的方式，會(huì)隨著時(shí)間的推移發(fā)生巨大的變化。

如果想一個(gè) 5 年或者 5 個(gè)世紀(jì)的任務(wù)——那是人類需要花那么長時(shí)間才能完成的——甚至很難想象那意味著什么，但可能需要一個(gè)不同類型的產(chǎn)品體驗(yàn)。

OpenAI 也認(rèn)為可能希望它感覺更像一個(gè)環(huán)境感知的、時(shí)刻存在的伴侶。不是你問 ChatGPT 一個(gè)問題，它為你做點(diǎn)什么，而是有一個(gè)服務(wù)能只是觀察你的生活，在你需要時(shí)主動(dòng)幫助你，幫你提出更好的想法。

GPT 4.5 的未來如何？

Jakub 的回應(yīng)：

OpenAI 認(rèn)為很快就會(huì)有比 4.5 好得多的模型，而且在寫作方面，會(huì)好得多得多。

OpenAI 計(jì)劃保留它，直到有一個(gè)在寫作方面有巨大進(jìn)步的模型。但不認(rèn)為 4.5 現(xiàn)在那么好了，想提供一些好得多的東西。

Sam 補(bǔ)充：OpenAI 在這個(gè)研究方向上肯定還沒有完成。期待將它與正在研究的其他東西結(jié)合起來，會(huì)得到在所有方面都比 4.5 好得多的模型。時(shí)間上，明年，是所期待的。