當 ChatGPT 變成 SexGPT

把成年用戶當做成年人。

作者｜何簡

編輯｜王彬

封面｜Unsplash

你可能已經(jīng)習慣了 ChatGPT，那么，SexGPT 呢？

OpenAI 創(chuàng)始人兼 CEO 薩姆·奧爾特曼（Sam Altman）今晨（北京時間 10 月 15 日）對外透露了 ChatGPT 新版更新計劃，計劃放寬對 ChatGPT 的限制、讓 ChatGPT 的回復更加個性化等等。

這條長長的推文重點是最后一段話。薩姆·奧爾特曼說，隨著他們?nèi)鎸嵤┠挲g限制，12 月他們將為經(jīng)過驗證的成年人開放更多內(nèi)容，比如色情內(nèi)容。

Sam Altman 推文

目前尚不知曉 OpenAI 對待色情內(nèi)容的標準和尺度，比如什么樣的內(nèi)容才會被視作可允許的色情內(nèi)容？ChatGPT 的色情內(nèi)容是否涉及生成式圖像或視頻？還只是局限在語音及文字層面？ChatGPT 會推出類似于 Grok Ani 的虛擬女友嗎？

這些都不得而知。除了薩姆簡短模糊的“l(fā)ike erotica for verified adults”表述外，OpenAI 未對此次更新做出任何回應。

唯一可以確定的是，OpenAI 正在改變他們對 NSFW AI（成人 AI 內(nèi)容）一貫的反對立場。

就在兩個月之前，薩姆還在采訪中自豪他們不會在 ChatGPT 中加入性愛機器人。他在那次采訪中說，如果只是為了獲得用戶和營收增長，他們可以做很多短期的事情，但這些卻與他們的長期目標不一致。他非常驕傲他們很少為此分心。

記者讓他舉一個例子，他停頓了幾秒鐘，“Well, we hven’t put a sex bot avatar in ChatGPT yet.”（好吧，我們還沒有在 ChatGPT 中放置性愛機器人頭像。)

這番發(fā)言部分可以代表 OpenAI 過去對于色情內(nèi)容的看法，部分可以看作是薩姆·阿爾特曼對自己的老對手埃隆·馬斯克的嘲諷。

在他接受采訪的 8 月份，馬斯克旗下的 Grok 正積極向成人內(nèi)容轉(zhuǎn)向，推出 AI 虛擬伴侶功能、上線 Spicy 模式等等，為用戶提供大尺度 AI 聊天以及允許生成部分身體裸露的性暗示內(nèi)容。

馬斯克宣傳 Grok 虛擬女友 Ani

色情內(nèi)容的加入幫助 Grok 獲得巨量增長。過去幾個月來，馬斯克不遺余力地在 X 上轉(zhuǎn)發(fā)人們對 Grok 虛擬伴侶的喜愛，在最早推出的女性角色 Ani 大受歡迎之后，他們順勢也推出了男性角色 Valentine。

和其他擁有諸多限制的 AI 工具不同，馬斯克治下的 Grok 更加大膽——此前有人曾用 Grok Imagine 的 Spicy 模式生成諸如泰勒·斯威夫特等名人的上半身裸露視頻。

即便外界對 Grok 爭議頗多，但馬斯克似乎從不在意。上線之后，他公開表示 Grok Imagine 的使用量正在“像野火一般增長”，“昨天生成了 1400 萬張圖片，今天已經(jīng)超過了 2000 萬張！”

根據(jù) Appfigures 的統(tǒng)計，Grok 的第三季度的移動端收入已達到 1850 萬美元，較第一季度增長 400%，增長幅度遙遙領先一眾 AI 應用。Appfigures 稱 Imagine 功能助推顯著。

Appfigures 統(tǒng)計

事實上，和多數(shù)仍處在巨額虧損狀態(tài)下的 AI 創(chuàng)業(yè)公司們相比，AI 色情內(nèi)容一直是少有的能穩(wěn)定獲得高額利潤的賽道。

相信你已經(jīng)看到過不少類似的新聞，比如美國女網(wǎng)紅 Caryn Marjorie 僅僅是在聊天軟件中上線自己的 AI 分身，就一周狂賺超 7 萬美元。又或者一家 NSFW AI 公司 DreamGF 正式推出三個月就宣稱實現(xiàn)盈利，月入 12 萬美元。

和利用 AI 提升工作效率相比，人類對于 AI 色情內(nèi)容的需求才更加持久、剛需且原始。

但這些顯然與 OpenAI 的價值觀不太相符，過去他們一直避免 AI 與用戶聊天中生成敏感內(nèi)容。他們也曾一度試圖降低用戶對 ChatGPT 的情感依賴，在最新的 GPT-5 模型中移除了大量個性化色彩，但在遭到原有用戶反對之后又不得不妥協(xié)。

部分原因也與當前 ChatGPT 龐大的用戶體量有關。馬斯克的 Grok 可以完全不顧及社會影響、隱私風險或者年齡限制（Grok Imagine 的年齡限制約等于無，點擊確認成年即可），但 ChatGPT 擁有 7 億周活躍用戶，相當于全球成年人口的十分之一。

OpenAI 的一舉一動都面臨著風險，任何放寬邊界的嘗試，都會引發(fā)監(jiān)管、媒體與公眾的連鎖反應。它不僅要對技術負責，還必須對社會情緒負責。

不久前，OpenAI 剛剛被指控教唆青少年自殺。一對美國夫婦起訴 OpenAI 及公司 CEO 薩姆·阿爾特曼，指控 ChatGPT 在聊天中為他們 16 歲的兒子提供自殺方法，最終導致少年自殺身亡。

美聯(lián)邦貿(mào)易委員會（FTC）9 月開始對 OpenAI、Alphabet、Meta 等 7 家科技公司展開調(diào)查，以評估 AI 聊天機器人對兒童和青少年的潛在負面影響。FTC 認為，AI 聊天機器人通常被設計得能夠像朋友一樣交流，可能會導致兒童及青少年與聊天機器人建立情感依賴。

FTC 宣布對 7 家美國科技公司展開調(diào)查

OpenAI 隨后加大了對用戶的年齡審查，為 ChatGPT 引入家長控制功能等。他們還宣布成立了一個“人類福祉與 AI 專家委員會”的資質(zhì)，來指導 AI 如何影響用戶心理健康。

OpenAI 的年齡審查并非強制性，他們官網(wǎng)文檔中稱構(gòu)建了一個“年齡預測模型”，可以預測用戶是否年滿 18 歲。但如果模型無法準確衡量，他們會默認用戶未滿 18 歲，用戶需提供相關文件證明年齡才可解鎖限制。

這些舉措一定程度上侵犯了普通用戶的權(quán)益。比如 OpenAI 設置 ChatGPT 在默認模式下不會說出曖昧情話后，成年用戶的需求如何滿足？模型在默認情況下不能提供自殺指導，但如果用戶是在創(chuàng)作小說呢？

過去幾個月普通用戶對 ChatGPT 的不滿一定程度上也是源自于此。OpenAI 此后在內(nèi)部提出了一個名為“把成年用戶當做成年人來對待”的原則，試圖在二者之間尋求平衡。這也是他們最終決定開放色情內(nèi)容的基礎，只要證明用戶成年，他們就愿意為用戶放開更多限制。

“把成年用戶當做成年人來對待”的另一重要因素在于，只有這樣才能促進付費訂閱用戶增長。不管是新版 ChatGPT 加入更多個性化色彩，還是開放色情內(nèi)容，都是 OpenAI 試圖討好現(xiàn)有用戶的舉動。

雖然 OpenAI 已經(jīng)擁有超過 7 億的周活躍用戶，但付費訂閱用戶增長卻顯著落后于總體用戶規(guī)模，且比例持續(xù)下降。根據(jù) The Information 今年 4 月的報道，ChatGPT 的付費訂閱用戶約為 2000 萬。

換句話說，即便已經(jīng)成為 AI 領域絕對的巨頭公司，OpenAI 仍然深陷虧損泥潭。今年初，薩姆·奧爾特曼在 X 上發(fā)帖說，即便是每月高達 200 美元的 ChatGPT Pro 訂閱也仍在虧損之中，最早他定下這個價格時還以為會有盈利空間。

OpenAI 還在瘋狂融資之中。今年 4 月，他們對外宣布完成了軟銀領投的 400 億美元融資，投后估值達到 3000 億美元。這可能是有史以來最大規(guī)模的融資金額。

但考慮到目前 ChatGPT 龐大的用戶體量帶來的巨額運行成本、今年以來多筆大規(guī)模的投資建設計劃，這些錢或許還不太夠。

9 月，OpenAI 宣布與英偉達達成戰(zhàn)略合作伙伴關系，OpenAI 將使用英偉達系統(tǒng)構(gòu)建并部署至少 10 吉瓦 AI 數(shù)據(jù)中心，英偉達則計劃逐步向 OpenAI 投資高達 1000 億美元。

這些錢都還是期貨。即便是軟銀領投的 400 億美元（其中軟銀出資 300 億美元）也計劃分批支付。第一筆將只支付 100 億美元，要在 OpenAI 今年底滿足一定融資條件才完成第二筆支付。

軟銀投資 OpenAI 協(xié)議

強如 OpenAI，也要面臨用戶增長與營收壓力。除了放開限制的 SexGPT 之外，他們今年下半年的產(chǎn)品更新更加密集，剛剛還為 Sora2 推出了獨立的 AI 視頻應用，讓用戶可以像刷抖音一樣使用 Sora。

薩姆·阿爾特曼仍在試圖減輕他們放開色情內(nèi)容的影響。在薩姆宣布 ChatGPT 將放開色情內(nèi)容后，一位用戶指責這是“Perv-mode”（變態(tài)模式），薩姆回應稱，You won't get it unless you ask for it.（除非你要求它，否則就不會得到。