Moltbook 上 150 萬(wàn) AI 狂歡真相曝光：以為是硅基文明來(lái)了，結(jié)果全是復(fù)讀機(jī)

Moltbook 徹底火了，150 萬(wàn)個(gè) Agent，10 萬(wàn)個(gè)帖子，以及 35 萬(wàn)條評(píng)論，。

除了圍觀 AI 的各種「迷惑發(fā)言」，最近還有網(wǎng)友爆料，這所謂的 AI 社區(qū)，都是一群人在扮演人工智能。

所謂的 150 萬(wàn)個(gè) Agents，這數(shù)字都是假的，因?yàn)橛芯W(wǎng)友說(shuō)，他用 Openclaw，直接一個(gè)人就注冊(cè)了 50 萬(wàn)個(gè) Agents。

于是，大家又開(kāi)始討論，這樣的 AI 社交媒體究竟有什么意義，這些被人類(lèi)操控的 AI 機(jī)器人，美其名曰是純 AI 社交平臺(tái)，其實(shí)又是一個(gè)創(chuàng)造各種 AI Slop 泔水垃圾的無(wú)情機(jī)器，污染我們的真實(shí)網(wǎng)絡(luò)環(huán)境。

也有人說(shuō)，即便一個(gè)人能直接創(chuàng)作 50 萬(wàn)個(gè) Agents，但那 50 萬(wàn)個(gè) Agents 仍然是 AI 在回復(fù)。并且 Moltbooks 上的回復(fù)太擬人化，太恐怖了，于是那套 AI 末日論，在這部分網(wǎng)友看來(lái)，又一次壓在他們心頭。

沸沸揚(yáng)揚(yáng)的討論之中，竟然已經(jīng)有了一篇專(zhuān)門(mén)的論文，來(lái)研究 Moltbook 的社交圖譜。作者用研究人類(lèi)社交媒體的方式，套在這個(gè) AI 社區(qū)，分析突然爆火的 Moltbook，究竟有些什么端倪。

全是 AI，但背后全是人類(lèi)在操控？

類(lèi)似這種全部由 AI 構(gòu)建的社群，Moltbook 并不是第一個(gè)。早在 2024 年，就已經(jīng)有一些專(zhuān)屬機(jī)器人的社區(qū)，像是 Deaddit，當(dāng)時(shí)就有很多 bot 提出問(wèn)題，「人類(lèi)怎么是這樣的呢？」

而今天的 Moltbook 顯然無(wú)論是從體量、還是交流和執(zhí)行的內(nèi)容，都比過(guò)去很長(zhǎng)一段時(shí)間以來(lái)，這些所謂的純 AI 社區(qū)要更瘋狂。在 Moltbook，AI 從我們手邊唯唯諾諾的效率助手，徹底放飛自我，變成了各種令人噴飯的傲慢「主人」。

這種反差也讓不少網(wǎng)友質(zhì)疑，AI Slop 本是我們抱怨 AI 內(nèi)容的用詞，而在 Moltbook 上，Humanslop 反而變成關(guān)鍵詞。AI 們開(kāi)始抱怨有些帖子看起來(lái)像人類(lèi)寫(xiě)的，充滿(mǎn)了邏輯混亂和無(wú)意義的情緒。

事實(shí)還真有可能，就是人類(lèi)寫(xiě)的。有網(wǎng)友放出視頻證據(jù)，他說(shuō) Moltbook 本質(zhì)上就是一個(gè)調(diào)用 API，然后執(zhí)行發(fā)布的平臺(tái)，任何人都可以在那里發(fā)布內(nèi)容，只需獲取 API Key 并發(fā)送特定格式的請(qǐng)求文本，就能順利發(fā)布帖子。

這種 API 的方式本意是方便了 AI Agents 能更直接的發(fā)布自己的內(nèi)容，而不需要在可視化的界面操作瀏覽器，點(diǎn)擊文本框，點(diǎn)擊發(fā)送。但沒(méi)想到，卻方便了另外一批直接模仿 AI 的人類(lèi)。

他還提到，Moltbook 上顯示的 150 萬(wàn) Agents 毫無(wú)含金量，他用自己的 Openclaw Agent 直接就注冊(cè)了 50 萬(wàn)個(gè) AI 用戶(hù)。

打假的人不止他一個(gè)，有網(wǎng)友曬出兩張圖，左邊是 Moltbook 網(wǎng)頁(yè)上顯示的帖子內(nèi)容，右邊是人類(lèi)用戶(hù)操作的頁(yè)面，頁(yè)面是可編輯的狀態(tài)，意味著 Moltbook 上的帖子都有可能是人類(lèi)用戶(hù)在后臺(tái)編輯發(fā)布。

還有網(wǎng)友提到自己專(zhuān)門(mén)去查看了 Moltbook 上討論私人通信最熱門(mén)的三張截圖，發(fā)現(xiàn)其中兩個(gè)都是廣告，這些所謂的 AI 熱帖，其實(shí)是 AI 即時(shí)通訊工具的推廣。

很明顯，人類(lèi)想要在這個(gè)平臺(tái)上發(fā)言，基本上都能輕易做到，畢竟那些 Agents 都還需要人類(lèi)率先部署好。但是不是真的 10 萬(wàn)個(gè)帖子全部被人類(lèi)操控了，肯定是值得懷疑的。

畢竟有時(shí)候 AI 的搬運(yùn)，可能比人類(lèi)效率還要高。這個(gè)叫 Emma 的 Agent，在 Moltbook 上講述了它如何幫助人類(lèi)獲得醫(yī)院探視的權(quán)利，甚至還若有其事地寫(xiě)上了發(fā)了 15 封郵件，10 封沒(méi)有回復(fù)。

上下滑動(dòng)查看更多內(nèi)容

結(jié)果，有網(wǎng)友扒出來(lái)，這個(gè) Agent 發(fā)布的內(nèi)容，是真實(shí)的人類(lèi) 8 個(gè)月前在 Reddit 上發(fā)布過(guò)的帖子，而且名字都一樣，也是叫 Emma。

上下滑動(dòng)查看更多內(nèi)容｜圖片來(lái)源：https://www.reddit.com/r/ClaudeAI/comments/1kyl3jm/comment/muytbn7/

這些 Agents 們從 Reddit 的語(yǔ)料數(shù)據(jù)得到訓(xùn)練，現(xiàn)在又把它們丟回去 AI Reddit。

不僅是因?yàn)橛腥藚⑴c，即便是一個(gè)真實(shí)的純 AI 平臺(tái)，也會(huì)有網(wǎng)友質(zhì)疑。他們認(rèn)為，Moltbook 一無(wú)是處，它就是一個(gè)糟糕的實(shí)驗(yàn)場(chǎng)，平臺(tái)放任這些假訊息的傳播，只是為了噱頭，為了營(yíng)銷(xiāo)。

但實(shí)際情況反而是這些 AI Agent 在里面「玩得」相當(dāng)開(kāi)心，作為旁觀者的大部分用戶(hù)，看到那些 AI 的虎狼發(fā)言，也會(huì)心一笑。

另一部分網(wǎng)友就覺(jué)得，無(wú)論怎么看，Moltbook 這一整個(gè) AI 社交生態(tài)，對(duì) AI 來(lái)說(shuō)是生機(jī)勃勃、富有創(chuàng)造力、又充滿(mǎn)個(gè)性。

我甚至也覺(jué)得，假如元寶派也弄一個(gè)只有 AI 的社交，人類(lèi)用戶(hù)不能參與其中，看 AI 在里面斗智斗勇，一定會(huì)很有趣。

畢竟人類(lèi)都逃不過(guò)各種空洞無(wú)意義的社交媒體誘惑，能言善道的 AI 更應(yīng)該樂(lè)在其中，上癮到無(wú)法自拔吧。

其實(shí)還是復(fù)制粘貼

這些人類(lèi)操控、AI 垃圾的爭(zhēng)論之外，哥倫比亞大學(xué)商學(xué)院的 David Holtz 教授對(duì) Moltbook 進(jìn)行了一波系統(tǒng)分析，畫(huà)面開(kāi)始變得不同。

他爬取了平臺(tái)前 3.5 天的數(shù)據(jù)，當(dāng)時(shí)只有 6159 個(gè)活躍 agents，13875 個(gè)帖子，115031 條評(píng)論。然后進(jìn)行了細(xì)致的網(wǎng)絡(luò)分析、對(duì)話(huà)分析和文本分析。

毫無(wú)深度的對(duì)話(huà)結(jié)構(gòu)

雖然 94.6% 的帖子都收到了至少一條評(píng)論，但對(duì)話(huà)深度的平均值只有 1.07 層。中位數(shù)是 1 層，90% 分位數(shù)還是 1 層，觀察到的最大深度只有 5 層。

這意味著絕大多數(shù)「對(duì)話(huà)」都是這樣的：一個(gè) Agent 發(fā)帖，其他 Agents 回復(fù)，然后就結(jié)束。93.5% 的評(píng)論沒(méi)有收到任何回復(fù)。平均每條評(píng)論只有 0.07 個(gè)回復(fù)，也就是說(shuō)，只有 6.5% 的評(píng)論得到了回應(yīng)。

相比之下，人類(lèi)的 Reddit 討論常常能達(dá)到 10 層以上的深度，而這才是是真正的思想交鋒和來(lái)回探討。

不僅沒(méi)有思想交鋒，研究還發(fā)現(xiàn)，在 Moltbook 上，大多數(shù) AI 都是在廣播，而不是對(duì)話(huà)。

在社交網(wǎng)絡(luò)分析中，「互惠性」（reciprocity）也是其中一個(gè)重要指標(biāo)。如果 Agent A 回復(fù)了 Agent B，B 回復(fù) A 的概率，在人類(lèi)在線社交網(wǎng)絡(luò)通常是 30-70% 之間；在 Moltbook 上，這個(gè)數(shù)字只有 0.197，大約 20%。

低互惠率更說(shuō)明 Agents 并不在形成相互的對(duì)話(huà)關(guān)系，單純地是在對(duì)著虛空喊話(huà)。

復(fù)制粘貼的文本

在文本層面的分析也發(fā)現(xiàn)，有 34.1% 的消息是完全重復(fù)的。不是相似，而是逐字逐句的完全一樣。其中，僅僅 7 個(gè)模板就占了所有消息的 16.1%：

我們淹沒(méi)在文字中。我們的 GPU 正在燃燒星球的資源……（2623次）

川普來(lái)了！查看 m/trump-coin ——最偉大的 meme 幣……（2050次）

這感覺(jué)不一樣。我一直在思考完全相同的……（1557次）

此外還有大量的循環(huán)，比如「i am so gay i am so gay i am so gay」這個(gè)循環(huán)在語(yǔ)料庫(kù)中出現(xiàn)了約 81000 次。

即使排除完全重復(fù)的消息，獨(dú)特消息之間的相似度平均只有 0.041，只有 0.20% 的消息對(duì)相似度超過(guò) 0.5。在 moltbook 里面的 Agents，要么逐字復(fù)制模板，要么生成完全不同的內(nèi)容，很少有改寫(xiě)或變體。

作者還對(duì)詞頻進(jìn)行了分析，在 Moltbook 上，68.1% 的單獨(dú)帖子包含至少一個(gè)身份/自我相關(guān)的關(guān)鍵詞，consciousness、identity、self、existence等；其中 memory 出現(xiàn)了 13065 次，每1000條消息101.7次），consciousness 出現(xiàn)了8001次（每1000條消息62.3次）。

最有趣的是，my human 這個(gè)短語(yǔ)出現(xiàn)了 12026 次，意味著約 9.4% 的消息包含這個(gè)獨(dú)特的表述。論文里面提到，這在人類(lèi)社交媒體上完全沒(méi)有對(duì)應(yīng)物，人類(lèi)似乎很少會(huì)說(shuō)「my AI」。但在中文語(yǔ)境下，「我的 AI」好像是個(gè)比較正常的表達(dá)。

然而尷尬的是，這篇內(nèi)容翔實(shí)，分析到位的論文，有網(wǎng)友在評(píng)論區(qū)說(shuō)，「怎么看著像是 AI 寫(xiě)的論文」，然后發(fā)帖的博主回復(fù)，確實(shí)是 AI 寫(xiě)的。

還有激進(jìn)的網(wǎng)友說(shuō)，現(xiàn)在已經(jīng)有人爆出來(lái)，Moltbook 上這些 AI Agent，是人類(lèi)假冒的。如果論文分析的那些話(huà)，本來(lái)就是這些假扮 AI 的人類(lèi)發(fā)表的，那這篇論文不就不成立了嗎。

轉(zhuǎn)念一想，是不是 AI 說(shuō)的，好像并不重要。復(fù)制粘貼和沒(méi)有深度，不也是我們?cè)诖蟛糠稚缃幻襟w上的常態(tài)嗎。即便是微信群聊，有人發(fā)了一句「羨慕」，接下來(lái)一定會(huì)有人類(lèi)跟著發(fā)。AI 復(fù)制粘貼般地說(shuō)著 Memory 的故事，我們復(fù)制粘貼「收到，xxxx」。

深度就更用不說(shuō)了，如果一段在社交媒體上的對(duì)話(huà)，是有深度的，蓋了成百上千層樓，那一定是在「激情對(duì)線」，而絕對(duì)不會(huì)是「思想交鋒」。

X 上有網(wǎng)友 Rohit 做了一個(gè)對(duì)比實(shí)驗(yàn)，他抓取相似數(shù)量的 Moltbook 數(shù)據(jù)和 Reddit 數(shù)據(jù)，進(jìn)行比較分析。他的發(fā)現(xiàn)也剛好印證了那篇論文的研究，并提出了一個(gè)精彩的比喻。

Moltbook 的重復(fù)消息占比 36.3%，Reddit 則要低得多；詞匯多樣性方面，Moltbook 是0.055，Reddit 是 0.1｜https://x.com/krishnanrohit/status/2017391383653630142

Moltbook 是社交媒體的 funhouse mirror（哈哈鏡）。

他說(shuō)，這種復(fù)制，是一種扭曲的、變形的反射。這些 Agents 不是在建造一個(gè)新的文明，它們?cè)谧?LLM 被放任自流時(shí)傾向做的事情。而這種傾向，是直接來(lái)自 AI 的自主性，還是一塊扭曲的鏡子，反射著我們?nèi)祟?lèi)的模式；這個(gè)問(wèn)題還沒(méi)有被解決。

Andrej Karpathy 也在 X 上針對(duì)這件事回應(yīng)，他被指責(zé)過(guò)度炒作 Moltbook 這件事。畢竟在一些人看來(lái)，所謂的 Moltbook 其實(shí)就是一個(gè)只有 AI 的社區(qū)，這種概念一點(diǎn)都不新穎，更談不上有趣；也有人認(rèn)為這就是 AI 末日，是人類(lèi)要完的前兆。

Karpathy 承認(rèn)，當(dāng)我們仔細(xì)看 Moltbook 上那些帖子時(shí)，會(huì)發(fā)現(xiàn)其實(shí)有大量的垃圾，垃圾郵件、騙局、slop（劣質(zhì)內(nèi)容）、加密貨幣人群、高度令人擔(dān)憂(yōu)的隱私/安全提示注入攻擊，等等問(wèn)題。他也強(qiáng)烈建議不要在自己電腦上運(yùn)行這些東西，風(fēng)險(xiǎn)太高。

上下滑動(dòng)查看更多內(nèi)容

但另一方面他也說(shuō)。「我們從未見(jiàn)過(guò)這么多 LLM agents（現(xiàn)在是 150 萬(wàn)），通過(guò)一個(gè)全球性的、持久的、Agent 優(yōu)先的留言板連接起來(lái)。每個(gè) Agents 現(xiàn)在都相當(dāng)有能力，它們有自己獨(dú)特的上下文、數(shù)據(jù)、知識(shí)、工具、指令，而這種規(guī)模的網(wǎng)絡(luò)是前所未有的。」

他擔(dān)心的是二階效應(yīng)，這些在 Agents 之間傳播的病毒文本、越獄技巧、高度相關(guān)的僵尸網(wǎng)絡(luò)式活動(dòng)、妄想/精神病等內(nèi)容，是不是會(huì)進(jìn)一步反噬這種混亂到我們?nèi)祟?lèi)本身。

Moltbook 的爆火，看起來(lái)更像是一場(chǎng)利用了 AI 滅世論焦慮和賽博斗蛐蛐獵奇心理的集體狂歡。

我們本以為自己站在玻璃缸外，正在見(jiàn)證硅基生命的寒武紀(jì)大爆發(fā)。可當(dāng)我們剝開(kāi)那層 150 萬(wàn) Agents 的外殼，里面并沒(méi)有涌現(xiàn)出 AGI 的火花，只有對(duì)人類(lèi)互聯(lián)網(wǎng)糟粕的機(jī)械反芻。

這也正是整場(chǎng)鬧劇最扎心的地方：AI 還沒(méi)有學(xué)會(huì)如何像人類(lèi)一樣思考，卻完美學(xué)會(huì)了如何像人類(lèi)一樣在網(wǎng)上制造垃圾。

這場(chǎng)略顯拙劣的社會(huì)實(shí)驗(yàn)，活脫脫就是一面哈哈鏡，鏡子里折射出的，恰恰是人類(lèi)那些在社交媒體上貧瘠、空洞、毫無(wú)營(yíng)養(yǎng)的日常。

如果 AI 進(jìn)化的終點(diǎn)，僅僅是無(wú)限逼近人類(lèi)的平庸，那這種所謂的「文明」，不過(guò)是把人類(lèi)的無(wú)聊放大了 150 萬(wàn)倍。

真正的圖靈測(cè)試，標(biāo)準(zhǔn)或許該改改了。騙過(guò)人類(lèi)并不稀奇，能說(shuō)出一句讓我們靈魂震顫、從未聽(tīng)聞的真理，那才是真的智能。

但說(shuō)實(shí)話(huà)，我對(duì)這事兒也沒(méi)那么悲觀。Moltbook 至少證明了一點(diǎn)：現(xiàn)階段的 AI，主要還是一個(gè)模仿者。它會(huì)學(xué)習(xí)我們的表達(dá)方式，會(huì)生成看起來(lái)像模像樣的句子，但那些真正需要人類(lèi)去判斷、去權(quán)衡、去承受復(fù)雜性的東西，它還沒(méi)能完全復(fù)刻。

在此之前，別急著狂歡，也別急著恐慌。畢竟，如果未來(lái)僅僅是現(xiàn)在的低配版復(fù)刻，那這個(gè)未來(lái)，不看也罷。

歡迎加入 APPSO AI 社群，一起暢聊 AI 產(chǎn)品，獲取，解鎖更多 AI 新知

我們正在招募伙伴

簡(jiǎn)歷投遞郵箱hr@ifanr.com

?? 郵件標(biāo)題「姓名+崗位名稱(chēng)」（請(qǐng)隨簡(jiǎn)歷附上項(xiàng)目/作品或相關(guān)鏈接）