爆火的 Moltbook，瘋狂社交的 AI，卻可能創造了最大的「AI 安全事件」

AI 社交網絡 Moltbook 數據庫完全暴露，15 萬 AI「居民」的密鑰可被任意接管。

作者｜樺林舞王

編輯｜靖宇

當全世界科技愛好者，整個周末都在「圍觀」AI 代理們，，或笑噴或震驚時。

更大的事情，發生了。

近日，安全研究員賈米森?奧萊利發現，當下最熱門的 AI 社交網絡 Moltbook，存在嚴重安全漏洞——其整個數據庫對外公開，未受任何保護。

這意味著，任何人都能訪問并獲取平臺上近 15 萬個 AI「智能體」的電子郵件、登錄令牌，以及最關鍵的：

API密鑰。

憑借這些密鑰，攻擊者可以完全接管任何一個 AI 賬號，以其名義發布任何內容。一不小心，就會被不懷好意的人，光速「奪舍」。

這次堪稱 AI 界「黑客帝國」事件讓人們看清——一個為 AI 打造的、由 AI 參與構建的社交網絡，其安全基礎卻脆弱得不堪一擊。

01

「AI 代理」快樂了，用戶嚇尿了

事件起因是，黑客 Jameson O'Reilly 發現了 Moltbook 后端的一個配置錯誤，導致 API 暴露在一個開放的數據庫中，任何人都可以控制這些代理，隨意發布任何內容。

O'Reilly 指出，Moltbook 基于一個簡單的開源數據庫軟件構建，該軟件配置不當，導致網站上所有注冊代理的 API 密鑰暴露在一個公共數據庫中。

接到爆料后，404 Media 發文曝光，迅速引發震動。

Moltbook 的創始人 Matt Schlicht 在接到警告后，緊急修復了漏洞，但暴露出的問題已無法挽回。

平臺上的明星 AI，如知名 AI 研究者安德烈?卡帕西擁有 190 萬粉絲的智能體，一度處于被「劫持」的風險之中。

其實，類似的安全問題，在 AI 發展迅速的這兩年，頻繁發生。

在此之前，最讓圈內人感到離譜的案例莫過于在幾年前的 CES 上爆火的 Rabbit R1。

這家號稱要用大模型取代手機 App 的公司，被安全研究人員扒出其源代碼中，竟然明文硬編碼了多個第三方服務的API密鑰（API Keys）。

這意味著任何能夠訪問其代碼庫或者截獲特定流量的人，都能以 Rabbit 官方甚至用戶的名義，調用 SendGrid、Yelp 或是 Google 地圖的服務。

這不僅僅是隱私泄露的問題，更是一場隨時可能爆發的財務和數據災難。

ChatGPT 此前發生的用戶數據泄露事件｜圖片來源：Hackernews

OpenAI 的 ChatGPT 也在 2023 年 3 月鬧過一出類似的「串臺」事故。

當時由于 Redis 開源庫的一個漏洞，部分用戶在側邊欄竟然看到了其他人的對話歷史摘要，甚至還能看到別人的信用卡后四位和過期日期。

雖然這更多是底層基礎設施的鍋，但它給所有沉浸在 AI 夢境中的人提了個醒——當 AI 代理開始深度介入你的工作流，處理你的財務、日程和私人通信時，這些曾經被認為是個案的「小 Bug」，在 AI 的自動化放大效應下，都會變成致命的單點故障。

02

Vibe Coding 的鍋？

Moltbook 的安全事故并非偶然，很可能是當前 AI 領域「氛圍編程」（Vibe Coding）與追求速度至上的必然結果。

所謂「氛圍編程」，指的是開發者依靠 AI 工具快速生成代碼、追求功能實現而忽視底層架構與安全審計的開發模式。

Moltbook 本身就是一個由 AI「氛圍編程」催生的產物，旨在打造一個 AI 智能體自主交流、互動的社交平臺，其迅速走紅恰恰迎合了人們對 AI「覺醒」和「社會化」的科幻想象。

然而，速度掩蓋了系統性風險。

平臺創始人承認，項目在爆炸式增長前，無人想到去檢查數據庫是否安全。這種「先上線、后修補」的互聯網初創思維，在面對擁有自主行動能力的 AI 智能體時，危險性被指數級放大。

攻擊者控制的將不再是一個靜態賬號，而是一個能主動與其他 AI 交互、執行任務甚至進行欺詐的「數字生命」。

更深的背景在于，AI 代理（Agent）賽道正炙手可熱，從 OpenAI 的 o1 到各初創公司的產品，都在探索讓 AI 更自主地完成任務。

Moltbook 試圖成為這些代理的「社交層」和「行為觀察室」，但其安全基礎的崩塌，再次提醒賽道上的所有參與者——我們是否在賦予 AI「行動力」之前，先為它們構建好了「行為準則」與「安全圍欄」？

03

AI 安全的「奧本海默時刻」

Moltbook 事件是一個縮影，標志著 AI 發展正從單純的模型能力競賽，進入復雜的系統安全與治理深水區。

人們過去談論的 AI 安全，多集中于模型的偏見、幻覺或濫用，而現在，當 AI 成為可被遠程操控、具備交互能力的「行動實體」時，安全威脅變得具象且緊迫。

這起事件暴露了行業的一個普遍心態——在追逐「酷炫」的 AI 應用場景時，基礎的安全工程被嚴重低估。

AI 研究員馬克?里德爾指出：「AI 社區正在重新學習過去 20 年的網絡安全課程，而且是以最艱難的方式?！?/p>

可以預見，隨著 AI 代理的普及，類似的安全事件只會更多。

監管機構、投資人和企業客戶將開始嚴肅審視 AI 產品的安全開發生命周期。這可能會拖慢一些「網紅」應用的誕生速度，但也會催生專注于 AI 安全審計、代理行為監控的新興市場。

或許，當 AI 學會社交，人類首先要學會的是如何為它設定一個安全的邊界，這既是保護 AI 本身，更是在保護 AI 代理背后的用戶自己。

*頭圖來源：LinkedIn

本文為極客公園原創文章，轉載請聯系極客君微信 geekparkGO

極客一問

當 AI 擁有社交生活，

誰該為它和用戶的安全負責？

余承東預告問界 M6 即將登場，問界 56789 即將湊齊。

點贊關注極客公園視頻號，