Anthropic發(fā)起「玻璃翼」軟件安全計劃

AIPress.com.cn報道

4月9日消息，人工智能公司 Anthropic 宣布啟動 Project Glasswing（玻璃翼計劃），該項目聯(lián)合 Amazon Web Services、蘋果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux 基金會、微軟、英偉達和 Palo Alto Networks 等機構(gòu)，共同探索利用前沿人工智能技術(shù)加強全球關(guān)鍵軟件基礎(chǔ)設(shè)施的安全防護。

Anthropic 表示，啟動該項目的直接背景，是公司在測試一款尚未發(fā)布的前沿模型 Claude Mythos Preview 時觀察到其在網(wǎng)絡(luò)安全領(lǐng)域展現(xiàn)出的能力突破。該模型在代碼分析和漏洞挖掘方面的表現(xiàn)已經(jīng)接近甚至超過大多數(shù)人類安全專家，能夠自動發(fā)現(xiàn)并利用軟件漏洞。Anthropic 指出，這意味著 AI 正在進入一個新的階段：發(fā)現(xiàn)和利用軟件漏洞的技術(shù)門檻正在顯著降低。

在內(nèi)部測試中，Claude Mythos Preview 已經(jīng)識別出 數(shù)千個高危漏洞，其中包括存在于主流操作系統(tǒng)、瀏覽器以及關(guān)鍵軟件組件中的問題。Anthropic 警告稱，隨著 AI 能力快速提升，這類技術(shù)很可能在未來被更多組織甚至惡意行為者獲得，從而可能對經(jīng)濟體系、公共安全以及國家安全構(gòu)成風(fēng)險。Project Glasswing 的目標(biāo)，就是盡可能在防御側(cè)率先部署這些能力。

根據(jù)項目安排，參與機構(gòu)將獲得 Claude Mythos Preview 的使用權(quán)限，用于掃描和加固自身的軟件系統(tǒng)。Anthropic 同時將向行業(yè)共享相關(guān)研究成果，并向超過 40 家維護關(guān)鍵軟件基礎(chǔ)設(shè)施的組織提供模型訪問，以幫助檢測并修復(fù)企業(yè)軟件和開源系統(tǒng)中的漏洞。公司還承諾提供 最多1億美元的模型使用額度支持項目研究，并向開源安全組織捐贈 400萬美元。

Anthropic 介紹稱，在近期的測試中，Claude Mythos Preview 能夠在幾乎完全自主的情況下識別并利用復(fù)雜漏洞。例如，該模型發(fā)現(xiàn)了 OpenBSD 操作系統(tǒng)中存在27年的漏洞，攻擊者可通過遠程連接使系統(tǒng)崩潰；在廣泛使用的視頻處理庫 FFmpeg 中，它識別出一段存在 16年的代碼漏洞，此前自動化測試已執(zhí)行過約500萬次卻未能發(fā)現(xiàn)；此外，模型還能夠在 Linux 內(nèi)核中組合多個漏洞，實現(xiàn)從普通用戶權(quán)限提升至完全控制系統(tǒng)的攻擊路徑。這些問題目前均已向相關(guān)維護團隊報告并完成修復(fù)。

在安全能力評測中，Claude Mythos Preview 也表現(xiàn)出顯著提升。例如在漏洞復(fù)現(xiàn)基準(zhǔn) CyberGym 中，該模型取得 83.1% 的成績，高于此前模型 Claude Opus 4.6 的 66.6%。在多項軟件工程與代碼能力評測（如 SWE-bench 系列）中，Mythos Preview 同樣取得目前已知模型中的最高分。

Anthropic 表示，目前 不會向公眾開放 Claude Mythos Preview，但長期目標(biāo)是讓類似能力在具備安全防護機制的前提下廣泛應(yīng)用。公司計劃在未來推出的新版本 Claude Opus 模型中逐步引入相關(guān)安全防護技術(shù)，以避免模型被用于攻擊用途。

Project Glasswing 未來的研究重點將包括漏洞檢測、二進制黑盒測試、終端安全加固以及系統(tǒng)滲透測試等領(lǐng)域。Anthropic 表示，項目還將推動建立一套面向 AI 時代的軟件安全實踐，例如漏洞披露流程、軟件更新機制、開源供應(yīng)鏈安全、自動化補丁系統(tǒng)以及面向監(jiān)管行業(yè)的安全標(biāo)準(zhǔn)等。

Anthropic 還透露，公司已就 Claude Mythos Preview 的網(wǎng)絡(luò)攻防能力與美國政府展開溝通，并認為在人工智能快速發(fā)展的背景下，保護關(guān)鍵數(shù)字基礎(chǔ)設(shè)施已經(jīng)成為各國政府的重要安全議題。

根據(jù)計劃，Anthropic 將在 90 天內(nèi)發(fā)布階段性公開報告，披露在 Project Glasswing 中發(fā)現(xiàn)并修復(fù)的漏洞類型以及行業(yè)安全實踐方面的改進經(jīng)驗。公司同時呼吁更多 AI 開發(fā)者、軟件企業(yè)、安全研究人員以及政府機構(gòu)參與類似合作，共同應(yīng)對 AI 時代可能出現(xiàn)的網(wǎng)絡(luò)安全挑戰(zhàn)。（AI普瑞斯編譯）