Anthropic推出新模型Mythos 只限頂級(jí)安全伙伴試用

人工智能公司 Anthropic 于周二推出其新一代“前沿模型”Mythos 的預(yù)覽版本，這款被內(nèi)部稱為“迄今最強(qiáng)大”的模型將首先通過一項(xiàng)名為“Project Glasswing”的安全項(xiàng)目，交由一小批合作組織用于網(wǎng)絡(luò)安全相關(guān)任務(wù)。

根據(jù)該公司披露，Mythos 是 Claude 系統(tǒng)中的一臺(tái)通用大模型，具備強(qiáng)大的“智能體”級(jí)編程與推理能力，并非專為網(wǎng)絡(luò)安全部門訓(xùn)練，但其預(yù)覽版目前的主要用途正是掃描第一方和開源軟件系統(tǒng)中的代碼漏洞。

在過去的幾周里，Anthropic 聲稱 Mythos 已經(jīng)發(fā)現(xiàn)了“數(shù)千個(gè)零日漏洞，其中許多屬于高危級(jí)別”，不少漏洞甚至可以追溯到一至二十年前的老舊代碼中。這一暴露結(jié)果凸顯了大模型在長期未被發(fā)現(xiàn)的“歷史漏洞”挖掘上的潛力，也同時(shí)引發(fā)了行業(yè)對(duì)“若被攻擊者掌控，這類工具將帶來何種威脅”的普遍擔(dān)憂。為控制風(fēng)險(xiǎn)，Anthropic 明確表示，此次預(yù)覽版不會(huì)向普通用戶或公眾開放，僅限簽約的合作伙伴在特定安全任務(wù)中使用。

目前參與 Mythos 試用的組織包括 Amazon、Apple、Broadcom、Cisco、CrowdStrike、Linux Foundation、Microsoft 和 Palo Alto Networks 等數(shù)十家機(jī)構(gòu)，它們被納入 Project Glasswing，共同用該模型進(jìn)行“防御性安全工作”，并承諾在項(xiàng)目結(jié)束后分享從使用中獲得的經(jīng)驗(yàn)，以幫助整個(gè)技術(shù)行業(yè)提升安全水位。Anthropic 也表示，公司已與美國聯(lián)邦官員展開“持續(xù)討論”，以探討 Mythos 在國家級(jí)關(guān)鍵系統(tǒng)中的潛在應(yīng)用，而這一討論恰與 Anthropic 當(dāng)前與美國國防部的法律糾紛并行；后者因這家 AI 實(shí)驗(yàn)室拒絕允許其技術(shù)用于對(duì)美國公民的自主打擊或監(jiān)控，而將 Anthropic 列為“供應(yīng)鏈風(fēng)險(xiǎn)實(shí)體”。

Mythos 的“意外曝光”最初源于上個(gè)月的一起數(shù)據(jù)安全事件，《財(cái)富》雜志披露，Anthropic 一份還沒正式發(fā)布的博客草稿（代號(hào)為“Capybara”）被錯(cuò)誤存放在一個(gè)公開可訪問的數(shù)據(jù)湖中，被安全研究人員發(fā)現(xiàn)后迅速擴(kuò)散。那份草稿中，Anthropic 自己寫道，Capybara 是一個(gè)新的模型層級(jí)，比此前最強(qiáng)的 Opus 系列更大、更智能，且是“迄今為止最強(qiáng)大的 AI 模型”，并警告如果該模型被惡意利用，可能以遠(yuǎn)超防御者補(bǔ)丁速度的能力發(fā)現(xiàn)并利用漏洞，從而開啟新一輪 AI 驅(qū)動(dòng)的漏洞利用浪潮。Anthropic 事后將這起泄露歸因于“人為錯(cuò)誤”，并已在第一時(shí)間封禁相關(guān)公開訪問。