Anthropic允許蘋果、亞馬遜測試功能更強(qiáng)的Mythos模型

來源：環(huán)球市場播報(bào)

　　人工智能公司 Anthropic PBC 正在向科技企業(yè)開放一款功能更強(qiáng)、尚未公開發(fā)布的人工智能模型，以便為該先進(jìn) AI 系統(tǒng)未來可能大范圍推廣所引發(fā)的網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)提前做好防范。

　　Anthropic 周二宣布，將與亞馬遜、蘋果、微軟、思科及其他機(jī)構(gòu)共同發(fā)起一項(xiàng)名為 “叢雀計(jì)劃”（Project Glasswing） 的專項(xiàng)行動(dòng)。參與企業(yè)將可使用 Anthropic 全新的 Mythos 模型，查找自身產(chǎn)品中的安全漏洞，并與行業(yè)同行共享檢測結(jié)果。

　　這家 AI 初創(chuàng)公司表示，目前暫無向公眾發(fā)布 Mythos 的計(jì)劃，并將根據(jù)叢雀計(jì)劃反饋的信息，為該技術(shù)制定安全防護(hù)準(zhǔn)則。

　　這一安排反映出科技企業(yè)日益加劇的擔(dān)憂：更先進(jìn)的 AI 模型可能被犯罪分子及國家背景的黑客濫用，用于查找源代碼漏洞、繞過網(wǎng)絡(luò)防御系統(tǒng)。AI 技術(shù)已被用于輔助實(shí)施網(wǎng)絡(luò)攻擊。曾有黑客利用 AI 工具協(xié)助發(fā)動(dòng)入侵，影響到墨西哥政府相關(guān)系統(tǒng)。

　　Anthropic 的競爭對(duì)手 OpenAI 此前也強(qiáng)調(diào)其模型的網(wǎng)絡(luò)安全能力不斷提升，并推出試點(diǎn)項(xiàng)目，力求讓防御方 “優(yōu)先使用” 其工具。

　　Anthropic 前沿紅隊(duì)網(wǎng)絡(luò)安全負(fù)責(zé)人牛頓?程表示：“我們認(rèn)為這不僅是 Anthropic 一家的問題，而是全行業(yè)面臨的挑戰(zhàn)，私營企業(yè)與各國政府都需要共同應(yīng)對(duì)。我們希望通過叢雀計(jì)劃，讓網(wǎng)絡(luò)防御方搶占先機(jī)。”

　　Anthropic 稱已就 Mythos 與安全相關(guān)的能力與美國官員進(jìn)行過溝通，但拒絕透露具體涉及哪些機(jī)構(gòu)。程先生提到，公司此前已與美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局（CISA）、美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）開展合作。

　　Anthropic 表示，Mythos 是一款通用型 AI 模型，并非專門為網(wǎng)絡(luò)安全場景開發(fā)。不過程先生稱，Mythos 已發(fā)現(xiàn)多個(gè)安全隱患，包括一個(gè)存在于關(guān)鍵互聯(lián)網(wǎng)軟件中、已有 27 年歷史的漏洞。該 AI 系統(tǒng)還在一款熱門視頻軟件的代碼中找到一個(gè)存在 16 年的缺陷，而自動(dòng)化檢測工具此前已對(duì)其掃描過 500 萬次，卻始終未能發(fā)現(xiàn)。

　　Anthropic 研究產(chǎn)品管理主管黛安?佩恩表示，公司已設(shè)置防護(hù)措施，確保叢雀計(jì)劃參與方對(duì) Mythos 模型的訪問受到嚴(yán)格管控，但出于安全考慮，拒絕透露更多細(xì)節(jié)。