北京
Anthropic推出玻璃翼項目，用AI防護AI網絡攻擊
亞馬遜、蘋果、谷歌等公司將使用Claude模型來增強其軟件防護能力。
我們經常看到關于人工智能潛在負面影響的擔憂報道，特別是它可能在網絡安全方面帶來的新問題。Anthropic宣布了一項名為"玻璃翼項目"的新倡議，旨在通過"保護全球最關鍵軟件"免受AI驅動攻擊來解決這些擔憂。該項目的合作伙伴包括亞馬遜云服務、蘋果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金會、微軟、英偉達和帕洛阿爾托網絡公司。
參與者將使用Claude Mythos Preview——Anthropic尚未發布的通用模型——來增強自己的安全項目。Anthropic聲稱該模型已發現數千個可利用的漏洞，"包括所有主要操作系統和網絡瀏覽器中的一些漏洞"。該公司表示希望開始防御性地使用其工具，以防止惡意使用AI可能對經濟和安全造成嚴重后果。
Anthropic已成為在該領域引發倫理關注的知名AI公司之一。今年早些時候，該公司拒絕為五角大樓移除其服務的安全防護措施，這促使國防部對Anthropic實施"供應鏈風險"制裁作為報復。推出玻璃翼項目可能是在AI時代改善網絡安全的有益開端，但一些損害已經造成。據報道，其自身的Claude在二月份被黑客用于攻擊墨西哥多個政府機構。
Q&A
Q1：玻璃翼項目是什么？有哪些公司參與？
A：玻璃翼項目是Anthropic推出的AI網絡安全防護倡議，旨在保護全球最關鍵軟件免受AI驅動的網絡攻擊。參與的合作伙伴包括亞馬遜云服務、蘋果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金會、微軟、英偉達和帕洛阿爾托網絡公司。
Q2：Claude Mythos Preview模型有什么特殊能力？
A：Claude Mythos Preview是Anthropic尚未發布的通用模型，它已經發現了數千個可利用的安全漏洞，包括所有主要操作系統和網絡瀏覽器中的一些漏洞。參與項目的公司將使用這個模型來增強自己的安全項目。
Q3：Anthropic為什么要推出這個項目？
A：Anthropic希望防御性地使用其AI工具，防止惡意使用AI可能對經濟和安全造成嚴重后果。該公司已成為在AI領域引發倫理關注的知名公司之一，此項目是其在AI時代改善網絡安全的重要舉措。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
