北京
4月15日消息，美國(guó)時(shí)間周二，OpenAI發(fā)布其最新旗艦人工智能模型的變體GPT-5.4-Cyber。該模型專為防御性網(wǎng)絡(luò)安全任務(wù)進(jìn)行微調(diào)。
就在4月7日，Anthropic剛剛推出前沿AI模型Mythos，并在其Project Glasswing下進(jìn)行內(nèi)測(cè)。該計(jì)劃采取定向邀請(qǐng)制，授權(quán)特定機(jī)構(gòu)將Claude Mythos預(yù)覽版應(yīng)用于網(wǎng)絡(luò)防御。據(jù)悉，Mythos現(xiàn)已在各大操作系統(tǒng)、瀏覽器及底層軟件中排查出數(shù)千個(gè)高危漏洞。
針對(duì)GPT-5.4-Cyber的發(fā)布，OpenAI表示，鑒于該模型的網(wǎng)絡(luò)操作權(quán)限更為寬松，初期將僅向通過審核的安全供應(yīng)商、機(jī)構(gòu)及研究人員進(jìn)行定向開放。
該公司在官方聲明中指出，正將其“網(wǎng)絡(luò)安全信任訪問”（TAC）計(jì)劃的覆蓋范圍，擴(kuò)大至數(shù)千名經(jīng)身份驗(yàn)證的個(gè)人安全專家及數(shù)百個(gè)負(fù)責(zé)關(guān)鍵軟件安全的團(tuán)隊(duì)。OpenAI為今年2月啟動(dòng)的TAC計(jì)劃增設(shè)了全新的分級(jí)訪問機(jī)制。通過最高等級(jí)審核的用戶將獲得GPT-5.4-Cyber的訪問權(quán)限，在處理漏洞研究與分析等敏感任務(wù)時(shí)，其受到的系統(tǒng)限制將顯著減少。
據(jù)介紹，GPT-5.4-Cyber放寬了模型針對(duì)合法網(wǎng)絡(luò)安全指令的拒絕邊界，并支持二進(jìn)制逆向工程（Binary Reverse Engineering）等高級(jí)防御工作流。該功能允許安全專業(yè)人員在無源代碼的情況下，分析已編譯軟件，以探測(cè)潛在漏洞及惡意軟件風(fēng)險(xiǎn)。
然而，由于模型權(quán)限較高，OpenAI強(qiáng)調(diào)將采取有限且迭代的部署方式。在“零數(shù)據(jù)保留”（ZDR）等缺乏透明度的使用場(chǎng)景中，或通過第三方平臺(tái)訪問時(shí)，由于OpenAI無法直接監(jiān)控用戶、運(yùn)行環(huán)境及請(qǐng)求意圖，該模型的高級(jí)權(quán)限可能會(huì)受到限制。目前，個(gè)人用戶可通過官網(wǎng)驗(yàn)證身份申請(qǐng)加入TAC計(jì)劃，企業(yè)用戶則可經(jīng)由專屬代表為其團(tuán)隊(duì)申請(qǐng)信任訪問權(quán)限。
應(yīng)對(duì)能力進(jìn)化：算力飆升下的防御升級(jí)
面對(duì)AI技術(shù)在網(wǎng)絡(luò)攻防兩端的雙向應(yīng)用，OpenAI重申了其推進(jìn)網(wǎng)絡(luò)防御計(jì)劃的三項(xiàng)核心原則：訪問權(quán)限普惠化、迭代部署與生態(tài)系統(tǒng)韌性。
OpenAI在聲明中特別警示，隨著黑客與防御者開始在現(xiàn)有模型上使用更多的“測(cè)試時(shí)算力”(test-time compute)，結(jié)合復(fù)雜的提示詞框架，模型正被激發(fā)出越來越強(qiáng)的能力邊界。這意味著安全保障措施不能坐等未來的某個(gè)單一閾值，而必須與模型能力同步擴(kuò)展。
在訪問權(quán)限方面，OpenAI計(jì)劃通過“了解你的客戶”(KYC)和身份驗(yàn)證等客觀標(biāo)準(zhǔn)，決定高級(jí)功能的訪問歸屬，以確保合法機(jī)構(gòu)能獲取先進(jìn)防御能力，同時(shí)防范技術(shù)濫用。在部署策略上，公司將通過實(shí)際應(yīng)用持續(xù)更新模型和安全系統(tǒng)，提升模型對(duì)抗“越獄”等對(duì)抗性攻擊的韌性。
根據(jù)OpenAI的“準(zhǔn)備狀態(tài)框架”，基礎(chǔ)版GPT-5.4已被評(píng)估為具備“高”網(wǎng)絡(luò)攻防能力評(píng)級(jí)。回顧其技術(shù)路徑，該公司自GPT-5.2起便引入了針對(duì)網(wǎng)絡(luò)安全的特定訓(xùn)練。為支持防御者生態(tài)，OpenAI此前發(fā)布了自動(dòng)代碼審計(jì)工具Codex Security。數(shù)據(jù)顯示，該工具自發(fā)布以來，已協(xié)助開發(fā)者修復(fù)逾3000個(gè)關(guān)鍵及高危漏洞。
展望后續(xù)產(chǎn)品，OpenAI評(píng)估認(rèn)為，現(xiàn)有的安全保障措施足以支撐當(dāng)前模型的廣泛部署。但隨著未來AI模型能力逐步超越現(xiàn)有的專用工具，業(yè)界需要同步構(gòu)建更為廣泛和嚴(yán)密的防御機(jī)制。（易句）
（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對(duì)）
本文來源：網(wǎng)易智能
責(zé)任編輯：
王鳳枝_NT2541
