![]()
美國(guó)三大AI實(shí)驗(yàn)室正在共享一份"黑名單"。
據(jù)彭博社報(bào)道,OpenAI、Anthropic和Google已通過(guò)"前沿模型論壇"(Frontier Model Forum)建立情報(bào)共享機(jī)制,目標(biāo)直指中國(guó)廠商的"對(duì)抗性蒸餾"(adversarial distillation)。這不是技術(shù)交流,是防御同盟——三家曾互相挖角訴訟的公司,第一次為同一個(gè)敵人坐下來(lái)交換數(shù)據(jù)。
蒸餾術(shù):從學(xué)術(shù)演示到商業(yè)武器
模型蒸餾的原理并不復(fù)雜。用現(xiàn)有大模型的輸出結(jié)果去訓(xùn)練一個(gè)更小的模型,就能以極低成本復(fù)制八成能力。2023年斯坦福的Alpaca項(xiàng)目首次驗(yàn)證可行性時(shí),業(yè)界只當(dāng)是有趣的技術(shù)演示。
但兩年過(guò)去,這套方法已被中國(guó)廠商工業(yè)化。
OpenAI今年2月向國(guó)會(huì)提交的警告顯示,DeepSeek正在使用"日益復(fù)雜的技術(shù)手段"提取其模型數(shù)據(jù)。Anthropic則點(diǎn)名三家具體廠商:DeepSeek、Moonshot、MiniMax。美國(guó)官方估算,這種未經(jīng)授權(quán)的蒸餾每年讓美國(guó)AI實(shí)驗(yàn)室損失數(shù)十億美元收入——相當(dāng)于一家中等規(guī)模上市公司的全年?duì)I收被蒸發(fā)。
從互相訴訟到共享情報(bào)
合作模式直接照搬網(wǎng)絡(luò)安全行業(yè)。
在網(wǎng)絡(luò)安全領(lǐng)域,競(jìng)爭(zhēng)對(duì)手共享攻擊數(shù)據(jù)是常態(tài)——某家公司發(fā)現(xiàn)的漏洞特征,幾小時(shí)內(nèi)就會(huì)出現(xiàn)在全行業(yè)的防御系統(tǒng)里。前沿模型論壇2023年成立時(shí)定位模糊,現(xiàn)在終于找到了具體戰(zhàn)場(chǎng):識(shí)別蒸餾攻擊的指紋特征,比如異常高頻的API調(diào)用模式、特定結(jié)構(gòu)的提示詞注入。
這種轉(zhuǎn)變本身說(shuō)明問(wèn)題嚴(yán)重性。OpenAI和Anthropic的CEO曾在X平臺(tái)公開互嗆,Google DeepMind與OpenAI的人才訴訟持續(xù)多年。能讓這三家放下恩怨,說(shuō)明對(duì)抗性蒸餾已從 nuisance(滋擾)升級(jí)為 existential threat(生存威脅)。
技術(shù)戰(zhàn)的灰色地帶
爭(zhēng)議點(diǎn)在于:蒸餾的邊界在哪里?
用公開API獲取輸出訓(xùn)練自有模型,是否構(gòu)成"未經(jīng)授權(quán)"?行業(yè)慣例尚未形成。OpenAI自己的服務(wù)條款禁止用輸出開發(fā)競(jìng)爭(zhēng)模型,但執(zhí)行層面幾乎不可能追蹤數(shù)據(jù)流向。Anthropic和Google的條款類似,但三家對(duì)"競(jìng)爭(zhēng)"的定義寬窄不一。
更棘手的是,蒸餾技術(shù)本身完全合法。微軟、亞馬遜云服務(wù)的官方文檔甚至教客戶如何用蒸餾優(yōu)化模型。區(qū)分"正當(dāng)優(yōu)化"與"惡意復(fù)制"的技術(shù)標(biāo)準(zhǔn),目前掌握在OpenAI等公司的風(fēng)控團(tuán)隊(duì)手中——既是運(yùn)動(dòng)員又是裁判。
彭博社的報(bào)道未提及中國(guó)廠商的回應(yīng)。DeepSeek此前否認(rèn)使用未授權(quán)數(shù)據(jù),稱其模型訓(xùn)練依賴公開資料和合成數(shù)據(jù)。但OpenAI向國(guó)會(huì)提交的證據(jù)細(xì)節(jié)尚未公開,這場(chǎng)羅生門短期內(nèi)不會(huì)有結(jié)論。
前沿模型論壇的下一步動(dòng)作值得觀察:共享情報(bào)會(huì)止步于檢測(cè)蒸餾,還是會(huì)擴(kuò)展到模型權(quán)重泄露、內(nèi)部員工異動(dòng)等更深層的防御?當(dāng)三家巨頭開始像網(wǎng)絡(luò)安全公司一樣運(yùn)營(yíng),AI行業(yè)的競(jìng)爭(zhēng)規(guī)則正在被重寫——只是沒人確定,新規(guī)則保護(hù)的是創(chuàng)新投入,還是先發(fā)者的護(hù)城河。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.