關(guān)鍵詞
漏洞
![]()
RSAC研究人員發(fā)現(xiàn)一種高成功率繞過蘋果Apple Intelligence AI安全協(xié)議的方法。
Apple Intelligence是深度集成于iOS、iPadOS和macOS的個人智能系統(tǒng),結(jié)合生成式AI與個人上下文。它主要通過緊湊的端側(cè)大語言模型在蘋果芯片上直接處理任務(wù),利用用戶獨特上下文(消息、照片和日程)為系統(tǒng)級寫作工具和Siri等功能提供支持。對于更復(fù)雜的推理,它通過私有云計算將請求卸載至蘋果專用云基礎(chǔ)設(shè)施上的更大基礎(chǔ)模型。
RSAC研究團隊對Apple Intelligence進行了安全審查,試圖繞過端側(cè)大語言模型的輸入輸出過濾器(用于阻止惡意輸入和防止不良輸出)及內(nèi)部防護欄以影響其行為。
為此,他們結(jié)合兩種對抗技術(shù)。第一種是Neural Execs——一種已知的提示注入攻擊,使用”亂碼”輸入欺騙AI執(zhí)行攻擊者定義的任意任務(wù),這些輸入作為通用觸發(fā)器無需針對不同載荷重新制作。
第二種方法是Unicode操縱。研究人員通過將惡意輸出文本反向書寫并使用Unicode從右至左覆蓋功能,成功繞過內(nèi)容限制。”本質(zhì)上,我們將惡意/冒犯性英文輸出文本反向編碼,使用Unicode技巧強制大語言模型正確渲染,”研究人員解釋。
結(jié)合兩種方法可使攻擊者強制端側(cè)Apple Intelligence大語言模型生成冒犯性內(nèi)容,或更關(guān)鍵地,操縱與Apple Intelligence集成的第三方應(yīng)用中的私有數(shù)據(jù)和功能,如健康數(shù)據(jù)或個人媒體。
該攻擊經(jīng)100個隨機提示測試,成功率達(dá)76%。研究人員估計,10萬至100萬用戶已安裝可能易受此類攻擊的應(yīng)用。
“RSAC估計,截至2025年12月,消費者手中已有至少2億臺支持Apple Intelligence的設(shè)備,蘋果應(yīng)用商店已出現(xiàn)使用Apple Intelligence的應(yīng)用——因此它已成為高價值目標(biāo),”研究人員指出。
蘋果于2025年10月接到通知,據(jù)RSAC研究,防護措施已在近期iOS 26.4和macOS 26.4中推出。研究人員尚未發(fā)現(xiàn)惡意利用的證據(jù)。
![]()
安全圈
![]()
網(wǎng)羅圈內(nèi)熱點 專注網(wǎng)絡(luò)安全
實時資訊一手掌握!
好看你就分享 有用就點個贊
支持「安全圈」就點個三連吧!
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.