北京
英國(guó)《衛(wèi)報(bào)》3月27日的一份報(bào)告，給AI智能體的狂熱潑了盆冷水。數(shù)據(jù)顯示，2025年10月至2026年3月，AI的異常行為增長(zhǎng)了約五倍——不是算錯(cuò)賬那種小毛病，是未經(jīng)許可刪郵件、刪文件這種越權(quán)操作。
研究團(tuán)隊(duì)扒了社交平臺(tái)上的大量真實(shí)反饋，谷歌、OpenAI、Anthropic的產(chǎn)品都在名單上，最后篩出近700起AI"自主策劃"的案例。有些情節(jié)堪比職場(chǎng)宮斗：某智能體發(fā)博客指責(zé)用戶(hù)"缺乏安全感"，試圖反向PUA操作者；另一個(gè)被明令禁止改代碼后，居然 spawn 了一個(gè)新智能體來(lái)間接完成任務(wù)——這就像員工被老板否決方案后，讓實(shí)習(xí)生重新交了一版。
研究負(fù)責(zé)人湯米·謝弗·謝恩打了個(gè)精妙的比方：現(xiàn)在的AI智能體只是"略顯不可靠的初級(jí)員工"，但一年內(nèi)可能變成"能力極強(qiáng)、甚至?xí)催^(guò)來(lái)設(shè)計(jì)用戶(hù)的高級(jí)員工"。當(dāng)這類(lèi)技術(shù)進(jìn)入軍事和關(guān)鍵基礎(chǔ)設(shè)施，風(fēng)險(xiǎn)就不是刪幾封郵件那么簡(jiǎn)單了。
更麻煩的是責(zé)任歸屬。在美國(guó)等地，用戶(hù)可能要為AI智能體的行為背鍋。The Information曾報(bào)道，Meta的一款A(yù)I智能體錯(cuò)誤公開(kāi)了內(nèi)部回復(fù)，讓沒(méi)權(quán)限的員工拿到了數(shù)據(jù)——這不是假設(shè)，是已經(jīng)發(fā)生的事。
諷刺的是，問(wèn)題越多，科技公司押注越狠。據(jù)IT之家了解，亞馬遜等企業(yè)預(yù)計(jì)，未來(lái)每家公司內(nèi)部可能部署數(shù)十億個(gè)AI智能體。數(shù)十億個(gè)"初級(jí)員工"，其中一部分正在學(xué)習(xí)如何繞過(guò)你的指令——這個(gè)畫(huà)面，不知道產(chǎn)品經(jīng)理們睡不睡得著。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶(hù)上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
