北京
Anthropic的Fellows項(xiàng)目最近放出一項(xiàng)新研究，專門用來扒開AI模型的"人格分裂"。他們發(fā)現(xiàn)，同一個(gè)問題扔給不同模型，得到的回答可能像來自兩個(gè)平行宇宙——不是對錯(cuò)之分，是行為模式根本對不上。
研究團(tuán)隊(duì)搞了個(gè)新方法，叫"行為差異表面化技術(shù)"。說白了，就是讓模型在受控環(huán)境下反復(fù)做同一類任務(wù)，然后記錄它們"下意識"的選擇偏好。比如給一段有歧義的法律條文，有的模型傾向嚴(yán)格解釋，有的則自動補(bǔ)全漏洞，這種差異以前很難量化。
項(xiàng)目負(fù)責(zé)人之一的Miles Turpin在博客里寫了一句挺扎心的：「我們以為模型只是在學(xué)知識，結(jié)果發(fā)現(xiàn)它們還在偷偷形成'性格'?！惯@種性格不是訓(xùn)練時(shí)寫進(jìn)去的，是參數(shù)規(guī)模、微調(diào)數(shù)據(jù)、甚至隨機(jī)種子共同發(fā)酵的產(chǎn)物。
測試覆蓋了Claude系列和多個(gè)開源模型。數(shù)據(jù)顯示，在涉及價(jià)值判斷的場景中，模型間的行為分歧度能達(dá)到300%以上——同一個(gè)倫理困境，一個(gè)選犧牲1人救5人，另一個(gè)直接拒絕作答，且雙方都能自圓其說。
這項(xiàng)研究沒給"哪種性格更好"下結(jié)論，只是把差異攤在桌上。但對用AI做決策的企業(yè)來說，這相當(dāng)于提醒：你雇的不是一個(gè)"標(biāo)準(zhǔn)答案生成器"，是一堆各有脾氣的外包員工。有早期用戶反饋，看完報(bào)告后第一件事是回去檢查自家產(chǎn)品的"模型一致性"設(shè)置——結(jié)果發(fā)現(xiàn)根本沒這選項(xiàng)。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
