紅帽(Red Hat)在去年收購(gòu) Neural Magic 以強(qiáng)化其開(kāi)源 AI 能力后,今日宣布再度收購(gòu)一家人工智能公司,繼續(xù)加碼企業(yè)級(jí) AI 業(yè)務(wù)布局。此次被收購(gòu)的對(duì)象為 Chatterbox Labs,這是一家成立于 2011 年的私營(yíng)公司,聚焦于 AI 模型測(cè)試以及生成式 AI 的安全防護(hù)(“護(hù)欄”)能力。
![]()
Chatterbox Labs 提供名為 AIMI 的平臺(tái),可對(duì) AI 風(fēng)險(xiǎn)給出量化指標(biāo),并提供一系列圍繞模型行為與風(fēng)險(xiǎn)管理的功能,幫助企業(yè)評(píng)估和控制模型在實(shí)際應(yīng)用中的不當(dāng)輸出與潛在風(fēng)險(xiǎn)。
紅帽表示,隨著企業(yè)將 AI 項(xiàng)目從實(shí)驗(yàn)階段推向生產(chǎn)環(huán)境,對(duì)模型偏見(jiàn)、有害內(nèi)容(toxicity)以及各類(lèi)漏洞的持續(xù)監(jiān)測(cè)已成為必選項(xiàng),AI 安全測(cè)試與“護(hù)欄”能力正在成為現(xiàn)代 MLOps 與 LLMOps 平臺(tái)的“基礎(chǔ)門(mén)檻”。
紅帽在聲明中指出,這筆收購(gòu)旨在直接回應(yīng)“AI 安全”需求的快速上升,希望通過(guò)整合 Chatterbox Labs 的技術(shù),為客戶提供一個(gè)更完整的企業(yè)級(jí)開(kāi)源 AI 平臺(tái),使其能夠“有信心地在生產(chǎn)環(huán)境中運(yùn)行 AI 工作負(fù)載”。通過(guò)將 Chatterbox Labs 的技術(shù)納入現(xiàn)有產(chǎn)品矩陣,紅帽希望在保障安全與合規(guī)的前提下,幫助企業(yè)更順暢地推進(jìn)大模型與生成式 AI 的落地應(yīng)用。
在產(chǎn)品路線方面,紅帽表示,Chatterbox Labs 的技術(shù)將與近期發(fā)布的 Red Hat AI 3 形成互補(bǔ),為該平臺(tái)增加更完善的安全測(cè)試與風(fēng)險(xiǎn)管理能力。
公司同時(shí)重申其一貫的開(kāi)源路線:未來(lái)計(jì)劃逐步將此次收購(gòu)所獲得的相關(guān) AI 技術(shù)開(kāi)源,以擴(kuò)大社區(qū)采用并推動(dòng)創(chuàng)新。
紅帽在公告中稱,其長(zhǎng)期以來(lái)采用的模式,是先收購(gòu)專(zhuān)有技術(shù),再通過(guò)開(kāi)源方式推動(dòng)技術(shù)演進(jìn)及生態(tài)繁榮,本次交易也將延續(xù)這一“標(biāo)準(zhǔn)開(kāi)源開(kāi)發(fā)模式”。隨著 Chatterbox Labs 技術(shù)的分階段開(kāi)源,這些關(guān)鍵的 AI 安全工具也將逐步向更廣泛的社區(qū)開(kāi)放,從而讓更多組織受益于在偏見(jiàn)控制、安全審查與風(fēng)險(xiǎn)量化方面的能力。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.