百度智能云發(fā)布3款輕量級大模型，升級AI應(yīng)用開發(fā)平臺AppBuilder

3月21日，百度智能云召開千帆產(chǎn)品發(fā)布會，發(fā)布包括ERNIE Speed、ERNIE Lite、ERNIE Tiny在內(nèi)的三款輕量級大模型，宣布升級產(chǎn)業(yè)級AI原生應(yīng)用開發(fā)平臺千帆AppBuilder，大幅降低AI原生應(yīng)用開發(fā)門檻，提升開發(fā)效率。

ERNIE Speed、ERNIE Lite、ERNIE Tiny，參數(shù)量由大到小，分別適用于在特定場景作為基座模型進行精調(diào)，兼顧模型效果與推理性能并搭載低算力AI加速卡進行推理，適配極致低成本和低延遲應(yīng)用。

此外，百度智能云ModelBuilder還基于百度自身業(yè)務(wù)沉淀，推出了ERNIE Character和ERNIE Functions兩款垂直場景大模型，分別適配客戶在角色扮演類應(yīng)用場景（如游戲NPC、客服對話等）、工具調(diào)用場景（對話中使用外部工具、調(diào)用業(yè)務(wù)函數(shù)等）中的不同使用需求。企業(yè)無需再額外精調(diào)，可直接應(yīng)用專有模型來開發(fā)智能助理。

升級后的AppBuilder底層由基礎(chǔ)組件和高級組件構(gòu)成，總數(shù)多達55個。作為基礎(chǔ)組件的代表，全新發(fā)布百度向量數(shù)據(jù)庫VDB1.0，幫助企業(yè)輕松管理數(shù)以千萬計的文檔知識，最大支持百億向量存儲規(guī)模、秒級的向量檢索速度，相比同類型開源產(chǎn)品，VDB1.0性能最高提升10倍。

AppBuilder預(yù)置的Agent（智能體）應(yīng)用框架，具備精準的任務(wù)自主規(guī)劃能力，對多種應(yīng)用工具的自動編排準確率超過90%。同時，支持開發(fā)者接入自定義工具，通過將自動編排與手動編排相結(jié)合，實現(xiàn)更復(fù)雜場景應(yīng)用的需求定制。代碼解釋器作為Agent框架內(nèi)的核心能力，大幅提升40%的性能、在數(shù)據(jù)分析場景的生成結(jié)果可接受度高達95%。

面向零代碼態(tài)開發(fā)，升級后的千帆AppBuilder最快三步即可完成Agent應(yīng)用構(gòu)建（一句話生成應(yīng)用、應(yīng)用適配自動優(yōu)化、多渠道一鍵發(fā)布）。開發(fā)完成后，應(yīng)用可多渠道分發(fā)與集成，AppBuilder支持將應(yīng)用一鍵分發(fā)到微信客服、微信公眾號、Web端/H5及百度靈境矩陣等主流渠道。基于百度靈境矩陣，應(yīng)用可在百度搜索、百度信息流等主流場景分發(fā)與掛載。真正實現(xiàn)應(yīng)用開發(fā)出來后，就直接觸達用戶，打通從AI原生應(yīng)用創(chuàng)建到開發(fā)再到分發(fā)的全流程。

百度副總裁謝廣軍表示，千帆大模型平臺發(fā)布一周年以來，已經(jīng)累計服務(wù)超過8萬家企業(yè)用戶，累計幫助企業(yè)用戶精調(diào)1.3萬個大模型，基于千帆平臺開發(fā)的應(yīng)用數(shù)超過了16萬個。

“千帆平臺自發(fā)布以來一直保持高速增長，跟去年12月比，千帆的日均調(diào)用量季度環(huán)比增長了97%，翻了近一倍。千帆平臺服務(wù)客戶數(shù)突破了8萬，最近一個月就增長了近1萬。”謝廣軍表示：“從這些數(shù)據(jù)可以看到，大模型已經(jīng)真正進入到了快速增長的階段，2024年將成為國內(nèi)大模型產(chǎn)業(yè)應(yīng)用爆發(fā)的元年。”

不過，謝廣軍表示，去年一整年在和企業(yè)的接觸中發(fā)現(xiàn)，大模型真正實現(xiàn)產(chǎn)業(yè)化落地還面臨：落地場景需要探索、如何大幅降低大模型訓(xùn)練和推理成本、如何大幅降低應(yīng)用開發(fā)門檻、如何提升應(yīng)用效果4大挑戰(zhàn)。