百度發(fā)布多款AI原生云產品，侯震宇稱大模型正在重構云計算

12月20日，在2023百度云智大會·智算大會上，百度一口氣發(fā)布了AI異構計算平臺“百舸3.0”、智算網絡平臺、自研云原生數據庫GaiaDB 4.0等新產品。

其中，百舸3.0針對AI原生應用以及大模型的訓練、推理等環(huán)節(jié)進行了全面的專項優(yōu)化升級。支持萬卡級別超大規(guī)模AI集群計算；相比自建智算基礎設施可以實現(xiàn)模型訓、推吞吐分別最高提升30%和60%；在資源利用方面，能夠實現(xiàn)98%的超高集群有效訓練時間占比，95%的網絡帶寬有效利用率，充分釋放集群有效算力。

智算網絡平臺針對AI原生時代智能算力的供給平衡問題，支持將百度及第三方建設的智算中心、超算中心、邊緣節(jié)點等智算節(jié)點進行全域接入，將分散和異構的算力資源連接起來，形成統(tǒng)一的算力網絡資源池，再通過百度自主研發(fā)的先進算力調度算法，智能分析各類算力資源的狀態(tài)、性能和利用率等指標進行統(tǒng)一調度，能夠有效提升智算產業(yè)資源利用率。

云原生數據庫GaiaDB 4.0增強了并行查詢能力，突破單機計算瓶頸，實現(xiàn)跨機多核并行查詢，在混合負載和實時分析業(yè)務場景中性能提升超過10倍。

百度集團副總裁侯震宇強調，AI原生時代，面向大模型的基礎設施體系需要全面重構，為構建繁榮的AI原生生態(tài)筑牢底座。

侯震宇表示：“大模型重構云計算主要體現(xiàn)在三個層面：AI原生云將改變云計算的格局，MaaS ( Model as a Service ，模型即服務）會成為新的基礎服務，AI原生應用催生新的研發(fā)范式。”

1、在算力層，計算更智能

在底層的云基礎設施層，以往從互聯(lián)網應用到移動互聯(lián)網應用，底層都基于CPU計算芯片，而AI應用對GPU或異構計算的需求大幅增加，云市場的底層算力開始遷移到以GPU為主。

2023年第三季度，英偉達的營收已經超過英特爾，英偉達最新市值也超過英特爾1萬億美元，未來GPU的增長將遠大于CPU。在這一趨勢下，我們需要對面向大模型的云計算基礎設施體系進行全面重構，以支撐AI原生應用系統(tǒng)落地。

具體來說，云計算的全面重構會表現(xiàn)在三大領域，即：面向模型的智算基礎設施、面向數據的數據基礎設施、面向應用的云基礎設施全面升級，讓計算更智能。

2、在模型層，大模型正在成為通用的服務能力，即MaaS

MaaS將大幅降低Al落地的門檻、實現(xiàn)真正的Al普惠，其依賴的新型IT基礎設施也將進一步在底層顛覆現(xiàn)有的云計算市場格局。

從百度智能云的實踐來看，自8月31日文心一言全面開放后至今的4個月，百度智能云千帆大模型平臺（百度智能云推出的MaaS平臺）上，API日調用量增長10倍，客戶主要來自互聯(lián)網、教育、電商、營銷、手機、汽車等各行業(yè)。可以明顯看到，最近半年，已經有很多企業(yè)真正把大模型用起來了。

3、在應用層，應用開發(fā)的范式已經被徹底顛覆

大模型理解、生成、邏輯、記憶的獨特能力會催生A原生應用研發(fā)新范式，整個應用技術棧、數據流和業(yè)務流都將被改變。

原先基于CPU的應用開發(fā)主要是業(yè)務邏輯驅動，傳統(tǒng)的AI研發(fā)需要針對每一個獨立場景獲取數據，再分別從頭訓練模型。而現(xiàn)在AI原生應用主要基于大模型能力，以數據驅動開發(fā)。企業(yè)可直接在基礎大模型之上，利用場景數據微調出專屬大模型，再用模型能力設計AI原生應用，無需從頭訓練大模型。隨著企業(yè)業(yè)務擴大，逐漸積累出更多有競爭力的場景數據，進而反哺模型和應用效果提升，從而形成數據飛輪。

具體來說，大模型驅動的AI原生應用研發(fā)新范式展現(xiàn)出幾個新變化：

首先是“新場景”。生成式大語言模型，在理解、生成、推理、記憶等多維度展現(xiàn)出超預期的能力，帶來了智能涌現(xiàn)，由此催生了很多新的可落地的業(yè)務場景應用，如個人助理、智能文案創(chuàng)作、GBI（智能商業(yè)分析）、編碼助手等。

第二是“新架構”。大模型具體在這些新場景落地的過程中，也產生了很多新的系統(tǒng)架構，如檢索增強生成RAG，智能體Agent 等。

第三是“新開發(fā)生態(tài)”。以大模型為核心，開發(fā)者工具層也出現(xiàn)了一些新工具，包括編排工具LangChain、AI應用開發(fā)工具PromptFlow、數據框架Llamalndex等。
侯震宇表示，總體來說，構建繁榮的A原生應用生態(tài)，需要大模型、智能算力、
AI原生應用研發(fā)新范式三要素相輔相成。大模型是AI原生應用的“大腦”，智能計算則為AI原生應用運行提供堅實支撐，新研發(fā)范式助力開發(fā)者高效基于大模型能力開發(fā)應用。數據飛輪是成功的AI原生應用的充分必要條件，讓大模型能力高速迭代，產品體驗持續(xù)進步。

“我相信，真正非常閃耀的AI原生應用會在2024年誕生。”侯震宇說。