信通院最新報告：百度文心飛槳協(xié)同優(yōu)化 推理性能提升百余倍

近日，中國信息通信研究院（簡稱“中國信通院”）對外發(fā)布《人工智能發(fā)展報告（2024年）》。報告指出，隨著國產(chǎn)深度學習框架技術能力不斷完善，百度飛槳等國產(chǎn)框架正快速崛起，基于國產(chǎn)框架的行業(yè)解決方案向垂直領域快速滲透。未來，人工智能逐步進入大規(guī)模賦能新型工業(yè)化階段，國產(chǎn)深度學習框架將迎來新一輪發(fā)展機遇，繼續(xù)加強滲透。

深度學習框架是支撐大模型技術創(chuàng)新的核心工具，對大模型技術發(fā)展至關重要。它通過提供高效開發(fā)環(huán)境、靈活擴展機制、模型復用與共享功能，以及分布式訓練與推理能力，極大簡化復雜算法的開發(fā)、優(yōu)化和實際應用過程，顯著降低大模型開發(fā)門檻，提高設計、訓練和部署深度學習模型的效率。以百度文心大模型為例，通過與飛槳框架協(xié)同優(yōu)化，其推理性能提升了百余倍。中國互聯(lián)網(wǎng)絡信息中心（CNNIC）不久前發(fā)布的《生成式人工智能應用發(fā)展報告（2024）》也強調，深度學習框架已成為生成式人工智能的迭代關鍵。

2022年以來，大模型行業(yè)飛速發(fā)展，全球大模型廠商的模型矩陣不斷擴充完善。信通院報告指出，在Scaling Law驅動下，大模型支持模態(tài)已逐步從自然語言處理拓展到多模態(tài)理解和生成等場景。2024年，大模型推理理解能力躍遷，并開始探索垂類領域應用落地。

語言、視覺和多模態(tài)三類基礎模型布局

截取自中國信息通信研究院《人工智能發(fā)展報告（2024年）》

在大模型技術快速迭代的要求下，大規(guī)模分布式訓練正成為框架發(fā)展的新發(fā)力點，百度飛槳所采納的集成分布式能力的一體化通用發(fā)展路徑，是這一進程中的重要路線之一。作為中國首個自主研發(fā)、功能豐富、開源開放的深度學習平臺，百度飛槳框架原生支持超大規(guī)模分布式訓練能力，推出端到端自適應分布式訓練技術，實現(xiàn)了低成本自動并行開發(fā)、最優(yōu)并行策略自動選擇和異步流水調度，突破了模型結構和硬件環(huán)境多樣導致的分布式訓練策略開發(fā)復雜、訓練性能調優(yōu)難的技術瓶頸。

公開數(shù)據(jù)顯示，截至2024年11月，百度飛槳文心開發(fā)者數(shù)量已達1808萬，服務了43萬家企業(yè)，創(chuàng)建了101萬個模型。

此外，2024年大模型應用也迎來了爆發(fā)。相較于傳統(tǒng)應用開發(fā)，智能應用開發(fā)的門檻大幅降低。報告認為，一方面，大模型服務化供給加速了智能技術的普惠化落地，Agent、RAG等框架成為常用AI 應用開發(fā)框架；另一方面，大模型應用開發(fā)工具趨于平臺化，不僅整合了必要的開發(fā)工具、框架與服務，還極大地簡化了從模型調用到應用部署的全過程，為開發(fā)者提供了高效、便捷的創(chuàng)新環(huán)境。例如，百度智能云千帆AppBuilder面向不同開發(fā)能力的用戶和開發(fā)場景，分別以零代碼態(tài)、低代碼態(tài)、代碼態(tài)的產(chǎn)品形態(tài)，幫助開發(fā)者構建AI原生應用。

展望未來，信通院報告表示，引入強化學習等技術來增強大模型能力仍是近期技術演進的重點方向，多模態(tài)模型、智能體有望加速突破。隨著人工智能賦能新型工業(yè)化向縱深發(fā)展，人工智能在實體經(jīng)濟中的應用場景將進一步拓展，加速向生產(chǎn)制造環(huán)節(jié)滲透，加速邁向全方位、深層次智能化轉型升級新階段。