螞蟻數(shù)科王磊：垂直大模型訓(xùn)練成本呈百倍級(jí)下降，金融AI落地需構(gòu)建“可信智能體”三大基石 | Alpha峰會(huì)

12月20日，在華爾街見聞和中歐國(guó)際工商學(xué)院聯(lián)合主辦的「Alpha峰會(huì)」上，螞蟻數(shù)科AI原生事業(yè)部總經(jīng)理王磊發(fā)表題為《探索金融AI深水區(qū)--大模型垂直落地的實(shí)踐與啟示》的演講。

他表示，隨著DeepSeek、Qwen等開源基礎(chǔ)模型的出現(xiàn)，行業(yè)大模型落地不再依賴昂貴的預(yù)訓(xùn)練，而是轉(zhuǎn)向“后訓(xùn)練”模式。這一轉(zhuǎn)變使得金融垂類模型的迭代周期從數(shù)月縮短至兩周，算力需求從“萬(wàn)卡”降至“百卡”，訓(xùn)練成本實(shí)現(xiàn)百倍級(jí)下降，大幅降低了產(chǎn)業(yè)應(yīng)用門檻。

他認(rèn)為，在金融等嚴(yán)肅產(chǎn)業(yè)落地AI，必須關(guān)注嚴(yán)謹(jǐn)性、專業(yè)性和遵從性。他強(qiáng)調(diào)，大模型無法完全避免幻覺，甚至隨著推理能力提升幻覺可能增強(qiáng)。因此，構(gòu)建一套壓制幻覺的體系和方法論，是面向垂直行業(yè)應(yīng)用大模型的第一要?jiǎng)?wù)，必須守住安全底線。

他并指出，金融行業(yè)落地大模型的核心在于構(gòu)建“可信智能體”，這需要三大基石：一是疊加行業(yè)數(shù)據(jù)的“金融大模型”作為大腦；二是補(bǔ)充時(shí)效性與私有數(shù)據(jù)的“金融知識(shí)庫(kù)”作為經(jīng)驗(yàn)；三是連接業(yè)務(wù)系統(tǒng)的“金融工具集”作為雙手，三者結(jié)合才能讓AI像專業(yè)員工一樣工作。

螞蟻數(shù)科AI原生事業(yè)部總經(jīng)理王磊還表示，大模型在產(chǎn)業(yè)中的應(yīng)用不僅是一場(chǎng)技術(shù)革命，更是一次業(yè)務(wù)戰(zhàn)略的重塑。他呼吁企業(yè)不應(yīng)只做平庸的中立者，而應(yīng)突破既有工作流程的條條框框，思考如何讓大模型重塑所有的業(yè)務(wù)流和工作流，從而帶來真正的產(chǎn)業(yè)價(jià)值。

以下為演講精彩觀點(diǎn)：

隨著DeepSeek的問世，首批面臨淘汰的是那些專注于基礎(chǔ)模型研發(fā)的企業(yè)，這促使整個(gè)行業(yè)將關(guān)注重心轉(zhuǎn)向應(yīng)用落地。
大模型的問世帶來了自然語(yǔ)言理解領(lǐng)域的革命性突破，這一核心能力極大地降低了人機(jī)交互的門檻。
產(chǎn)業(yè)界無需再單純依靠堆砌海量算力與人力，或購(gòu)買大量數(shù)據(jù)進(jìn)行模型重訓(xùn)。我們已探索出一條切實(shí)可行的產(chǎn)業(yè)落地路徑，即通過疊加垂直領(lǐng)域的專業(yè)數(shù)據(jù)來賦能模型。
我們必須正視大模型這把“雙刃劍”。在深入應(yīng)用大模型的過程中，構(gòu)建一套有效抑制“幻覺”的體系與方法論，是面向垂直行業(yè)應(yīng)用時(shí)的首要任務(wù)。
模型的構(gòu)建決定了能力的上限，而安全能力則是不可逾越的底線。
評(píng)測(cè)是大模型應(yīng)用的起點(diǎn)。智能體的構(gòu)建并非一次性的軟件交付，而是一個(gè)持續(xù)培養(yǎng)與迭代優(yōu)化的過程。
以往的預(yù)訓(xùn)練模型往往依賴萬(wàn)卡集群，而訓(xùn)練此類金融垂直領(lǐng)域模型僅需百卡規(guī)模，算力需求實(shí)現(xiàn)了兩個(gè)數(shù)量級(jí)的縮減。
推動(dòng)AI在產(chǎn)業(yè)界落地時(shí)，需關(guān)注眾多可信特征。將其高度概括，核心在于三點(diǎn)：嚴(yán)謹(jǐn)性、專業(yè)性與遵從性。
將大模型應(yīng)用于產(chǎn)業(yè)時(shí)，我不愿止步于平庸的中立立場(chǎng)，而堅(jiān)定地選擇變革的一方，即致力于“戰(zhàn)略重塑”。
在探討大模型于業(yè)務(wù)及工作流程中的作用時(shí)，我們需要突破既有框架的束縛，致力于利用大模型全面重塑現(xiàn)有的工作流程。

以下為演講實(shí)錄：

尊敬的各位朋友：

很高興今天能有機(jī)會(huì)與大家分享螞蟻集團(tuán)過去一年在大模型金融行業(yè)落地過程中的思考與實(shí)踐。

這一主題的分享在當(dāng)下正當(dāng)其時(shí)。因?yàn)槲覀冋幱诋a(chǎn)業(yè)擁抱 AI 的關(guān)鍵節(jié)點(diǎn)，而這個(gè)節(jié)點(diǎn)的源頭可以追溯到十年前。

一、AI 發(fā)展的十年歷程與變革

回顧過去十幾年，這是 AI 浪潮蓬勃發(fā)展的十年，大家也能切身感知到 AI 給生活帶來的顯著變化。這張圖將螞蟻集團(tuán)在 AI 領(lǐng)域的探索與主要產(chǎn)品緊密連接，展示了技術(shù)發(fā)展的脈絡(luò)。

我們可以用技術(shù)語(yǔ)言來標(biāo)記這個(gè)起點(diǎn)：2012 年，當(dāng)時(shí)，大家可能不熟悉 AlexNet 這家公司，但或許聽說過“卷積神經(jīng)網(wǎng)絡(luò)”。在那年美國(guó)的 ImageNet 大賽中，AlexNet 憑借卷積神經(jīng)網(wǎng)絡(luò)大幅提升了圖像識(shí)別的準(zhǔn)確度、速度和效率，以大幅領(lǐng)先第二名的優(yōu)勢(shì)取得了優(yōu)異成績(jī)。自此，行業(yè)內(nèi)誕生了如曠視科技、?？低暤却罅恳宰R(shí)別為核心技術(shù)的公司。如今道路上廣泛使用的攝像頭進(jìn)行車牌和人臉識(shí)別的高效運(yùn)作，皆源于此起點(diǎn)。

同樣在 2012 年，支付寶推出了革命性的移動(dòng)支付技術(shù)——二維碼支付。其識(shí)別效率的提升并真正走進(jìn)千家萬(wàn)戶，歸功于 AI 技術(shù)。2016 年，AlphaGo 戰(zhàn)勝韓國(guó)圍棋世界冠軍李世石，打破了人類對(duì)圍棋這一“掌上明珠”不可被戰(zhàn)勝的認(rèn)知，證明了強(qiáng)化學(xué)習(xí)構(gòu)建的決策模型在復(fù)雜決策領(lǐng)域已能超越人類。

此后，我們將決策模型廣泛應(yīng)用于生活。例如余額寶、花唄、借唄、網(wǎng)商貸等產(chǎn)品，其背后的服務(wù)主體并非人力，而是人工智能。普惠金融建立在 AI 基礎(chǔ)之上，通過模型我們要么能快速識(shí)別授信額度與放款時(shí)長(zhǎng)，識(shí)別真正的需求者與潛在的欺詐風(fēng)險(xiǎn)。

決策模型的出現(xiàn)，讓大眾享受到了 AI 的價(jià)值。如果說彼時(shí)還是“小模型”時(shí)代，那么 2022 年 OpenAI 發(fā)布的 ChatGPT 則開啟了“大模型”時(shí)代，參數(shù)量從萬(wàn)級(jí)躍升至萬(wàn)億級(jí)。大模型（常被稱為 AIGC 生成模型）的核心價(jià)值在于自然語(yǔ)言理解的革命性突破。從文本理解到多模態(tài)（圖片、音頻、視頻）的識(shí)別與生成，其本質(zhì)變革在于極大地降低了人機(jī)交互的門檻。

縱觀計(jì)算機(jī)產(chǎn)業(yè)過去三十年，每一次人機(jī)交互效率的提升與門檻的降低，都會(huì)引發(fā)影響未來五至二十年的產(chǎn)業(yè)革命。從微軟到 iPhone 再到如今的大模型，這一進(jìn)程不可逆轉(zhuǎn)且奔涌向前。

二、螞蟻集團(tuán)的 AI 產(chǎn)業(yè)布局與智能體元年

在此過程中，阿里巴巴與螞蟻集團(tuán)也在適應(yīng)科技變化，推出了一系列 AI 應(yīng)用，如醫(yī)療領(lǐng)域的“阿?！保ㄔ?AQ）、金融大模型應(yīng)用“螞小財(cái)”、多模態(tài)助手“靈光”以及阿里集團(tuán)旗下的眾多 AI 助手。

當(dāng)前 ToC 領(lǐng)域格局已趨于明確。今天我想重點(diǎn)探討產(chǎn)業(yè)化 ToB 領(lǐng)域。螞蟻數(shù)科作為螞蟻集團(tuán)旗下致力于產(chǎn)業(yè) AI 賦能的 ToB 科技公司，我們認(rèn)為今年是 AI Agent（智能體）元年。

過去幾年，大模型構(gòu)建往往局限于擁有大量數(shù)據(jù)、算力和人才的大公司，高昂的門檻使其對(duì)許多企業(yè)而言可望不可及。如果產(chǎn)業(yè)應(yīng)用的前提是必須自研大模型，則無法實(shí)現(xiàn)真正的產(chǎn)業(yè)化。

但今年 DeepSeek 等開源模型的出現(xiàn)改變了這一局面。它們不僅提供了優(yōu)秀的算法，更代表了基礎(chǔ)模型向全行業(yè)的開放。這使得產(chǎn)業(yè)界無需再通過堆砌資源進(jìn)行預(yù)訓(xùn)練，而是找到了一條行之有效的落地路徑：在開源基礎(chǔ)模型（如 DeepSeek、通義千問、螞蟻百靈）基礎(chǔ)上，疊加產(chǎn)業(yè)垂直領(lǐng)域數(shù)據(jù)進(jìn)行后訓(xùn)練。這一模式將模型迭代周期從三至六個(gè)月縮短至一個(gè)月甚至兩周，極大降低了垂類應(yīng)用的門檻，促使行業(yè)目光從基礎(chǔ)模型轉(zhuǎn)向應(yīng)用層。

三、 金融行業(yè)大模型落地的痛點(diǎn)與“可信智能體”

關(guān)于大模型是否能帶來實(shí)際業(yè)務(wù)價(jià)值，我們的答案是肯定的。但在與銀行業(yè) CIO 的交流中，我們總結(jié)了金融行業(yè)落地的六大痛點(diǎn)：算力有限、數(shù)據(jù)不足且質(zhì)量不高、模型迭代太快、知識(shí)經(jīng)驗(yàn)沉淀不足、缺乏應(yīng)用落地方法論以及人才短缺。

針對(duì)這些痛點(diǎn)，螞蟻數(shù)科提出了面向 AI 的戰(zhàn)略。在金融這類嚴(yán)肅產(chǎn)業(yè)落地 AI，必須關(guān)注三點(diǎn)核心特征：嚴(yán)謹(jǐn)性、專業(yè)性與遵從性。

嚴(yán)謹(jǐn)性（對(duì)抗幻覺）：大模型無法完全避免幻覺，某種程度上這也是其智力水平的體現(xiàn)（如 DeepSeek R1 的推理能力增強(qiáng)伴隨著幻覺率波動(dòng)）。因此，應(yīng)用大模型的首要任務(wù)是構(gòu)建一套壓制幻覺的體系。

專業(yè)性（對(duì)齊專家）：大模型需體現(xiàn)機(jī)構(gòu)自身的意志，避免千篇一律。

遵從性（合規(guī)底線）：在強(qiáng)監(jiān)管行業(yè)，必須確保模型不觸碰紅線和底線。

我們將具備上述特征的稱為“可信智能體”。在金融領(lǐng)域，其構(gòu)建依賴三大基石：

金融大模型：類似經(jīng)過寒窗苦讀的“金融博士”，具備通用與金融專業(yè)知識(shí)。

金融知識(shí)庫(kù)：補(bǔ)充高時(shí)效性數(shù)據(jù)及銀行私有知識(shí)，使其成為熟悉行內(nèi)情況的“管培生”。

金融工具集：連接銀行內(nèi)部數(shù)字化系統(tǒng)的 API，賦予智能體“手”的能力，使其能執(zhí)行具體操作。

四、訓(xùn)練方法論與未來展望

在構(gòu)建金融大模型時(shí)，我們采用兩階段訓(xùn)練方法，核心在于數(shù)據(jù)的理解與治理。僅疊加金融數(shù)據(jù)是不夠的，需將通用數(shù)據(jù)（數(shù)學(xué)、歷史等）與金融數(shù)據(jù)合理配比，以確保在提升金融能力的同時(shí)，不降低通用能力。相較于預(yù)訓(xùn)練，這種垂類模型訓(xùn)練成本極低，算力需求下降了兩個(gè)數(shù)量級(jí)（僅需百卡級(jí)別）。

同時(shí)，模型訓(xùn)練需設(shè)定安全圍欄，將安全領(lǐng)域知識(shí)融入訓(xùn)練，確保智能體知曉業(yè)務(wù)底線。

智能體的應(yīng)用不是一次性的軟件交付，而是一個(gè)持續(xù)培養(yǎng)與迭代的過程（類似從入學(xué)到工作的成長(zhǎng)）。我們需要從評(píng)測(cè)入手，通過分析錯(cuò)題（Badcase）來判斷是知識(shí)缺失、工具不足還是產(chǎn)生幻覺。例如，針對(duì)大模型在大數(shù)計(jì)算上的短板（如概率導(dǎo)致的數(shù)值錯(cuò)誤），我們限制其直接計(jì)算，轉(zhuǎn)而強(qiáng)制調(diào)用銀行系統(tǒng) API 以確保準(zhǔn)確性。

最后，我想強(qiáng)調(diào)：大模型在產(chǎn)業(yè)應(yīng)用中不僅是技術(shù)的重塑，更是業(yè)務(wù)戰(zhàn)略的重塑。我們應(yīng)突破傳統(tǒng)思維框架，思考如何讓大模型重塑現(xiàn)有的工作流程。

謝謝大家。