9月5日,作為2025世界智能產(chǎn)業(yè)博覽會(huì)重要活動(dòng)之一,計(jì)算機(jī)產(chǎn)業(yè)發(fā)展高層思享匯活動(dòng)在重慶舉行。馬上消費(fèi)人工智能研究院院長(zhǎng)陸全應(yīng)邀出席活動(dòng)并作題為《大模型在消費(fèi)金融行業(yè)應(yīng)用的實(shí)踐與思考》的主題演講,分享了馬上消費(fèi)在大模型領(lǐng)域的實(shí)踐及大模型未來(lái)發(fā)展的洞察。
![]()
伴隨著“人工智能+”加速賦能千行百業(yè),金融已成為目前大模型滲透率最高的行業(yè)之一。陸全指出,大模型落地應(yīng)用側(cè)重于四個(gè)層級(jí),從底層到頂層分別為算力GPU芯片、基礎(chǔ)大模型、大模型應(yīng)用的快速生產(chǎn)、垂直場(chǎng)景大模型系統(tǒng)。
“如果以建筑物做比喻,大模型是一棟大樓,這四個(gè)應(yīng)用層級(jí)可以分別比喻成房子、水電、家具、裝修,其中底層由云廠商提供最基礎(chǔ)的算力。”陸全表示。
那么,馬上消費(fèi)對(duì)金融大模型的應(yīng)用處于什么階段?據(jù)陸全介紹,圍繞第一層和第二層,馬上消費(fèi)做了三件事情:首先是推出能快速產(chǎn)生Agent的一站式大模型應(yīng)用構(gòu)建平臺(tái)PowerAgent,其次是選擇智能對(duì)話這一垂直應(yīng)用場(chǎng)景進(jìn)行深耕,最后是搭建了基于大模型技術(shù)的洞察平臺(tái),提供持續(xù)反饋能力。
AI 時(shí)代,速度就是一切。誰(shuí)能將先進(jìn)的算法模型快速、高效地轉(zhuǎn)化為實(shí)際生產(chǎn)力,誰(shuí)就能占據(jù)優(yōu)勢(shì)。通過(guò)集成的AI中臺(tái)和智能體創(chuàng)建、編排等工具,馬上消費(fèi)PowerAgent平臺(tái)實(shí)現(xiàn)了模型的低成本、快速且規(guī)模化地?cái)U(kuò)展至全場(chǎng)景應(yīng)用,可讓企業(yè)更快、更好地用上大模型。
據(jù)統(tǒng)計(jì),相較于傳統(tǒng)AI應(yīng)用部署,PowerAgent平臺(tái)使得端到端響應(yīng)時(shí)間最快可以達(dá)到平均2s以內(nèi),訓(xùn)練與推理硬件成本下降超過(guò)30%,智能體開(kāi)發(fā)全周期提升效率100%以上。
談及PowerAgent平臺(tái)在馬上消費(fèi)的落地應(yīng)用場(chǎng)景,陸全在演講中提到,智能對(duì)話是目前大模型應(yīng)用最易規(guī)模化的高頻垂直場(chǎng)景,比較成熟的落地領(lǐng)域包括智能客服、智能營(yíng)銷等在內(nèi),帶來(lái)了顯著的提質(zhì)增效。
以智能營(yíng)銷為例,通過(guò)深度挖掘海量用戶數(shù)據(jù)、構(gòu)建預(yù)測(cè)模型,PowerAgent平臺(tái)打造的外呼智能體,重構(gòu)人機(jī)協(xié)作模式,能夠精準(zhǔn)識(shí)別潛在客戶群體,并為其推送個(gè)性化的營(yíng)銷信息,有效解決了潛在客戶數(shù)量大但人工外呼成本高、效率低的痛點(diǎn)。數(shù)據(jù)顯示,這種精準(zhǔn)營(yíng)銷方式令營(yíng)銷效果提升超過(guò)30%。
具體應(yīng)用落地過(guò)程中,如何確保大模型訓(xùn)練數(shù)據(jù)的質(zhì)量?對(duì)此,陸全給出了他的答案:馬上消費(fèi)搭建了洞察平臺(tái),輔助大模型應(yīng)用構(gòu)建包含人類決策的反饋閉環(huán)。
一方面,通過(guò)離線洞察與知識(shí)挖掘,批量分析與挖掘既有數(shù)據(jù),自動(dòng)萃取、沉淀為結(jié)構(gòu)化的知識(shí)庫(kù)、流程包與策略,強(qiáng)化模型訓(xùn)練效果。另一方面,依托人機(jī)協(xié)同實(shí)時(shí)洞察,實(shí)時(shí)捕捉、分析并理解每一次交互的上下文、意圖、情緒和結(jié)果,提供毫秒級(jí)的數(shù)據(jù)支撐。
在陸全看來(lái),持續(xù)的數(shù)據(jù)“喂養(yǎng)”和迭代訓(xùn)練,將幫助大模型自我迭代、進(jìn)化,進(jìn)而更好地適應(yīng)新需求、新場(chǎng)景。
展望未來(lái),大模型規(guī)模化應(yīng)用如何應(yīng)對(duì)AI幻覺(jué)挑戰(zhàn)、平衡收益與投入成本?陸全認(rèn)為,這需要遵循“三個(gè)準(zhǔn)則”:一是“激發(fā)天賦大于塑造能力”,不用傳統(tǒng)的、確定的編程思維去“硬編碼”大模型,而是引導(dǎo)它更好地理解和發(fā)揮其內(nèi)在能力;二是“創(chuàng)造環(huán)境設(shè)立規(guī)矩”,為大模型建立必要的輔助系統(tǒng)和約束,確保其行為在安全、可靠、可控的范圍內(nèi)。
“第三是關(guān)注‘長(zhǎng)期目標(biāo)的正收益’,密切關(guān)注訓(xùn)練成本、推理token消耗、算力資源等,避免‘粗放式’投入導(dǎo)致項(xiàng)目不可持續(xù)。選擇適合當(dāng)前階段的模型和方案,而并非一味追求最龐大、最昂貴的短期目標(biāo)。”陸全直言。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.