當AI碰到領域的既有權責體系會發生什么(暨國發院AI碰撞局第四期小記）？

本文9.1發在北大國發院校友上面，改了個題目轉發下：

2024年8月25日在北大國發院承澤園的429教室AI碰撞局舉行了第四場活動，本次分享嘉賓是北京大學人工智能研究院的徐驊老師，總計70多名校友和嘉賓通過線下線上的方式參與了本次活動。

AI碰撞局主理人王新在啟動活動

徐驊老師在做分享

徐老師是醫療、ChatLaw等大模型的操盤人，分享卻并不局限于的技術，而是通俗易懂的從模型講到了業務和案例。

在技術路線上，徐驊老師提到了一個更為快速和低成本的提升大模型性能的方式：

當開源模型和閉源大模型性能逐步接近，那一種提升模型性能的策略則是站在巨人的肩膀上，讓自己站位更高。

這種站到巨人肩膀上的技術是RLHF：

站到巨人肩膀上的具體實現方式則是Aligner。

這可能不太好理解現場徐驊老師和侯宏老師都用這樣一個例子來類比這個方法：

假如一個人要考北大，那從0開始培養的方式無疑是最難的，但假如在650分的基礎上進行培養，那難度就會降低很多。這就是上圖左下那兩個機器人的含義。這種兩段疊加方法一方面固然可能產生比已經發布模型更好的效果，但更關鍵的點在于它縮短了向具體行業進行落地的周期。

在落地環節徐老師則以標準化病人系統為切入，分享了上述思路下大模型落地的方法。結合分診、多模態模型識別病癥、合理用藥、病例整理、一體機的部署方式等各方面落地案例，我們可以比較清楚的看到，究竟需要怎么在現實中總評估AI大模型的臨床能力，在那些方面仍然面對挑戰等AI大模型的具體問題。

徐老師分享之后則進入碰撞環節，本次碰撞環節參與的嘉賓是徐驊老師，侯宏老師，未名企鵝鄒曉亮博士，E21的李智勇繼續擔任主持人。

右-左：徐驊老師、侯宏老師、鄒曉亮博士

碰撞環節談了很多問題，但最有意思的一個是：假如AI確實能夠比人干的更好，那當它不可完全證明的時候，究竟能不能用？

比如對于分診，大模型其實是更便宜的，隨機選擇某些疾病種類后精度也可以更高，至少可以比人高，但你沒辦法百分百證明的是所有疾病都可以確定在某個精度上。那基于AI大模型的產品怎么去通過三級醫療器械證呢？這是合規上的問題。

假設通過了之后，那還馬上遭遇成本問題。

通過醫療器械的驗證后，比如各方面費用花1000萬或者2000萬，那你進行銷售的時候在一個B端模式下，你可能又要比較長的時間才能賺回這1000~2000萬，甚至如果業務能力不夠就很長時間也賺不回這1000萬，面對比較大的投入產出問題。

類似的情況可以推廣到專科疾病、輔助診療等，在這些情景下AI的落地不直接卡在技術，而是卡在可解釋性、權責體系和某種投入產出的結構上。

碰撞進行時

這個話題一打開，因為非常本質，隨后碰撞就收不住了。因為大家發現在現有體系里實際上是在找各種縫隙，比如如果診療方面三類醫療器械證不好推進，那是不是在審方環節可以更容易切入？過去基于規則審方因為規則寫的死，到了8種10種藥的時候就處理不好了，那是不是可以用AI大模型來更低成本的解決這個問題？

進一步就進入更深層次的問題，即使能解決上面說的問題，但AI大模型其實不是用來解決這種小點問題的，也不體現AI大模型的經濟性，會有點像大炮打蚊子。這次的AI大模型其實更適合扮演全科的醫生，而不是專科醫生，可顯然的全科醫生會碰到更大的權責問題、投入產出問題。

再遞進一步就到了一個腦洞環節，如果說AI確實可以提供更好的診療服務但現實總與現在的既有運轉流程的兼容性不好，那我們是不是可以換個視角：

是不是可以構建一個AI優先的醫院，這個醫院里主要是AI，不是人類醫生在提供服務。當然這個要符合國家的規定。這樣這個醫院可以有更大的服務數量和質量。

這點上徐老師補充的是在AI的技術進化上，10年應該可行做到手術之外的部分。侯老師的補充則是往往產業中突破都是從一體的模式開始突破，然后才走到細碎分工比如電腦、手機等都是先單起一套體系。

上面這些問題并不局限于醫療健康，在法律等領域其實存在類似的問題。

和這種產業問題并列，碰撞還談到了一個偏技術的問題，大家針對一體機這種新產品談了許多。一體機其實就是一種跑AI大模型的新電腦，里面有GPU、大模型、行業應用等。

有意思的是雖然大家對AI創造了什么樣的機會感知度差異很大，比如有的認為C端基本沒機會，有的則認為C端在新技術條件下還會產出很多新的嘗試，但和過去的應用形態就不一樣了。

但在一體機上大家的觀點則出奇的一致。行業里面落地形式基本就是一體機，也不可能是公有云、SaaS等。類似數據不能出醫院這種規定很多很多，不是一體機也搞不定。

但一體機一樣面臨一串細節問題：對應的行業問題適合哪個規模的模型？哪個規模的大模型需要什么配置的一體機？那家的GPU性價比更高？后續升級怎么處理？

這些記錄中沒有辦法詳細展開，因為會牽涉很多廠家，引發不必要的爭議。簡單總結就是當前這個產品的整體成熟度還可以，如果真要介入那還是需要對模型的技術參數有一定程度的認識，并沒有標準到電腦那個程度。

活動結束時大家的合影

還有不少很有意思的碰撞條線沒法一一展開，其中最值得一提的是關于：B端到底能不能做？當大家提出這個問題并談到挑戰實在太多的時候，未名企鵝的鄒曉亮師兄結合自己的親身經歷給了一個走產業邏輯的例子：早期的幾年你可能會很痛苦，這部分可以看成是介入的成本，但一旦成功介入你就會形成比較穩定的業務基礎，并不是那個大廠突然沖擊一下就會威脅你的業務基礎的。他們自己也是到第六年才實現收支平衡。

這個時點的AI太混沌了，宣稱有賺錢方法的大概率是騙子，宣稱全無機會的又過于消極。面對AI就得解剖麻雀，研究案例，回到現場，獲取一線信息。反之越高大上、越論文就越危險。關鍵是真實案例不好找，所以就有了琢磨事AI碰撞局。研究清楚多個案例，弄明白產業底層邏輯，再回到自己問題差不多是眼下最靠譜的方式了。對活動感興趣的同學請聯系cathywangyue。 老李話一三，公眾號：琢磨事