今天,兩個新聞很有意思。
一是,百川智能發布“M3”醫療模型。 百川智能創始人兼CEO王小川發布了新一代開源醫療增強大語言模型Baichuan-M3,稱該模型在問診能力、醫療幻覺、Healthbench和Healthbench Hard評測上均超越人類醫生。醫療健康一直是AI重兵投入的領域,百度、支付寶、阿里巴巴、騰訊、百川等均推出了相關產品,多家將醫療或健康作為其面向個人主推的AI產品。
二是,“張文宏拒絕將AI引入醫院病歷系統”成網絡熱點,并被眾多網民抨擊。微博智搜總結了張文宏的觀點:
![]()
可見,張文宏并不是全面否定AI,他自己也用AI。他擔心的是,醫院過度使用AI后,導致醫生過度依賴AI,而對AI的錯誤輸出缺乏應有的判斷。
從流程審計的角度看,如果醫院使用AI診療系統,在一些基層醫院,醫生會越來越懶得自己判斷,而是完全依賴AI,甚至可能護士、保安、保潔等都可以打著醫生的名義利用AI系統診病開藥。由于有不可避免的AI幻覺,這種做法很可能是致命的,而且醫生缺乏了足夠多的實踐,自身對病情的判斷能力減弱。這兩種情況,都很難在流程上避免。
不過,我贊成部分常見病、常規藥、需長期服用藥物的AI診斷、售藥。我不認為,在這些方面,AI比京東、美團等平臺的網上“坐堂醫生”更差。幾次買藥經歷,藥名、廠家都是我定的,醫生也沒問出新問題,基本都是簡單判斷后就放行。
回到醫療大模型幻覺。醫療大模型和其他大模型有很大不同。為了最大程度減少幻覺和錯誤,醫療大模型的學習必須在可控的范圍內,每次數據更新都是謹慎的,要最大程度減少外部輸入“經驗數據”對大模型輸出結果的干擾。同時,與其他大模型不同,醫療大模型的輸出結果應該是多元的、窮舉的,不能因為某種結果支持的專家少就舍棄。醫生可以參考AI的“診療結果”,但必須有自己的獨立判斷,根據實際情況選擇最適當的診療方案。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.