北京
今天，兩個新聞很有意思。
一是，百川智能發布“M3”醫療模型。 百川智能創始人兼CEO王小川發布了新一代開源醫療增強大語言模型Baichuan-M3，稱該模型在問診能力、醫療幻覺、Healthbench和Healthbench Hard評測上均超越人類醫生。醫療健康一直是AI重兵投入的領域，百度、支付寶、阿里巴巴、騰訊、百川等均推出了相關產品，多家將醫療或健康作為其面向個人主推的AI產品。
二是，“張文宏拒絕將AI引入醫院病歷系統”成網絡熱點，并被眾多網民抨擊。微博智搜總結了張文宏的觀點：
可見，張文宏并不是全面否定AI，他自己也用AI。他擔心的是，醫院過度使用AI后，導致醫生過度依賴AI，而對AI的錯誤輸出缺乏應有的判斷。
從流程審計的角度看，如果醫院使用AI診療系統，在一些基層醫院，醫生會越來越懶得自己判斷，而是完全依賴AI，甚至可能護士、保安、保潔等都可以打著醫生的名義利用AI系統診病開藥。由于有不可避免的AI幻覺，這種做法很可能是致命的，而且醫生缺乏了足夠多的實踐，自身對病情的判斷能力減弱。這兩種情況，都很難在流程上避免。
不過，我贊成部分常見病、常規藥、需長期服用藥物的AI診斷、售藥。我不認為，在這些方面，AI比京東、美團等平臺的網上“坐堂醫生”更差。幾次買藥經歷，藥名、廠家都是我定的，醫生也沒問出新問題，基本都是簡單判斷后就放行。
回到醫療大模型幻覺。醫療大模型和其他大模型有很大不同。為了最大程度減少幻覺和錯誤，醫療大模型的學習必須在可控的范圍內，每次數據更新都是謹慎的，要最大程度減少外部輸入“經驗數據”對大模型輸出結果的干擾。同時，與其他大模型不同，醫療大模型的輸出結果應該是多元的、窮舉的，不能因為某種結果支持的專家少就舍棄。醫生可以參考AI的“診療結果”，但必須有自己的獨立判斷，根據實際情況選擇最適當的診療方案。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
