【患者安全】告知患者使用人工智能工具的倫理義務

Ethical Obligations to Inform Patients About Use of AI Tools

編譯自：Michelle Mello，Danton Char，Sonnet Xu，JAMA 2025;334;(9), 圖片來自網絡

人工智能（AI）工具在醫療保健領域的普及，對“患者應了解哪些診療相關信息”這一傳統認知發起了挑戰。盡管知情同意在醫療實踐中具有普遍重要性，但像自動心電圖解讀器、基于規則的風險分類工具以及UpToDate臨床決策摘要這類決策支持工具，即便會對治療決策產生影響，通常也不會向患者告知其使用情況。那么，人工智能工具是否應與上述工具同等對待呢？

法律層面的知情同意原則規定，需向患者披露對“理性患者”決定是否接受醫療服務具有重要意義的信息。有證據表明，若患者知曉治療過程有AI工具參與，其對治療的看法可能會發生改變。近期調查數據顯示：60%的美國成年人表示，對醫生依賴AI工具開展診療感到不安；70%至80%的人對AI工具改善自身診療關鍵環節的期望較低；僅有三分之一的人信任醫療系統會負責任地使用AI工具；而63%的人明確表示，“非常希望”在自身診療過程中使用AI工具時能得到告知。

為幫助醫療機構管理者及從業者應對這一棘手問題，我們提出了一個決策框架，旨在明確應向患者告知哪些與AI工具相關的信息。與以往研究不同，本框架聚焦于需人工監督的AI工具，因為在當前醫療保健領域，完全自主運行的AI工具應用尚屬罕見。

【征求同意、主動告知，還是兩者皆不？】

盡管《人工智能權利法案藍圖》等重要指導文件強調了患者的“知情權與解釋權”，但要求醫療機構向患者逐一告知所使用的每一款AI工具，既不現實，也無必要。在部分醫院，患者的診療過程可能涉及數十種AI工具，其中許多工具都在后臺運行。這種逐一告知的方式，還可能加劇醫療領域已存在的問題——當前醫療服務中的信息披露與知情同意流程，往往流于形式、過于注重法律合規性，而非真正發揮信息傳遞價值、增強患者自主權。

原則上希望了解診療信息的患者，在入院后可能會因信息過載而難以應對，因此，評估額外披露AI工具相關信息的實際價值至關重要。此外，盡管知情同意不能替代其他AI治理機制，但過度強調知情同意，可能會削弱醫療機構對AI工具進行監督的動力。更值得注意的是，信息披露甚至可能帶來負面影響：即便有證據表明AI工具能優化臨床醫生的診療建議與溝通效果，向患者披露AI工具的使用情況后，仍可能引發患者對這些建議和溝通的不信任。

例如，有研究顯示，患者原本認為AI起草的郵件比醫生起草的更具同理心，但一旦告知患者郵件由AI起草，其對郵件的滿意度會顯著下降。當AI輔助診療方案明顯更優時，嚴格的知情同意制度可能會迫使臨床醫生不得不選擇次優的診療方案，進而可能導致醫生產生道德困擾。同時，為患者提供“退出AI工具使用”的選項，還會帶來社會層面的成本：這可能減少用于訓練AI工具的患者數據多樣性，影響AI工具的迭代優化。因此，不應想當然地認為，向患者披露AI工具的使用情況就一定符合患者的利益。

醫療機構在決定部署某款AI工具時，制定相應的患者信息披露政策應成為決策的必要環節。我們建議，信息披露政策（包括告知患者工具使用情況、征求患者使用同意，或兩者皆不執行）的制定，應基于以下兩項核心判斷：

1. 使用該AI工具給患者帶來身體傷害的風險程度如何？

2. 患者在知曉信息后，能在多大程度上真正行使自主權（如選擇是否使用工具）？

當傷害風險與患者自主選擇空間均較高時，醫療機構的信息披露義務達到頂峰——此時至少需向患者提供充分的信息告知；若條件允許，征求患者的書面同意會是更優選擇。相反，當AI工具的傷害風險極低，且患者知曉信息后也無法采取實際行動（如無法影響工具使用決策）時，不主動告知患者可能是更合理的做法。下表列舉了不同AI應用場景的示例及對應的信息披露建議。

人工智能（AI）應用示例及患者告知建議

具體應用場景

建議及依據

需征求同意

AI 引導的非自主手術機器人

需征求同意：手術通常存在較高傷害風險，且患者可選擇非機器人手術方式。

分析癌癥患者基因組信息以預測其對特定藥物的反應并推薦治療方案的工具

需征求同意：該工具若分析結果不準確，可能導致不良治療結局，且患者可選擇不使用該工具。

需告知

基于現有超聲心動圖數據識別可能患有肥厚型心肌病的預測算法

對篩查結果呈陽性的患者需告知：盡管患者無法避免該工具對自身數據的分析，但知曉后續超聲心動圖檢查是由 AI 算法推薦的，可能會影響其是否接受該檢查建議的決策。

用于起草患者郵件回復草稿的生成式 AI 工具

需告知：該工具若生成內容不準確，可能造成傷害；知曉情況的患者在遇到可疑郵件回復時，更可能主動提出疑問。

用于生成門診就診摘要的環境監聽工具

需告知：該工具若記錄或總結內容不準確，可能造成傷害，且患者可核對摘要的準確性。（注：在部分州，法律明確要求需征求患者同意。）

無需告知且無需征求同意

用于決定手術室是否預血液以備輸血的預測算法

無需：患者無法影響此類運營決策，且確保血液可用并不替代輸血操作本身所需的患者同意。

AI 輔助乳腺 X 光檢查解讀工具

無需（假設 AI 輔助解讀優于純人工解讀）：若患者選擇前往其他機構接受無 AI 輔助的解讀，會增加傷害風險。

用于整理放射科醫生口述影像檢查結果摘要的生成式 AI 工具

無需：該工具使用風險較低，僅用于總結放射科醫生已確認的輸入信息。

用于識別可安全停止每日實驗室檢查的住院患者的預測算法

無需：患者無法選擇退出該工具的使用，也無法強制要求繼續進行實驗室檢查；且最終是否進行實驗室檢查的決策由臨床醫生做出，該工具僅提供 “可安全停止檢查” 的建議。

幫助醫院向保險公司提交事前授權申請的生成式 AI 工具

無需：該工具使用風險較低（即便申請被拒絕，仍可通過申訴解決），且患者無法影響此類運營決策，也無法親自審核事前授權申請內容的準確性。

建議的前提是，該人工智能模型在針對類似人群的預部署測試中表現良好

在判斷AI工具可能給患者帶來傷害的可能性時，需評估以下三個因素：（1）AI工具本身固有的風險（如算法偏差、數據誤差等）；（2）工具產生的錯誤未被攔截且最終影響患者的可能性；（3）錯誤可能導致的傷害嚴重程度。這三個因素的乘積越大，醫療機構的信息披露義務就越強。需要特別注意的是，即便部分因素的數值較低，三者的乘積仍可能較高。例如，AI手術可視化工具的出錯概率可能較低，但一旦出錯，就可能立即給患者造成嚴重傷害；患者門戶消息工具出現重大錯誤的頻率可能不高，但臨床醫生發現并糾正這些錯誤的可能性也較低。

若因算法在特定患者亞組（如兒童、特定種族人群）中的表現較差，導致部分患者面臨更高的錯誤風險，該如何處理呢？當患者可被明確識別為易受算法偏差影響的亞組成員時，即便根據決策框架，無需向其他患者披露AI工具的使用情況，也應為這部分患者提供定制化的信息告知。例如，當將主要基于成人數據訓練的預測算法應用于兒童患者時，應告知患兒父母：醫生對該算法輸出結果的信心，低于其在成人患者群體中的信心。

本框架的第二項判斷標準，是評估在具體診療場景中，患者針對AI工具實際能行使的自主權程度。患者的自主權可能表現為兩種形式：

1. 對部分AI工具，患者可選擇退出使用。例如，患者可選擇不使用AI引導的手術機器人，或不接受AI輔助的乳腺X光檢查解讀。

2. 對另一些AI工具，患者無法選擇退出。例如，患者無法阻止醫院使用預測算法來決定手術室是否為其預存血液。

此外，對于部分AI工具，即便患者無法選擇退出使用，知曉AI工具參與診療過程的患者，仍可能通過調整自身行為來更好地維護自身權益。例如，知道醫生的郵件由AI起草的患者，在遇到內容可疑的表述時，比認為郵件完全由醫生撰寫的患者更可能主動提出疑問；若患者的女兒知曉照顧其母親的護士并未親自撰寫下班交接總結記錄，她可能更傾向于登錄電子健康記錄系統，核對記錄中的錯誤與遺漏，并提醒接班護士進行更正。因此，即便無法讓患者決定是否使用AI工具，醫療機構也應評估：向患者披露AI工具的使用情況，是否能增強患者參與自身或家人診療過程的能力。

【倫理義務與法律義務的關系】

我們提出的倫理框架，與法律層面的知情同意原則基本一致——法律要求醫療機構披露“實質性信息”。這里的“實質性”，指的是對“理性患者”決定是否接受某項治療（在部分州，還包括對“理性醫生”決定提供何種治療）具有重要意義的信息。無關緊要的風險信息、患者在診療過程中無法避免使用的工具相關信息，均不符合“實質性信息”的標準。但如果患者可在其他醫療機構獲得不使用該AI工具的診療服務，那么關于該AI工具的信息就屬于“實質性信息”，需要向患者披露。

部分州的法律可能會明確規定，醫療機構需向患者告知特定AI工具的使用情況。例如，監聽相關法律可能要求，對門診診療過程進行錄音（如使用環境監聽工具）需獲得“雙方同意”；部分州已通過立法，要求醫療機構披露特定患者溝通內容（如郵件回復）由AI起草。這些法律要求與本倫理框架的核心考量一致：“雙方同意”的法律規定賦予患者退出錄音的權利；而關于AI起草郵件的法律規定，則考慮到患者在知曉郵件由AI撰寫后，可能會對內容模糊或可疑的溝通內容主動提出疑問。

【對本框架的批評與回應 】

與以往部分研究不同，本框架并未要求醫療機構對所有“高風險”AI工具（即承擔重要臨床職能或用于重癥患者診療的AI工具）都進行信息披露。這一看似違背直覺的設定，實則基于醫療實踐的現實情況：當前醫療領域使用的大多數AI工具，其輸出結果都需經過人工審核后，才會用于指導診療行動。因此，判斷是否需要披露的關鍵問題在于：在考慮到人工審核可能成功識別錯誤的前提下，患者面臨的殘余風險是否仍處于較低水平？

需要注意的是，臨床醫生的能力限制、對AI工具的自動化偏見（過度依賴AI輸出結果），以及對AI工具弱點的不熟悉，都可能削弱人工審核的效果。但即便如此，“人工審核”這一環節的存在，仍使得患者面臨的實際風險與“無人工審核的高風險AI工具”存在本質區別，因此不能簡單地將“承擔重要臨床職能”或“用于重癥患者”作為信息披露的唯一標準。

此外，本框架還排除了幾個看似與信息披露義務相關，但實際并非核心的因素，具體如下：

1. 有觀點認為，AI 工具與其他未向患者披露的決策支持工具或診療風險因素并無本質區別，因此無需專門制定 AI 工具披露政策。但這種觀點的前提是 “當前的信息披露實踐已達到最優狀態”，而現實情況是，作為一種認知輔助工具，AI 工具的人工監督程度可能遠低于前幾代決策支持工具。

2. 部分評論者認為，AI 工具可能存在的歧視風險，應成為獨立的信息披露理由。

3. 但我們認為，盡管在算法中納入種族等屬性時，醫療機構有義務對算法進行監督并減少偏差，但 “歧視風險” 本質上屬于 “傷害風險” 的范疇，可通過本框架中 “傷害風險評估” 環節覆蓋，無需單獨作為披露理由。

4. 有觀點提出，若 AI 工具的使用需要將可識別的患者信息發送至醫療系統外，就應向患者披露，因為許多患者對第三方使用其數據感到不安。但這一標準存在缺陷：當前可識別數據與去標識化數據的界限正逐漸模糊，以此作為判斷標準穩定性不足；此外，人們可通過類似人群的數據推斷個人信息，這進一步削弱了 “僅因數據不發送至外部就不披露” 的合理性。

5. 部分人認為，應根據 AI 工具的復雜性調整披露政策，因為若患者無法真正理解所同意的內容，知情同意便失去意義。但我們認為，對患者而言，理解使用 AI 工具的風險與收益，遠比理解算法的具體工作原理更重要。事實上，許多醫療產品的作用機制也無法被普通患者完全理解，但這種復雜性并未改變常規的知情同意實踐。

【應向患者披露哪些信息？】

要實現信息披露的倫理目標，無需向患者提供過于詳盡的技術信息。醫療機構應使用通俗易懂、具體明確的語言，向患者披露以下核心內容：

1. 正在使用AI工具的事實；

2. AI工具的具體功能；

3. AI工具的基本工作原理（包括臨床醫生在工具使用中的角色）；

4. 醫療機構認為該工具能改善診療效果的理由；

5. 醫療機構對工具性能的基本監控方式（包括工具在不同患者亞組中的表現差異）；

6. 適用情況下，患者對工具使用的選擇權利。

有證據表明，患者可能還希望了解與AI工具相關的數據隱私保護措施，以及工具是否獲得美國食品藥品監督管理局（FDA）批準。若醫療機構認為需要征求患者同意（而非僅主動告知），則還需補充披露以下信息：使用AI工具的已知風險、預期收益，以及替代方案（包括不使用AI工具可能面臨的風險）。但即便如此，過于詳細的技術信息（如算法使用的具體機器學習方法），對大多數患者而言并無實際意義，無需納入披露內容。

信息傳遞的最佳方式應根據AI工具的類型靈活調整。若無法通過口頭溝通向患者進行完整披露，在線信息手冊或紙質資料單可作為有效的替代方式。對于AI生成的臨床總結和患者郵件，一句簡潔的披露語句（如“本文本由AI工具生成，并經臨床醫生審核確認”）即可滿足需求，同時可通過超鏈接，為有進一步了解需求的患者提供更詳細的信息。下方方框提供了一份門診環境記錄工具的患者同意書示例，可供參考。

門診環境記錄工具的患者同意書示例

信息傳遞方式

患者在門診登記時，通過紙質資料單獲取工具相關信息；護士在將患者引導至檢查室時，口頭征求患者同意

紙質資料單內容

“ Apex 醫院使用一款名為‘智能耳’的人工智能（AI）工具，協助醫生記錄您本次的就診內容，并將其總結后納入您的醫療記錄。根據加利福尼亞州法律，您有權選擇不使用該工具。

‘智能耳’會錄制您與醫生的對話，并通過 AI 技術將對話完整轉錄為文字。隨后，另一款 AI 工具會對對話中的重要內容生成摘要。在摘要正式納入您的醫療記錄前，您的醫生會對摘要進行審核和編輯。

錄制的音頻會安全發送至‘智能耳’的開發公司，但該公司在生成就診摘要后，不會保留您的任何個人信息。

Apex 醫院選擇使用該工具，是因為有證據表明它能改善診療服務質量：這類輔助工具可使醫生在就診過程中更專注于與您的溝通，同時減少醫生在每日診療結束后撰寫病歷的時間。

測試數據顯示，‘智能耳’生成的摘要質量良好，醫生普遍認為該工具具有實用價值。需要說明的是，該工具在處理英語口音較重、存在語言障礙的患者對話，或參與對話人數超過兩人的場景時，表現會略有遜色。為避免摘要不準確，醫生已接受專項培訓，在上述場景中會對摘要進行格外細致的審核。

Apex 醫院在試點測試通過后，才正式啟用該工具，且會持續監控工具的運行表現，確保其對各類患者均能有效發揮作用。我們很高興能通過引入這類工具，持續提升診療服務質量。若您本次就診不希望使用該工具，請告知護士。”

護士口頭溝通腳本

“您對醫生將使用的‘智能耳’記錄工具有任何疑問嗎？如果醫生本次就診時使用該工具，您是否同意？”

注：本同意書適用于法律要求 “對話錄音需獲得雙方同意” 的州。在其他州，僅向患者主動告知工具使用情況，無需護士確認同意，即符合倫理要求。

【結論】

醫療從業者思考“應向患者告知哪些AI工具相關信息”，這一做法具有合理性，但他們不應獨自應對這一復雜問題。醫療機構在決定部署某款AI工具時，首先應明確：從倫理角度出發，是否需要向患者告知工具使用情況或征求同意；若需要，則應采取措施確保相關政策得到一致執行。

需要強調的是，“診療過程中無需向患者披露AI工具使用情況”，并不意味著醫療機構在AI工具使用方面無需承擔透明度義務。醫療機構可通過以下兩項補充措施，履行其透明度義務：

1. 公開AI工具使用的整體信息

醫療機構應在官方網站及向患者分發的書面資料（如就診指南）中，明確說明以下內容：

• 醫療機構如何利用AI工具提升診療服務的質量、安全性與效率，以及如何通過AI工具保障醫護人員福祉；

• 當前正在使用的AI工具類型；

• 醫療機構為確保AI工具安全、負責任使用所采取的措施。

這種整體信息公開的方式，既尊重了患者了解AI工具對自身診療影響的意愿，也能幫助部分患者在選擇就診機構時做出更符合自身需求的決策；同時，還能激勵醫療機構建立更完善的AI治理流程，以便更清晰地向公眾展示其在AI工具使用中的責任與擔當。

2. 讓患者代表參與AI治理流程

醫療機構應探索讓患者代表參與AI工具治理的方式。例如，與具有豐富醫療經歷且接受過AI基礎知識培訓的患者進行結構化溝通，可幫助醫療機構管理者更準確地理解患者對AI工具使用的看法，尤其是在“是否需要披露”“應披露哪些信息”等關鍵決策上。

上述兩項措施均體現了一個核心原則：對于 AI 工具的使用，比單純向患者傳遞風險更重要的，是醫療機構采取切實行動將風險降至最低。只有將 “ 信息披露 ” 與 “ 風險管控 ” 相結合，才能在保障患者權益的同時，推動 AI 工具在醫療領域的健康應用。

【原文】https://jamanetwork.com/journals/jama/article-abstract/2836687