首頁資訊 AI時(shí)代的醫(yī)療事故

AI時(shí)代的醫(yī)療事故

來源：泰然健康網(wǎng) 時(shí)間：2025年06月11日 04:19

Malpractice in the Age of AI

美國英語科技與健康

新聞源：Medscape

2024-12-10 17:00:00閱讀時(shí)長5分鐘2431字

AI醫(yī)療事故醫(yī)療保健電子健康記錄準(zhǔn)確性隱私醫(yī)療事故保險(xiǎn)醫(yī)生診斷生成式AI

內(nèi)容摘要

本文探討了醫(yī)生在使用人工智能技術(shù)時(shí)面臨的醫(yī)療事故風(fēng)險(xiǎn)，分析了當(dāng)前法律環(huán)境和保險(xiǎn)政策對(duì)AI使用的保護(hù)措施，并提供了醫(yī)生如何保護(hù)自己的建議。

兒科醫(yī)生在患者就診時(shí)不再坐在筆記本電腦后面，而是直接面對(duì)患者和家長，依賴于一種環(huán)境人工智能（AI）記錄員來捕捉對(duì)話并記錄到電子健康記錄（EHR）中。老年醫(yī)學(xué)專家在養(yǎng)老院查房時(shí)，將每位患者的藥物輸入AI工具，檢查藥物相互作用。繁忙的醫(yī)院放射科將所有緊急頭部CT掃描通過AI算法處理，優(yōu)先分診潛在的中風(fēng)患者，確保他們獲得最高優(yōu)先級(jí)。這些醫(yī)生尚未因使用AI而被起訴醫(yī)療事故，但他們擔(dān)心自己是否有風(fēng)險(xiǎn)。

根據(jù)最近的一份《Medscape》報(bào)告《醫(yī)療保健中的AI采用》，224名醫(yī)生對(duì)以下陳述作出回應(yīng)：“我想更多地使用AI，但擔(dān)心如果行動(dòng)過快會(huì)面臨醫(yī)療事故風(fēng)險(xiǎn)?！?7%的人強(qiáng)烈同意，23%的人同意——即40%的人出于法律原因?qū)κ褂眠@項(xiàng)技術(shù)表示擔(dān)憂。醫(yī)療事故和AI是許多醫(yī)療保健專業(yè)人士關(guān)注的問題，尤其是在大型醫(yī)療系統(tǒng)中。The Doctors Company的首席運(yùn)營官Deepika Srivastava告訴《Medscape Medical News》：“AI是討論的焦點(diǎn)，大型醫(yī)療系統(tǒng)正在提出問題。大型系統(tǒng)希望保護(hù)自己?！蹦壳斑€沒有因臨床使用AI而引發(fā)的法律訴訟?！拔覀冞€沒有看到任何AI相關(guān)的訴訟，”Srivastava說，“但風(fēng)險(xiǎn)正在增加，這就是為什么我們?cè)谟懻撨@個(gè)問題。法律體系需要適應(yīng)AI在醫(yī)療保健中的角色?！?/p>

醫(yī)生如何使用AI

醫(yī)療保健行業(yè)基于所需工具和功能的不同，以多種方式融入AI。狹窄AI在放射學(xué)等領(lǐng)域的應(yīng)用非常廣泛，可以比較兩個(gè)大數(shù)據(jù)集以發(fā)現(xiàn)差異。狹窄AI可以幫助區(qū)分正常組織和異常組織，例如乳腺或肺部腫瘤。截至2024年7月，已有近900種AI醫(yī)療工具獲得了美國食品藥品監(jiān)督管理局（FDA）的批準(zhǔn)，其識(shí)別異常和模式的能力優(yōu)于許多人類?！禖hatGPT, MD: How AI-Empowered Patients & Doctors Can Take Back Control of American Medicine》的作者、前Permanente Medical Group首席執(zhí)行官Robert Pearl博士說。

狹窄AI還可以提高其他?？频脑\斷速度和準(zhǔn)確性，包括皮膚科和眼科。Pearl說：“對(duì)于初級(jí)保健、神經(jīng)學(xué)和精神病學(xué)等涉及大量文字的醫(yī)學(xué)領(lǐng)域，AI的好處尚不明確。”在這些?？浦?，一些醫(yī)生可能會(huì)將生成式AI用作資源庫。在臨床實(shí)踐中，環(huán)境AI還用于根據(jù)患者/醫(yī)生的對(duì)話創(chuàng)建健康記錄。在臨床管理中，AI用于調(diào)度、計(jì)費(fèi)和提交保險(xiǎn)索賠。在保險(xiǎn)公司方面，基于AI算法拒絕索賠已成為法律訴訟的核心，最近也引起了媒體的關(guān)注。

使用AI時(shí)的醫(yī)療事故風(fēng)險(xiǎn)

準(zhǔn)確性和隱私應(yīng)成為使用AI時(shí)醫(yī)療事故關(guān)注的首要問題。就準(zhǔn)確性而言，責(zé)任可能部分取決于使用類型。如果診斷應(yīng)用程序做出錯(cuò)誤診斷，“公司因其創(chuàng)建和測(cè)試該應(yīng)用程序而負(fù)有法律責(zé)任，”Pearl說。然而，在使用AI診斷工具時(shí)，保留人為干預(yù)是一個(gè)明智的選擇。醫(yī)生應(yīng)選擇AI建議的診斷或不同的診斷。如果診斷錯(cuò)誤，“很難確定錯(cuò)誤的來源。是醫(yī)生？還是工具？”Srivastava補(bǔ)充道。

生成式AI的錯(cuò)誤診斷責(zé)任更為明顯。“你承擔(dān)了這種責(zé)任，”Pearl說。生成式AI在黑箱中運(yùn)行，基于存儲(chǔ)在數(shù)據(jù)庫中的信息預(yù)測(cè)正確答案?！吧墒紸I試圖在已知信息和預(yù)測(cè)下一個(gè)輸出之間建立關(guān)聯(lián)，”德克薩斯州奧斯汀市法律事務(wù)所Promise Legal PLLC的管理合伙人Alex Shahrestani說。他是德克薩斯州律師協(xié)會(huì)AI和法律工作組成員，并參與了與AI政策相關(guān)的國家標(biāo)準(zhǔn)化技術(shù)研究所的咨詢小組?！搬t(yī)生應(yīng)該知道驗(yàn)證AI提供的信息，”他建議醫(yī)生運(yùn)用自己的醫(yī)學(xué)培訓(xùn)和判斷。

生成式AI可以提供思路。Pearl分享了一個(gè)故事：一位外科醫(yī)生在手術(shù)結(jié)束時(shí)無法移除卡在患者喉嚨中的呼吸管。他在手術(shù)室里查詢了ChatGPT，找到了一個(gè)類似病例。麻醉劑中的腎上腺素限制了血管，導(dǎo)致聲帶粘連。根據(jù)AI提供的信息，外科醫(yī)生允許更多時(shí)間讓麻醉劑擴(kuò)散。隨著麻醉效果消退，聲帶分開，呼吸管得以順利取出。“這就是它能提供的專業(yè)知識(shí)，”Pearl說。

隱私是AI的一個(gè)常見問題，但它可能比實(shí)際情況更令人擔(dān)憂?！霸S多人認(rèn)為，如果你與AI系統(tǒng)交談，就是在向模型提供個(gè)人數(shù)據(jù)，”Shahrestani說。平臺(tái)提供了退出選項(xiàng)，即使不選擇退出，模型也不會(huì)自動(dòng)吸收你的互動(dòng)?！斑@不是隱私功能，”他說，“而是開發(fā)者擔(dān)心這些信息可能無助于模型?！薄叭绻闶褂眠@些退出機(jī)制，并確保足夠的保密性，你可以使用ChatGPT而不必過于擔(dān)心患者信息泄露，”Shahrestani說。或者使用要求更嚴(yán)格、將所有數(shù)據(jù)保留在本地的系統(tǒng)。

醫(yī)療事故保險(xiǎn)政策和AI

目前，醫(yī)療事故保險(xiǎn)政策并未明確規(guī)定AI覆蓋范圍?！拔覀兡壳安灰罅谐瞿闶褂玫乃屑夹g(shù)，”Srivastava說。許多電子健康記錄系統(tǒng)已經(jīng)納入AI。如果有人類提供者介入，已經(jīng)經(jīng)過審查并投保，“當(dāng)醫(yī)生使用AI時(shí)，我們應(yīng)對(duì)醫(yī)療事故風(fēng)險(xiǎn)的保險(xiǎn)仍然有效，”她說。

不過，保險(xiǎn)公司正在密切關(guān)注這一領(lǐng)域。“傳統(tǒng)的醫(yī)療事故法確實(shí)需要重新評(píng)估，因?yàn)锳I的快速發(fā)展已經(jīng)超過了將其整合到法律體系中的努力，”Srivastava說。包括Pearl在內(nèi)的一些人認(rèn)為，AI實(shí)際上會(huì)降低醫(yī)療事故風(fēng)險(xiǎn)。更多的數(shù)據(jù)點(diǎn)可以加快醫(yī)生的工作，使其更簡(jiǎn)單、更準(zhǔn)確。“我相信這項(xiàng)技術(shù)將減少訴訟，而不是增加訴訟，”Pearl說。

那么，醫(yī)生如何保護(hù)自己免受AI醫(yī)療事故訴訟？

了解你的工具：提供者應(yīng)了解他們部署的工具，它提供了什么，如何構(gòu)建和訓(xùn)練（包括潛在偏見），如何測(cè)試，以及如何使用或不使用該工具，Srivastava說。每個(gè)工具、用例和風(fēng)險(xiǎn)都應(yīng)單獨(dú)評(píng)估?！安灰桓哦摚彼f。

對(duì)于生成式AI，用戶在請(qǐng)求已存在較長時(shí)間且廣泛訪問的信息時(shí)會(huì)取得更好的效果。“它更有可能正確返回，”Shahrestani說。如果尋求的信息較新或不普遍，工具可能會(huì)得出有問題的結(jié)論。

記錄：Srivastava說：“記錄，記錄，再記錄。確保你有良好的記錄，這真的可以在訴訟發(fā)生時(shí)幫助你，尤其是與AI工具相關(guān)的情況?！?/p>

嘗試使用：Shahrestani說：“我建議你多使用[生成式AI]，這樣你就能了解它的優(yōu)勢(shì)和不足?！薄叭绻愕鹊绞虑閴m埃落定，你會(huì)落后?！盤earl建議：“假裝你是患者，給工具提供你通常會(huì)給醫(yī)生的信息，看看結(jié)果?！薄皼]有人會(huì)因?yàn)槟闳D書館查閱教科書而起訴你，”他說，“使用生成式AI與此類似。先嘗試免費(fèi)版本；如果你開始更多地依賴它，付費(fèi)版本具有更好的功能且價(jià)格低廉。”

(全文結(jié)束)