【患者安全】人工智能機(jī)器人與患者隱私泄露風(fēng)險(xiǎn)
Health Care Privacy Risks of AI Chatbots
編譯自:Genevieve P.?Kanter,? Viewpoint JAMA. July 6, 2023
隨著ChatGPT的首次亮相,臨床醫(yī)生和衛(wèi)生系統(tǒng)正在接受這位聰明、流利的同事,渴望他能幫助完成醫(yī)學(xué)中一些最吃力不討好的事情。人工智能(AI)驅(qū)動(dòng)的聊天機(jī)器人(chatbot)已經(jīng)通過(guò)了美國(guó)醫(yī)師執(zhí)照考試,而且可以毫無(wú)怨言地根據(jù)大量臨床事實(shí),寫出結(jié)構(gòu)化的醫(yī)療記錄,識(shí)別賬單代碼,并對(duì)患者所提的門戶信息做出回應(yīng),這看起來(lái)對(duì)于患者似乎是一個(gè)絕對(duì)的福音。
【健康保險(xiǎn)流通和責(zé)任法案(HIPAA)與人工智能】
然而,所有技術(shù)的進(jìn)步都存在一定的不確定性和風(fēng)險(xiǎn),尤其是涉及到處理受保護(hù)的醫(yī)療健康信息(protected health information,PHI)技術(shù)時(shí)。盡管人們都知道在醫(yī)療相關(guān)領(lǐng)域中部署人工智能存在許多風(fēng)險(xiǎn),但人工智能聊天機(jī)器人對(duì)患者隱私構(gòu)成的風(fēng)險(xiǎn)是獨(dú)特的。
使用人工智能來(lái)預(yù)測(cè)患者風(fēng)險(xiǎn)和改善工作流程并不是什么新鮮事。幾十年來(lái),醫(yī)院和衛(wèi)生系統(tǒng)都一直在與相關(guān)數(shù)據(jù)分析公司合作,以此來(lái)分析電子病歷記錄。人工智能一直在這些分析產(chǎn)品中不斷擴(kuò)大應(yīng)用。在與這些公司簽訂合同時(shí),衛(wèi)生系統(tǒng)已經(jīng)建立了完善的標(biāo)準(zhǔn),以保護(hù)患者的健康信息。健康保險(xiǎn)流通與責(zé)任法案(The Health Insurance Portability and Accountability Act ,HIPAA)允許醫(yī)療機(jī)構(gòu)作為負(fù)責(zé)保護(hù)個(gè)人隱私的主體,與有資質(zhì)的商業(yè)公司合作并簽訂協(xié)議,以此來(lái)確保患者的隱私。
【患者的健康信息與人工智能聊天機(jī)器人】
人工智能聊天機(jī)器人的創(chuàng)新和風(fēng)險(xiǎn)不在于它的人工智能引擎,而在于它的聊天功能。會(huì)話聊天界面允許臨床醫(yī)生直接輸入不同的醫(yī)療關(guān)鍵詞,在幾秒鐘內(nèi)就能生成醫(yī)療就診記錄,這些就診記錄可以作為患者醫(yī)療記錄的一部分,保險(xiǎn)公司所需要的醫(yī)療信息,或患者就診后的最終病歷。例如,使用聽寫相關(guān)軟件實(shí)時(shí)所形成的醫(yī)患溝通記錄,會(huì)被實(shí)時(shí)傳輸?shù)饺斯ぶ悄芰奶旃ぞ咧腥ァ?梢粤⒓匆运璧闹饔^、客觀、評(píng)估和計(jì)劃(SOAP)格式生成令人滿意的病歷記錄,臨床醫(yī)生可以多次在聊天窗口中復(fù)制和粘貼這些就診的記錄,并附上檢查結(jié)果,以生成耗時(shí)的、事先授權(quán)的請(qǐng)求信息。
雖然將醫(yī)療信息粘貼到聊天界面的便利性很誘人,但臨床醫(yī)生和衛(wèi)生系統(tǒng)可能會(huì)無(wú)意中違反HIPAA,并因這些聊天機(jī)器人所查詢得到的信息而招致大量罰款和處罰。HIPAA禁止未經(jīng)授權(quán)披露患者的健康信息,其中包括受保護(hù)實(shí)體持有或網(wǎng)絡(luò)傳輸?shù)摹皞€(gè)人可識(shí)別的健康信息”。這些信息包括任何可用于識(shí)別個(gè)人身份的信息,以及與他們的身體或精神健康、所提供的保健服務(wù)或?yàn)檫@些服務(wù)所支付相關(guān)的信息。許多常見的特殊識(shí)別信息,如姓或名、醫(yī)療記錄號(hào)、出生日期和居住城市,都構(gòu)成患者的健康信息。
臨床醫(yī)生可能沒有意識(shí)到,通過(guò)使用ChatGPT,他們正在將信息提交給另一個(gè)組織,即擁有并支持該技術(shù)的人工智能開發(fā)公司。換句話說(shuō),臨床信息,一旦通過(guò)聊天窗口提交,就已經(jīng)離開了其所在實(shí)體機(jī)構(gòu)的限制,被上傳到聊天軟件所在公司運(yùn)營(yíng)的服務(wù)器上。鑒于人工智能開發(fā)公司可能尚未與任何醫(yī)療服務(wù)部門簽署商業(yè)合作協(xié)議,根據(jù)HIPAA規(guī)定,將患者的健康信息輸入聊天機(jī)器人是未經(jīng)授權(quán)的披露。
請(qǐng)注意,這個(gè)問(wèn)題與輸入聊天機(jī)器人的醫(yī)療信息可能被集中合并到機(jī)器人中,以此來(lái)訓(xùn)練數(shù)據(jù)庫(kù),并向該工具的其他用戶泄露的問(wèn)題是分開的。這種患者的健康信息的潛在傳播是令人擔(dān)憂的,但人工智能開發(fā)者允許用戶選擇退出,并且不使用他們的內(nèi)容來(lái)改進(jìn)聊天機(jī)器人的性能,然而選擇退出并不能避免違反HIPAA。一旦患者的健康信息被輸入ChatGPT,就發(fā)生了未經(jīng)授權(quán)的披露,并且無(wú)論用戶是否允許將醫(yī)療內(nèi)容用于提高機(jī)器人的性能,醫(yī)療內(nèi)容都已經(jīng)在公司服務(wù)器上。
【臨床醫(yī)生和相關(guān)實(shí)體指南】
對(duì)臨床醫(yī)生來(lái)說(shuō),最迫切希望給他們指導(dǎo)的是避免向聊天機(jī)器人輸入任何包含患者的健康信息的信息。要做到這點(diǎn)實(shí)際上比聽起來(lái)要難得多。他們自己在日常交流、會(huì)面時(shí)的文字記錄中可能包含著一些善意的語(yǔ)言,比如“別擔(dān)心,林肯先生”,“這只是皮肉傷,我們會(huì)馬上治好你的”。這些都被認(rèn)為是患者的健康信息。在這種情況下,隨便提到一個(gè)人的住處(“你在斯普林菲爾德的新住處怎么樣?”)也是患者的健康信息。舉幾個(gè)例子,病人的名字,包括昵稱,相關(guān)地理位置信息,以及入院和出院日期,都必須在將記錄輸入聊天工具之前將其刪除。類似地,在聊天機(jī)器人涉及帶有患者介紹和檢測(cè)結(jié)果信息的,在日常非正式咨詢查詢時(shí)都必須刪除所有標(biāo)識(shí)性特殊性語(yǔ)言。
病歷記錄通常在其標(biāo)題或頁(yè)邊空白處注明有醫(yī)療記錄編號(hào)、出生日期或社保賬號(hào)等信息。在使用任何聊天機(jī)器人之前,還必須系統(tǒng)地刪除這些標(biāo)識(shí)符。即使在給保險(xiǎn)公司的信息中,包括患者姓名和健康計(jì)劃受益人號(hào)碼,在生成人工智能信息文件之前,所有標(biāo)識(shí)符都必須被刪除,然后再重新插入。
在所有這些情況下,美國(guó)衛(wèi)生與公眾服務(wù)部門(HHS)的規(guī)定可以提供指導(dǎo)。這些條例規(guī)定了至少18個(gè)相關(guān)標(biāo)志性信息,這些標(biāo)志性信息必須刪除,才能被認(rèn)為是去標(biāo)識(shí)的健康信息,因此不屬于患者的健康信息的定義。
盡管從聊天輸入中清除患者的健康信息的負(fù)擔(dān)落在了需要查詢病歷的臨床醫(yī)生身上,但所涉及的相關(guān)部門可以采取措施來(lái)搭建防止無(wú)意中泄露患者的健康信息的環(huán)境。至少,從現(xiàn)在開始,相關(guān)部門應(yīng)該提供專門針對(duì)聊天機(jī)器人風(fēng)險(xiǎn)的培訓(xùn),并在每年度進(jìn)行HIPAA的培訓(xùn)。其他限制性更強(qiáng)的方法還包括,只允許接受過(guò)培訓(xùn)的員工訪問(wèn)聊天機(jī)器人,或者禁止網(wǎng)絡(luò)訪問(wèn)聊天機(jī)器人。
【當(dāng)患者的健康信息被披露后該怎么做?】
假設(shè)衛(wèi)生系統(tǒng)盡了最大努力,但還是有人無(wú)意中將患者的健康信息輸入了聊天機(jī)器人中。未經(jīng)授權(quán)披露患者的健康信息被認(rèn)為是違規(guī)行為,通常會(huì)向衛(wèi)生與公眾服務(wù)部的執(zhí)法部門——民權(quán)辦公室(OCR)報(bào)告。這可能會(huì)導(dǎo)致民權(quán)辦公室進(jìn)行費(fèi)時(shí)費(fèi)力的調(diào)查,每次違規(guī)可能會(huì)處以100美元至50,000美元以上的罰款,每個(gè)受影響的患者都被視為單獨(dú)的HIPAA違規(guī)行為。違規(guī)行為也經(jīng)常被要求公開披露。這可能導(dǎo)致集體訴訟和一般的名譽(yù)損害,更不用說(shuō)失去病人的信任了。雖然直接傷害患者的情況很少,但一旦患者的健康信息被傳到公司的服務(wù)器上,就無(wú)法保證隱私,而且泄露的社保號(hào)碼等標(biāo)識(shí)性信息可能導(dǎo)致隱私泄露。
但是,如果受保護(hù)的患者能夠通過(guò)HIPAA評(píng)估風(fēng)險(xiǎn),證明患者的健康信息被泄露的可能性很低,則可以克服違約的假設(shè)—人工智能開發(fā)者確實(shí)有一個(gè)刪除賬戶和相關(guān)聊天信息的程序,但刪除可能需要30天。此外,如果聊天機(jī)器人提供商被告知患者的健康信息被泄露,并愿意聲明他們沒有使用、披露或查看信息,并且已刪除信息。這可能有助于克服HIPAA對(duì)違規(guī)行為的判斷。但目前尚不清楚這些公司將如何回應(yīng)這些要求,它們可能無(wú)法或拒絕以這樣或那樣的方式發(fā)表任何聲明。無(wú)論如何,臨床醫(yī)生和他們的雇主都不希望承擔(dān)違反HIPAA責(zé)任的負(fù)擔(dān)。
【健康系統(tǒng)、HIPAA和人工智能聊天機(jī)器人的未來(lái)】
最終,面對(duì)人工智能聊天機(jī)器人入侵風(fēng)險(xiǎn),衛(wèi)生健康系統(tǒng)必須決定是阻止臨床醫(yī)生使用這項(xiàng)技術(shù),還是接受它。有一些事實(shí)證據(jù)表明,一些衛(wèi)生健康系統(tǒng)出于對(duì)違反HIPAA風(fēng)險(xiǎn)的警惕,正在禁止在工作中使用聊天機(jī)器人。雖然禁令可能是一種合理的短期策略,但它們可能難以執(zhí)行和維持。更有可能的長(zhǎng)期情況是,人工智能聊天機(jī)器人的創(chuàng)新者將直接與醫(yī)療保健機(jī)構(gòu)合作,實(shí)現(xiàn)人工智能聊天功能。根據(jù)商業(yè)合作協(xié)議,這些公司可以以符合HIPAA的方式接收和處理患者的健康信息內(nèi)容,并可能根據(jù)需要開發(fā)算法,以此來(lái)刪除患者的健康信息。
人工智能聊天機(jī)器人是一種非常強(qiáng)大的工具,具有非常大的潛力,可以提高臨床護(hù)理的質(zhì)量和效率。然而,當(dāng)臨床醫(yī)生將這些新工具納入他們的實(shí)踐時(shí),他們也必須對(duì)這些工具在患者醫(yī)療照護(hù)的其他方面(如患者隱私)構(gòu)成的風(fēng)險(xiǎn)保持警惕。在有更安全的方式使用聊天機(jī)器人之前,臨床醫(yī)生和受保護(hù)的實(shí)體衛(wèi)生健康部門必須采取積極措施,防止未經(jīng)授權(quán)的患者的健康信息泄露及其危害。
【作者】Genevieve P. Kanter,博士,南加州大學(xué)Sol Price公共政策學(xué)院衛(wèi)生政策與管理系。
翻譯:代濤 重慶護(hù)理職業(yè)學(xué)院,重醫(yī)一院急診科
審校:肖明朝 重慶護(hù)理職業(yè)學(xué)院,重醫(yī)一院泌尿外科
本文由“健康號(hào)”用戶上傳、授權(quán)發(fā)布,以上內(nèi)容(含文字、圖片、視頻)不代表健康界立場(chǎng)?!敖】堤?hào)”系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù),如有轉(zhuǎn)載、侵權(quán)等任何問(wèn)題,請(qǐng)聯(lián)系健康界(jkh@hmkx.cn)處理。
相關(guān)知識(shí)
醫(yī)生泄露患者隱私:我們的健康信息有多安全?
什么是患者隱私和個(gè)人隱私
【患者安全】健康A(chǔ)PP與患者安全
保護(hù)患者隱私包括哪些
患者隱私及個(gè)人信息保護(hù)的法律要點(diǎn)解析
個(gè)人隱私的健康信息泄露渠道、危害及防范措施
醫(yī)務(wù)人員泄露患者信息被判刑 信息安全管理制度需重視!丨醫(yī)法匯
身份信息泄露引發(fā)的健康隱患:如何保障個(gè)人信息安全?
兒童智能手表存在安全隱患
患者安全
網(wǎng)址: 【患者安全】人工智能機(jī)器人與患者隱私泄露風(fēng)險(xiǎn) http://m.u1s5d6.cn/newsview896039.html
推薦資訊
- 1發(fā)朋友圈對(duì)老公徹底失望的心情 12775
- 2BMI體重指數(shù)計(jì)算公式是什么 11235
- 3補(bǔ)腎吃什么 補(bǔ)腎最佳食物推薦 11199
- 4性生活姿勢(shì)有哪些 盤點(diǎn)夫妻性 10425
- 5BMI正常值范圍一般是多少? 10137
- 6在線基礎(chǔ)代謝率(BMR)計(jì)算 9652
- 7一邊做飯一邊躁狂怎么辦 9138
- 8從出汗看健康 出汗透露你的健 9063
- 9早上怎么喝水最健康? 8613
- 10五大原因危害女性健康 如何保 7826
- 暴肌獨(dú)角獸:領(lǐng)航休閑食品輕食化新風(fēng)尚
- 居家康養(yǎng)日常起居養(yǎng)生指南
- 居家養(yǎng)老健康理念指南
- 健康中國(guó)戰(zhàn)略下的家居變革:林氏家居聯(lián)合權(quán)
- 家電+家居,居家消費(fèi)呈現(xiàn)新趨勢(shì)→
- 林氏家居品質(zhì)季沙龍?jiān)诜鹕脚e行 跨界共探“
- 居家運(yùn)動(dòng)管理建議,準(zhǔn)媽媽請(qǐng)查收
- 萊州市人民醫(yī)院發(fā)布內(nèi)瘺居家護(hù)理指南為透析
- 家政培訓(xùn)指南 第2部分:失能老人居家康復(fù)
- 居家期間如何做好防護(hù)?這份指南請(qǐng)查收