Health Care Privacy Risks of AI Chatbots

編譯自：Genevieve P.?Kanter,? Viewpoint JAMA. July 6, 2023

隨著ChatGPT的首次亮相，臨床醫(yī)生和衛(wèi)生系統(tǒng)正在接受這位聰明、流利的同事，渴望他能幫助完成醫(yī)學(xué)中一些最吃力不討好的事情。人工智能(AI)驅(qū)動(dòng)的聊天機(jī)器人（chatbot）已經(jīng)通過(guò)了美國(guó)醫(yī)師執(zhí)照考試，而且可以毫無(wú)怨言地根據(jù)大量臨床事實(shí)，寫出結(jié)構(gòu)化的醫(yī)療記錄，識(shí)別賬單代碼，并對(duì)患者所提的門戶信息做出回應(yīng)，這看起來(lái)對(duì)于患者似乎是一個(gè)絕對(duì)的福音。

【健康保險(xiǎn)流通和責(zé)任法案（HIPAA）與人工智能】

然而，所有技術(shù)的進(jìn)步都存在一定的不確定性和風(fēng)險(xiǎn)，尤其是涉及到處理受保護(hù)的醫(yī)療健康信息(protected health information，PHI)技術(shù)時(shí)。盡管人們都知道在醫(yī)療相關(guān)領(lǐng)域中部署人工智能存在許多風(fēng)險(xiǎn)，但人工智能聊天機(jī)器人對(duì)患者隱私構(gòu)成的風(fēng)險(xiǎn)是獨(dú)特的。

使用人工智能來(lái)預(yù)測(cè)患者風(fēng)險(xiǎn)和改善工作流程并不是什么新鮮事。幾十年來(lái)，醫(yī)院和衛(wèi)生系統(tǒng)都一直在與相關(guān)數(shù)據(jù)分析公司合作，以此來(lái)分析電子病歷記錄。人工智能一直在這些分析產(chǎn)品中不斷擴(kuò)大應(yīng)用。在與這些公司簽訂合同時(shí)，衛(wèi)生系統(tǒng)已經(jīng)建立了完善的標(biāo)準(zhǔn)，以保護(hù)患者的健康信息。健康保險(xiǎn)流通與責(zé)任法案（The Health Insurance Portability and Accountability Act ，HIPAA)允許醫(yī)療機(jī)構(gòu)作為負(fù)責(zé)保護(hù)個(gè)人隱私的主體，與有資質(zhì)的商業(yè)公司合作并簽訂協(xié)議，以此來(lái)確保患者的隱私。

【患者的健康信息與人工智能聊天機(jī)器人】

人工智能聊天機(jī)器人的創(chuàng)新和風(fēng)險(xiǎn)不在于它的人工智能引擎，而在于它的聊天功能。會(huì)話聊天界面允許臨床醫(yī)生直接輸入不同的醫(yī)療關(guān)鍵詞，在幾秒鐘內(nèi)就能生成醫(yī)療就診記錄，這些就診記錄可以作為患者醫(yī)療記錄的一部分，保險(xiǎn)公司所需要的醫(yī)療信息，或患者就診后的最終病歷。例如，使用聽寫相關(guān)軟件實(shí)時(shí)所形成的醫(yī)患溝通記錄，會(huì)被實(shí)時(shí)傳輸?shù)饺斯ぶ悄芰奶旃ぞ咧腥ァ？梢粤⒓匆运璧闹饔^、客觀、評(píng)估和計(jì)劃(SOAP)格式生成令人滿意的病歷記錄，臨床醫(yī)生可以多次在聊天窗口中復(fù)制和粘貼這些就診的記錄，并附上檢查結(jié)果，以生成耗時(shí)的、事先授權(quán)的請(qǐng)求信息。

雖然將醫(yī)療信息粘貼到聊天界面的便利性很誘人，但臨床醫(yī)生和衛(wèi)生系統(tǒng)可能會(huì)無(wú)意中違反HIPAA，并因這些聊天機(jī)器人所查詢得到的信息而招致大量罰款和處罰。HIPAA禁止未經(jīng)授權(quán)披露患者的健康信息，其中包括受保護(hù)實(shí)體持有或網(wǎng)絡(luò)傳輸?shù)摹皞€(gè)人可識(shí)別的健康信息”。這些信息包括任何可用于識(shí)別個(gè)人身份的信息，以及與他們的身體或精神健康、所提供的保健服務(wù)或?yàn)檫@些服務(wù)所支付相關(guān)的信息。許多常見的特殊識(shí)別信息，如姓或名、醫(yī)療記錄號(hào)、出生日期和居住城市，都構(gòu)成患者的健康信息。

臨床醫(yī)生可能沒有意識(shí)到，通過(guò)使用ChatGPT，他們正在將信息提交給另一個(gè)組織，即擁有并支持該技術(shù)的人工智能開發(fā)公司。換句話說(shuō)，臨床信息，一旦通過(guò)聊天窗口提交，就已經(jīng)離開了其所在實(shí)體機(jī)構(gòu)的限制，被上傳到聊天軟件所在公司運(yùn)營(yíng)的服務(wù)器上。鑒于人工智能開發(fā)公司可能尚未與任何醫(yī)療服務(wù)部門簽署商業(yè)合作協(xié)議，根據(jù)HIPAA規(guī)定，將患者的健康信息輸入聊天機(jī)器人是未經(jīng)授權(quán)的披露。

請(qǐng)注意，這個(gè)問(wèn)題與輸入聊天機(jī)器人的醫(yī)療信息可能被集中合并到機(jī)器人中，以此來(lái)訓(xùn)練數(shù)據(jù)庫(kù)，并向該工具的其他用戶泄露的問(wèn)題是分開的。這種患者的健康信息的潛在傳播是令人擔(dān)憂的，但人工智能開發(fā)者允許用戶選擇退出，并且不使用他們的內(nèi)容來(lái)改進(jìn)聊天機(jī)器人的性能，然而選擇退出并不能避免違反HIPAA。一旦患者的健康信息被輸入ChatGPT，就發(fā)生了未經(jīng)授權(quán)的披露，并且無(wú)論用戶是否允許將醫(yī)療內(nèi)容用于提高機(jī)器人的性能，醫(yī)療內(nèi)容都已經(jīng)在公司服務(wù)器上。

【臨床醫(yī)生和相關(guān)實(shí)體指南】

對(duì)臨床醫(yī)生來(lái)說(shuō)，最迫切希望給他們指導(dǎo)的是避免向聊天機(jī)器人輸入任何包含患者的健康信息的信息。要做到這點(diǎn)實(shí)際上比聽起來(lái)要難得多。他們自己在日常交流、會(huì)面時(shí)的文字記錄中可能包含著一些善意的語(yǔ)言，比如“別擔(dān)心，林肯先生”，“這只是皮肉傷，我們會(huì)馬上治好你的”。這些都被認(rèn)為是患者的健康信息。在這種情況下，隨便提到一個(gè)人的住處(“你在斯普林菲爾德的新住處怎么樣?”)也是患者的健康信息。舉幾個(gè)例子，病人的名字，包括昵稱，相關(guān)地理位置信息，以及入院和出院日期，都必須在將記錄輸入聊天工具之前將其刪除。類似地，在聊天機(jī)器人涉及帶有患者介紹和檢測(cè)結(jié)果信息的，在日常非正式咨詢查詢時(shí)都必須刪除所有標(biāo)識(shí)性特殊性語(yǔ)言。

病歷記錄通常在其標(biāo)題或頁(yè)邊空白處注明有醫(yī)療記錄編號(hào)、出生日期或社保賬號(hào)等信息。在使用任何聊天機(jī)器人之前，還必須系統(tǒng)地刪除這些標(biāo)識(shí)符。即使在給保險(xiǎn)公司的信息中，包括患者姓名和健康計(jì)劃受益人號(hào)碼，在生成人工智能信息文件之前，所有標(biāo)識(shí)符都必須被刪除，然后再重新插入。

在所有這些情況下，美國(guó)衛(wèi)生與公眾服務(wù)部門(HHS)的規(guī)定可以提供指導(dǎo)。這些條例規(guī)定了至少18個(gè)相關(guān)標(biāo)志性信息，這些標(biāo)志性信息必須刪除，才能被認(rèn)為是去標(biāo)識(shí)的健康信息，因此不屬于患者的健康信息的定義。

盡管從聊天輸入中清除患者的健康信息的負(fù)擔(dān)落在了需要查詢病歷的臨床醫(yī)生身上，但所涉及的相關(guān)部門可以采取措施來(lái)搭建防止無(wú)意中泄露患者的健康信息的環(huán)境。至少，從現(xiàn)在開始，相關(guān)部門應(yīng)該提供專門針對(duì)聊天機(jī)器人風(fēng)險(xiǎn)的培訓(xùn)，并在每年度進(jìn)行HIPAA的培訓(xùn)。其他限制性更強(qiáng)的方法還包括，只允許接受過(guò)培訓(xùn)的員工訪問(wèn)聊天機(jī)器人，或者禁止網(wǎng)絡(luò)訪問(wèn)聊天機(jī)器人。

【當(dāng)患者的健康信息被披露后該怎么做？】

假設(shè)衛(wèi)生系統(tǒng)盡了最大努力，但還是有人無(wú)意中將患者的健康信息輸入了聊天機(jī)器人中。未經(jīng)授權(quán)披露患者的健康信息被認(rèn)為是違規(guī)行為，通常會(huì)向衛(wèi)生與公眾服務(wù)部的執(zhí)法部門——民權(quán)辦公室(OCR)報(bào)告。這可能會(huì)導(dǎo)致民權(quán)辦公室進(jìn)行費(fèi)時(shí)費(fèi)力的調(diào)查，每次違規(guī)可能會(huì)處以100美元至50,000美元以上的罰款，每個(gè)受影響的患者都被視為單獨(dú)的HIPAA違規(guī)行為。違規(guī)行為也經(jīng)常被要求公開披露。這可能導(dǎo)致集體訴訟和一般的名譽(yù)損害，更不用說(shuō)失去病人的信任了。雖然直接傷害患者的情況很少，但一旦患者的健康信息被傳到公司的服務(wù)器上，就無(wú)法保證隱私，而且泄露的社保號(hào)碼等標(biāo)識(shí)性信息可能導(dǎo)致隱私泄露。

但是，如果受保護(hù)的患者能夠通過(guò)HIPAA評(píng)估風(fēng)險(xiǎn)，證明患者的健康信息被泄露的可能性很低，則可以克服違約的假設(shè)—人工智能開發(fā)者確實(shí)有一個(gè)刪除賬戶和相關(guān)聊天信息的程序，但刪除可能需要30天。此外，如果聊天機(jī)器人提供商被告知患者的健康信息被泄露，并愿意聲明他們沒有使用、披露或查看信息，并且已刪除信息。這可能有助于克服HIPAA對(duì)違規(guī)行為的判斷。但目前尚不清楚這些公司將如何回應(yīng)這些要求，它們可能無(wú)法或拒絕以這樣或那樣的方式發(fā)表任何聲明。無(wú)論如何，臨床醫(yī)生和他們的雇主都不希望承擔(dān)違反HIPAA責(zé)任的負(fù)擔(dān)。

【健康系統(tǒng)、HIPAA和人工智能聊天機(jī)器人的未來(lái)】

最終，面對(duì)人工智能聊天機(jī)器人入侵風(fēng)險(xiǎn)，衛(wèi)生健康系統(tǒng)必須決定是阻止臨床醫(yī)生使用這項(xiàng)技術(shù)，還是接受它。有一些事實(shí)證據(jù)表明，一些衛(wèi)生健康系統(tǒng)出于對(duì)違反HIPAA風(fēng)險(xiǎn)的警惕，正在禁止在工作中使用聊天機(jī)器人。雖然禁令可能是一種合理的短期策略，但它們可能難以執(zhí)行和維持。更有可能的長(zhǎng)期情況是，人工智能聊天機(jī)器人的創(chuàng)新者將直接與醫(yī)療保健機(jī)構(gòu)合作，實(shí)現(xiàn)人工智能聊天功能。根據(jù)商業(yè)合作協(xié)議，這些公司可以以符合HIPAA的方式接收和處理患者的健康信息內(nèi)容，并可能根據(jù)需要開發(fā)算法，以此來(lái)刪除患者的健康信息。

人工智能聊天機(jī)器人是一種非常強(qiáng)大的工具，具有非常大的潛力，可以提高臨床護(hù)理的質(zhì)量和效率。然而，當(dāng)臨床醫(yī)生將這些新工具納入他們的實(shí)踐時(shí)，他們也必須對(duì)這些工具在患者醫(yī)療照護(hù)的其他方面(如患者隱私)構(gòu)成的風(fēng)險(xiǎn)保持警惕。在有更安全的方式使用聊天機(jī)器人之前，臨床醫(yī)生和受保護(hù)的實(shí)體衛(wèi)生健康部門必須采取積極措施，防止未經(jīng)授權(quán)的患者的健康信息泄露及其危害。

【作者】Genevieve P. Kanter，博士，南加州大學(xué)Sol Price公共政策學(xué)院衛(wèi)生政策與管理系。

翻譯：代濤 重慶護(hù)理職業(yè)學(xué)院，重醫(yī)一院急診科

審校：肖明朝 重慶護(hù)理職業(yè)學(xué)院，重醫(yī)一院泌尿外科

本文由“健康號(hào)”用戶上傳、授權(quán)發(fā)布，以上內(nèi)容（含文字、圖片、視頻）不代表健康界立場(chǎng)?！敖】堤?hào)”系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)，如有轉(zhuǎn)載、侵權(quán)等任何問(wèn)題，請(qǐng)聯(lián)系健康界（jkh@hmkx.cn）處理。

相關(guān)知識(shí)

醫(yī)生泄露患者隱私：我們的健康信息有多安全？
什么是患者隱私和個(gè)人隱私
【患者安全】健康A(chǔ)PP與患者安全
保護(hù)患者隱私包括哪些
患者隱私及個(gè)人信息保護(hù)的法律要點(diǎn)解析
個(gè)人隱私的健康信息泄露渠道、危害及防范措施
醫(yī)務(wù)人員泄露患者信息被判刑 信息安全管理制度需重視！丨醫(yī)法匯
身份信息泄露引發(fā)的健康隱患：如何保障個(gè)人信息安全？
兒童智能手表存在安全隱患
患者安全

網(wǎng)址: 【患者安全】人工智能機(jī)器人與患者隱私泄露風(fēng)險(xiǎn) http://m.u1s5d6.cn/newsview896039.html