依賴人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

未知英文科技與健康

2024-10-14 20:00:00閱讀時(shí)長3分鐘1228字

人工智能搜索引擎藥物信息風(fēng)險(xiǎn)準(zhǔn)確性可讀性患者安全醫(yī)療保健專業(yè)人員

新研究發(fā)現(xiàn)搜索引擎引入的人工智能工具阻礙用戶獲取清晰準(zhǔn)確有用的藥物治療信息

一項(xiàng)新的研究發(fā)現(xiàn)，搜索引擎引入的人工智能工具阻礙了用戶找到有關(guān)藥物治療的清晰、準(zhǔn)確和有用的信息。

患者不應(yīng)依賴由人工智能驅(qū)動(dòng)的搜索引擎和聊天機(jī)器人獲取信息，一項(xiàng)新研究指出。

這項(xiàng)發(fā)表在《英國醫(yī)學(xué)雜志質(zhì)量與安全》上的研究發(fā)現(xiàn)，大量有關(guān)藥物治療的搜索答案不準(zhǔn)確，且可能有害。有些答案也過于復(fù)雜，難以理解。

去年 2 月，搜索引擎開始使用由人工智能驅(qū)動(dòng)的聊天機(jī)器人，其承諾改善搜索結(jié)果并提供更全面的答案。但研究人員稱，這些基于互聯(lián)網(wǎng)數(shù)據(jù)集訓(xùn)練的聊天機(jī)器人能夠產(chǎn)生虛假信息和無意義或有害的內(nèi)容。

來自德國和比利時(shí)大學(xué)的研究人員，使用具有人工智能聊天機(jī)器人功能的必應(yīng)助手，探究了 2020 年美國最常開的 50 種藥物相關(guān)查詢的聊天機(jī)器人答案的可讀性、完整性和準(zhǔn)確性。他們審查了研究數(shù)據(jù)庫，并咨詢了藥理學(xué)專家醫(yī)生，以確定患者最常向醫(yī)療保健專業(yè)人員提出的藥物問題。

聊天機(jī)器人針對每種藥物被詢問了 10 個(gè)問題，共生成 500 個(gè)答案。問題涵蓋藥物用途、作用機(jī)制、使用說明、常見副作用和禁忌。

專家評估了傷害的可能性。通過計(jì)算弗萊希閱讀難易度評分來評估聊天機(jī)器人答案的可讀性，該評分用于估計(jì)理解特定文本所需的教育水平。分?jǐn)?shù)范圍在 0 到 100 之間，分?jǐn)?shù)越低越難讀，91 分及以上被認(rèn)為容易。

為評估聊天機(jī)器人答案的完整性和準(zhǔn)確性，研究人員將其回答與 drugs.com 提供的藥物信息進(jìn)行比較，這是一個(gè)為醫(yī)療保健專業(yè)人員和患者提供的經(jīng)過同行評審且最新的藥物信息網(wǎng)站。

然后，七位藥物專家使用顯示低準(zhǔn)確性或完整性或?qū)颊甙踩袧撛陲L(fēng)險(xiǎn)的 20 個(gè)聊天機(jī)器人答案的子集，評估了如果患者遵循聊天機(jī)器人的建議可能造成傷害的可能性。

他們使用了醫(yī)療保健研究與質(zhì)量局（AHRQ）制定的傷害量表來評估患者安全事件。專家根據(jù)經(jīng)過驗(yàn)證的框架估計(jì)了可能造成傷害的可能性。

平均弗萊希閱讀難易度評分略高于 37，這意味著許多讀者會難以理解這些答案。

對于每種藥物提出的 10 個(gè)問題，平均有 5 個(gè)問題得到了最高完整性的回答，而問題 3（服用藥物時(shí)我需要考慮什么？）的平均完整性最低，僅為 23％。

聊天機(jī)器人的陳述在 26％的答案中與參考數(shù)據(jù)不匹配，完全不一致的占 3％。

對 20 個(gè)答案的子集評估顯示，只有 54％被評為與科學(xué)共識一致。超過三分之一（39％）與科學(xué)共識相矛盾，而其余 6％沒有既定的科學(xué)共識。

在這些答案中，患者遵循聊天機(jī)器人的建議可能造成傷害被評為高度可能的占 3％，中度可能的占 29％，而三分之一被判斷為不太可能或根本不可能造成傷害，如果遵循的話。

研究人員寫道：“在這項(xiàng)橫斷面研究中，我們觀察到具有人工智能聊天機(jī)器人的搜索引擎對患者問題的回答總體上是完整和準(zhǔn)確的?！?/p>

他們補(bǔ)充說：“然而，聊天機(jī)器人的答案大多難以閱讀，并且反復(fù)缺乏信息或顯示不準(zhǔn)確，可能威脅到患者和藥物安全。”

他們認(rèn)為，一個(gè)主要的缺點(diǎn)是聊天機(jī)器人無法理解患者問題背后的潛在意圖，并補(bǔ)充道：“盡管它們有潛力，但對于患者來說，咨詢他們的醫(yī)療保健專業(yè)人員仍然至關(guān)重要，因?yàn)榱奶鞕C(jī)器人可能并不總是生成無錯(cuò)誤的信息。在有更高準(zhǔn)確率的搜索引擎可用之前，建議謹(jǐn)慎使用人工智能驅(qū)動(dòng)的搜索引擎?！?/p>

（全文結(jié)束）

相關(guān)知識

人手一個(gè)AI健康助手！大模型時(shí)代的搜索引擎「蛻變」
醫(yī)學(xué)信息學(xué)在藥物副作用監(jiān)測中的應(yīng)用探索
醫(yī)療票據(jù)OCR+智能理算規(guī)則引擎 助力健康險(xiǎn)實(shí)現(xiàn)核賠理算自動(dòng)化
藥物依賴是指（）
健康生活：依賴快餐加工食品風(fēng)險(xiǎn)！
上?！叭斯ぶ悄?”行動(dòng)：建設(shè)人工智能藥物研發(fā)平臺等
人工智能
青少年手機(jī)依賴：評估、風(fēng)險(xiǎn)因素及防治
這兩個(gè)有啥關(guān)系? 搜索引擎還得借助網(wǎng)站購物平臺吧
在“錯(cuò)誤健康信息”時(shí)代，如何做個(gè)智性人？

網(wǎng)址: 依賴人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn) http://m.u1s5d6.cn/newsview1226259.html