首頁(yè) 資訊依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

來(lái)源：泰然健康網(wǎng) 時(shí)間：2025年05月10日 12:05

依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

Reliance on AI search engines for medication information creates risk

未知英文科技與健康

新聞源：Future Care Capital

2024-10-14 20:00:00閱讀時(shí)長(zhǎng)3分鐘1228字

人工智能搜索引擎藥物信息風(fēng)險(xiǎn)準(zhǔn)確性可讀性患者安全醫(yī)療保健專(zhuān)業(yè)人員

內(nèi)容摘要

新研究發(fā)現(xiàn)搜索引擎引入的人工智能工具阻礙用戶(hù)獲取清晰準(zhǔn)確有用的藥物治療信息

一項(xiàng)新的研究發(fā)現(xiàn)，搜索引擎引入的人工智能工具阻礙了用戶(hù)找到有關(guān)藥物治療的清晰、準(zhǔn)確和有用的信息。

患者不應(yīng)依賴(lài)由人工智能驅(qū)動(dòng)的搜索引擎和聊天機(jī)器人獲取信息，一項(xiàng)新研究指出。

這項(xiàng)發(fā)表在《英國(guó)醫(yī)學(xué)雜志質(zhì)量與安全》上的研究發(fā)現(xiàn)，大量有關(guān)藥物治療的搜索答案不準(zhǔn)確，且可能有害。有些答案也過(guò)于復(fù)雜，難以理解。

去年 2 月，搜索引擎開(kāi)始使用由人工智能驅(qū)動(dòng)的聊天機(jī)器人，其承諾改善搜索結(jié)果并提供更全面的答案。但研究人員稱(chēng)，這些基于互聯(lián)網(wǎng)數(shù)據(jù)集訓(xùn)練的聊天機(jī)器人能夠產(chǎn)生虛假信息和無(wú)意義或有害的內(nèi)容。

來(lái)自德國(guó)和比利時(shí)大學(xué)的研究人員，使用具有人工智能聊天機(jī)器人功能的必應(yīng)助手，探究了 2020 年美國(guó)最常開(kāi)的 50 種藥物相關(guān)查詢(xún)的聊天機(jī)器人答案的可讀性、完整性和準(zhǔn)確性。他們審查了研究數(shù)據(jù)庫(kù)，并咨詢(xún)了藥理學(xué)專(zhuān)家醫(yī)生，以確定患者最常向醫(yī)療保健專(zhuān)業(yè)人員提出的藥物問(wèn)題。

聊天機(jī)器人針對(duì)每種藥物被詢(xún)問(wèn)了 10 個(gè)問(wèn)題，共生成 500 個(gè)答案。問(wèn)題涵蓋藥物用途、作用機(jī)制、使用說(shuō)明、常見(jiàn)副作用和禁忌。

專(zhuān)家評(píng)估了傷害的可能性。通過(guò)計(jì)算弗萊希閱讀難易度評(píng)分來(lái)評(píng)估聊天機(jī)器人答案的可讀性，該評(píng)分用于估計(jì)理解特定文本所需的教育水平。分?jǐn)?shù)范圍在 0 到 100 之間，分?jǐn)?shù)越低越難讀，91 分及以上被認(rèn)為容易。

為評(píng)估聊天機(jī)器人答案的完整性和準(zhǔn)確性，研究人員將其回答與 drugs.com 提供的藥物信息進(jìn)行比較，這是一個(gè)為醫(yī)療保健專(zhuān)業(yè)人員和患者提供的經(jīng)過(guò)同行評(píng)審且最新的藥物信息網(wǎng)站。

然后，七位藥物專(zhuān)家使用顯示低準(zhǔn)確性或完整性或?qū)颊甙踩袧撛陲L(fēng)險(xiǎn)的 20 個(gè)聊天機(jī)器人答案的子集，評(píng)估了如果患者遵循聊天機(jī)器人的建議可能造成傷害的可能性。

他們使用了醫(yī)療保健研究與質(zhì)量局（AHRQ）制定的傷害量表來(lái)評(píng)估患者安全事件。專(zhuān)家根據(jù)經(jīng)過(guò)驗(yàn)證的框架估計(jì)了可能造成傷害的可能性。

平均弗萊希閱讀難易度評(píng)分略高于 37，這意味著許多讀者會(huì)難以理解這些答案。

對(duì)于每種藥物提出的 10 個(gè)問(wèn)題，平均有 5 個(gè)問(wèn)題得到了最高完整性的回答，而問(wèn)題 3（服用藥物時(shí)我需要考慮什么？）的平均完整性最低，僅為 23％。

聊天機(jī)器人的陳述在 26％的答案中與參考數(shù)據(jù)不匹配，完全不一致的占 3％。

對(duì) 20 個(gè)答案的子集評(píng)估顯示，只有 54％被評(píng)為與科學(xué)共識(shí)一致。超過(guò)三分之一（39％）與科學(xué)共識(shí)相矛盾，而其余 6％沒(méi)有既定的科學(xué)共識(shí)。

在這些答案中，患者遵循聊天機(jī)器人的建議可能造成傷害被評(píng)為高度可能的占 3％，中度可能的占 29％，而三分之一被判斷為不太可能或根本不可能造成傷害，如果遵循的話。

研究人員寫(xiě)道：“在這項(xiàng)橫斷面研究中，我們觀察到具有人工智能聊天機(jī)器人的搜索引擎對(duì)患者問(wèn)題的回答總體上是完整和準(zhǔn)確的?！?/p>

他們補(bǔ)充說(shuō)：“然而，聊天機(jī)器人的答案大多難以閱讀，并且反復(fù)缺乏信息或顯示不準(zhǔn)確，可能威脅到患者和藥物安全?！?/p>

他們認(rèn)為，一個(gè)主要的缺點(diǎn)是聊天機(jī)器人無(wú)法理解患者問(wèn)題背后的潛在意圖，并補(bǔ)充道：“盡管它們有潛力，但對(duì)于患者來(lái)說(shuō)，咨詢(xún)他們的醫(yī)療保健專(zhuān)業(yè)人員仍然至關(guān)重要，因?yàn)榱奶鞕C(jī)器人可能并不總是生成無(wú)錯(cuò)誤的信息。在有更高準(zhǔn)確率的搜索引擎可用之前，建議謹(jǐn)慎使用人工智能驅(qū)動(dòng)的搜索引擎?！?/p>

（全文結(jié)束）

網(wǎng)址: 依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn) http://m.u1s5d6.cn/newsview1226259.html