首頁(yè) 資訊 依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

來(lái)源:泰然健康網(wǎng) 時(shí)間:2025年05月10日 12:05

依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn)

Reliance on AI search engines for medication information creates risk

未知英文科技與健康

新聞源:Future Care Capital

2024-10-14 20:00:00閱讀時(shí)長(zhǎng)3分鐘1228字

人工智能搜索引擎藥物信息風(fēng)險(xiǎn)準(zhǔn)確性可讀性患者安全醫(yī)療保健專(zhuān)業(yè)人員

內(nèi)容摘要

新研究發(fā)現(xiàn)搜索引擎引入的人工智能工具阻礙用戶(hù)獲取清晰準(zhǔn)確有用的藥物治療信息

一項(xiàng)新的研究發(fā)現(xiàn),搜索引擎引入的人工智能工具阻礙了用戶(hù)找到有關(guān)藥物治療的清晰、準(zhǔn)確和有用的信息。

患者不應(yīng)依賴(lài)由人工智能驅(qū)動(dòng)的搜索引擎和聊天機(jī)器人獲取信息,一項(xiàng)新研究指出。

這項(xiàng)發(fā)表在《英國(guó)醫(yī)學(xué)雜志質(zhì)量與安全》上的研究發(fā)現(xiàn),大量有關(guān)藥物治療的搜索答案不準(zhǔn)確,且可能有害。有些答案也過(guò)于復(fù)雜,難以理解。

去年 2 月,搜索引擎開(kāi)始使用由人工智能驅(qū)動(dòng)的聊天機(jī)器人,其承諾改善搜索結(jié)果并提供更全面的答案。但研究人員稱(chēng),這些基于互聯(lián)網(wǎng)數(shù)據(jù)集訓(xùn)練的聊天機(jī)器人能夠產(chǎn)生虛假信息和無(wú)意義或有害的內(nèi)容。

來(lái)自德國(guó)和比利時(shí)大學(xué)的研究人員,使用具有人工智能聊天機(jī)器人功能的必應(yīng)助手,探究了 2020 年美國(guó)最常開(kāi)的 50 種藥物相關(guān)查詢(xún)的聊天機(jī)器人答案的可讀性、完整性和準(zhǔn)確性。他們審查了研究數(shù)據(jù)庫(kù),并咨詢(xún)了藥理學(xué)專(zhuān)家醫(yī)生,以確定患者最常向醫(yī)療保健專(zhuān)業(yè)人員提出的藥物問(wèn)題。

聊天機(jī)器人針對(duì)每種藥物被詢(xún)問(wèn)了 10 個(gè)問(wèn)題,共生成 500 個(gè)答案。問(wèn)題涵蓋藥物用途、作用機(jī)制、使用說(shuō)明、常見(jiàn)副作用和禁忌。

專(zhuān)家評(píng)估了傷害的可能性。通過(guò)計(jì)算弗萊希閱讀難易度評(píng)分來(lái)評(píng)估聊天機(jī)器人答案的可讀性,該評(píng)分用于估計(jì)理解特定文本所需的教育水平。分?jǐn)?shù)范圍在 0 到 100 之間,分?jǐn)?shù)越低越難讀,91 分及以上被認(rèn)為容易。

為評(píng)估聊天機(jī)器人答案的完整性和準(zhǔn)確性,研究人員將其回答與 drugs.com 提供的藥物信息進(jìn)行比較,這是一個(gè)為醫(yī)療保健專(zhuān)業(yè)人員和患者提供的經(jīng)過(guò)同行評(píng)審且最新的藥物信息網(wǎng)站。

然后,七位藥物專(zhuān)家使用顯示低準(zhǔn)確性或完整性或?qū)颊甙踩袧撛陲L(fēng)險(xiǎn)的 20 個(gè)聊天機(jī)器人答案的子集,評(píng)估了如果患者遵循聊天機(jī)器人的建議可能造成傷害的可能性。

他們使用了醫(yī)療保健研究與質(zhì)量局(AHRQ)制定的傷害量表來(lái)評(píng)估患者安全事件。專(zhuān)家根據(jù)經(jīng)過(guò)驗(yàn)證的框架估計(jì)了可能造成傷害的可能性。

平均弗萊希閱讀難易度評(píng)分略高于 37,這意味著許多讀者會(huì)難以理解這些答案。

對(duì)于每種藥物提出的 10 個(gè)問(wèn)題,平均有 5 個(gè)問(wèn)題得到了最高完整性的回答,而問(wèn)題 3(服用藥物時(shí)我需要考慮什么?)的平均完整性最低,僅為 23%。

聊天機(jī)器人的陳述在 26%的答案中與參考數(shù)據(jù)不匹配,完全不一致的占 3%。

對(duì) 20 個(gè)答案的子集評(píng)估顯示,只有 54%被評(píng)為與科學(xué)共識(shí)一致。超過(guò)三分之一(39%)與科學(xué)共識(shí)相矛盾,而其余 6%沒(méi)有既定的科學(xué)共識(shí)。

在這些答案中,患者遵循聊天機(jī)器人的建議可能造成傷害被評(píng)為高度可能的占 3%,中度可能的占 29%,而三分之一被判斷為不太可能或根本不可能造成傷害,如果遵循的話。

研究人員寫(xiě)道:“在這項(xiàng)橫斷面研究中,我們觀察到具有人工智能聊天機(jī)器人的搜索引擎對(duì)患者問(wèn)題的回答總體上是完整和準(zhǔn)確的?!?/p>

他們補(bǔ)充說(shuō):“然而,聊天機(jī)器人的答案大多難以閱讀,并且反復(fù)缺乏信息或顯示不準(zhǔn)確,可能威脅到患者和藥物安全?!?/p>

他們認(rèn)為,一個(gè)主要的缺點(diǎn)是聊天機(jī)器人無(wú)法理解患者問(wèn)題背后的潛在意圖,并補(bǔ)充道:“盡管它們有潛力,但對(duì)于患者來(lái)說(shuō),咨詢(xún)他們的醫(yī)療保健專(zhuān)業(yè)人員仍然至關(guān)重要,因?yàn)榱奶鞕C(jī)器人可能并不總是生成無(wú)錯(cuò)誤的信息。在有更高準(zhǔn)確率的搜索引擎可用之前,建議謹(jǐn)慎使用人工智能驅(qū)動(dòng)的搜索引擎?!?/p>

(全文結(jié)束)

相關(guān)知識(shí)

人手一個(gè)AI健康助手!大模型時(shí)代的搜索引擎「蛻變」
醫(yī)學(xué)信息學(xué)在藥物副作用監(jiān)測(cè)中的應(yīng)用探索
醫(yī)療票據(jù)OCR+智能理算規(guī)則引擎 助力健康險(xiǎn)實(shí)現(xiàn)核賠理算自動(dòng)化
藥物依賴(lài)是指()
健康生活:依賴(lài)快餐加工食品風(fēng)險(xiǎn)!
上?!叭斯ぶ悄?”行動(dòng):建設(shè)人工智能藥物研發(fā)平臺(tái)等
人工智能
青少年手機(jī)依賴(lài):評(píng)估、風(fēng)險(xiǎn)因素及防治
這兩個(gè)有啥關(guān)系? 搜索引擎還得借助網(wǎng)站購(gòu)物平臺(tái)吧
在“錯(cuò)誤健康信息”時(shí)代,如何做個(gè)智性人?

網(wǎng)址: 依賴(lài)人工智能搜索引擎獲取藥物信息存在風(fēng)險(xiǎn) http://m.u1s5d6.cn/newsview1226259.html

推薦資訊