ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

第12批国家药品集采开始信息预填报,共涉及76个产品资讯

第12批国家药品集采开始信息预填报,共涉及76个产品

5月15日,国家组织药品联合采购办公室发布《关于开展国家组织药品集中带量采购相关药品信息预填报工作的公告》,标志着第12批国家组织药品集中带量采购开始拉开帷幕。

2026-05-16 17:30

药品试验数据保护9问?为什么中药不适用于数据保护制度? 国家药监局发布 《药品试验数据保护实施办法》资讯

药品试验数据保护9问?为什么中药不适用于数据保护制度? 国家药监局发布 《药品试验数据保护实施办法》

数据保护是指,符合条件的化学药品和生物制品获批上市时,国家药监局对申请人提交的自行取得且未披露的试验数据和其他数据实施保护,给予最长不超过6年的数据保护期。数据保护期...

2026-05-15 18:16

博腾股份首个欧洲基地遭诺华单方面节约资讯

博腾股份首个欧洲基地遭诺华单方面节约

5月13日,博腾股份(300363 SZ)发布《关于对外投资进展及重大风险提示的公告》,根据公告,其位于斯洛文尼亚的研发生产基地遭到诺华公司(Novartis)的单方面解约,诺华单方要...

2026-05-15 14:43

甘李药业先后两款胰岛素产品在欧盟获批资讯

甘李药业先后两款胰岛素产品在欧盟获批

5月14日晚间,甘李药业发布公告称,甘李药业股份有限公司及其欧洲全资子公司甘李药业欧洲有限责任公司(Gan&LeePharmaceuticalsEurope GmbH)于近日收到欧盟委员会(EuropeanCo...

2026-05-15 12:00

严打中医医疗违法违规行为资讯

严打中医医疗违法违规行为

5月15日,国家中医药管理局等十部门联合召开中医医疗违法违规行为专项治理工作启动会。

2026-05-15 11:42

2026年度国家医保基金飞行检查正式全面启动资讯

2026年度国家医保基金飞行检查正式全面启动

5月14日,国家医保基金飞行检查湖南现场启动会暨警示教育会在长沙召开,这标志着2026年度国家医保基金飞行检查正式全面启动。国家医保局党组成员、副局长黄华波出席会议并讲话。

2026-05-15 08:29

泰格医药实控人被立案,还拖累了哪些上市公司资讯

泰格医药实控人被立案,还拖累了哪些上市公司

5月12日晚间,国内CRO龙头企业泰格医药(300347 SZ;3347 HK)发布公告称,公司实际控制人叶小平、曹晓春收到中国证监会《立案告知书》,二人因涉嫌持股变动相关信息披露违法...

2026-05-14 18:11

诺贝尔化学奖获得者创办的AI制药公司 Isomorphic Labs 完成21亿美元B轮融资资讯

诺贝尔化学奖获得者创办的AI制药公司 Isomorphic Labs 完成21亿美元B轮融资

据国外媒体消息,由谷歌DeepMind孵化、AI制药企业Isomorphic Labs完成21亿美元(约合人民币142 5亿元)B轮融资。

2026-05-14 13:29

CDE:2025年度药品审评报告资讯

CDE:2025年度药品审评报告

2025 年受理 16130 件技术审评类药品注册申请,以药品类型统计,中药注册申请 2723 件,化学药品注册申请10587 件,生物制品注册申请 2820 件。

2026-05-14 11:54

欧洲肥胖大会:诺和诺德Wegovy在所有绝经阶段的女性中均实现了显著减重资讯

欧洲肥胖大会:诺和诺德Wegovy在所有绝经阶段的女性中均实现了显著减重

丹麦当地时间5月12日,诺和诺德公布数据显示,Wegovy(诺和盈)在女性肥胖症患者不同生育生命阶段中均达成了显著且一致的减重效果,涵盖绝经前阶段、绝经期和绝经后阶段[1]。绝...

2026-05-13 12:59

伊米诺康完成 2.5 亿元 A 轮融资 加速打造全球领先全人源抗体发现平台资讯

伊米诺康完成 2.5 亿元 A 轮融资 加速打造全球领先全人源抗体发现平台

本轮融资由维梧资本领投,高脉元航跟投,老股东熙诚金睿、泰煜投资大比例超额追加投资,资金将重点用于核心技术迭代、平台商业化落地与创新能力升级。

2026-05-13 09:58

减重之后怎么办?礼来ECO最新数据将行业视线推向“长期维持”资讯

减重之后怎么办?礼来ECO最新数据将行业视线推向“长期维持”

2026年5月13日,礼来公布SURMOUNT-MAINTAIN和ATTAIN-MAINTAIN两项后期临床研究详细结果。

2026-05-13 09:53

147亿,A股医药板块有史以来最大的年度亏损资讯

147亿,A股医药板块有史以来最大的年度亏损

147亿,A股医药板块有史以来最大的年度亏损。近日,A股疫苗明星企业智飞生物(300122 SZ)发布的2025年年报公布了这一“成绩”。这也是智飞生物上市以来首个亏损。

2026-05-12 20:21

恒瑞医药与BMS达成总交易额可达约152亿美元的战略与许可合作资讯

恒瑞医药与BMS达成总交易额可达约152亿美元的战略与许可合作

本次合作协议共包含 4 项恒瑞肿瘤学及血液学项目、4 项 BMS 免疫学项目,以及双方依托恒瑞研发引擎与多元创新技术平台共同研发的 5 项创新项目,值得注意的是,这13在研...

2026-05-12 13:40

徐和平教授荣膺国际视觉与眼科研究协会(ARVO)金质会士(FARVO Gold)荣誉称号资讯

徐和平教授荣膺国际视觉与眼科研究协会(ARVO)金质会士(FARVO Gold)荣誉称号

近日,国际视觉与眼科研究协会(The Association for Research in Vision and Ophthalmology, ARVO)在美国丹佛召开的2026年年会上正式公布了本年度金质会士(ARVO Gold Fellow,FARVO)评选结果。

2026-05-12 13:35

诺和诺德连续三年发起5·11肥胖症科普公益行动,呼吁寻找轻盈人生资讯

诺和诺德连续三年发起5·11肥胖症科普公益行动,呼吁寻找轻盈人生

正逢5月11日肥胖日,“科学减重 健康轻盈”体重管理公益行登陆北京。

2026-05-12 13:31

仁度生物继续停牌资讯

仁度生物继续停牌

5月11日晚间,仁度生物发布公告,继续维持停牌。

2026-05-12 11:32

中国生物技术发展中心:细胞组分及衍生物治疗新技术临床研究备案指引(第1版)资讯

中国生物技术发展中心:细胞组分及衍生物治疗新技术临床研究备案指引(第1版)

本指引适用于在我国境内开展的非以药品注册为目的的细胞组分及衍生物治疗新技术临床研究,本指引所指的细胞组分及衍生物治疗新技术不依赖完整活细胞,是指利用人自体或异体干细...

2026-05-12 10:05

迈瑞遭证监会监管六问资讯

迈瑞遭证监会监管六问

5月8日,中国证监会对外公布最新一期《境外发行上市备案补充材料要求》(2026年4月27日—2026年5月8日),国际司共对7家企业出具补充材料要求,其中包括已于2025年11月10日向港交...

2026-05-10 19:21

生物医学新技术高风险、中风险、低风险分级指南资讯

生物医学新技术高风险、中风险、低风险分级指南

哪些是高风险技术、哪些是中风险技术、哪些是低风险技术?中国生物技术发展中心发布《生物医学新技术风险分级指南》。

2026-05-10 16:28