ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

全球首款口服胰岛素上市申请未获成功资讯

全球首款口服胰岛素上市申请未获成功

12月29日,国家药监局公布药品通知件送达信息,合肥天汇生物科技有限公司申报的重组人胰岛素肠溶胶囊位列其中。一般而言,拿到药品通知件,有可能是药品上市申请“不予批准”,...

2025-12-30 11:20

北大人民医院牵头发布首个外科领域“AI医生”应用标准资讯

北大人民医院牵头发布首个外科领域“AI医生”应用标准

12月29日,北京大学人民医院与蚂蚁健康联合组建的“医学人工智能创新联合研究中心”正式揭牌成立。

2025-12-30 10:40

远大医药优敏速获批,成为中国唯一严重过敏院外急救肾上腺素鼻喷剂资讯

远大医药优敏速获批,成为中国唯一严重过敏院外急救肾上腺素鼻喷剂

远大医药(0512 HK)发布公告,公司近期布局的全球首款用于紧急治疗I型过敏反应(包括严重过敏反应)的肾上腺素鼻喷雾剂Neffy®(优敏速®)已获国家药监局颁发药品注册证书。

2025-12-29 19:03

中华人民共和国危险化学品安全法,2026年5月1日起施行资讯

中华人民共和国危险化学品安全法,2026年5月1日起施行

2025年12月27日第十四届全国人民代表大会常务委员会第十九次会议通过。

2025-12-29 16:54

首个国产CTLA-4单抗获批资讯

首个国产CTLA-4单抗获批

近日,信达生物发布公告,宣布达伯欣(伊匹木单抗N01注射液,细胞毒性T淋巴细胞相关蛋白4(CTLA-4)单抗,研发代号:IBI310)获得中国国家药品监督管理局(NMPA)批准上市。

2025-12-29 16:30

我国首个核医疗示范基地在苏州启用资讯

我国首个核医疗示范基地在苏州启用

12月27日,我国首个核医疗示范基地,在苏州大学附属第二医院(核工业总医院)浒关院区正式建成启用。

2025-12-29 11:32

AI健康应用“蚂蚁阿福”今日发布声明:健康问答结果中没有广告,也不存在商业排名资讯

AI健康应用“蚂蚁阿福”今日发布声明:健康问答结果中没有广告,也不存在商业排名

今日,AI健康应用“蚂蚁阿福”发布官方声明,明确表示,阿福的问答结果中没有任何广告推荐、不存在商业排名,也不受其他商业因素干扰,用户可以放心使用。

2025-12-29 11:13

脑机接口等8款产品纳入优先审批高端医疗器械目录(2025版)资讯

脑机接口等8款产品纳入优先审批高端医疗器械目录(2025版)

​12月26日,国家药监局发布优先审批高端医疗器械目录(2025版)。

2025-12-27 21:39

优赫得在华获批为首个用于既往在转移性疾病阶段经一种或一种以上内分泌治疗进展的HER2低表达或超低表达乳腺癌患者的HER2靶向疗法资讯

优赫得在华获批为首个用于既往在转移性疾病阶段经一种或一种以上内分泌治疗进展的HER2低表达或超低表达乳腺癌患者的HER2靶向疗法

基于DESTINY-Breast06 III期试验结果:德曲妥珠单抗相较化疗展现出显著优势,中位无进展生存期超过一年

2025-12-26 17:12

ADC 创新药新锐翎泰天润完成近亿元 Pre-A 轮融资,加速自免与肿瘤领域临床突破资讯

ADC 创新药新锐翎泰天润完成近亿元 Pre-A 轮融资,加速自免与肿瘤领域临床突破

本轮融资由磐霖资本与杏泽资本联合领投,天使轮股东骊宸元鼎、联想之星持续加注,资金将重点用于核心产品 2026 年临床试验推进及多适应症管线布局拓展。

2025-12-26 17:08

血霁生物完成过亿元B1轮股权融资首关和过亿元债权融资资讯

血霁生物完成过亿元B1轮股权融资首关和过亿元债权融资

本轮融资将加速推进其核心管线临床试验与全球化布局,为解决临床血源短缺、血液传播疾病等痛点注入强劲动力,标志着中国体外造血技术商业化进入关键阶段。

2025-12-26 17:03

浙江将首版商保创新药目录19个品种全部纳入“双通道”范围资讯

浙江将首版商保创新药目录19个品种全部纳入“双通道”范围

12月25日,浙江省医保局发布2026年该省纳入“双通道”管理药品名单,除最新国谈药品及2025年纳入“双通道”药品调整外,浙江将首次商保创新药目录中的19个药品全部纳入。

2025-12-26 14:33

自2026年5月1日起施行,《医疗器械出口销售证明管理规定》发布资讯

自2026年5月1日起施行,《医疗器械出口销售证明管理规定》发布

本规定自2026年5月1日起施行。2015年6月1日原国家食品药品监督管理总局《关于发布医疗器械产品出口销售证明管理规定的通告》(2015年第18号)同时废止。

2025-12-26 13:45

天津医科大学总医院原党委书记张建宁正接受纪律审查和监察调查资讯

天津医科大学总医院原党委书记张建宁正接受纪律审查和监察调查

中央纪委国家监委网站讯,据天津市纪委监委消息:天津医科大学总医院原党委书记张建宁涉嫌严重违纪违法,目前正接受天津市纪委监委纪律审查和监察调查。

2025-12-26 10:33

医学生物医药领域《鼓励外商投资产业目录》2025年版与2022年版对比资讯

医学生物医药领域《鼓励外商投资产业目录》2025年版与2022年版对比

近日,经国务院同意,国家发展改革委、商务部公开发布了《鼓励外商投资产业目录(2025年版)》,这是时隔3年后更新该目录。

2025-12-25 16:49

施伟伟教授:2025年肺癌内科治疗进展盘点资讯

施伟伟教授:2025年肺癌内科治疗进展盘点

2025年小细胞肺癌(SCLC)因 Tarlatamab 双抗与芦比替定前移而迎来新生;非小细胞肺癌(NSCLC)在EGFR耐药、围手术期免疫、HER2 和 ROS1 TKI精准治疗以及脑转移关注上都有...

2025-12-25 14:19

国产肿瘤电场治疗仪获批上市,用于治疗脑胶质瘤资讯

国产肿瘤电场治疗仪获批上市,用于治疗脑胶质瘤

12月24日,国家药品监督管理局正式批准湖南安泰康成生物科技有限公司的肿瘤电场治疗仪注册申请(国械注准20253092649)

2025-12-25 14:14

博迈医疗创业板IPO获受理,拟募资17亿加码血管介入器械研发与产业化资讯

博迈医疗创业板IPO获受理,拟募资17亿加码血管介入器械研发与产业化

12月24日,广东博迈医疗科技股份有限公司(简称“博迈医疗”)创业板IPO申请正式获得受理。

2025-12-25 14:06

注射用德曲妥珠单抗(优赫得)中国获批第五项适应症资讯

注射用德曲妥珠单抗(优赫得)中国获批第五项适应症

今日,第一三共宣布,优赫得(注射用德曲妥珠单抗)在中国获批,用于治疗既往在转移性疾病阶段经一种或一种以上内分泌治疗进展的,不可切除或转移性激素受体(HR)阳性、HER2低...

2025-12-25 13:32

国家免疫规划双价HPV疫苗集中采购入围单价27.5 元资讯

国家免疫规划双价HPV疫苗集中采购入围单价27.5 元

近日,万泰生物和沃森医药相继发布公告,其二价HPV疫苗入围 2025 年国家免疫规划疫苗集中采购项目—双价人乳头瘤病毒疫苗采购项目,入围单价为人民币 27 5 元。

2025-12-24 11:13