ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

因美纳推出首个支持高灵敏度MRD研究的全基因组测序解决方案资讯

因美纳推出首个支持高灵敏度MRD研究的全基因组测序解决方案

先进研究工作流程,支持在治疗期间及治疗后快速、灵活地开展分子残留病灶检测

2026-05-29 14:30

百济神州安泰适(注射用塔拉妥单抗)再获新适应症,获批扩展至小细胞肺癌二线及以上治疗资讯

百济神州安泰适(注射用塔拉妥单抗)再获新适应症,获批扩展至小细胞肺癌二线及以上治疗

5月29日,百济神州宣布,安泰适(注射用塔拉妥单抗)获得国家药品监督管理局(NMPA)新增适应症批准,用于既往接受过1种系统性治疗(包括含铂化疗)失败的广泛期小细胞肺癌(ES-...

2026-05-29 14:08

信达生物与辉瑞达成总交易额105亿美元的Co-Co合作资讯

信达生物与辉瑞达成总交易额105亿美元的Co-Co合作

信达生物制药集团今日发布公告宣布与辉瑞达成战略合作协议。协议涵盖多种合作模式,包括许可、共同开发及共同商业化(Co-Co);合作资产组合覆盖多款具有新型差异化载荷的抗体偶...

2026-05-29 12:58

时隔两日,GSK重磅乙肝药物再次提交国内上市申请资讯

时隔两日,GSK重磅乙肝药物再次提交国内上市申请

今日,医谷网查询国家药监局在审品种最新信息显示,2026年5月27日,葛兰素史克(GSK)的慢性乙肝治疗药物贝普若韦生注射液(Bepirovirsen,GSK836)再次向国家药监局提交了上市...

2026-05-29 11:52

尧唐生物完成近 5 亿元 C 轮融资,扎根全球体内基因编辑赛道资讯

尧唐生物完成近 5 亿元 C 轮融资,扎根全球体内基因编辑赛道

本轮融资由正心谷资本领投,上海国投先导、闵金投、德岳投资等知名机构参与投资,老股东险峰淇云、远翼投资、天创资本持续加码跟投。

2026-05-29 11:15

孩子打了乙肝资讯

孩子打了乙肝"出生第一针",保护能持续多久?专家这样说

来自公共卫生、感染科、儿科、社区卫生等领域的专家汇聚一堂,基于儿童免疫规划的成功经验,共同探讨乙肝防治新路径。

2026-05-28 13:11

首批入选!联仁健康成为福建省医疗健康方向公共数据开发服务商资讯

首批入选!联仁健康成为福建省医疗健康方向公共数据开发服务商

近日,福建省大数据集团权属企业福建大数据一级开发有限公司公布“福建省医疗健康方向公共数据首批开发服务商名单”。

2026-05-28 11:50

中国生物技术发展中心:体细胞治疗新技术临床研究备案指引(第1版)资讯

中国生物技术发展中心:体细胞治疗新技术临床研究备案指引(第1版)

本指引所指的体细胞治疗新技术是指利用人自体或异体的成熟 功能分化细胞, 经可能改变体细胞特性的体外操作后, 如分离、 纯化、 激活、 扩增培养、 负载、 遗传修饰、...

2026-05-28 10:15

爱尔眼科正式递表港交所, 资讯

爱尔眼科正式递表港交所, "A+H" 双资本平台战略

5月27日港交所披露,爱尔眼科向港交所主板提交上市申请,华泰国际担任本次发行的独家保荐人。

2026-05-28 09:37

礼来发表最新研究:2型糖尿病早期强化干预可带来更显著代谢获益资讯

礼来发表最新研究:2型糖尿病早期强化干预可带来更显著代谢获益

5月26日,礼来公司宣布,一项聚焦2型糖尿病“确诊早期”这一关键阶段的研究——SURPASS-EARLY详细结果已发表于《内科学年鉴》。

2026-05-28 09:27

神复健行完成超 3 亿元天使轮融资,全球首创 资讯

神复健行完成超 3 亿元天使轮融资,全球首创 "三合一" 脑脊接口技术加速临床落地

本轮融资由凯辉基金领投,国投先导与夏尔巴投资联合领投,恒旭资本跟投,原有股东复旦科创持续追加投资

2026-05-27 21:24

肝病siRNA疗法开发公司获B轮融资 4.14 亿元 ,复星医药领投资讯

肝病siRNA疗法开发公司获B轮融资 4.14 亿元 ,复星医药领投

本轮融资由复星医药控股子公司复星医药产业领投,凯泰资本、太浩创投、得时资本、谦和资本、华金资本、上海科法达安医药科技有限公司、TG Sino-Dragon Fund II L P 及多...

2026-05-27 21:16

诺诚健华奥布替尼在澳大利亚上市资讯

诺诚健华奥布替尼在澳大利亚上市

诺诚健华发近日收到通知,奥布替尼(商品名:宜诺凯,HIBRUKA)已获澳大利亚药品管理局(TGA)核准签发的上市许可,适应症为适应症:成年复发 难治性套细胞淋巴瘤(r rMCL)。

2026-05-27 21:05

阿斯利康将携肝癌、乳腺癌和膀胱癌III期临床研究数据及罕见病潜在同类首创疗法,亮相2026美国临床肿瘤学会(ASCO)年会资讯

阿斯利康将携肝癌、乳腺癌和膀胱癌III期临床研究数据及罕见病潜在同类首创疗法,亮相2026美国临床肿瘤学会(ASCO)年会

EMERALD-3研究的重磅报告将展示英飞凡联合英卓凡用于早期肝癌治疗的获益

2026-05-27 20:49

复星医药拟4.14亿元投资星曜坤泽,布局乙肝治疗领域资讯

复星医药拟4.14亿元投资星曜坤泽,布局乙肝治疗领域

5月26日,复星医药发布公告称,公司控股子公司复星医药产业拟出资共计4 14亿元参与星曜坤泽B轮融资并受让联营公司苏州基金、天津基金所持部分股权。如B轮融资及股权转让全部完...

2026-05-27 15:06

甘李药业取得巴西GMP认证,胰岛素出海布局再下一城资讯

甘李药业取得巴西GMP认证,胰岛素出海布局再下一城

5月27日,甘李药业发布公告称,子公司甘李药业巴西贸易与医药进口有限责任公司近日收到巴西国家卫生监督局核准签发的药品生产质量管理规范(GMP)认证证书。该认证涵盖甘李药业...

2026-05-27 14:05

第二批参照药预沟通药品新增两款资讯

第二批参照药预沟通药品新增两款

第二批参照药预沟通公示药品信息增加至30款,数量基本与第一批保持一致,此前第一批为31款药品。

2026-05-27 11:46

药明生物不超4亿美元回购股份资讯

药明生物不超4亿美元回购股份

5月26日,药明生物发布公告称,公司于二零二六年五月二十四日,其已议决动用购回授权,以及(如适用)股东于本公司股东大会上批准以购回股份的任何未来一般授权,以不时在公开市...

2026-05-26 15:15

君实生物收到关于销售费用等的问询函资讯

君实生物收到关于销售费用等的问询函

近日,上海君实生物医药科技股份有限公司收到上海证券交易所下发的《关于上海君实生物医药科技股份有限公司2025年年度报告的信息披露监管问询函》(上证科创公函【2026】0121号)。

2026-05-26 13:40

2026年度“沪惠保” ,5月25日参保正式开启,新增脑机接口资讯

2026年度“沪惠保” ,5月25日参保正式开启,新增脑机接口

5月25日,2026年度上海城市定制型商业医疗保险“沪惠保”正式启动参保。

2026-05-25 16:32