ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

陪审团认定安进故意侵权,和铂医药最高可获6060万美元赔偿资讯

陪审团认定安进故意侵权,和铂医药最高可获6060万美元赔偿

今日,和铂医药(02142 HK)发布公告,美国特拉华州联邦地区法院的陪审团就和铂医药针对安进公司(Amgen Inc )及其子公司Teneobio, Inc (以下合称“安进”)提起的专利侵...

2026-06-15 21:28

应对超重肥胖严峻挑战,辉瑞新一代GLP-1埃诺格鲁肽头对头研究验证临床优势资讯

应对超重肥胖严峻挑战,辉瑞新一代GLP-1埃诺格鲁肽头对头研究验证临床优势

超重与肥胖已是全球不可忽视的公共卫生挑战。

2026-06-15 19:58

年内创新药上市企业最大回购计划资讯

年内创新药上市企业最大回购计划

港股上述企业,中国生物制药(正大天晴为其旗下公司)今日发布公告,2026年6月12日,公司董事会决议通过一项股份购买计划,将视市场情况于未来12个月以不超过20亿港元总价在公开...

2026-06-15 15:56

拜耳研发开放日:共探医药创新未来资讯

拜耳研发开放日:共探医药创新未来

“拜耳研发开放日”活动近日在拜耳·亦庄开放创新中心举办。

2026-06-15 12:18

蚂蚁阿福拍皮肤功能升级,试水“AI+医生把关”协作模式资讯

蚂蚁阿福拍皮肤功能升级,试水“AI+医生把关”协作模式

6月15日, "蚂蚁阿福 "宣布“拍皮肤”功能升级:可识别皮肤病种类从50种增至100多种,覆盖99%的线上就医常见皮肤问题。

2026-06-15 11:27

再鼎医药ADC药物注射用维替索妥尤单抗获批资讯

再鼎医药ADC药物注射用维替索妥尤单抗获批

6月9日,再鼎医药宣布国家药品监督管理局(NMPA)已批准缇乐注射用维替索妥尤单抗)的生物制品上市许可申请(BLA)。

2026-06-15 09:23

即将获批的“老花眼”滴眼液被云顶新耀收购资讯

即将获批的“老花眼”滴眼液被云顶新耀收购

6月8日,云顶新耀(01952 HK)发布公告,宣布与箕星药业达成资产收购协议,获得LNZ100(1 44%醋克利定,美国商品名VIZZ)在大中华区(包含中国大陆、中国香港、中国澳门和中国...

2026-06-14 19:25

百奥泰永和工厂EU GMP检查,存在偏差管理相关措施不到位的问题资讯

百奥泰永和工厂EU GMP检查,存在偏差管理相关措施不到位的问题

百奥泰今日发布公告称,公司于2026年2月4日至2月12日接受了法国国家药品与健康产品安全局(ANSM)针对欧盟药品生产质量管理规范(EUGMP)符合性的现场检查。

2026-06-14 16:21

化学仿制药药学研究重大缺陷情形有哪些,触及将不予批准,资讯

化学仿制药药学研究重大缺陷情形有哪些,触及将不予批准,

药品审评中心在审评过程中发现存在重大缺陷的, 不再要求注册申请人补充资料,基于已有申报资料作出不予批准的审评结论。

2026-06-14 10:21

创新医疗器械自膨式单铆可降解房间隔缺损封堵器获批资讯

创新医疗器械自膨式单铆可降解房间隔缺损封堵器获批

近日,国家药品监督管理局批准了上海锦葵医疗器械股份有限公司“自膨式单铆可降解房间隔缺损封堵器”创新产品注册申请。

2026-06-13 20:25

全球首发,首个基础胰岛素/GLP-1RA周制剂诺和杰即将在中国率先上市资讯

全球首发,首个基础胰岛素/GLP-1RA周制剂诺和杰即将在中国率先上市

作为诺和诺德“中国同创”项目的重要里程碑,诺和杰的3期临床研究COMBINE 1由北京大学人民医院纪立农教授牵头开展。这是诺和诺德历史上首次由中国专家担任全球首席研究者的国际...

2026-06-13 20:11

诺未生物完成亿元 B 轮融资,加速 HPV 治疗性核酸新药临床开发进程资讯

诺未生物完成亿元 B 轮融资,加速 HPV 治疗性核酸新药临床开发进程

所募资金将重点用于加速其全球首创 HPV 治疗性核酸药物 NWRD08 的 Ⅱ 期临床试验推进、扩大临床研究中心布局、完善 GMP 生产基地建设以及下一代创新管线的研发储备。

2026-06-12 15:41

ERA 2026重磅数据发布:耐赋康携23项最新研究,持续领跑IgA肾病对因治疗赛道资讯

ERA 2026重磅数据发布:耐赋康携23项最新研究,持续领跑IgA肾病对因治疗赛道

IgA肾病是我国最常见的原发性肾小球疾病,高达75%的患者会在20年后进展至肾衰竭,长期以来,临床缺乏靶向病因的精准治疗方案。

2026-06-12 14:11

诺华盐酸阿曲生坦降价53%,冲击今年国谈资讯

诺华盐酸阿曲生坦降价53%,冲击今年国谈

6月9日,四川省药械招标采购服务中心发布《川药招〔2026〕124号 关于公示部分药品降价的通知》,共涉及228个药品减价,其中,诺华用于治疗IgA肾病的盐酸阿曲生坦位列其中,每盒3...

2026-06-12 13:16

药明康德对美国国防部发起诉讼资讯

药明康德对美国国防部发起诉讼

今日早间,药明康德(603259 SH、02359 HK)发布公告称,2026年6月11日(美国时间),公司已在美国哥伦比亚特区联邦地区法院对美国国防部提起诉讼。

2026-06-12 11:03

博瑞生物双靶点GLP-1注射液减重适应症递交上市申请资讯

博瑞生物双靶点GLP-1注射液减重适应症递交上市申请

博瑞生物6月12日公告称,近日,全资子公司博瑞制药(苏州)有限公司自主研发的BGM0504注射液减重适应症的新药上市申请(NDA),已获国家药品监督管理局(NMPA)药品审评中心(CDE)受理。

2026-06-12 10:10

2026国家医保目录及商保目录调整申报已经完成资讯

2026国家医保目录及商保目录调整申报已经完成

据国家医保局官方微信消息,2026年基本医保目录及商保创新药目录调整申报已于6月10日20:00结束。申报期间共收到818份药品申报材料,包括目录外药品570份(单独申报基本目录509份...

2026-06-11 21:30

我武生物撤回人脐带间充质干细胞II型注射液IND申请,需完善部分药学研究资讯

我武生物撤回人脐带间充质干细胞II型注射液IND申请,需完善部分药学研究

我武生物今日发布公告称,公司间接控股子公司浙江我武干细胞科技有限公司撤回“人脐带间充质干细胞II型注射液”药物临床试验申请。

2026-06-11 17:01

GSK十多年来最大一笔交易,106亿美元收购Nuvalent资讯

GSK十多年来最大一笔交易,106亿美元收购Nuvalent

当地时间6月9日,葛兰素史克(GSK)宣布与Nuvalent达成收购协议,将在10个工作日内以每股124美元的价格现金收购后者所有A类和B类普通股。此次交易的总股本价值估计为106亿美元(...

2026-06-11 16:11

晶泰控股与一家国际知名药企达成超4亿美元AI药物研发合作资讯

晶泰控股与一家国际知名药企达成超4亿美元AI药物研发合作

6月10日,晶泰控股发布公告称,公司与一家国际知名生物制药公司达成战略合作。双方将针对一个GPCR(G蛋白偶联受体)靶点,共同开发具备同类最佳(Best-in-Class)潜力的创新口服...

2026-06-11 15:55