ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

这家药企停牌,ST,面临退市风险资讯

这家药企停牌,ST,面临退市风险

6月10日晚间,湖南南新制药(688189 SH)发布公告,公司于6月9日收到中国证监会湖南监管局出具的《行政处罚事先告知书》(〔2026〕6号)。公司涉嫌信息披露违法违规行为被依法...

2026-06-10 22:27

凯思凯迪完成 3.18 亿元 D 轮融资,加码胆汁酸代谢赛道,加速全球首创肝病创新药临床落地资讯

凯思凯迪完成 3.18 亿元 D 轮融资,加码胆汁酸代谢赛道,加速全球首创肝病创新药临床落地

本轮融资由太平医疗健康基金、上海科创集团联合领投,粤开资本、昭德投资、涟邦基金等多家专业医疗投资机构跟投

2026-06-10 18:56

诺华泰菲乐联合迈吉宁新适应症获批,为BRAF V600E突变阳性RAIR-DTC患者带来精准治疗新选择资讯

诺华泰菲乐联合迈吉宁新适应症获批,为BRAF V600E突变阳性RAIR-DTC患者带来精准治疗新选择

用于治疗BRAF V600E突变阳性、放射性碘难治或不适用、且血管内皮生长因子酪氨酸激酶抑制剂(VEGFR-TKI)治疗失败的局部晚期或转移性分化型甲状腺癌成人患者。

2026-06-10 18:08

3个项目完成首批生物医学新技术临床研究备案资讯

3个项目完成首批生物医学新技术临床研究备案

6月8日,中国生物技术发展中心发布生物医学新技术临床研究备案完成项目清单(第1批),自5月1日《生物医学新技术临床研究和临床转化应用管理条例》正式生效以来,5月1日至5月22...

2026-06-10 17:51

2026小细胞肺癌创新人文论坛在武汉举办资讯

2026小细胞肺癌创新人文论坛在武汉举办

今日,由北京伍连德公益基金会主办,百济神州支持的“2026小细胞肺癌创新人文论坛”以线上线下结合的形式在武汉隆重举行。

2026-06-10 16:35

35.7亿元!来凯医药PI3Kα抑制剂达成达成海外BD资讯

35.7亿元!来凯医药PI3Kα抑制剂达成达成海外BD

来凯医药将授予Vasque Bio LAE118在全球范围内(不含中国大陆、中国香港、中国澳门、中国台湾地区)的独家开发、生产制造及商业化权益,全权负责该药物海外市场的全流程研发与...

2026-06-10 14:28

腾讯、阿里等入股脑机接口企业阶梯医疗,博睿康完成上市辅导资讯

腾讯、阿里等入股脑机接口企业阶梯医疗,博睿康完成上市辅导

公开资料显示,近日上海阶梯医疗科技有限公司发生工商变更,新增阿里巴巴关联公司杭州灏月企业管理有限公司、腾讯关联公司上海启善投资有限公司等为股东,同时注册资本由100万元...

2026-06-10 10:06

药明康德、诺禾致源等被美国列入“中国军工企业”名单资讯

药明康德、诺禾致源等被美国列入“中国军工企业”名单

今日,药明康德发布公告称,公司注意到,2026年6月8日(美国时间),美国国防部错误地将药明康德列入其根据1260H条款认定的“中国军工企业”正式更新版名单中。

2026-06-09 21:24

微眸医疗完成近亿元A轮融资,全国首个眼科手术机器人多中心随机对照注册临床试验同期收官资讯

微眸医疗完成近亿元A轮融资,全国首个眼科手术机器人多中心随机对照注册临床试验同期收官

本轮A轮融资由元航资本领投,老牌投资机构明桂资本持续加码追投,多家行业知名投资机构联合参与投资,伊嘉资本担任本次融资财务战略合作伙伴。

2026-06-09 20:20

华东医药伊妍仕S型额部适用症变更注册申请获受理资讯

华东医药伊妍仕S型额部适用症变更注册申请获受理

应用范围有望从鼻唇沟皱纹拓展至额部轮廓领域

2026-06-09 20:03

礼来公布口服小分子GLP-1 药物关键研究完整数据,潜在T2D新口服方案表现亮眼资讯

礼来公布口服小分子GLP-1 药物关键研究完整数据,潜在T2D新口服方案表现亮眼

礼来公司在美国糖尿病协会(ADA)第86届科学年会上公布了口服小分子GLP-1受体激动剂orforglipron在ACHIEVE系列三项3期临床研究中的详细数据。

2026-06-09 19:57

因美纳发布StrataMap Spatial Solution:高性能的端到端空间全转录组研究解决方案资讯

因美纳发布StrataMap Spatial Solution:高性能的端到端空间全转录组研究解决方案

StrataMap Spatial支持研究人员以真正的单细胞分辨率开展空间生物学研究,拓展科学发现的边界

2026-06-09 19:52

两款IgA肾病新药获批资讯

两款IgA肾病新药获批

6月9日,荣昌生物发布公告称,近日,荣昌生物制药(烟台)股份有限公司收到国家药品监督管理局(NMPA)核准签发的《药品注册证书》,泰它西普注射液(代号:RC18)治疗免疫球蛋...

2026-06-09 11:33

第五年,2026年纠正医药购销领域和医疗服务中不正之风工作要点资讯

第五年,2026年纠正医药购销领域和医疗服务中不正之风工作要点

《通知》围绕年度重点任务和既往工作中发现的突出问题,聚焦重点领域和关键环节,在坚持党建引领行风、强化医德医风建设、加强正向宣传引导、防范化解风险隐患、严守医疗数据安...

2026-06-09 09:14

华超神控完成亿元天使系列融资,自研 AI 超声脑机平台开辟无创深脑调控新赛道资讯

华超神控完成亿元天使系列融资,自研 AI 超声脑机平台开辟无创深脑调控新赛道

本轮融资分为天使轮与天使 + 轮两期,天使轮由经纬创投独家领投,天使 + 轮由德联资本、道远资本联合领投,行业知名机构持续加注,循光资本担任本次系列融资独家财务顾问。

2026-06-08 17:05

 Cytiva与鼎康生物合作GMP-2扩建项目投产, 共筑“中国速度,全球交付”新标杆资讯

Cytiva与鼎康生物合作GMP-2扩建项目投产, 共筑“中国速度,全球交付”新标杆

GMP-2生产基地专为临床后期及商业化生产打造,可为全球生物药合作伙伴提供灵活且可扩展的生产解决方案,助力加速产品商业化进程并保障全球稳定供应。

2026-06-08 16:41

默沙东欣瑞来(注射用索特西普)重磅上市,引领肺动脉高压(PAH)迈向“治本” 新里程碑资讯

默沙东欣瑞来(注射用索特西普)重磅上市,引领肺动脉高压(PAH)迈向“治本” 新里程碑

用于治疗世界卫生组织功能分级(WHO FC)Ⅱ-Ⅲ级的肺动脉高压(PAH,WHO第1组)成年患者

2026-06-08 16:36

GCP2026修订版发布,2020版废止资讯

GCP2026修订版发布,2020版废止

6月8日,国家药监局、国家卫生健康委、国家中医药局、国家疾控局联合发布《药物临床试验质量管理规范(2026年修订)》,自2026年9月1日起施行。国家药监局、国家卫生健康委《关...

2026-06-08 16:21

博腾股份终止斯洛文尼亚研发生产基地建设,保留对诺华子公司主张索赔的权利资讯

博腾股份终止斯洛文尼亚研发生产基地建设,保留对诺华子公司主张索赔的权利

近日,博腾股份公告称,鉴于诺华斯洛文尼亚子公司已向博腾股份全资子公司PSI发出解除通知,PSI在该场地内的投资和建设已面临重大不确定性,公司决定终止投资建设斯洛文尼亚研发...

2026-06-08 13:10

全球首款CD7 CAR-T儿童适应症一期临床启动资讯

全球首款CD7 CAR-T儿童适应症一期临床启动

据安科生物和博生吉医药消息,安科生物参股公司博生吉医药自主研发的全球首款进入临床阶段的靶向CD7自体CAR-T产品PA3-17儿童适应证临床试验启动会在组长单位中国医学科学院血液...

2026-06-08 10:57