ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

杰特贝林与百洋医药强强联合,深度布局中国血液制品黄金赛道资讯

杰特贝林与百洋医药强强联合,深度布局中国血液制品黄金赛道

百洋医药将获得杰特贝林旗下人血白蛋白产品安博美®在中国区域内(不包括香港、澳门及台湾地区)特定市场的独家推广、销售和经销权益。

2025-11-04 19:24

新版基本医保药品目录及首版商保创新药目录拟12月第一个周末在广州发布资讯

新版基本医保药品目录及首版商保创新药目录拟12月第一个周末在广州发布

10月30日-11月3日,国家医保局组织开展2025年国家基本医保药品目录谈判竞价和商保创新药目录价格协商工作,120家内外资企业现场参与,其中参与基本医保药品目录谈判竞价的目录外...

2025-11-04 18:42

敏捷医疗完成数亿元B轮融资,深耕手术机器人赛道资讯

敏捷医疗完成数亿元B轮融资,深耕手术机器人赛道

由明熙资本领投,元禾控股、骊宸投资、南通投管跟投,老股东千骥资本、元禾原点亦继续追加投资。

2025-11-04 16:38

健尔圣完成近亿元B轮融资,加速重金属解毒药物研发资讯

健尔圣完成近亿元B轮融资,加速重金属解毒药物研发

本轮融资由广东省江西商会会长、润都制药创始人李希博士领投 8000 万元,著名天使投资人龚虹嘉旗下的嘉道资本追加投资

2025-11-04 15:49

市场监管总局:7起老年人药品、保健品虚假宣传典型案例资讯

市场监管总局:7起老年人药品、保健品虚假宣传典型案例

2025年,市场监管总局按照深化群众身边不正之风和腐败问题集中整治要求,部署开展老年人药品、保健品虚假宣传专项整治,取得积极成效。现选取一批典型案例予以公布。

2025-11-01 17:32

CDE:老年人群参与创新药临床试验的关键要素及试验设计要点(试行)资讯

CDE:老年人群参与创新药临床试验的关键要素及试验设计要点(试行)

本指导原则旨在完全实施ICH E7的前提下,提出老年人群参与的创新药临床试验所涉及的一些关键要素及试验设计中的要点,并未涵盖药物临床试验的全流程或与药物临床试验设计相关的...

2025-11-01 17:09

2025“脑健康青年基金—睡眠健康创新研究”项目正式启动资讯

2025“脑健康青年基金—睡眠健康创新研究”项目正式启动

激活创新引擎,赋能中国睡眠医学新发展

2025-11-01 15:09

儿科服务能力提升项目顺利启动资讯

儿科服务能力提升项目顺利启动

10月30日,国家卫生健康委能力建设和继续教育中心主办的儿科服务能力提升项目启动会在湖北武汉顺利召开。

2025-11-01 10:37

华东医药自免创新管线进展频频,罗氟司特乳膏0.3%剂型在华上市申请获受理资讯

华东医药自免创新管线进展频频,罗氟司特乳膏0.3%剂型在华上市申请获受理

适用于 6 岁及以上斑块状银屑病患者的局部外用治疗,包括间擦部位。

2025-10-31 19:15

2026年1月1日,启用新版《药品生产许可证》《放射性药品生产许可证》样式资讯

2026年1月1日,启用新版《药品生产许可证》《放射性药品生产许可证》样式

新版许可证正、副本登载不同的二维码,并分别标注正本二维码和副本二维码字样。正本二维码展示企业基本信息,副本二维码除展示企业基本信息外,同时封装企业车间和生产线、委托...

2025-10-31 17:30

国医通获近亿元 D 轮融资,赋能基层血液净化升级资讯

国医通获近亿元 D 轮融资,赋能基层血液净化升级

所筹资金将定向用于核心在研产品开发、商业化推广及新产线投建,为基层血液净化产业升级注入强心剂。

2025-10-31 17:17

迈科康生物完成超 4 亿元 D 轮融资,核心疫苗研发加速冲刺资讯

迈科康生物完成超 4 亿元 D 轮融资,核心疫苗研发加速冲刺

本轮融资由 IDG、深创投和瑞普医药联合注资,所募资金将重点投向重组带状疱疹疫苗上市准备、重组呼吸道合胞病毒(RSV)疫苗 III 期临床研究,以及多个创新疫苗管线的临床前研...

2025-10-31 17:15

“全勤生”罗氏:携十余款即将在华上市及未来管线产品首展首秀,加速迈向全疾病领域领航者资讯

“全勤生”罗氏:携十余款即将在华上市及未来管线产品首展首秀,加速迈向全疾病领域领航者

第八届中国国际进口博览会(以下简称进博会)进入开幕倒计时,作为最早向商务部表示支持并深度参与进博会的跨国企业,“全勤生”罗氏制药将连续第八年如期赴约。

2025-10-31 15:25

和誉医药2025研发日成功举办,展示创新管线布局与前沿临床进展资讯

和誉医药2025研发日成功举办,展示创新管线布局与前沿临床进展

2025年10月30日,和誉医药(港交所代码:02256 HK)2025研发日在上海成功举办。

2025-10-31 09:29

百时美施贵宝公布两项最新研究数据证实氘可来昔替尼可有效治疗银屑病关节炎及系统性红斑狼疮资讯

百时美施贵宝公布两项最新研究数据证实氘可来昔替尼可有效治疗银屑病关节炎及系统性红斑狼疮

截至第52周,氘可来昔替尼在POETYK PsA-1试验中的安全性特征与既往临床表现一致, 未发现新的安全信号

2025-10-29 17:34

备思复™(维恩妥尤单抗)联合帕博利珠单抗的补充生物制品许可申请(sBLA)已获FDA优先审评资格,用于治疗特定肌层浸润性膀胱癌患者资讯

备思复™(维恩妥尤单抗)联合帕博利珠单抗的补充生物制品许可申请(sBLA)已获FDA优先审评资格,用于治疗特定肌层浸润性膀胱癌患者

关键III期研究EV-303结果显示,顺铂不耐受的肌层浸润性膀胱癌患者围手术期使用该联合方案,可将复发、进展或死亡风险降低60%,死亡风险降低50%。

2025-10-29 16:13

HPV,男女共防,一则来自专家的提醒资讯

HPV,男女共防,一则来自专家的提醒

每年10月28日是“世界男性健康日”,该节日的设立旨在进一步推动男性生殖健康知识的普及、强化疾病预防工作,以及重点关注男性心理健康等问题。

2025-10-29 15:54

赛诺菲携多项创新八赴进博,两大重磅新药将迎全球首秀资讯

赛诺菲携多项创新八赴进博,两大重磅新药将迎全球首秀

赛诺菲将带来心血管领域两大重磅创新药阿夫凯泰片和普乐司兰钠注射液的全球首秀。

2025-10-29 13:20

第十一批国家药品集采拟中选结果名单资讯

第十一批国家药品集采拟中选结果名单

10月28日晚间,国家组织药品联合采购办公室正式对外发布了全国药品集中采购拟中选结果公示。

2025-10-28 21:14

上线3个月,蚂蚁AQ冲至AI原生APP规模TOP榜第七资讯

上线3个月,蚂蚁AQ冲至AI原生APP规模TOP榜第七

10月28日,QuestMobile发布《2025年三季度AI应用行业报告》,豆包、DeepSeek、元宝、AQ等多款应用入围中国AI原生应用Top10。

2025-10-28 16:36