ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

神复健行完成超 3 亿元天使轮融资,全球首创 资讯

神复健行完成超 3 亿元天使轮融资,全球首创 "三合一" 脑脊接口技术加速临床落地

本轮融资由凯辉基金领投,国投先导与夏尔巴投资联合领投,恒旭资本跟投,原有股东复旦科创持续追加投资

2026-05-27 21:24

肝病siRNA疗法开发公司获B轮融资 4.14 亿元 ,复星医药领投资讯

肝病siRNA疗法开发公司获B轮融资 4.14 亿元 ,复星医药领投

本轮融资由复星医药控股子公司复星医药产业领投,凯泰资本、太浩创投、得时资本、谦和资本、华金资本、上海科法达安医药科技有限公司、TG Sino-Dragon Fund II L P 及多...

2026-05-27 21:16

诺诚健华奥布替尼在澳大利亚上市资讯

诺诚健华奥布替尼在澳大利亚上市

诺诚健华发近日收到通知,奥布替尼(商品名:宜诺凯,HIBRUKA)已获澳大利亚药品管理局(TGA)核准签发的上市许可,适应症为适应症:成年复发 难治性套细胞淋巴瘤(r rMCL)。

2026-05-27 21:05

阿斯利康将携肝癌、乳腺癌和膀胱癌III期临床研究数据及罕见病潜在同类首创疗法,亮相2026美国临床肿瘤学会(ASCO)年会资讯

阿斯利康将携肝癌、乳腺癌和膀胱癌III期临床研究数据及罕见病潜在同类首创疗法,亮相2026美国临床肿瘤学会(ASCO)年会

EMERALD-3研究的重磅报告将展示英飞凡联合英卓凡用于早期肝癌治疗的获益

2026-05-27 20:49

复星医药拟4.14亿元投资星曜坤泽,布局乙肝治疗领域资讯

复星医药拟4.14亿元投资星曜坤泽,布局乙肝治疗领域

5月26日,复星医药发布公告称,公司控股子公司复星医药产业拟出资共计4 14亿元参与星曜坤泽B轮融资并受让联营公司苏州基金、天津基金所持部分股权。如B轮融资及股权转让全部完...

2026-05-27 15:06

甘李药业取得巴西GMP认证,胰岛素出海布局再下一城资讯

甘李药业取得巴西GMP认证,胰岛素出海布局再下一城

5月27日,甘李药业发布公告称,子公司甘李药业巴西贸易与医药进口有限责任公司近日收到巴西国家卫生监督局核准签发的药品生产质量管理规范(GMP)认证证书。该认证涵盖甘李药业...

2026-05-27 14:05

第二批参照药预沟通药品新增两款资讯

第二批参照药预沟通药品新增两款

第二批参照药预沟通公示药品信息增加至30款,数量基本与第一批保持一致,此前第一批为31款药品。

2026-05-27 11:46

药明生物不超4亿美元回购股份资讯

药明生物不超4亿美元回购股份

5月26日,药明生物发布公告称,公司于二零二六年五月二十四日,其已议决动用购回授权,以及(如适用)股东于本公司股东大会上批准以购回股份的任何未来一般授权,以不时在公开市...

2026-05-26 15:15

君实生物收到关于销售费用等的问询函资讯

君实生物收到关于销售费用等的问询函

近日,上海君实生物医药科技股份有限公司收到上海证券交易所下发的《关于上海君实生物医药科技股份有限公司2025年年度报告的信息披露监管问询函》(上证科创公函【2026】0121号)。

2026-05-26 13:40

2026年度“沪惠保” ,5月25日参保正式开启,新增脑机接口资讯

2026年度“沪惠保” ,5月25日参保正式开启,新增脑机接口

5月25日,2026年度上海城市定制型商业医疗保险“沪惠保”正式启动参保。

2026-05-25 16:32

不得人工智能审方,国家药监局发布《处方药网络零售合规指南》  资讯

不得人工智能审方,国家药监局发布《处方药网络零售合规指南》

今日,国家药监局综合司印发《处方药网络零售合规指南》,《指南》对售药商家、售药行为和电商平台及网页展示细节做出了更明确规范的要求,同时针对目前网络售药存在的不凭处方...

2026-05-25 15:38

CRO百诚医药停牌,谋划控股权转让资讯

CRO百诚医药停牌,谋划控股权转让

5月24日晚间,百诚医药发布公告,,公司于近日收到公司控股股东、实际控制人邵春能、楼金芳的通知,控股股东、实际控制人邵春能、楼金芳及其一致行动人正在筹划涉及公司控制权变...

2026-05-25 13:53

罗伯医疗完成数千万元 B + 轮融资,加速全球消化内镜手术机器人商业化进程资讯

罗伯医疗完成数千万元 B + 轮融资,加速全球消化内镜手术机器人商业化进程

本次融资资金将主要用于核心产品 EndoFaster®(速易必)消化内镜手术机器人的全国临床落地、下一代产品 EndoDreams 的研发、智能化生产基地建设与供应链优化,以及国际市场...

2026-05-25 12:14

全国护肤日 | 稳“银”需“全局视野”,更要“长期主义”资讯

全国护肤日 | 稳“银”需“全局视野”,更要“长期主义”

​每年5月25日是“全国护肤日”,旨在唤起公众对皮肤健康的重视。

2026-05-25 12:06

对上海医保支付集采药品新政的解读资讯

对上海医保支付集采药品新政的解读

近期,上海市医保局发布的 《关于优化第十一批国家组织集采药品医保支付协同的通知》 (沪医保医管发〔2026〕12号),相关政策的变化引起业内广泛关注。目前该政策已于2026年5...

2026-05-25 11:45

云顶新耀年销超14亿的当家花旦迎来新的挑战者资讯

云顶新耀年销超14亿的当家花旦迎来新的挑战者

5月21日晚间,石药集团发布公告宣布,其开发的布地奈德肠溶胶囊(4mg)已获得国家药品监督管理局颁发的药品注册批件,用于治疗具有疾病进展风险的原发性免疫球蛋白A肾病成人患者...

2026-05-24 22:38

5月20日起,提交注册申请的品种按照《M13A:口服固体速释制剂的生物等效性》执行资讯

5月20日起,提交注册申请的品种按照《M13A:口服固体速释制剂的生物等效性》执行

自本公告发布之日起,提交注册申请的品种均适用M13A指导原则(含问答文件)。对于已按照既往临床试验方案和统计分析计划开展生物等效性试验,并在本公告发布之日起12个月内申报...

2026-05-23 11:56

呋喹替尼联合疗法获批晚期肾细胞癌患者二线治疗新适应症资讯

呋喹替尼联合疗法获批晚期肾细胞癌患者二线治疗新适应症

​5月21日,和黄医药宣布,其自主研发创新药物呋喹替尼获得中国国家药品监督管理局(NMPA)批准,联合信迪利单抗用于治疗既往接受血管内皮生长因子受体酪氨酸激酶抑制剂(VEGFR-...

2026-05-22 15:56

刚果(金)与乌干达埃博拉疫情:国际SOS发布企业员工支持建议资讯

刚果(金)与乌干达埃博拉疫情:国际SOS发布企业员工支持建议

近日,世界卫生组织(WHO)宣布,当前影响刚果民主共和国和乌干达的埃博拉疫情构成“国际关注的突发公共卫生事件”(PHEIC)。

2026-05-22 13:47

早筛 戒烟 筑牢膀胱癌第一道防线资讯

早筛 戒烟 筑牢膀胱癌第一道防线

​每年的5月是“膀胱关爱月”,根据国家癌症中心发布的《2024年全国癌症报告》显示,膀胱癌位居我国恶性肿瘤发病第 11 位。2022年中国膀胱癌发病率为7 3 10万人,死亡率为4...

文/刘思 2026-05-22 13:31