ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

复牌后,这家企业将成为央企资讯

复牌后,这家企业将成为央企

停牌4天后,今日晚间,艾德生物(300685 SZ)发布了复牌公告。

2026-06-04 22:40

徕卡生物科技与 CellCarta 拓展伴随诊断合作开发模式,加速全球商业化进程资讯

徕卡生物科技与 CellCarta 拓展伴随诊断合作开发模式,加速全球商业化进程

该合作模式旨在适应生物制药企业多样化的研发需求,通过紧密协作与并行推进,建立灵活的全球伴随诊断(CDx)开发框架,助力项目从早期检测开发到商业化诊断的更高效转化。

2026-06-04 19:39

瀚森制药双靶点GLP-1减重产品上市申请获受理资讯

瀚森制药双靶点GLP-1减重产品上市申请获受理

瀚森制药今日发布公告,公司创新药奥莱泊肽注射液上市许可申请(NDA)获中国国家药品监督管理局(NMPA)受理,适用于肥胖或超重成人,奥莱泊肽是一款瀚森制药自主研发的每周一次给药...

2026-06-04 13:40

中国生物技术发展中心:抗原特异性免疫细胞激活新技术临床研究备案指引(第1版)资讯

中国生物技术发展中心:抗原特异性免疫细胞激活新技术临床研究备案指引(第1版)

本指引所指的抗原特异性免疫细胞激活新技术是指将不同类型的抗原或抗原载体注射到人体, 经过抗原递呈细胞识别、 吞噬、 加工处理等过程, 诱导机体内产生抗原特异性的免疫...

2026-06-04 10:54

康方生物发布依沃西联合化疗一线治疗结直肠癌II期期中分析数据资讯

康方生物发布依沃西联合化疗一线治疗结直肠癌II期期中分析数据

​近日,在2026年美国临床肿瘤学会年会(ASCO 2026)上,康方生物对外公布了PD-1 VEGF双特异性抗体新药依沃西联合mFOLFOX6化疗方案,一线治疗不可切除转移性结直肠癌(mCRC)的...

2026-06-04 10:21

冲击港股穿刺消融手术机器人第一股!真健康医疗正式递表资讯

冲击港股穿刺消融手术机器人第一股!真健康医疗正式递表

总部扎根广东珠海横琴粤澳深度合作区的真健康医疗,2018 年注册成立,是国内聚焦肿瘤精准微创赛道的高新技术、专精特新小巨人企业,深耕经皮穿刺、消融手术机器人全链条研发生...

2026-06-04 09:48

CDE:关于开发适宜药品包装规格的指导原则资讯

CDE:关于开发适宜药品包装规格的指导原则

药品适宜的包装规格通常应满足临床用药的功能性、方便性和经济性需要,基于批准的适应症或功能主治、用法用量、用药周期、用药场景等合理设计。

2026-06-03 18:40

甘李药业周制剂胰岛素GZR4注射液第三项关键III期SUPER-3研究完成资讯

甘李药业周制剂胰岛素GZR4注射液第三项关键III期SUPER-3研究完成

6月1日,甘李药业宣布,公司自主创新 1 类生物新药、超长效周制剂胰岛素 GZR4 注射液第三项关键 III 期 SUPER-3 临床试验顺利达到预设主要疗效终点。

2026-06-03 16:00

超11亿美元,云顶新耀新一代 BTK 抑制剂出海资讯

超11亿美元,云顶新耀新一代 BTK 抑制剂出海

6 月 2 日,云顶新耀发布公告,宣布公司与美国纳斯达克上市罕见病龙头企业 Travere Therapeutics(TVTX)签署独家授权合作协议,将自研管线核心品种希布替尼(EVER001,civ...

2026-06-03 15:22

数因智科落地 Pre-A 轮融资,AI+RNA 双引擎发力,医药消费双赛道迈入商业化加速期资讯

数因智科落地 Pre-A 轮融资,AI+RNA 双引擎发力,医药消费双赛道迈入商业化加速期

本轮融资由科创板上市生物科技企业嘉必优独家领投,中信建投资本、临港数科基金、闵行金投、康容药业、大零号湾创投等产业资本与国资基金联合跟投

2026-06-02 19:40

阿里达摩院急性主动脉综合征CT平扫AI诊断软件纳入创新医疗器械特别审查程序资讯

阿里达摩院急性主动脉综合征CT平扫AI诊断软件纳入创新医疗器械特别审查程序

近日,创新医疗器械特别审查申请审查结果公示(2026年第8号)显示,阿里达摩院研发的急性主动脉综合征CT平扫图像辅助分诊软件(DAMO iAorta)已被纳入进入国家药品监督管理局的...

2026-06-02 17:19

众生药业昂拉地韦颗粒纳入优先审评品种名单资讯

众生药业昂拉地韦颗粒纳入优先审评品种名单

6月2日,众生药业发布公告,近日,根据国家药监局药品审评中心发布的公示信息,公司控股子公司广东众生睿创生物科技有限公司自主研发的创新药物昂拉地韦颗粒被CDE纳入优先审评品...

2026-06-02 17:01

国家药监局关于医疗器械分类调整有关工作的公告资讯

国家药监局关于医疗器械分类调整有关工作的公告

为加强医疗器械分类管理,根据《医疗器械监督管理条例》《医疗器械注册与备案管理办法》《体外诊断试剂注册与备案管理办法》等相关要求,进一步明确调整医疗器械(含体外诊断试...

2026-06-02 15:45

海思科与礼来达成BD合作,核心产品环泊酚注射液美国获批上市资讯

海思科与礼来达成BD合作,核心产品环泊酚注射液美国获批上市

海思科宣布与礼来达成合作,于 2026 年 5 月 29 日签署《授权与研发合作协议》。

2026-06-02 10:56

飞利浦影像引导治疗系统在华装机突破6000台资讯

飞利浦影像引导治疗系统在华装机突破6000台

以平台聚合本土创新生态,助力泛血管诊疗提质发展

2026-06-01 18:11

国内首个裸质粒基因治疗药物获批资讯

国内首个裸质粒基因治疗药物获批

近日,国家药品监督管理局批准北京诺思兰德生物技术股份有限公司申报的塞多明基注射液(商品名:华索灵)上市,用于治疗不适合血运重建手术或手术效果不佳的严重下肢缺血(下肢...

2026-06-01 16:05

康方生物PD-1/VEGF依沃西头对头百济神州PD-1替雷利珠单抗III期结果资讯

康方生物PD-1/VEGF依沃西头对头百济神州PD-1替雷利珠单抗III期结果

6月1日,在2026年美国临床肿瘤学会(ASCO)年会上,康方生物对外发布了PD-1 VEGF双抗依沃西联合化疗对比百济神州PD-1替雷利珠单抗(商品名 百泽安)联合化疗,一线治疗晚期鳞...

2026-06-01 14:49