ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

达芬奇5手术系统进入创新医疗器械特别审查程序资讯

达芬奇5手术系统进入创新医疗器械特别审查程序

新一代手术机器人加速落地中国临床

2026-02-15 12:28

葛丽鹤(Belén Garijo)将出任赛诺菲首席执行官资讯

葛丽鹤(Belén Garijo)将出任赛诺菲首席执行官

赛诺菲董事会于2026年2月11日召开会议,决定不再续任韩保罗(Paul Hudson)的董事职务。

2026-02-13 16:34

独家生产品种纳入国家基本药物目录应当经过单独论证,新版《国家基本药物目录管理办法》发布资讯

独家生产品种纳入国家基本药物目录应当经过单独论证,新版《国家基本药物目录管理办法》发布

国家基本药物工作协调机制由国家卫生健康委、国家发展改革委、工业和信息化部、财政部、商务部、市场监管总局、国家医保局、国家中医药局、国家疾控局、国家药监局和中央军委后...

2026-02-13 16:05

中国首个!威络益伴随诊断试剂(CLDN18) 重磅获批资讯

中国首个!威络益伴随诊断试剂(CLDN18) 重磅获批

诊疗合璧 安斯泰来与罗氏诊断共启CLDN18 2阳性胃癌精准治疗新纪元

2026-02-13 15:18

玄言生物完成数千万元Pre-A轮融资,加速AI驱动精准诊疗产品落地资讯

玄言生物完成数千万元Pre-A轮融资,加速AI驱动精准诊疗产品落地

本轮融资资金将主要用于推进公司AI驱动的精准诊疗产品在多中心临床验证、注册申报及规模化应用中的落地进程,进一步夯实核心技术平台优势,拓展产品管线布局,助力AI医疗从科研...

2026-02-13 12:18

赶早赴约,忆路守护 - 礼来携手清华大学启动阿尔茨海默病科普创意大赛资讯

赶早赴约,忆路守护 - 礼来携手清华大学启动阿尔茨海默病科普创意大赛

大赛旨在搭建汇聚青年智慧与专业力量的科普创作平台,鼓励以更具创意、更易传播的方式展开科学表达,推动公众减少对该疾病的误解,提升大众对于疾病和新出现的诊疗技术手段的理...

2026-02-13 12:08

国家医保局创新药参照药预沟通自即日起施行资讯

国家医保局创新药参照药预沟通自即日起施行

试行期间,仅限符合现行药品注册分类的1类化学药、1类治疗用生物制品、1类中成药提出申请。

2026-02-12 17:34

替尔泊肽单药治疗适应症获批,支持中国2型糖尿病长期管理获益资讯

替尔泊肽单药治疗适应症获批,支持中国2型糖尿病长期管理获益

2026年2月11日,礼来中国宣布,穆峰达®(替尔泊肽注射液)获得中国国家药品监督管理局批准,用于成人2型糖尿病(T2DM)单药治疗。

2026-02-12 10:32

智冉医疗完成3亿元A+轮融资,中科创星领投、老股东集体加注资讯

智冉医疗完成3亿元A+轮融资,中科创星领投、老股东集体加注

本轮融资由硬科技投资领域头部机构中科创星领投,君联资本、北京市医药健康产业投资基金、IDG资本、顺为资本等一众老股东集体跟投加注

2026-02-12 10:28

礼来安妥来利®安妥来®在华获批成人中重度活动性克罗恩病及溃疡性结肠炎双适应症资讯

礼来安妥来利®安妥来®在华获批成人中重度活动性克罗恩病及溃疡性结肠炎双适应症

在针对克罗恩病(CD)的全球关键3期VIVID-1研究中,接受安妥来利®安妥来®治疗的患者在一年时临床缓解与内镜应答结局相较安慰剂呈显著改善

2026-02-11 15:37

贵州普安将蚂蚁阿福引入村医一线工作资讯

贵州普安将蚂蚁阿福引入村医一线工作

为了提升基层的平均诊疗水平,近期,普安县政府、卫健局等部门联合蚂蚁集团、阿里巴巴公益共同组织“村医AI技能培训”,教村医们学会用AI健康助手“蚂蚁阿福”来辅助日常的诊疗...

2026-02-10 18:01

诺和诺德司美格鲁肽降糖注射版中国营收首次下滑资讯

诺和诺德司美格鲁肽降糖注射版中国营收首次下滑

近日,诺和诺德正式发布2025年全年财报。报告显示,该公司2025年全年营收达3090 64亿丹麦克朗(约合489亿美元),同比增长6%;净利润为1024 34亿丹麦克朗(约合162亿美元),同比增长1%。

2026-02-09 14:23

恒瑞医药HRS-4642注射液被纳入突破性治疗品种名单资讯

恒瑞医药HRS-4642注射液被纳入突破性治疗品种名单

2月6日,恒瑞医药(600276 SH)发布公告称,公司自主研发的HRS-4642注射液被国家药品监督管理局药品审评中心纳入突破性治疗品种名单。

2026-02-09 11:35

强生达雷妥尤单抗注射液获批新适应症,四联疗法用于适合自体干细胞移植的新诊断多发性骨髓瘤成年患者的治疗资讯

强生达雷妥尤单抗注射液获批新适应症,四联疗法用于适合自体干细胞移植的新诊断多发性骨髓瘤成年患者的治疗

近日,强生宣布旗下兆珂速(达雷妥尤单抗注射液)获国家药监局批准拓展适应症,与硼替佐米、来那度胺和地塞米松联合,用于适合自体干细胞移植的新诊断多发性骨髓瘤成年患者的治疗。

2026-02-09 11:05

信达生物与礼来达成合作,里程碑付款最高约85亿美元资讯

信达生物与礼来达成合作,里程碑付款最高约85亿美元

根据合作协议,双方将发挥互补优势,加快推进创新药物的全球研发工作。信达生物依托自身成熟的抗体技术平台及高效的临床能力,将主导相关项目从药物发现至中国临床概念验证(二...

2026-02-08 20:55

中国制药装备行业协会副秘书长遆倩鹤涉嫌严重违法,正接受监察调查资讯

中国制药装备行业协会副秘书长遆倩鹤涉嫌严重违法,正接受监察调查

2月6日,中央纪委国家监委网站讯 据中央纪委国家监委驻中央社会工作部纪检监察组、海南省纪委监委消息:中国制药装备行业协会副秘书长遆倩鹤涉嫌严重违法,目前正接受中央纪委...

2026-02-07 22:13

CDE:化学仿制药透皮和局部给药系统黏附性和刺激性/致敏性评估临床试验技术指导原则(试行)资讯

CDE:化学仿制药透皮和局部给药系统黏附性和刺激性/致敏性评估临床试验技术指导原则(试行)

本指导原则适用于TDS化学仿制药。常见适用TDS包括可能描述或称为贴片、透皮贴剂或缓释膜固态制剂产品。应用本指导原则时,请同时参考药物临床试验质量管理规范(GCP)国际人用药...

2026-02-07 13:48

云顶新耀溃疡性结肠炎创新口服药物维适平中国获批资讯

云顶新耀溃疡性结肠炎创新口服药物维适平中国获批

核心产品落地打开业绩增量空间

2026-02-06 16:14

中高端医疗连锁标杆卓正医疗登陆港交所资讯

中高端医疗连锁标杆卓正医疗登陆港交所

卓正医疗本次全球发售股份数目为475万股,最终发售价定为每股59 90港元

2026-02-06 16:10

诺华可善挺(司库奇尤单抗)放射学阴性中轴型脊柱关节炎(nr-axSpA)新适应症在华获批资讯

诺华可善挺(司库奇尤单抗)放射学阴性中轴型脊柱关节炎(nr-axSpA)新适应症在华获批

适用于治疗对非甾体类抗炎药(NSAID)应答不佳的活动性放射学阴性中轴型脊柱关节炎成人患者(其客观征象表现为C反应蛋白(CRP)升高和 或磁共振成像(MRI)证据)

2026-02-06 15:54