ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

创新药价格重磅文件,多部委将举办政策吹风会资讯

创新药价格重磅文件,多部委将举办政策吹风会

4月14日,国办正式对外发布备受业内关注的《关于健全药品价格形成机制的若干意见》。该文件曾在去年2月份对外发布了征求意见稿,此后1年间,业内普遍关注该《意见》何时正式落地。

2026-04-14 22:37

映恩生物拟登陆科创板,募资不超67.5亿元加码ADC研发资讯

映恩生物拟登陆科创板,募资不超67.5亿元加码ADC研发

根据公告,映恩生物-B此次科创板IPO拟发行不超过1577 9190万股人民币股份,占发行后总股本的15%(不含超额配股权)

2026-04-14 19:26

华东医药司美格鲁肽注射液减重适应症上市申请获受理,剑指GLP-1千亿蓝海资讯

华东医药司美格鲁肽注射液减重适应症上市申请获受理,剑指GLP-1千亿蓝海

公司全资子公司杭州中美华东制药江东有限公司收到国家药品监督管理局(NMPA)签发的《受理通知书》,司美格鲁肽注射液上市许可申请获得受理,适用于在控制饮食和增加体力活动的...

2026-04-14 19:03

全国首款外泌体创新药申报IND资讯

全国首款外泌体创新药申报IND

国家药监局药品审评中心(CDE)官网显示,4月13日,上海思德克索生物科技有限公司申报的STX11101注射液新药临床试验申请(IND)正式获得受理,受理号为CXSL2600403,药品类型为...

2026-04-14 18:11

安永发布《“本土药企盈利引擎”模型1.0 ——供应链与财务篇》医药白皮书资讯

安永发布《“本土药企盈利引擎”模型1.0 ——供应链与财务篇》医药白皮书

安永大中华区(后简称:安永)重磅发布《穿越盈利的迷雾:安永“本土药企盈利引擎”模型1 0 ——供应链与财务篇》医药白皮书。

2026-04-14 17:50

31款药品,第一批参照药预沟通药品信息公示资讯

31款药品,第一批参照药预沟通药品信息公示

近日,国家医保局发布第一批参照药预沟通药品信息公示。根据公示信息,此次公布的药品信息为截至3月底收到的拟纳入首次预沟通工作范围的企业申请药品名单。

2026-04-14 15:36

非法收受他人财物,数额特别巨大,毕井泉在济南被提起公诉资讯

非法收受他人财物,数额特别巨大,毕井泉在济南被提起公诉

最高人民检察院依法以涉嫌受贿罪对毕井泉作出逮捕决定,并指定由山东省济南市人民检察院审查起诉。

2026-04-14 14:27

远大医药钇[90Y]微球注射液美国临床达终点,局部肿瘤控制率达100%资讯

远大医药钇[90Y]微球注射液美国临床达终点,局部肿瘤控制率达100%

全球肝细胞癌精准诊疗再树里程碑

2026-04-13 21:17

授权许可费最高至7.45亿美元,海思科与艾伯维达成一项BD交易资讯

授权许可费最高至7.45亿美元,海思科与艾伯维达成一项BD交易

4月13日,海思科宣布日前与美国艾伯维(AbbVie Group Holdings Ltd )签订独占许可协议,授予AbbVie在除中国大陆、香港特别行政区及澳门特别行政区以外的全球范围开发、生产...

2026-04-13 16:09

东阿阿胶与昂心生物 AilsynBio签约启动项目合作资讯

东阿阿胶与昂心生物 AilsynBio签约启动项目合作

此次合作标志着人工智能(AI)与传统医药的深度跨界融合,旨在透过科技赋能生物医药创新。

2026-04-13 13:05

创业板新增第四套上市标准,无盈利要求资讯

创业板新增第四套上市标准,无盈利要求

4月10日,中国证监会发布《关于深化创业板改革 更好服务新质生产力发展的意见》,旨在优化发行上市标准提高包容性和吸引力,更好服务实体经济高质量发展,助力高科技创新。

2026-04-12 16:36

降低医疗医药行贿入罪门槛,两高《解释(二)》发布资讯

降低医疗医药行贿入罪门槛,两高《解释(二)》发布

4月10日,最高人民法院、最高人民检察院共同发布《关于办理贪污贿赂刑事案件适用法律若干问题的解释(二)》(以下简称“《解释(二)》”),这是对2016年发布《关于办理贪污贿...

2026-04-12 12:10

百济神州DLL3/CD3双抗安泰适(注射用塔拉妥单抗)附条件批准上市资讯

百济神州DLL3/CD3双抗安泰适(注射用塔拉妥单抗)附条件批准上市

4月10日,百济神州公司宣布,安泰适(注射用塔拉妥单抗)经优先审评程序获得国家药品监督管理局(NMPA)附条件批准,用于既往接受过至少2种系统性(包括含铂化疗)失败的广泛期...

2026-04-10 19:28

蔚程医药超额完成 5400 万美元 A 轮融资,全面加速肝外递送小核酸疗法临床转化资讯

蔚程医药超额完成 5400 万美元 A 轮融资,全面加速肝外递送小核酸疗法临床转化

本轮融资由启明创投与一家知名产业基金联合领投,弘晖基金、一家知名投资基金、泰福资本共同参与投资,原有投资方杏泽资本持续追加投资

2026-04-10 13:06

诠释重疾诊疗新范式,西门子医疗携创新成果亮相2026 CMEF资讯

诠释重疾诊疗新范式,西门子医疗携创新成果亮相2026 CMEF

今日,西门子医疗以“创新境,为每一个生命”为主题,重磅亮相第93届中国国际医疗器械博览会(CMEF)。

2026-04-09 15:33

磅策医疗完成亿元 B 轮战略融资,加速 AI 手术机器人与消费医疗全球化布局资讯

磅策医疗完成亿元 B 轮战略融资,加速 AI 手术机器人与消费医疗全球化布局

本轮融资由一家国际 AI 科技公司领投,联想创投等老股东持续加码跟投,资金将重点用于核心技术迭代、新产品管线研发与临床注册、商业化渠道拓展及全球化商业布局

2026-04-09 12:38

吉利德预防HIV感染新药拟纳入优先审评资讯

吉利德预防HIV感染新药拟纳入优先审评

4月7日,国家药品监督管理局药品审评中心(CDE)官网显示,吉利德科学(Gilead Sciences)来那帕韦钠片和来那帕韦钠注射液新适应症拟纳入优先审评。

2026-04-09 09:28

因药品生产存在严重缺陷,一药品被取消国家药品集采中选资格资讯

因药品生产存在严重缺陷,一药品被取消国家药品集采中选资格

近日,国家组织药品联合采购办公室发布公告,取消广州合和医药有限公司美索巴莫注射液中选资格,同时将广州合和医药有限公司和委托生产企业成都天台山制药股份有限公司列入违规...

2026-04-07 13:23

上海市药监局核发上海首张干细胞《药品生产许可证》资讯

上海市药监局核发上海首张干细胞《药品生产许可证》

近日,上海市药监局核发上海地区的首张干细胞《药品生产许可证》,上海爱萨尔生物医药股份有限公司也因此成为今年首位获该证的企业。

2026-04-07 11:56

甘李药业一款PROTAC药物完成临床试验I期首例入组资讯

甘李药业一款PROTAC药物完成临床试验I期首例入组

4月3日,甘李药业(603087 SH)发布公告称,其自主研发的GLR2037于近日成功完成Ⅰ期临床试验首例受试者给药。本次临床试验拟开展的适应症为晚期前列腺癌。

2026-04-05 19:55