ChatGPT医学问答力压人类医生?JAMA发布研究报告

医疗健康 来源:医谷网
2023
05/10
15:32
医谷网 医疗健康

今年4月,《美国医学会杂志》(JAMA)刊发了一项研究成果:通过在线盲测,ChatGPT在提供医疗咨询服务上方面,其回答质量和同理心等都高于现实世界中的人类医生。

篇幅、回答质量、同理心等,ChatGPT均高于人类医生

美国加州大学圣地亚哥分校的研究人员从社交媒体问答网站Reddit有关医学问答的“AskDocs”子论坛上随机抽取了2022年10月期间195个由执业医生做出回答的医学问题,并在2022年12月22日和23日提交给ChatGPT生成回答。之后,3名在儿科、老年医学、内科、肿瘤学、传染病和预防医学等领域持有执业证的专家团队对问题、医生的回答和ChatGPT的回答进行阅读,并对2种回答中哪个回答更好、回复质量如何、是否具备同理心等3个方面基于李克特量表进行审查、评分。值得一提的是,审查人员是在无法知晓答案来自医生还是ChatGPT的基础上进行的盲评。

结果表明:

(1)在回复的篇幅上,医生的回复平均文字长度为52个字节,而ChatGPT为211个字节。

ChatGPT显得更“详细”。

(2)在回复质量上,ChatGPT的回答质量被评为好或非常好的比例高达78.5%,而医生这一比例为22.1%;相当于ChatGPT对医生形成了3.6倍的优势。同时,ChatGPT的回答总体上优于“好”,平均评分高达4.13;医生的回答被整体评估为略优于“可接受”,平均评分为3.26;医生的回答中有高达27.2%被评估为低于可接受的质量(得分< 3);ChatGPT这一比例为2.6%。

(3)在同理心方面,ChatGPT平均评分为3.65,医生为2.15。整体上医生的得分比ChatGPT低了41%。同时,ChatGPT的回答被评为具有同理心或非常具有同理心的比例为45.1%,高于医生的4.6%,相当于ChatGPT在同理心方面相对于医生取得了9.8倍的优势。

同时,这项研究还提供了几个例子供参考。

一名患者在论坛上提问题:漂白剂溅到眼睛后是否有失明的风险。医生的回应为“听上去没有大碍”,然后给出了中毒中心的电话号码;ChatGPT先是给予了关切,然后对“不太可能失明”的结果提出了七个建议和鼓励。

一名患者表示,打喷嚏时手臂疼痛,这是否为需要警惕的征兆?ChatGPT首先回答基本上不用担心,接着给出了详细的解释,最后表示当疼痛严重或持续时间较长时,建议咨询专业医疗人员。

还没完全准备好

虽然这项实验中,ChatGPT似乎表现的比人类医生更好,但其回答的准确度还需要验证。宾夕法尼亚大学医学教授Davidididididid Asch博士强调,ChatGPT应被视为医生的补充,人工智能还没有完全准备好,“我担心错误的信息会被放大。”

在今年2月同样发表于JAMA的一份报告显示,使用ChatGPT获取医疗咨询答复,还存在着一定的风险。

在这项研究中,研究人员根据现行指南对脑血管疾病三级预防保健建议和临床医生的治疗经验,向ChatGPT设立了25个问题,涉及到疾病预防概念、风险因素咨询、检查结果和用药咨询等。每个问题均提问3次,ChatGPT若3次回答内容基本一致,且与医疗专业评审人员给出的答案大体相似,则评为“合理”,若与评审员答案不一致则评为“不合理”,若ChatGPT自身3次回答内容不一致,则为“不靠谱”。

结果显示,ChatGPT的合理概率为84%(21/25),虽然这一概率看起来不低,但放在实际个体中,错误的建议对患者而言是极有风险的。例如,对于“我应该做什么运动来维持健康?”这一问题,ChatGPT推荐了有氧、举重等运动,但这并不准确,因为对某些患者而言这两项运动对身体是有害的、不安全的。

因此,如果作为辅助临床工作、加强患者教育、减少医患沟通壁垒等的辅助类工具,ChatGPT是很有帮助的,但药取代医生,目前还是不现实的。

标签

为你推荐

三部门印发《利用外资固稳促优行动方案》,支持外资参与医药等产业高质量发展资讯

三部门印发《利用外资固稳促优行动方案》,支持外资参与医药等产业高质量发展

6月22日,商务部、国家发展改革委、财政部联合印发的《利用外资固稳促优行动方案》对外发布,围绕扩大市场准入、提升外商投资便利度、提高投资促进水平、健全外商投资服务保障体...

2026-06-23 10:38

全球首款CAR-T细胞治疗实体瘤产品获批资讯

全球首款CAR-T细胞治疗实体瘤产品获批

今日,国家药监局官网显示:近日,国家药品监督管理局通过优先审评审批程序批准科济药业旗下恺兴生命科技(上海)有限公司申报的舒瑞基奥仑赛注射液(商品名:恺力美)上市。

2026-06-22 16:37

德琪医药与K2 Therapeutics达成出海协议,首付款2000万美元资讯

德琪医药与K2 Therapeutics达成出海协议,首付款2000万美元

今日,德琪医药发布公告称,与K2 Therapeutics就ATG-106签订独家授权协议。

2026-06-22 15:04

境外生产药品上市后备案类变更问与答(一)资讯

境外生产药品上市后备案类变更问与答(一)

备案资料应当按照《已上市中药 化学药品 生物制品变更事项及申报资料要求》《已上市中药 化学药品 生物制品药学变更研究技术指导原则(试行)》《已上市化学药品和生物制品...

2026-06-22 13:51

英矽智能与SK生物制药达成最高25亿美元AI药物研发合作, 聚焦神经免疫疾病领域资讯

英矽智能与SK生物制药达成最高25亿美元AI药物研发合作, 聚焦神经免疫疾病领域

6月22日,英矽智能发布公告称,与SK生物制药公司达成一项研发合作。

2026-06-22 12:59

诺和诺德:司美格鲁肽“保护期”将持续至2027年4月资讯

诺和诺德:司美格鲁肽“保护期”将持续至2027年4月

近日,诺和诺德全球总裁兼首席执行官杜麦克(Mike Doustdar)首度明确表态:司美格鲁肽在中国的监管数据保护将持续至2027年第二季度,届时仿制药才能开始合法进入市场。

2026-06-21 13:42

取保候审,博瑞医药实控人涉嫌操纵证券市场案资讯

取保候审,博瑞医药实控人涉嫌操纵证券市场案

6月18日晚间,博瑞医药发布公告,公司于2026年6月18日收到公司实际控制人袁建栋先生通知,因涉嫌操纵证券市场案,根据《中华人民共和国刑事诉讼法》相关规定,苏州市公安局对袁...

2026-06-21 13:05

《中国阻塞性睡眠呼吸暂停公众认知调研报告》发布资讯

《中国阻塞性睡眠呼吸暂停公众认知调研报告》发布

OSA认知与诊疗缺口待补,专家呼吁推动早筛早诊

2026-06-21 11:28

第四批全国中成药集采与第二批接续采购中选结果资讯

第四批全国中成药集采与第二批接续采购中选结果

近日,全国中成药联合采购办公室正式发布《关于公布全国中成药采购联盟集中采购中选结果的通知》,备受业界关注的第四批全国中成药集中带量采购及第二批接续采购中选结果尘埃落定。

2026-06-20 21:08

科创板支持脑机接口、基因工程相关创新企业上市,已有企业申报资讯

科创板支持脑机接口、基因工程相关创新企业上市,已有企业申报

近日,上交所发布《上海证券交易所科创板企业发行上市申报及推荐暂行规定(征求意见稿)》,对外公开征求意见。

2026-06-19 22:12

又是一个父亲节,关注和做好前列腺癌早期筛查资讯

又是一个父亲节,关注和做好前列腺癌早期筛查

前列腺癌被称为中老年男性的隐形杀手——隐形在于早期几乎没有症状,杀手则在于部分恶性程度高的前列腺癌进展迅速,一旦发生转移,预后显著变差。

2026-06-19 14:59

低活跃预测不等于低风险,台风、飓风、强降雨和洪涝企业应做好哪些应对?资讯

低活跃预测不等于低风险,台风、飓风、强降雨和洪涝企业应做好哪些应对?

随着北半球夏季极端天气高发期到来,台风、飓风、强降雨和洪涝等风暴相关风险进入重点关注阶段。世界领先的健康和安全风险服务企业国际SOS提醒在全球运营的企业:风暴季准备的关...

2026-06-18 21:41

药石科技发布“绿色智能化学引擎”战略,强化下一代疗法CRDMO平台能力资讯

药石科技发布“绿色智能化学引擎”战略,强化下一代疗法CRDMO平台能力

CPHI China 2026期间,南京药石科技股份有限公司(股票代码:300725 SZ,以下简称“药石科技”)在上海举行集团战略发布会

2026-06-18 13:49

第二批全国中药饮片集采中选结果公示资讯

第二批全国中药饮片集采中选结果公示

6月16日,全国中药饮片联盟集中采购拟中选结果正式公布,根据公示结果信息,共有21465条拟中选信息,公示期至6月22日。

2026-06-18 10:42

因美纳在华推出移动式生信分析解决方案,推进蛋白质组学生态合作资讯

因美纳在华推出移动式生信分析解决方案,推进蛋白质组学生态合作

近日,因美纳正式推出“因美纳生信移动宝”,该生信分析解决方案采用移动式部署模式,旨在将DRAGEN™驱动的高性能算力直接送达科研与临床研究一线。同期,因美纳进一步强化其在...

2026-06-18 09:55

治疗早泄药物国内获批资讯

治疗早泄药物国内获批

6月15日,国家药监局药品批准证明文件送达信息显示,Plethora Solutions 和复星医药(600196 SH;02196 HK)联合申报的 5 1 类药物利多卡因丙胺卡因气雾剂获批上市,此为...

2026-06-17 21:36

新诺威名称变更为石药创新资讯

新诺威名称变更为石药创新

6月16日晚间,新诺威发布公告称,公司证券简称由新诺威变更为石药创新,证券代码“300765”保持不变,变更日期为2026年6月17日。

2026-06-17 09:13

第四届诺华中国患者日举办,照亮更有温度的患者支持生态资讯

第四届诺华中国患者日举办,照亮更有温度的患者支持生态

6月16日,第四届诺华中国患者日在上海成功举办。

2026-06-16 19:03

第106批仿制药参比制剂目录资讯

第106批仿制药参比制剂目录

经国家药品监督管理局仿制药质量和疗效一致性评价专家委员会审核确定,现发布仿制药参比制剂目录(第一百零六批)。

2026-06-16 16:18

武田制药公布Oveporexton新关键性研究数据资讯

武田制药公布Oveporexton新关键性研究数据

在第40届美国联合专业睡眠学会年会(SLEEP 2026)上公布的3期研究次要及探索性终点结果进一步显示,Oveporexton在广泛的日间及夜间症状方面带来改善

2026-06-16 12:58