跳到正文
原文
顶刊论文(社媒热度)· BMJ·· 23 小时前精选评分65

系统综述评估医学领域大语言模型临床试验的报告完整性

Reporting completeness of clinical trials evaluating large language model interventions in medicine: systematic review.

导读

BMJ系统综述显示,医学领域大语言模型临床试验的报告完整性普遍偏低,覆盖2017年1月至2025年12月间的461项记录(68篇试验报告、15份方案、378项注册),各指南评分多在40%至61%之间。

深度解读

大语言模型正加速走进临床,随机对照试验也已开始检验其实际作用,例如评估LLM对医师诊断推理影响的单盲随机试验已见诸报道[4]。与此同时,报告规范的供给端在快速完善:针对含AI组件的干预试验,CONSORT-AI与SPIRIT-AI分别就试验报告和方案新增了14项和15项应常规报告的条目[2][3];CONSORT 2025又对随机试验报告标准做了系统更新[5];TRIPOD-LLM进一步以19个主条目、50个子条目的模块化清单覆盖LLM研究从标题到讨论的各环节,强调透明性、人类监督和任务特异性性能报告[1]。然而,实际开展的LLM临床试验究竟报告得如何,此前并不清楚。

这项系统综述与元研究给出了全景式回答。作者检索Embase、Medline、CENTRAL及ClinicalTrials.gov和WHO国际临床试验注册平台,纳入2017年1月1日至2025年12月6日的461条记录,含68篇试验报告、15份方案和378项注册;两名评审独立筛选提取,三名经校准的评分者逐条评定报告完整性。纳入试验多为小样本、单中心随机研究,集中发表于2024至2025年,覆盖多个临床专科,以面向患者的教育和管理建议为主。结果并不乐观:试验报告在TRIPOD-LLM上平均完整度仅40%,CONSORT 2025为44%,CONSORT-AI为59%,聊天机器人评估报告工具CHART为52%;试验方案在SPIRIT 2025和SPIRIT-AI上分别为51%和57%;注册信息对WHO试验注册数据集的符合度为61%。数据与干预来源、输入预处理、模型版本与访问方式、推理参数、输出后处理,以及方案、数据、代码的可获得性均报告不一,危害的计划、监测与报告也常常缺位。

这一结果把讨论从“应当报告什么”推进到“实际报告了什么”。尽管CONSORT-AI、SPIRIT-AI与TRIPOD-LLM早已明确AI/LLM干预需常规披露的关键信息[1][2][3],现实中的试验报告仍偏重叙事框架与评论,弱化复制、偏倚风险评估和模型性能随时间治理所需的方法学细节。作者据此指出,在临床转化之前,支撑可重复性与安全性审慎评估的报告基础目前并不牢靠。

悬而未决的问题依然不少:报告缺口在多大程度上源于写作而非研究实施本身,如何切实推动指南在LLM试验中的落地并强化危害报告,都需后续跟进。此外,逐条人工评估成本可观,已有研究探索用LLM自动评估报告指南依从性并与专家评级达到较高一致性[6],或可为这类评估的规模化提供工具支撑。

推荐理由

系统综述给出 LLM 临床试验在报告完整性上的具体缺口,可作为后续试验设计与报告规范化的对照基准。

来源:顶刊论文(社媒热度) · doi.org