系统综述评估医学领域大语言模型临床试验的报告完整性
Reporting completeness of clinical trials evaluating large language model interventions in medicine: systematic review.
BMJ系统综述显示,医学领域大语言模型临床试验的报告完整性普遍偏低,覆盖2017年1月至2025年12月间的461项记录(68篇试验报告、15份方案、378项注册),各指南评分多在40%至61%之间。
大语言模型正加速走进临床,随机对照试验也已开始检验其实际作用,例如评估LLM对医师诊断推理影响的单盲随机试验已见诸报道[4]。与此同时,报告规范的供给端在快速完善:针对含AI组件的干预试验,CONSORT-AI与SPIRIT-AI分别就试验报告和方案新增了14项和15项应常规报告的条目[2][3];CONSORT 2025又对随机试验报告标准做了系统更新[5];TRIPOD-LLM进一步以19个主条目、50个子条目的模块化清单覆盖LLM研究从标题到讨论的各环节,强调透明性、人类监督和任务特异性性能报告[1]。然而,实际开展的LLM临床试验究竟报告得如何,此前并不清楚。
这项系统综述与元研究给出了全景式回答。作者检索Embase、Medline、CENTRAL及ClinicalTrials.gov和WHO国际临床试验注册平台,纳入2017年1月1日至2025年12月6日的461条记录,含68篇试验报告、15份方案和378项注册;两名评审独立筛选提取,三名经校准的评分者逐条评定报告完整性。纳入试验多为小样本、单中心随机研究,集中发表于2024至2025年,覆盖多个临床专科,以面向患者的教育和管理建议为主。结果并不乐观:试验报告在TRIPOD-LLM上平均完整度仅40%,CONSORT 2025为44%,CONSORT-AI为59%,聊天机器人评估报告工具CHART为52%;试验方案在SPIRIT 2025和SPIRIT-AI上分别为51%和57%;注册信息对WHO试验注册数据集的符合度为61%。数据与干预来源、输入预处理、模型版本与访问方式、推理参数、输出后处理,以及方案、数据、代码的可获得性均报告不一,危害的计划、监测与报告也常常缺位。
这一结果把讨论从“应当报告什么”推进到“实际报告了什么”。尽管CONSORT-AI、SPIRIT-AI与TRIPOD-LLM早已明确AI/LLM干预需常规披露的关键信息[1][2][3],现实中的试验报告仍偏重叙事框架与评论,弱化复制、偏倚风险评估和模型性能随时间治理所需的方法学细节。作者据此指出,在临床转化之前,支撑可重复性与安全性审慎评估的报告基础目前并不牢靠。
悬而未决的问题依然不少:报告缺口在多大程度上源于写作而非研究实施本身,如何切实推动指南在LLM试验中的落地并强化危害报告,都需后续跟进。此外,逐条人工评估成本可观,已有研究探索用LLM自动评估报告指南依从性并与专家评级达到较高一致性[6],或可为这类评估的规模化提供工具支撑。
- 1.The TRIPOD-LLM reporting guideline for studies using large language models · Nat Med 2025
- 2.Reporting guidelines for clinical trial reports for interventions involving artificial intelligence: the CONSORT-AI Extension · BMJ 2020
- 3.Guidelines for clinical trial protocols for interventions involving artificial intelligence: the SPIRIT-AI Extension · BMJ 2020
- 4.Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial · JAMA Netw Open 2024
- 5.CONSORT 2025 Statement: Updated Guideline for Reporting Randomized Trials · JAMA 2025
- 6.AutoReporter: development of an artificial intelligence tool for automated assessment of research reporting guideline adherence · J Am Med Inform Assoc 2026
系统综述给出 LLM 临床试验在报告完整性上的具体缺口,可作为后续试验设计与报告规范化的对照基准。
来源:顶刊论文(社媒热度) · doi.org