让大模型给临床AI打分：推理与安全性维度与医生对不齐，重复跑和多模型投票都没救回来

4130条医生评分对照7个大模型：忠实性对得齐，推理与安全性对不齐

数据视角 × AI技术供应商与创业者 ｜ 趋势前瞻 × 医疗数据从业者 ｜ 深度研报

临床生成式AI的输出该怎么评，一直缺少可扩展的答案。npj Digital Medicine 于2026年9月25日在线发表的论文给出了一次正面回答：5名医生与7个大语言模型，按7项临床筛选的量表，对118条真实临床提问及其回答逐条打分，产生4130条医生评分、17346条序数评分与8496条二分类评分。结论并不乐观。

开场：临床AI落地最大的瓶颈，是没有人评得过来

自由格式临床生成式AI输出的可扩展评估，被论文列为安全部署的主要障碍。与有标准答案的分类任务不同，一段面向临床的建议是否可靠，要看它是否忠实于依据、是否覆盖关键要素、推理链条是否成立、有没有藏着安全风险。人工复核最可信，但医生时间是刚性约束，评测需求却随部署规模同步膨胀，靠人力逐条过一遍在工程上无法持续。

于是，以大模型为评判者（LLM-as-a-Judge）的框架被寄予厚望，被视为人工复核的潜在替代方案。问题在于，支撑它的既有证据大多来自基准测试、文档或其他受控环境：参照物清晰、错误类型有限，评判者容易与医生打高分。真实临床提问却带着口语化表述、信息缺漏与语境依赖，其回答还要与具体规程对齐。证据来源与部署场景之间的这道错位，正是研究要补上的缺口。

118条真实提问、4130条医生评分：这场对照怎么做的

评估对象是PANDA，一个已在三级儿童医院部署的检索增强临床决策支持AI系统。它不是演示原型，而是处在真实工作流中的工具，其输出天然具备临床生成式AI最典型的特征：自由格式、有规程依据、需要逐条判断。以这样一个已经上线运行的系统为标尺，比在合成数据集上做对照，更接近部署方真正面对的情形，也让结论少一层理想化滤镜。

材料是118条由临床医生撰写、有规程依据的真实临床提问及其回答配对。5名医生与7个大语言模型按7项临床筛选的量表，对全部问答配对打分，最终产生4130条医生评分、17346条序数评分与8496条二分类评分。三个数字并列说明这不是抽样抽查，而是把医生与机器放在同一套量表、同一批材料上的全量比对，评分口径一致，分歧才有可比性。

7项量表均经临床筛选，维度却并不等价：既有忠实性、完整性这类可借文本比对完成的条目，也有推理与安全性这类需要解释性判断的条目。这一设计使研究得以分辨机器评委究竟在哪一类判断上可靠，而不是笼统地给出一个总分。量表的选择与切分，决定了结论最终能被解释到什么颗粒度，也决定了它在部署流程里能不能被直接拿来用。

忠实性高、推理与安全性低：差距出现在哪一层

结果呈现清晰的分层。在忠实性、完整性等文本比对类量表上，大模型评判者与医生高度一致：判断一段回答有没有忠于给定依据、有没有覆盖应有要素，机器做得相当稳。这类任务判据外显，答案与参照物之间可逐句核对，机器评委的长处正好落在这一层。换句话说，它擅长的是比对，而不是判断：给得出一致的分，却未必给得出一致的理由。

但在推理与安全性等解释性维度上，一致性明显偏弱。推理是否成立，要看前提与结论之间是否真的支撑，而不只是字面是否相似；安全性则要求评判者预设回答进入临床后的后果。两者都依赖隐含的临床经验与责任归属：医生打分时带着对患者结局的预期，机器评委只在文本内部寻找线索。它能给出流畅评价，却未必与医生落在同一处。

更值得注意的是二值评估暴露的问题。当量表被压缩成通过或不通过，序数尺度上看不见的错位就浮了上来：机器可能在相邻等级间摇摆，医生却有明确倾向，二值化把摇摆直接变成结论分歧。对部署方而言，评测粒度不是技术细节，而是会改变结论的判断口径，粒度一变，合格线就跟着变，同一批回答可能在一套口径下过关、在另一套口径下被拦下。

多跑几次、多投几票：两个看似合理的补救都没生效

面对对齐不足，工程上最自然的两种补救是重复运行与多模型投票。重复运行的逻辑是单次评判有随机性，多跑几次取稳定值即可；多模型投票的逻辑是单个模型有偏好，多个模型一起投就能互相纠偏。论文对两种做法都做了检验，对照基准不是绝对准确率，而是最佳单一模型已经达到的对齐水平，也就是说，补救方案要拿出增量才算数。

重复运行与多模型投票，并未系统性地超过最佳单一模型的对齐水平。投票带来的未必是更接近医生的判断，而可能是把多个模型共有的偏差平均并固化下来；重复运行也只是收敛到模型自身的稳定偏好，而非收敛到医生的判断，共识并不等于正确。若共识机制换不来对齐，增加模型数量与运行次数就只是抬高成本与延迟，买不到准确性：真正决定对齐上限的是模型在解释性维度上的判断能力，而不是投票规模。

冷静观察：机器评委适合当粗筛层，安全那一票必须留给医生

基于上述发现，作者给出了克制的建议：以审慎、量表感知（cautious, rubric-aware）的方式，把大模型评判者用作临床AI的可扩展评估层。审慎，意味着不把机器评分直接等同于医生结论；量表感知，意味着先分辨每一条量表属于文本比对类还是解释性判断类，再决定机器评分能承担多少权重、哪些条目必须回到人工。

落到部署流程，这是一套分层设计：忠实性、完整性这类条目交给机器做全量粗筛，把吞吐提上去；推理与安全性这一票留给医生，由人做抽样复核或重点复核。机器评委解决的是评得过来的问题，医生解决的是评得准、评得负责的问题，两者不是替代关系，而是分工关系，评测体系的设计者需要先把这条边界划清楚，再谈能提到多高的自动化率。

论文同时给出透明度声明：研究未接受资助；作者在稿件准备期间使用ChatGPT与Google Gemini辅助语言编辑、结构打磨与起草，所有AI生成的建议均经作者批判性审阅与编辑；作者声明无利益冲突；文章以CC BY-NC-ND 4.0许可开放获取。用AI评AI这件事本身需要被审视，这项研究给出的不是通行证，而是一把刻度尺。

---

原文链接：source

千方医数集编辑部 出品