当临床判断与AI输出不一致，被界面丢掉的正是最高信号时刻

npj Digital Medicine 观点文章呼吁为临床人机分歧事件单独记账：被界面丢掉的正是最高信号时刻

趋势前瞻 × AI技术供应商/创业者 ｜ 影响分析 × 医院信息化/临床医生 ｜ 深度研报

开场：界面只留下结果，交互过程随决定一起消失

一台临床 AI 系统给出输出，临床医生的判断与之不同，接下来会发生什么，既有后果又缺乏明确规定。npj Digital Medicine 于 2026 年 10 月 13 日在线发表的一篇文章提出，应当把临床医生与 AI 之间的分歧事件 (divergence event) 显性化，并为这次交互单独记账。该文页面标注的 datePublished 亦为 2026 年 10 月 13 日，体裁是观点与分析文章，并非原创临床研究。

之所以需要这份账，是因为当临床判断与 AI 输出不一致时，双方各自贡献了什么，会随着决定一起消失。现有界面捕获的是结果，不是交互：它们把 AI 输出连同其可能携带的分歧，呈现为一个由人去接受、覆盖或修改的裁决式选择，人机交互由此被压缩为单一输出。文章据此认为，临床医生与 AI 的交互需要它自己的记录，也需要它自己的可见性指标。换言之，界面留下来的是被采纳的结论，而不是形成这一结论的过程，后者在当前记录中无处安放。

三轴怎么切：能看见什么、各方带来什么、如何与推理互动

作者用三个轴刻画分歧事件。结构轴 (structural axis) 指工作流与界面允许临床医生看到并做什么。盲区由工作流采集了什么决定，而不是由模型决定：模型不知道患者去年拒绝了某项治疗，除非有环节去问。因此文章主张回答三个问题，即工作流是否在展示 AI 输出之前先询问临床医生的判断、界面是否允许记录分歧及其理由、该记录是否可被后续检索。

信息轴 (informational axis) 指交互各方各自带入了什么信息。技术可解释性 (technical explainability) 描述模型及其部署，覆盖算法、系统与生命周期层面；人类可理解性 (human interpretability) 描述临床推理，覆盖个体记录、机构审查与群体证据。二者都必要但不完整，因为一个有文档记录的模型与一位有文档记录的临床医生相遇，仍可能留不下来这场相遇本身的可使用记录。分歧可见性 (divergence visibility) 正是那份缺失的记录。

行为轴 (behavioral axis) 指临床医生如何与 AI 的推理过程互动，而非只与其输出互动。值得评估的是人机系统是否产出了优于任一方的决策，而不是临床医生是否同意系统，也不是 AI 系统本身是否正确；决策与实施科学是对临床医生与 AI 团队开展有意义的绩效评估的前提。同一三轴框架可广泛应用于不同临床场景并分别赋权：恶化预警可能在床旁评估被记录之前触发，也可能在其之后；在影像场景，AI 可能在医生阅片前重排工作列表，或标记一份医生已报告的检查。若 AI 先行动且没有采集到独立判断，就没有什么被呈现为临床医生可以提出异议的主张，分歧事件不会产生，行为轴得分接近零，即便底层模型准确且有完整文档；若先采集临床医生的评估，同样的模型与同样的病例就能产生一个可见且可行动的分歧事件。更远端，面向患者的自主工具把临床医生整体移出交互，结构性旁路会叠加信息层面的损失。

为什么被丢掉：接受覆盖或修改的裁决式选择抹平了分歧

压缩为接受、覆盖或修改的裁决式选择，抹平了分歧本身。AI 的记录与人的记录可能分别可得，但两者都不关于这次人机交互本身。这种压缩掩盖了分歧事件中各方实际贡献了什么：界面只保留被采纳的那个结论，留下的是一条结果记录，而不是一次协商记录，分歧因而既不能被设计、打分，也不能被审计。

文章并不认为这是全新观察：可解释 AI (explainable AI) 领域已论证，缺少社会组织情境的以模型为中心的解释并不充分；组织设计研究把人机协作当作分工来处理；生命伦理学也已把临床医生与 AI 之间的分歧作为独立议题加以考察。文章新增的论点是，这一分歧可见性层具有可被设计、评分与审计的属性，且只有当结构、信息与行为三轴都被刻画时，分歧事件才是可见的。

责任落在何处：推荐、解释、自主权与道德责任都在临床医生一侧

分歧发生时，临床医生最终必须决定推荐什么，以及如何向患者解释这一推荐；需要同时考量自主权 (autonomy)、问责 (accountability) 与责任 (liability)，并承担道德责任。这些责任并不因为引入了 AI 系统而转移。压力在于，临床医生被要求在循环中，却通常只被给予行使判断这一无方法的指示。与此同时，让 AI 输出更可技术解释、更可人类理解的努力，并未直接转化为临床决策的改善。

背景证据也指向角色层面的变化。护理与助产领域 AI 伦理的系统综述发现，AI 并非通过替代来改变卫生专业人员的角色，而是通过微妙重构哪些活动算作照护来改变角色；该综述还提示，对 AI 效率的强调，可能使照护的关系性方面更不被看见、更不被重视。

冷静观察：把分歧显性化是设计问题，不是再加一层解释就能解决

把分歧显性化首先是设计议题。让分歧可见的收益包括透明的患者沟通、更扎实的道德责任归属，以及可能减轻的责任风险，文章也据此把分歧重新定义为临床 AI 信息量最高的时刻。但需要克制解读：显性化分歧目前是一项主张与设计议程，不应被理解为已经实现的界面改造，也不应被视为已经验证的临床收益。

分歧之所以值得单独记录，并不在于它意味着某一方出了错，而在于它同时暴露了工作流采集了什么与模型不知道什么。对医院信息化与临床医生而言，可观察的落点在工作流层，包括在展示 AI 输出之前是否采集独立判断、是否允许记录分歧理由、该记录能否被检索与审计；对 AI 技术供应商而言，分歧事件新增的是一类可见性指标，而不是又一份模型说明文档。

原文链接：npj Digital Medicine

千方医数集编辑部 出品