AINGENS 创始人谈医疗写作 AI 幻觉，强调证据优先和可追溯工作流

医疗写作和医学信息工作流中的 AI 幻觉问题，关键不在速度，而在证据与可追溯性

作者认为，在医学信息与医疗写作场景中，生成式 AI 真正需要回答的问题不是“能不能更快”，而是“能不能被信任”。

为什么医疗写作场景对可信度要求更高

在临床医生看来，医学信息工作意味着查找和解释证据，例如查阅文献、核对治疗指南，或整合多个来源以支持治疗决策。

对于药企医学信息团队而言，这项工作还意味着生成准确、平衡且可追溯的科学回复，因为这些内容会影响医疗专业人士如何理解数据。

而医疗写作本身，则决定了证据如何被总结、放入上下文并传达给研究、学术交流和受监管沟通场景。

作者认为，这些工作共同的特点是高度依赖文本、耗费人力与时间，因此生成式 AI 对这类流程天然具有吸引力。AI 可以帮助加快文献检索、生成初稿，并让专业人士更快推进医疗沟通工作流。

幻觉风险为什么危险

文章指出，如果模型混淆不同研究的结果、夸大结论、遗漏上下文，甚至编造参考文献，那么输出内容不仅失去价值，还可能带来实际风险。

对于临床医生而言，最核心的问题在于：AI 到底是在帮助澄清证据，还是把不确定性伪装成了事实。如果系统给出一段看似简洁有力的总结，但用户无法知道这些结论来自哪里，那么这并不是效率，而是隐藏风险。

解决方案应从系统设计开始

作者认为，幻觉并不意味着 AI 不能用于医疗写作，而是意味着系统设计必须“证据优先”。

按照这一思路，面向医学和科学工作流的 AI 系统应具备以下特征：

• 以证据为基础，而不是主要依赖模型训练记忆
• 内置稳健的检索流程
• 使用足够强的模型能力
• 提供来源可追溯性，让用户能清楚看到每条说法来自哪里
• 鼓励用户把系统指向经过筛选、可信的知识源

作者还强调，系统应帮助用户更容易审阅源材料、修改输出、识别哪些回答缺乏证据支撑，并在缺少可信来源时明确给出“不知道”或“没有足够信息可信回答”的回应。这种克制与透明，本身正是平台可信度的重要组成部分。

工作流设计仍需要人类专业判断

文章进一步指出，安全、有效地使用 AI，不能只依赖技术本身，还取决于工作流设计。

人类责任仍然包括定义任务、判断该任务是否适合使用 AI、选择合适平台、设置护栏、确定可信知识源，以及对输出进行审阅、修订并承担责任。AI 输出应被视为草稿，而不是在未经合格专业人士审核前就直接视作最终结果。

作者把这一区分概括为：一种做法是把 AI 当成自动化捷径，另一种做法是把 AI 当成受管理的生产力工具。

组织管理者应该优先关注什么

作者建议，决策者在评估用于医学信息、医疗写作和临床工作流的 AI 时，不应主要根据速度、热度或营销口号做判断，而应优先选择那些具备以下特点的系统：

• 以证据为基础
• 透明
• 可审计
• 为特定工作流而设计
• 便于人类审阅

同时，组织还应配套用户培训、使用支持、现实预期、治理机制以及清晰的责任界面。

结论

作者最后指出，幻觉不是彻底拒绝 AI 的理由，但信任也不能被默认存在。真正可持续的路径，是把证据优先的系统设计、治理机制、合适的工作流和人类监督结合起来，让 AI 在进入最终输出前，就把错误和不确定性尽量消化掉。