行业观察

JAMIA系统综述:临床小语言模型仅11项研究达标,0/11测量校准与不确定性

发布于
阅读 32
#行业观察#小语言模型#SLM#系统综述#校准#不确定性#幻觉#端侧推理#证据审计#JAMIA
JAMIA系统综述:临床小语言模型仅11项研究达标,0/11测量校准与不确定性

2026年10月1日在线发表于JAMIA的系统综述把小语言模型定义为参数量不超过40亿的模型,检索5个数据库至2026年2月10日,仅11项研究符合纳入标准(7篇同行评审、4篇预印本或技术报告)。在9项具比值尺度对照的研究中,相对任务得分范围为0.30至2.36;幻觉被评估的研究为6/11,标量校准误差或认知不确定性被评估的研究为0/11,报告端侧硬件推理耗时的研究为2/11。

四十亿参数以下,只找到11项研究,0项测了校准

趋势前瞻 × AI技术供应商/创业者 | 影响分析 × 医疗数据从业者 | 行业观察

2026年10月1日,JAMIA在线发表一篇系统综述,主题是临床场景中的小语言模型,文献标识为PMID 42821352、DOI 10.1093/jamia/ocag164。综述把小语言模型定义为参数量不超过40亿的模型,检索5个数据库至2026年2月10日,最终只有11项研究符合纳入标准,其中7篇同行评审论文、4篇预印本或技术报告。出版方页面返回403,本条依据Europe PMC REST接口取得的摘要与元数据。

11这个数字本身就是最重要的结果。它描述的不是小模型强或弱,而是这个方向目前有多少可被公开检验的证据。对准备入场的技术方来说,这既是空白,也意味着没有现成的基准线可以对齐。

开场:40亿参数以下,一共只找到11项研究

纳入口径决定了这个数的含义。参数上限被设在40亿,对象限定为临床任务,并要求具备对照条件。三条同时收紧之后,从5个数据库里筛出的合格研究只剩11项。两名评审员独立完成评估,一致性指标Cohen kappa为0.93,说明筛选口径本身执行得比较严格,样本少不是漏检造成的。

再看11项的构成:7篇经过同行评审,4篇是预印本或技术报告。接近四成的文献没有经过同行评审,这会影响证据的可引用强度。对创业者而言,这既说明赛道尚早,也说明任何宣称都要自己承担验证成本。

检索截止日同样要写进判断里。数据检索停在2026年2月10日,此后发表的研究不在范围内。也就是说,这篇综述描述的是截至那个日期的证据存量,而不是当下的完整图景。该研究已在PROSPERO注册,注册号为CRD420261331444,方案先于结果公开,这一点有利于后续复核。

RTS从0.30到2.36:这个跨度说明什么

在11项研究里,有9项具备比值尺度对照,这组研究的相对任务得分RTS范围为0.30至2.36。剩下的2项被单独处理:1项使用非常用比值尺度的原始差值,1项没有对照。真正能进入比值比较的只有9项,这个分母要在读数字之前先记住。

0.30意味着远差于对照方法,2.36意味着远优于对照方法。同一个综述里出现近八倍的跨度,说明这些研究在任务类型、基座模型、数据规模与评测口径上都不处于同一水平。作者也因异质性明确选择不合并估计值,这个决定本身就是对该跨度的判断。

对技术选型的人来说,这条信息比任何平均提升幅度都实在。RTS是跨研究的比值,不能被解读为统一的提升倍数,更不能拿来推算自家产品的预期收益。想用这组数据做规划,只能回溯到具体研究的原始任务设定。

0/11:没人测校准,这是最要紧的缺口

三项覆盖率放在一起看,缺口的位置很清晰。幻觉被评估的研究为6项,占11项中的多数;标量校准误差或认知不确定性被评估的研究为0项,没有任何一项测量,只有1项给出了校准曲线;报告端侧硬件推理耗时的研究为2项。

校准这项为零,是当前最要紧的缺口。模型输出一个概率或一句结论时,使用者需要知道它在多大程度上可信;没有校准测量,置信度就只剩下排序意义。而在临床流程里,决定一份输出能否被采信、是否需要人工复核的,恰恰是它的可信程度,而不是它答对了多少道题目。

换个角度看,0/11反映的是评测习惯而不是技术能力。多数工作默认报告准确率之类的一次性指标,跳过了需要额外设计才能完成的不确定性与校准维度。这意味着数据侧的空白非常具体:要补全这类评测,需要带有不确定性标注、且分布足够丰富的验证集,而这类数据资产目前几乎没有成型的产品。

2/11报告端侧耗时:落地的前提条件没人量

端侧推理是小型模型最常见的落地叙事,支撑它的通常是参数少、占地小、可离线运行。而本次综述给出的现实是,报告端侧硬件推理耗时的研究只有2项,占11项中的少数。落地所依赖的前提条件,几乎没有被测量过。

综述里能找到的相关数字只有一个估算值:40亿参数模型在2048 token上下文下约需9.3 GB显存。必须注明这是显存模型估算,不是实测部署结果。估算可以说明数量级,不能说明某款具体设备在某种并发下能否跑得住。

从产业落地看,缺的这一环正是采购决策最需要的部分。医院信息部门决定要不要在本地部署,看的是端到端延迟、显存占用、并发吞吐与散热功耗;看不到实测数据,选型就只能靠厂商自述。这构成一个明确的窗口:谁先把测试用例和测量标准公开,谁先填上这块空白。

冷静观察:不是小模型行不行,是证据还不够下结论

先把没有的部分列出来。11项研究的总患者数与样本量均未获取,RTS的合并估计值与置信区间未获取,各任务的准确率未获取。作者因异质性未做合并,因此不存在一个可以引用的统一效应值。三项核心汇总数据的缺席,决定了这篇综述的价值在于指出缺口,而不是给出评分。

因此正确的表述是证据基础过小,不能写成小语言模型已经可以替代大模型。11项研究分布在临床场景的各个任务上,任何单项任务的证据都不足以支撑部署决策。检索止于2026年2月10日,也让这一判断带着明确的时间边界。

接下来该追问的是口径。其一,纳入标准要求的对照条件具体包含哪些形式,决定了9项比值结果的可比上限。其二,4篇预印本或技术报告后续能否通过同行评审,决定了这部分证据的可引用强度,需要再次检索更新。其三,未来的报告应当把校准与不确定性、端侧实测开销写成必填字段,而不是可选项。其四,是否会出现按任务划分的统一基准集,决定这条技术路线何时具备可比较的证据。这四件事没有落地之前,关于小型模型能否进临床的判断都应停留在假设层面。

原文链接:JAMIA(DOI 10.1093/jamia/ocag164)

千方医数集编辑部 出品

返回医药AI前沿资讯