QUBIQ 不确定性量化基准 — 同一张图九个答案

6 组图像 / 9 个子任务 / 268 例 / 2–7 位标注者

来源 https://qubiq.grand-challenge.org/发布时间: 2026-10-29最后更新: 2026-10-29 阅读 8
QUBIQ 不确定性量化基准 — 同一张图九个答案

信息速览

数据集名称QUBIQ 不确定性量化基准 — 同一张图九个答案
数据类型原始影像,人工标注,概率图,元数据
规模268 例(55 + 39 + 32 + 24 + 76 + 42)
接入方式https://qubiq.grand-challenge.org/
AI 就绪度

医学影像分割的标准做法是把「正确答案」定义成唯一一张掩膜:一位专家画一遍,其余人向这张掩膜对齐,模型的分数就是它与它的重合度。这套流程默认边界客观存在、分歧只是画得不够准。但在大量场景里这个默认站不住。脑胶质瘤的强化区该不该算进瘤周水肿、肾脏上极与肾上腺的分界落在哪一层,两位资历相当的医师经常给出不同答案——分歧的来源不是粗心,是分辨率不够、是解剖本身连续。

QUBIQ 做的事情,是把这件事从「需要被处理掉的麻烦」变成「需要被量化的对象」。它组织了两届 MICCAI 挑战赛,收拢六组 CT 与 MRI 影像,每例都请多位专家独立勾画同一结构,然后把所有人的勾画全部公开,不投票、不协商,也不仲裁金标准。参赛者要交的不是一张更接近某个权威答案的掩膜,而是一张概率图——它要能说出「这里七位专家里有五位认为属于肿瘤」,并且说对。

这套设计在公开数据集里少见得反常。绝大多数分割集只发布一张融合后的参考掩膜,多专家信息在发布前就被平均掉了;QUBIQ 保留了分歧的原始形态,于是它成了少数能直接检验「模型知不知道自己不知道」的公开基准。代价是它很小:全部加起来 268 例。这两个特征一起决定了用法——它不适合当训练集,适合当标尺。一屏速览见下表。

维度 内容
官方全名 Quantification of Uncertainties in Biomedical Image Quantification Challenge
中文惯称 生物医学图像量化中的不确定性量化挑战赛
届次 MICCAI 2020(10 月 8 日)、MICCAI 2021(10 月 1 日),均为线上 workshop
图像组数 6 组:前列腺、脑生长、脑肿瘤、肾脏、胰腺、胰腺病灶
二值子任务 2020 届 7 个;2021 届 9 个
影像总例数 268 例(含胰腺两组的两次扫描按次计)
模态 MRI(含多模态 MRI)与 CT 各占一半
维度 2020 届全部为单张 2D 切片;2021 届新增两组 3D 体数据
标注者人数 2 至 7 位,逐组不同
标注形态 每位专家一份独立二值掩膜;官方真值为其逐体素平均的概率图
评测指标 十个阈值上的平均 Dice,辅以 Q-Dice
参赛规模 两届累计 24 支队伍提交方案
数据访问 LRZ Sync+Share 加密压缩包,密码公开在参与页
许可 官方设计文档声明 CC BY
赛制状态 已结束,无持续榜单;数据仍可下载

§1 它到底是什么

1.1 一句话定义与它真正解决的问题

QUBIQ 是一组「带多个专家答案」的影像分割数据,加上一套专门为「预测答案分布」而设计的评分规则。这两半缺一不可:只有多标注数据,它就是一个标注冗余度较高的普通分割集;只有评分规则,它就是一篇方法论论文。

官方在首页把动机写得很直接:现有挑战赛几乎全部集中在确定性分割上,比的是谁更接近唯一真值,而标注者之间的差异被当成噪声忽略掉了。QUBIQ 想填空的正是这个位置——给「不确定性估计」这件事本身提供可比较的靶子。它的评测对象因此不是「你分得准不准」,而是「你对不确定性的判断对不对」。

这个区别在实操上很硬。一个模型完全可以在 Dice 上刷到很高,同时把边界区域全部输出为 0.5 的糊状概率,看上去「很谦虚」,实则没有提供任何信息;另一个模型 Dice 略低,但它在专家真正分歧的地方给出高方差、在专家一致的地方给出 0 或 1,这才是有用的不确定性。传统指标分不出这两者,QUBIQ 的多阈值评分能分出来。

1.2 为什么它不是「又一个脑肿瘤分割集」

库内已经有一批覆盖同类器官的分割数据,脑部有 BraTS 系列,腹部有 AMOS、LiTS、PANTHER,前列腺有 QIN-Prostate。乍看 QUBIQ 的器官清单与它们大面积重合,于是很容易被归到「重复资源」里。这个归类是错的,理由不在器官,在数据组织维度。

BraTS 的 335 例胶质瘤影像,每例只有一份经过共识流程的参考标注;QUBIQ 的脑肿瘤只有 32 例,但每例有 3 位专家各画一遍,三个答案都留着。前者回答「这个肿瘤长什么样」,后者回答「三位专家在哪些体素上会吵架」。这两个问题的数据需求完全不同:前者要的是覆盖度,越多越好;后者要的是同质性——必须是同一张图、同一个结构、同一套窗宽下的多次独立判断,否则分歧的来源就被混淆了。

所以 QUBIQ 的真正稀缺性在于:它是库内少数几个把「同一张图有几个不同答案」这件事本身编码进目录结构的数据集。这不是规模优势,是结构优势,而结构优势无法靠堆数据量复制——要复制它,你得重新组织一次多专家标注,成本比下载一个大分割集高一个量级。

1.3 三十秒决策卡

你的处境 QUBIQ 能帮你什么
想验证自己的不确定性估计是否「说得准」,而不只是「分得准」 提供 9 个子任务的概率图真值,可直接算 Q-Dice 与多阈值 Dice
在写一篇关于标注者间差异的论文,需要一个公开对照 六组图像、2 至 7 位标注者,覆盖 2D 与 3D、MRI 与 CT
想复现 Probabilistic U-Net 一类的工作,缺可比的评测集 原始论文给出台账式榜单,可对齐到具体队伍与分数
需要评估「模型与单个专家的一致性」和「模型与专家群体的一致性」差多少 每位专家的掩膜都单独可读,能逐人算 Dice
想给自己的数据集设计多标注方案,缺一个可参照的目录结构 它的 cases/task*.nii.gz 结构是现成模板
想训练一个能用的分割模型 给不了你足够的数据量,268 例远不够
想研究正常解剖的变异 给不了你,这里的差异是标注差异,不是人群差异

1.4 不适合谁

如果你的目标是训练一个能上临床的器官分割模型,QUBIQ 给不了你需要的规模。六组里最大的一组是前列腺 55 例,最小的是肾脏 24 例,而且 2020 届全部切成了单张 2D 切片——每例只给你一个层面。用它训出来的模型不认识器官的上下边界,只认识那一层。

如果你想研究「人群层面的解剖变异」,它也帮不上。它记录的是同一位患者的同一张图被不同人怎么看,不是不同患者之间的差异。这两件事在统计上必须分开,混在一起会让方差分析彻底失去意义。

如果你要的是「唯一正确的分割答案」,那它给的是反过来的东西。它刻意不提供共识掩膜,你得自己决定怎么从多份标注里造一个——而这个决定本身就会影响你的结论。

§2 数据构成与规格

2.1 六组图像与九个二值子任务

这套数据不是一次性发布的,2020 届四组、2021 届又加两组。合并之后的完整结构如下,例数与标注者数逐项对照官方参与页:

图像组 模态 维度 例数 子任务 标注者 供稿机构 入赛届次
前列腺 MRI 2D 55 2 6(1 例为 5) ETH Zürich 2020 / 2021
脑生长 MRI 2D 39 1 7 University of Zürich 2020 / 2021
脑肿瘤 多模态 MRI 2D 32 3 3 University of Pennsylvania 2020 / 2021
肾脏 CT 2D 24 1 3 Technical University of Munich 2020 / 2021
胰腺 CT 3D 38 位患者 / 76 次扫描 1 2 University of Pennsylvania 2021
胰腺病灶 CT 3D 21 位患者 / 42 次扫描 1 3 University of Pennsylvania 2021

子任务数合计 2 + 1 + 3 + 1 + 1 + 1 = 9。影像例数合计 55 + 39 + 32 + 24 + 76 + 42 = 268。这两组数字是理解全套数据规模的基础,后面的所有讨论都建立在它们之上。

需要注意胰腺两组的计数口径与其余四组不同。其余四组是「一例患者一次扫描」,胰腺两组是「一位患者两次扫描」,且两次扫描分别在两个时间点完成。所以 76 与 42 是扫描次数,不是患者数;把它当成患者数会把这两组的规模高估一倍。这个口径差异官方在参与页括号里写明了,但很容易在二手转述中丢失。

2.2 脑肿瘤的三个子任务为何不具名

脑肿瘤组是唯一一组「一例影像对应三个子任务」的。官方页面只说这是同一批多模态 MRI 上的三个不同肿瘤子结构,要求参赛者对 task01、task02、task03 各交一份概率图,但没有在 2020 与 2021 的参与页里逐项写明每个 task 对应哪个解剖定义。

这带来一个实际问题:使用者拿到数据后,只能通过掩膜的形态与体积去反推哪个是完整肿瘤、哪个是核心区、哪个是强化区,而反推依据的是经验而非文档。对于要写方法对比论文的人来说,这是一个必须在文中声明的口径风险——你没法引用官方原文来说明自己对齐的是哪一个靶区。

相比之下,脑生长、肾脏、前列腺的每个子任务都是单一定义,不存在这个歧义。前列腺的两个子任务的官方命名同样没有在页面展开,但因为是同一器官的两个相邻结构,按体积大小排序即可唯一识别,风险低于脑肿瘤。

2.3 一条记录长什么样

把一例影像拆开看,目录结构是这套数据最有信息量的部分。官方在参与页给了一张提交目录的示例,训练集的排布与之对应:

QUBIQ_training/
├── brain-tumor/
│   ├── case_001/
│   │   ├── imaging.nii.gz        # 四模态 MRI,通道维并列
│   │   ├── rater_01_task01.nii.gz
│   │   ├── rater_02_task01.nii.gz
│   │   ├── rater_03_task01.nii.gz
│   │   ├── rater_01_task02.nii.gz
│   │   └── rater_01_task03.nii.gz
│   └── case_002/
├── brain-growth/
│   ├── case_001/
│   │   ├── imaging.nii.gz
│   │   ├── rater_01_task01.nii.gz
│   │   └── rater_07_task01.nii.gz
├── kidney/
├── prostate/
├── pancreas/                     # 仅 2021 届
└── pancreatic-lesion/            # 仅 2021 届

这个结构里有三个设计决定值得单独说。

第一,影像只有一份,掩膜有多份。同一例的 imaging.nii.gz 是全组共享的,专家掩膜按 rater 并列。这意味着所有专家看的是同一张图,分歧不可能来自图像本身,只能来自判读。这是整套数据能用来做不确定性分析的前提。

第二,掩膜按 rater 分文件,不按 task 合并。如果官方把三位专家的掩膜投票融合成一个 task01.nii.gz,那多标注信息当场就没了。分文件存放看似只是文件管理的选择,实际上是这套数据全部价值的载体。

第三,task 编号是第二维。脑肿瘤组是唯一同时使用 rater 与 task 两个维度的组,所以它的目录最深。这也是为什么它的单例磁盘占用最高——一张四模态影像配九个掩膜文件。

2.4 标注形态:二值掩膜进,概率图出

这里最容易搞混的一点是「标注」与「真值」不是同一个东西。

专家交上来的是二值掩膜,每个体素要么 0 要么 1,没有中间态。一位专家不会说「这个体素有七成是肿瘤」,他只能给出一个判断:在边界内,或不在。这是人手勾画的物理限制。

官方给出的评测真值是连续概率图,由同一例的所有专家二值掩膜逐体素求平均得到。三位专家里两位画了、一位没画,那个体素的真值就是 0.667。七位专家里七位都画了,真值就是 1。所以概率图的取值集合是离散的分数,分母等于该例的标注者人数——三人标注的组,真值只可能出现 0、0.333、0.667、1 四种值。

这个细节决定了整套评分的行为。参赛者输出的是连续的 0 到 1,但真值只在少数几个离散值上取非零概率。一个理想模型应该在真值为 0.667 的区域输出接近 0.667 的值,在真值为 1 的区域输出 1。任何在这两者之间的「和稀泥」都会被阈值化过程惩罚。

2.5 胰腺两组为什么用 3D

2020 届全部数据都是单张 2D 切片。官方没有解释原因,但从数据形态看,切片方案让存储与提交都变得简单:一例一个文件,一个文件一层,参赛者不需要处理各向异性重采样。

2021 届新增的胰腺与胰腺病灶改用 3D 体数据。这个改动把难度抬了一个台阶——不确定性估计的主流方法(MC dropout、深度集成、概率 U-Net)大多在 2D 上验证过,搬到 3D 上显存与推理成本都会翻倍。原始论文的结论里专门点了这件事:3D 任务上的不确定性方法还需要更多研究。榜单也印证了这一点,2021 届新增两组的分数与其余组不在一个量级,具体数字放在 §4 讨论。

2.6 与库内同类资源的定位差异

资源 每例标注份数 核心用途 与 QUBIQ 的差异
QUBIQ 2 至 7 份,全部保留 评测不确定性估计 唯一把多标注作为评测对象
BraTS 1 份共识标注 训练与评测胶质瘤分割 覆盖 335 例,但不含标注分歧信息
AMOS 1 份 腹部多器官分割 器官覆盖最全,无多标注
LiTS 1 份 肝脏与肝肿瘤分割 规模大,单标注
PANTHER 1 份 胰腺肿瘤 MRI 分割 同为胰腺方向,但无多标注
QIN-Prostate 1 份 前列腺 MRI 分割 同器官,可作单标注基线

一句话的取舍规则:要覆盖度去 BraTS 与 AMOS,要分歧信息只能来 QUBIQ。两者的关系不是替代,是分工——用大集训练,用小集检验不确定性是否可信。

§3 第一层:标注者

这一层回答的问题是「差异从哪来」。使用者拿到 QUBIQ 后第一个要建立的认知是:这里的每一份掩膜背后是一个具体的人,在一个具体的上午,对着一张具体的图做出的判断。这些判断之间的差异有结构,不是随机的。

3.1 标注者人数是被设计出来的变量

六组的标注者人数是 2、3、3、3、6、7,分布在两个簇上。这个分布不是偶然——它对应两类完全不同的不确定性研究。

低人数组(2 至 3 人):肾脏、脑肿瘤、胰腺、胰腺病灶。这类配置能算出方差,但样本太小,无法估计标注者之间的系统性偏倚。三人标注时,只要有一位专家的判读习惯与另外两位不同,平均真值就会被拉偏三分之一,而这个偏移在统计上无法与随机波动区分。

高人数组(6 至 7 人):前列腺与脑生长。这两组才真正能做「标注者间一致性」的定量分析,比如算每位专家与其他人的平均 Dice、看是否存在离群标注者、估计组内相关系数。

所以选组时要先问自己:我做的是「检验模型能否复现分歧」,还是「研究分歧本身的统计结构」?前者用低人数组就够,后者必须用高人数组。

3.2 前列腺组的一个例外说明了什么

官方在 2020 届的参与页写:前列腺 55 例,两个子任务,六份标注,其中一例只有五份。2021 届的表述变成了「三例只有五份,原因是标注质量差」。

这个细节值得停下来看。它说明标注流程里存在一个质检环节,而且这个环节会丢弃质量不合格的专家掩膜,而不是修补它。丢弃意味着该例的专家人数从 6 变成 5,概率图真值的分母随之从 6 变成 5,取值集合从六档变成五档。

对使用者的直接影响是:同一组内的真值粒度并不一致。你在前列腺组里会同时遇到分母为 6 和分母为 5 的病例,如果代码里把「真值乘以 6 再取整」当作恢复专家投票数的捷径,那些五标注的病例就会算错。这类错误在批量处理时不会报错,只会静默产生偏差。

3.3 七位专家与三位专家的分歧幅度不能直接比

脑生长组有 7 位标注者,肾脏组只有 3 位。直觉上人多分歧大,但实际相反的逻辑更常见:人越多,越容易出现一位判读习惯明显不同的专家,从而把极值拉宽;人越少,越容易被「大家都是这么画的」这种隐性共识压平。

这意味着跨组比较不确定性的绝对幅度是没有意义的。肾脏组的平均成对 Dice 看起来可能比脑生长组高,但这不能推出「肾脏的边界更清楚」——它可能只是因为只有三个人,抽取到的判读风格更集中。

正确的做法是组内比较:在同一组内比不同模型,或者在同一组内比模型与单个专家、模型与专家群体。跨组的数字只能用来判断「这个任务整体有多难」,不能用来判断「这个器官的边界有多模糊」。

3.4 标注者不是随机抽取的

官方没有公布标注者的资历分布,也没有说明同一位专家是否参与了多个组。从供稿机构看,六组分别来自四家单位,标注很可能由各组所属机构的医师完成。这意味着组间的判读差异里混着机构差异——不同医院的窗宽习惯、不同学校训练出来的边界标准,都会渗进数据。

对做跨组实验的人来说,这是一个必须声明的混杂因素。你不能把「前列腺组的分歧小于脑肿瘤组」解释成器官特性,因为两组的标注者来自不同机构、不同专业背景,差异来源至少有三条,而数据没有提供拆分它们的字段。

3.5 独立勾画意味着什么

官方反复用的词是「独立」——每位专家各自勾画,不协商、不看别人的结果。这个约束是整套数据可信度的地基。

如果标注是协商出来的,分歧会被系统性压缩,剩下的差异只反映「谁在会议上更强势」,而不是「图像本身有多模糊」。独立勾画保住了分歧的原始分布,代价是分歧的幅度会比临床实际更大——真实临床中,疑难病例通常会二次阅片或集体讨论,最终报告里的边界比独立勾画时更收敛。

所以 QUBIQ 测出的不确定性,上限偏向「完全独立判读」这个极端情形。把它当成临床实际分歧的估计会高估;把它当成「判读自由度」的度量则恰如其分。

§4 第二层:为什么差异要被建模,而不是被消除

这一层是整套数据存在的理由,也是选它而不选别的分割集的分界线。前面讲的是差异长什么样,这里要讲清楚为什么不能把它当噪声清掉。

4.1 平均掉分歧,就是把问题定义掉了

常规流程里,多专家标注的归宿是「达成共识」:投票、STAPLE、专家仲裁,最后留一张掩膜。这个流程在工程上很自然——训练需要唯一标签,评测需要唯一答案。但它有一个代价:共识掩膜把「这里大家有分歧」这个信息彻底删除了。

删掉之后会发生什么?模型在训练时看到的是一个确定性的边界,它学到的信号是「这个体素属于肿瘤,那个体素不属于」,没有任何提示告诉它「这两者之间有一条宽约三毫米的灰色带,五位专家在这条带里各画各的」。于是模型在灰色带里的输出完全由损失函数的偶然性决定,它可能给出 0.99 的自信,也可能给出 0.51 的犹豫,两者都没有依据。

临床上这个区别很重要。一个在灰色带里输出 0.99 的模型,会让阅片者放弃复核;一个输出 0.6 的模型,会让人多看一眼。两者在共识掩膜上的 Dice 可能一模一样,但风险完全不同。

4.2 分歧不是误差,是数据的属性

这里要拆开一个常见混淆。误差是「偏离了正确答案」,隐含存在一个正确答案;分歧是「多个都合理的答案并存」,不预设哪个对。

QUBIQ 官方在 About 页把这一点写得很清楚:这种变异性是「生物学问题、成像模态与专家标注者共同具有的属性」,而当时的算法设计没有充分考虑它。这个措辞很关键——它把变异定位成数据的属性,而不是标注的缺陷。

一旦接受这个定位,很多做法就要改。比如「标注质量差」这个判断,在单标注框架下指的是「这位专家画错了」;在多标注框架下,它可能指的是「这个结构的边界本来就无法唯一确定」,此时丢掉「画得不一样」的那位专家,等于丢掉了最接近真实不确定性的一份信息。前列腺组为「标注质量差」丢弃了三例的第五份标注,这个操作在工程上合理,在信息上是有损的——被丢掉的那份标注,恰恰可能是分歧最大的那份。

4.3 案例:肾任务为什么从 0.238 排到 0.956

2020 届榜单里有三列分数特别扎眼。脑生长组各队集中在 0.82 到 0.93 之间,前列腺组在 0.78 到 0.97 之间,都是紧凑的高分区。肾脏组不是——同一份榜单上,肾脏一列的取值从 0.238 一路铺到 0.956,跨度超过 0.7。

这个跨度不是笔误,也不是某队交错了文件。它反映的是:肾脏这个任务上,不同方法对「不确定性该放在哪」的判断分歧极大。有的队伍把概率图做得接近二值,在专家分歧区给出 0 或 1 的硬判断,于是阈值化后与平均真值大面积不符,拿 0.238;有的队伍把概率图铺得很软,在边界带里给出大面积的中间值,恰好与 0.667 这一档对上了,拿 0.956。

两个极端的 Dice 差了四倍,但它们可能来自同一种能力缺失的两面:都没有真正定位到专家分歧发生在哪。前者不知道哪里该犹豫,后者到处都犹豫。多阈值评分把这个差别暴露了出来,单阈值 Dice 则会把它抹平——如果只在 0.5 处二值化,两者都会得到一个中庸的分数。

这个案例的用处在于它给出了判读榜单的正确方式:不要只看平均分,要看同一任务内各队分数的离散度。离散度大的任务,说明该任务对方法选择高度敏感,任何单队成绩都不能当作该任务的可达上限。肾脏组的 0.956 不代表肾脏分割能做到 0.956,它只代表有一支队伍的软输出恰好与平均真值的粒度对上了。

4.4 病例:胰腺病灶上的集体坍塌

如果肾脏组的分歧还能用「方法不同」解释,2021 届新增的胰腺病灶组就没法这么解释了。这一列上,所有提交队伍的成绩都落在 0.07 到 0.25 之间,最高分不到 0.25。

同一份榜单上,前列腺组的成绩是 0.83 到 0.97。同一个挑战赛、同一套评分规则、同一批队伍,两个任务的分数差了三倍以上。差别在哪?

差别在任务本身。前列腺是一个边界相对清晰、形态稳定的器官,专家分歧集中在少数几个层面;胰腺病灶是一个边界极度模糊、对比度低、常与周围血管和肠管粘连的靶区,三位专家的勾画可能在小病灶上几乎没有交集。当专家之间的重叠本身就低时,平均出来的概率图会呈现大面积的低值,任何试图输出「锐利」预测的模型都会在阈值化时被打到接近零。

这个结果的意义不是「大家都做得很差」,而是「这个任务把当前方法的短板照出来了」。原始论文的结论与此一致:3D 任务上的不确定性量化方法还需要更多研究。榜单在这里起到的作用是给出一个可复现的下界参照——如果你的方法在胰腺病灶上拿到 0.3,那不是小幅改进,是把公开最好成绩提高了一个可观的幅度。

回到 §4.3 的案例,两者其实是同一条规律的两端:分数的高低主要反映方法与「专家分歧结构」的匹配程度,而不是反映边界勾画的精细程度。

4.5 显式建模分歧,能得到什么

把分歧当成一等公民之后,至少有三件事变得可做。

第一,可以让模型学会「在哪里停手」。 一个输出概率图的模型,其高不确定区域可以直接转成人工复核的工单。这与「把整个病例都送人工复核」相比,工作量差一个量级,而漏检率不会明显上升——因为模型已经把注意力集中到了专家也会犹豫的地方。

第二,可以给下游决策提供风险刻度。 放疗靶区勾画里,边界外扩多少毫米是一个有临床后果的决定。如果模型能报出「这段边界的专家分歧约在两毫米」,外扩策略就可以按分歧而非按经验常数来定。

第三,可以做标注预算的分配。 如果一例影像的模型不确定度很高,说明它落在标注者也会分歧的区域,此时追加一位专家标注的边际收益最大;反过来,低不确定度的病例追加标注基本是浪费。QUBIQ 这类数据正是校准这套分配策略的参照系。

4.6 反过来的风险:不确定性也会被滥用

显式建模分歧不是没有代价。最常见的误用是把「高不确定」当成免责声明:模型在所有难例上都输出高方差,于是任何错误都可以解释为「我早就说了这里不确定」。这种输出在指标上可能不差,在临床上毫无价值,因为它没有区分「难」和「不会」。

QUBIQ 的评分设计某种程度上防了这一手。因为真值是多位专家的平均,一个到处输出中间值的模型,在专家一致的区域(真值为 0 或 1)会被阈值化严重惩罚。要让十个阈值上的平均 Dice 都好看,模型必须在专家一致处果断、在专家分歧处犹豫——这个约束比单一阈值严格得多。

但防线不是万能的。如果某组的专家分歧本身就覆盖了大面积区域,那么「到处犹豫」在该组内的代价会下降。这也是为什么跨组比较必须谨慎:评分规则相同,但各组的「犹豫是否划算」并不相同。

§5 第三层:怎么读、怎么算、怎么复现

这一层服务于要真正跑起来的人。前两层讲的是这套数据是什么、为什么重要,这一层讲文件怎么读、分数怎么算、结论怎么复现。

5.1 读取一例多标注数据

所有影像与掩膜都是 NIfTI 格式,用 nibabel 直接读。下面这段代码把一例的所有专家掩膜堆成一个数组,并顺带算出该例的概率图真值——注意分母是实际存在的掩膜数,不是固定的标注者人数。

#-- 依赖: pip install nibabel numpy
import nibabel as nib
import numpy as np
from pathlib import Path

case_dir = Path("QUBIQ_training/brain-growth/case_001")
img = nib.load(str(case_dir / "imaging.nii.gz"))
img_data = np.asanyarray(img.dataobj)

masks = []
for f in sorted(case_dir.glob("rater_*_task01.nii.gz")):
    m = np.asanyarray(nib.load(str(f)).dataobj)
    masks.append((m > 0.5).astype(np.float32))

stack = np.stack(masks, axis=0)          # 形状: (n_rater, H, W)
prob_gt = stack.mean(axis=0)             # 官方口径: 逐体素平均
n_rater = stack.shape[0]

levels = np.unique(np.round(prob_gt, 3)) # 三人标注时只有 0/0.333/0.667/1
print(f"影像 {img_data.shape} | 标注者 {n_rater} 位 | 真值取值 {levels}")

关键的一行是 stack.mean(axis=0)。官方真值就是这个平均,没有任何加权、没有形态学后处理、没有投票。如果自己实现时加了「多数投票后再平滑」,算出来的分数与官方不可比。

5.2 十个阈值上的平均 Dice

官方口径是:把真值与预测分别按 0.1 到 0.9 的十个概率水平二值化,逐阈值算 Dice,再取平均。二值化时用「大于等于阈值」还是「大于阈值」,在边界体素上会造成小数级差异,复现时建议两种都算一次看差多少。

#-- 与官方定义对齐的十阈值平均 Dice
import numpy as np

THRESHOLDS = np.arange(1, 10) / 10.0     #-- 0.1 到 0.9 共十档

def dice_bin(a, b, eps=1e-8):
    inter = np.sum(a * b)
    return (2.0 * inter + eps) / (np.sum(a) + np.sum(b) + eps)

def mean_dice_over_thresholds(prob_pred, prob_gt):
    scores = []
    for t in THRESHOLDS:
        p = (prob_pred >= t).astype(np.float32)
        g = (prob_gt >= t).astype(np.float32)
        scores.append(dice_bin(p, g))
    return float(np.mean(scores)), [round(s, 4) for s in scores]

#-- 一个"到处犹豫"的坏例子: 全域输出 0.5
flat = np.full_like(prob_gt, 0.5)
avg, per_t = mean_dice_over_thresholds(flat, prob_gt)
print("常数 0.5 预测:", round(avg, 4), per_t)

跑一下就会发现,「全域 0.5」这个看似安全的预测在十个阈值上的表现极度不均匀:低阈值时它几乎把整幅图判为前景,高阈值时几乎全判为背景,两端的 Dice 都很低,平均值被拖垮。这正是评分规则防「和稀泥」的机制。

5.3 Q-Dice:分层而不是分档

Q-Dice 是论文里给出的改进指标,思路与多阈值平均不同。它不把概率图切成十份分别评分再平均,而是按概率分层统计——落在第 l 层的像素,与真值中同一层的像素比对。数学形式在论文式 (1) 里,核心是那个指示函数:对第 l 层,判定像素概率是否落在 l/L 到 (l+1)/L 的区间内,最后一个区间是闭区间。

这样做的效果是:模型在 0.6 附近的一团概率,只会与真值在 0.6 附近的一团比对,不会被拉到 0.3 或 0.9 的档位上凑分。对于专家分歧集中在窄带的结构,这个指标比十阈值平均更敏感。

需要提醒的是,官方榜单的主排序用的是十阈值平均 Dice,Q-Dice 是辅助分析指标。自己写论文时如果要报 Q-Dice,务必说明用的是哪个 L,论文示例里 L 取 10,但代码里改 L 会改变分数。

5.4 复现一次完整的评估

把上面两段拼起来,一个最小可用的评估脚本如下。它遍历一个组里的所有病例,输出逐例分数与组内平均。

#-- 最小评估流程: 逐例算分, 汇总成组内平均
from pathlib import Path
import numpy as np
import nibabel as nib

def load_case(case_dir: Path, task: str):
    rater_files = sorted(case_dir.glob(f"rater_*_{task}.nii.gz"))
    masks = [(np.asanyarray(nib.load(str(f)).dataobj) > 0.5).astype(np.float32)
             for f in rater_files]
    return np.stack(masks, axis=0).mean(axis=0)

def eval_group(group_dir: Path, task: str, predict_fn):
    rows = []
    for case_dir in sorted(p for p in group_dir.iterdir() if p.is_dir()):
        gt = load_case(case_dir, task)
        pred = predict_fn(case_dir, task)
        avg, _ = mean_dice_over_thresholds(pred, gt)
        rows.append((case_dir.name, round(avg, 4)))
    vals = [r[1] for r in rows]
    return rows, round(float(np.mean(vals)), 4)

#-- predict_fn 由使用者自行提供, 返回与 gt 同形状的 0-1 概率图

这段代码里没有硬编码任何路径假设,除了目录层级。实际使用时要注意两点:脑肿瘤组的掩膜文件名带 task 后缀,其余各组也统一带,所以 rater_*_{task}.nii.gz 这个模式六组通用;胰腺两组是 3D,nibabel 读出来的形状是三维而不是二维,十阈值函数不需要改,但显存估算要按体积算。

5.5 榜单分数为什么不能离线复现

2020 与 2021 两届的测试集影像公开,标注不公开。这意味着榜单上的分数只能由官方在隐藏标注上算出,任何人拿到数据都无法在自己机器上重算出同一条榜单。

能复现的是训练集与验证集上的分数。官方把验证集带标注放出,供参赛者自查格式与量级;训练集里也划出了一个标注为 evaluation 的子集,用于在线榜单的格式验证。这两部分足以支撑「我的方法在同一批数据上处于什么水平」的判断,但不足以宣称「我超过了榜单第一名」。

这个限制不是 QUBIQ 独有的,几乎所有医学影像挑战赛都这样。区别在于,QUBIQ 的测试集规模很小(官方说约为训练例数的两成),所以隐藏标注的统计波动本身就大。即便你能拿到测试标注,单次评比的名次也可能因为几十个体素的差异而变动。§4.3 的案例说明同一任务内的方法差异足以造出四倍分差,而测试集越小,这种差异越容易被单例放大。

§6 与库内条目的关系

6.1 关系图谱

QUBIQ 在库内的位置比较特殊:它不是一个「器官数据集」,而是一个「评测维度数据集」。所以它与其它分割条目的关系是垂直的——它可以架在任何一个器官数据集之上。

脑部方向,brains 系列(BraTS 及其派生)提供大规模单标注胶质瘤影像,QUBIQ 的脑肿瘤组提供同一类影像上的三专家标注。两者共用 BraTS 的影像来源——官方在论文里明确说,脑肿瘤组的第一个标签集就是 BraTS 成人胶质瘤的原始标注,另外两个标签集是用 BraTS Toolkit 跑五个算法再融合出来的。这一点很重要:它说明 QUBIQ 的脑肿瘤组严格说来是「一个真实标注加两个算法标注」,与人手独立勾画的性质不同。

腹部方向,amos-abdominal 提供多器官单标注,lits-liver 提供肝脏与肝肿瘤,panther-pancreas-mri 提供胰腺肿瘤 MRI。QUBIQ 的肾脏、胰腺、胰腺病灶三组与它们在器官上重合,但标注组织方式完全不同。

前列腺方向,qin-prostate 提供单标注 MRI 前列腺分割,与 QUBIQ 前列腺组的两个子任务可以对齐比较。脑部通用配准与分割可以用 ixi-dataset 做前置处理。产前与胎儿方向,feta 与 QUBIQ 的脑生长组在人群上接近——脑生长组的供稿方是苏黎世大学儿童医院,官方 About 页把它归入产前脑一类。

6.2 三条互链路径

路径一:从器官到评测。 先用 amos-abdominal 或 lits-liver 训一个能用的分割模型,再用 QUBIQ 的肾脏组检验它的不确定性输出是否可信。这条路径解决的是「模型训好了,但不知道它什么时候会错」的问题。

路径二:从同器官到多标注。 先用 qin-prostate 建立前列腺分割基线,再换到 QUBIQ 前列腺组看多专家标注下的分数会掉多少。这个落差本身就是「你的模型在多大程度上依赖了某一种判读习惯」的度量。

路径三:从大规模到小样本验证。 brains 系列的规模足以训出稳定模型,但只有一个答案;QUBIQ 脑肿瘤组规模小,却能告诉你模型在三位专家之间的位置。前者管覆盖,后者管校准。

6.3 一个容易踩的坑

不要把 QUBIQ 与其它数据集混合训练后再在 QUBIQ 上评测,然后声称自己「利用多标注提升了性能」。QUBIQ 的测试标注不公开,你能评的只有训练集与验证集,而这两部分你训练时已经见过了。这个错误在把 QUBIQ 当作「又一个分割集」的人身上很常见,根源还是没有理解它的评测对象是概率图的形状,而不是掩膜的准确度。

§7 质量评估与局限性

7.0 阅读本节前需要知道的一件事

用评价普通分割数据集的标准来评价 QUBIQ,会得出几乎全是缺点的结论:数据量小、器官覆盖与现有资源重复、没有统一的采集协议、测试标注不给、榜单不再更新。这些批评每一条都成立,但都打偏了靶子。

QUBIQ 不是一个「供训练用的数据集」,它是一个「供校准用的测试台」。评价测试台的标准不是它有多少数据,而是它的测量是否稳定、是否可解释、是否能区分不同的被测对象。按这个标准看,它的强项在设计与评分规则,弱项在样本量与文档完备度。以下逐项展开。

7.1 规模:268 例是硬约束

组 例数 若按 8:2 划分,测试集约
前列腺 55 11
脑生长 39 8
脑肿瘤 32 6
肾脏 24 5
胰腺 76 次扫描 15
胰腺病灶 42 次扫描 8

官方说测试集约为训练例数的两成,上表是按此推算的量级。可以看到,除胰腺组外,各组的测试集都在个位数到十余例之间。在这个规模上,一次评测的名次差异很容易被单例的偶然性主导——一例特别难的病例就能把平均分拉低几分。

这个约束无法通过「多跑几次」缓解,因为测试集是固定的。可行的做法是同时报逐例分数与置信区间,而不是只报一个平均值。

7.2 标注者人数不均,跨组不可比

这一点在 §3.3 已经展开,这里只补充量化后果。三人标注时,真值只有四档取值;七人标注时有八档。档位越少,概率图的可分辨度越低,模型输出在阈值化后的行为越粗糙。这意味着脑肿瘤组的分数天然比脑生长组更容易饱和或崩塌,与任务难度混在一起,无法分离。§4.3 的案例里肾脏组那个大跨度,有一部分正来自三标注的四档真值与软输出之间的偶然匹配,而不是方法本身的优劣。

7.3 脑肿瘤组的标签来源需要澄清

官方论文明确写了:脑肿瘤组的三个标签集,一个是 BraTS 原始标注,另外两个是用 BraTS Toolkit 跑五个算法后分别用多数投票与 SIMPLE 融合得到的。也就是说,这一组的三份「标注」里有至少两份不是人类专家独立勾画的结果。

这与其余五组的性质不同。用它来论证「专家之间的分歧」会站不住脚——算法融合产生的差异与人类判读差异不是一回事,前者的分歧模式由算法族决定,后者的分歧模式由解剖模糊性决定。

这是全套数据里最需要在方法学部分声明的一处。官方页面在 2020 与 2021 的参与页都说「三位标注者」,只有翻到论文的 3.1.1 节才能看到标签的真实来源。

7.4 文档不一致清单

位置 官方表述 实际情况
2020 参与页 所有数据集约 50 到 100 例 实为 24 至 55 例,无一达到 50 以上的下限口径
2021 参与页 7 个二值任务、4 组图像 页面自身随后列出 6 组、9 个任务
2021 参与页任务清单 合计写「7 tasks」 括号内逐项相加为 3+2+1+1+2=9
脑肿瘤子任务 三个分割任务 未逐项命名,仅以 task01 至 task03 索引
前列腺标注数 2020 写 1 例 5 份 2021 改为 3 例 5 份,原因是标注质量差
许可 Zenodo 记录元数据为 CC BY-ND 4.0 文档正文 Data usage agreement 写 CC BY

这些不一致不构成造假,它们更像是挑战赛网站在两届之间反复改稿留下的痕迹。但对使用者来说,任何引用都必须指明是哪个页面、哪一届,否则会引到已经被覆盖的旧表述。上面第 1 条与第 2、3 条尤其明显:2021 的参与页显然是从 2020 版复制后改的,正文加了新组,开头那句「四组、七个任务」忘了改。

7.5 DAIMS 二十四项评估

DAIMS 从动机、收集、处理、质量、访问、可持续六个角度看一份数据资产的完备度。把它拆成二十四项逐条过一遍,能把「哪里语焉不详」显式列出来。

维度 检查项 表现 判定
动机 目标是否明确 首页与 About 页均写明填补不确定性评测空白 强
动机 是否有文献支撑 引用两项标注者间变异研究作为动机 强
动机 任务定义是否可执行 九个二值子任务定义清晰 强
动机 是否有明确受众 面向算法研究者,非临床直接使用 中
收集 来源是否可追溯 四家机构逐组标注供稿方 强
收集 采集协议是否公开 未公布扫描参数、层厚、序列细节 弱
收集 纳入排除标准 未公布病例筛选条件 弱
收集 伦理与知情同意 设计文档称数据已进入公有领域 中
处理 去标识化 明确说明已去标识 强
处理 格式标准化 统一 NIfTI,2020 届统一切 2D 强
处理 标注是否保留原始形态 按 rater 分文件,不做融合 强
处理 质控流程 2021 届称做过一轮质检并出 v3,细节未公开 中
质量 是否有官方基线 两届共 24 队提交,榜单公开 强
质量 是否有标注一致性统计 未提供成对 Dice、ICC 等指标 弱
质量 真值构造是否可复现 平均法明确,分母随标注人数变动 强
质量 测试集是否独立 隐藏标注,但规模仅约两成 中
访问 是否可免费获取 加密压缩包,密码公开在页面 强
访问 许可是否明确 设计文档写 CC BY,与 Zenodo 元数据不一致 中
访问 长期托管 依赖 LRZ 机构盘,非通用学术仓库 弱
访问 版本可追溯 2021 有 v3 标注,但无变更日志 中
可持续 是否有正式论文 arXiv 2405.18435,2024 年 v2 强
可持续 是否有后续届次 2020 与 2021 两届后停止 中
可持续 是否有下游复用 后续挑战赛公开引用其多标注数据 强
可持续 维护主体是否明确 无长期维护机构,靠论文与数据盘存续 弱

二十四项里,强九项、中八项、弱七项。弱的集中在采集协议、标注一致性统计与长期托管三块,这正好对应「能用于研究、不能作为唯一依据」的定位。

7.6 它为何能持续

两届比赛在 2021 年就结束了,官网首页还停在 2020 年的公告,榜单不再更新。按常规判断,这类资源会在三年内链接失效、无人维护。QUBIQ 没有,原因有三。

第一,它占住了一个结构性的空位。 多标注影像数据不是没人能做,是没人愿意做——成本是单标注的数倍,而收益在旧评测体系里体现不出来。一旦 QUBIQ 成为这个方向的默认参照,后来的工作就必须与它对比,引用关系自我强化。

第二,它被一篇正式论文锚定了。 arXiv 2405.18435 有完整的赛制、榜单与方法综述,2024 年还出了 v2。这篇论文让数据有了可引用的身份,使用者不必为一个「非正式数据包」承担引用风险。

第三,它被下游直接复用。 后续的多标注挑战赛在设计时会明确引用 QUBIQ 的多标注数据并征求其许可,这种复用让数据在新场景里继续产生价值,而不是随着原比赛结束而冻结。

反过来说,它的脆弱点也很清楚:托管在机构网盘上,没有 DOI,没有版本化仓库。论文能保证它被记住,不能保证它被下载到。

§8 版本与生态

8.1 两届,两年,两次口径调整

2020 届的时间线在参与页留得很完整:6 月底训练数据开放、注册开启;7 月中验证数据与榜单开放;9 月 16 日测试阶段启动;10 月 8 日在 MICCAI 线上 workshop 公布结果。测试数据下发后要求 48 小时内交回分割结果,这个窗口短得有点苛刻,也解释了为什么只有部分队伍完成了全部任务。

2021 届的节奏类似但更紧:6 月开放训练数据,8 月 3 日验证数据与榜单开放,8 月 20 日 LNCS proceedings 投稿截止,9 月 6 日上午 10 点(中欧时间)下发测试数据、48 小时窗口,9 月 16 日方法描述截止,10 月 1 日 workshop。

两届之间最重要的变化不是任务增加,而是评测口径的统一。2020 届只有四个图像组,2021 届加了胰腺与胰腺病灶,同时在 8 月 16 日对训练集与验证集做了一轮质检并重新发布 v3 版本,页面明确要求「请使用最新数据集做训练与验证」。这意味着 2021 届的参与者在赛程中经历过一次数据替换,早期下载的版本与最终版不一致。

8.2 参赛规模与方法的演化

两届累计 24 支队伍提交了方案。这个数字在医学影像挑战赛里属于中等偏小——BraTS 单届常有数十队。规模小的原因不难猜:任务要求输出概率图而非二值掩膜,参赛门槛比常规分割赛高一截;而且必须理解「不确定性」这件事本身,不是把现成分割网络改个输出层就能上场。

从论文的方法汇总看,主流做法分三路。第一路是多网络集成,为每位标注者单独训一个网络再融合,代表队伍在 2020 届拿到了最高平均分。第二路是贝叶斯近似,用 MC dropout 或深度集成在单一网络内估计方差。第三路是概率 U-Net 家族,直接学习标注分布的隐变量。

论文的结论里有一句判断值得记下:集成类方法表现突出,而 3D 任务上的不确定性方法仍不成熟。这句话与榜单上胰腺病灶组的集体低分是同一件事的两种说法。

8.3 生态位:它不在器官地图上,在评测地图上

把库里所有分割数据集铺开,横轴是器官,纵轴是标注份数,QUBIQ 会落在「标注份数最高」的那条窄带里,而它的器官覆盖只占很小一段。这个位置决定了它与谁竞争、与谁互补。

与它竞争的是其它多标注数据:LIDC-IDRI 的肺结节四阅片者标注、MICCAI 2012 前列腺挑战赛的多专家标注、ISBI 2015 的 MS 病灶多标注。三者都是单一器官,QUBIQ 的优势是跨器官、跨模态、跨维度,劣势是每个器官的样本都比对应的专用集少。

与它互补的是所有单标注大集。它不试图取代任何一组,它的角色是在大集训完之后提供一次「你的不确定性是否可信」的检查。

8.4 一个没有被回答的问题

QUBIQ 之后,这个方向没有出现第三届。官网首页停留在 2020 年的公告,2021 的页面单独存在但没有指向未来的计划。数据还在,榜单冻结,论文已发表。

这不完全是失败。多标注数据的生产成本决定了它不可能像 BraTS 那样年年扩规模;更现实的路径是把它作为一次性基础设施,供后续工作在方法层面反复引用。从这个角度看,两届、24 队、9 个任务,已经完成了它该完成的事。

§9 使用指引

9.1 三种角色的路径

做不确定性方法研究的:直接从前列腺组或脑生长组入手。这两组标注者多(6 与 7 位),真值档位细,能分辨出模型输出分布的细微差别。先用训练集自评,再对齐论文榜单看量级。

做分割工程落地的:从肾脏组入手。24 例、3 位标注、CT 模态,规模最小、最易跑通,适合先把评测管线搭起来。跑通后再换到前列腺组验证管线在 2D 多任务情形下是否正常。

做标注质量研究的:用前列腺与脑生长两组。六到七位标注者才够算成对一致性,也才够识别离群标注者。三人组在这个用途上没有统计意义。

9.2 一个最小可用的验证流程

#-- 1. 取数: 2021 届训练集为质控后 v3 版本
curl -L -o training_data_v3_QC.zip \
  "https://syncandshare.lrz.de/getlink/fi7wpcsxhK9AjyjBU7vj5y8m/training_data_v3_QC.zip"

#-- 2. 解压需要密码, 密码公开在 2021 参与页
unzip -P qubic2021 training_data_v3_QC.zip -d QUBIQ2021

#-- 3. 目录检查: 六组应当都在
ls QUBIQ2021

解压后先做一次完整性检查:六组目录是否齐全、前列腺组是否 55 例、胰腺组是否为 76 个扫描目录。这三项对不上,说明拿到的是旧版本或者压缩包不完整。

9.3 在 AI 流程中的位置

QUBIQ 不适合放在训练环节,适合放在验证环节的最后一关。一个典型流程是:用大集预训练,用目标器官的专用集微调,然后在 QUBIQ 对应组上做不确定性校准。校准的判据不是 Dice 涨了多少,而是多阈值 Dice 的曲线是否单调、高不确定区是否与专家分歧区重合。

如果一定要用它训练,唯一合理的用法是多分支训练:为每位标注者设一个输出头,让模型显式学习「不同判读者会怎么画」,而不是学一个平均答案。这正是 2020 届冠军队伍的做法——为每位标注者单独训一个 2D U-Net,推理时把多个输出平均成概率图。

§10 AI 使用声明

项目 说明
性质 公开研究数据与挑战赛评测基准,非临床诊断工具
用途 不确定性估计方法的训练、校准与横向比较
不建议用途 直接用于临床决策、作为唯一训练集训练生产模型、跨组比较不确定性绝对幅度
伦理 影像已去标识化;使用者仍需遵守 CC BY 的署名要求
引用 须引用 Li 等,arXiv:2405.18435;使用具体组时建议注明届次与组名
版本 2020 届原始版与 2021 届质控后 v3 版并存,引用时须指明
状态 两届均已结束,榜单冻结,数据仍可下载
责任 数据由各供稿机构提供,使用后果由使用者承担

常见误读(避坑清单)

常见说法 实际情况 证据
「QUBIQ 是一个多器官分割数据集」 它是多标注评测集,器官覆盖只是载体,规模远不足以训练 六组共 268 例,最大一组 55 例
「每例都有六七个专家标注」 只有前列腺与脑生长达到 6 至 7 位,其余组为 2 至 3 位 2021 参与页逐组列出标注人数
「真值是一张概率图,所以专家标注被平均掉了」 平均只用于生成评测真值,原始专家掩膜逐份保留可读 目录中每位专家独立成文件
「平均 Dice 高的队伍不确定性做得好」 肾脏组跨度从 0.238 到 0.956,高分会受软输出与真值粒度匹配影响 2020 届榜单肾脏列
「24 支队伍、九个任务,说明这个赛很热」 24 是两届累计;单届队伍数明显更少,且不少队伍只提交了部分任务 论文摘要与榜单缺项
「2020 届的脑肿瘤组是三位专家独立勾画」 一份是 BraTS 原始标注,另两份由算法融合生成 论文 3.1.1 节
「所有数据都是 2D 单张切片」 2020 届如此,2021 届新增的胰腺两组是 3D 2021 参与页写明 2D 切片或 3D 体数据
「测试集能下载,所以榜单可以离线复现」 测试影像公开、标注不公开 2021 参与页测试数据说明
「许可标的是 CC BY-ND,所以不能改数据」 ND 针对的是设计文档 PDF;数据使用协议写的是 CC BY Zenodo 4575204 元数据与文档正文
「脑生长就是胎儿脑,和 FETA 可以直接合并」 官方只说归入产前脑一类,未公布孕周、采集协议等对齐所需字段 About 页仅提及 prenatal brain

FAQ

Q1:2020 届和 2021 届到底差在哪?

2020 届四组图像、七个二值任务,全部为单张 2D 切片。2021 届保留这四组,另加胰腺与胰腺病灶两组共两个 3D 任务,并把训练集与验证集做了一轮质检后重发为 v3。评测规则、十阈值口径、Q-Dice 在两届之间没有变化。

Q2:为什么胰腺是 76 例而其他组只有几十例?

胰腺组的计数单位是扫描次数而非患者数。38 位患者各有两次扫描,分别在不同时间点,所以是 76。胰腺病灶组同理,21 位患者、42 次扫描。把它当成患者数会把规模高估一倍。

Q3:真值的分母是固定的吗?

不是。真值是同一例所有可用专家掩膜的平均,分母等于该例实际附带的掩膜数。前列腺组有病例只有 5 份标注,这些病例的真值只有五档取值,与六份标注的病例不同。

Q4:我能不能自己造一个共识掩膜来训练?

可以,但要在论文里说明用了哪种融合方式。多数投票、STAPLE、平均后取阈值的结果不一样,而这个选择会直接影响模型学到的不确定性形态。用平均后再二值化是最接近官方真值的做法。

Q5:Q-Dice 与十阈值平均 Dice 应该报哪个?

官方榜单主排序用十阈值平均 Dice。Q-Dice 是论文提出的改进指标,用于分析概率图的层级一致性。写论文时建议两个都报,并注明 Q-Dice 的层数 L。

Q6:榜单分数能复现吗?

不能完全复现。测试集影像公开但标注不公开,榜单分数只能由官方在隐藏标注上算出。训练集与验证集带标注,可以复现自己在这两部分上的分数。

Q7:数据还在吗?

在。2020 届的训练与验证数据在一个加密压缩包里,密码公开;2021 届的训练集为 v3 版本,验证集另有独立压缩包。托管方是 LRZ 的机构网盘,没有 DOI,长期可用性没有保证,建议取到后自行归档。

Q8:为什么肾脏组的分数那么分散?

该组只有 24 例、3 位标注,真值只有四档取值。软输出模型容易与中间档位对上而拿高分,硬输出模型则大面积不符。分数分散反映的是方法与真值粒度的匹配程度,不是肾脏分割本身的可达上限。

Q9:能把 QUBIQ 和 AMOS 混在一起训练吗?

技术上可以,但要清楚后果。AMOS 是单标注多器官,QUBIQ 是多标注少样本,混训会让模型偏向单标注的确定性输出。若目的是学不确定性,混训基本无效;若目的只是增加器官样本,那 QUBIQ 的贡献可以忽略。

Q10:脑肿瘤组的三个子任务分别是什么?

官方页面没有逐项命名,只以 task01 至 task03 索引。使用者需要根据掩膜体积与形态自行判断对应的解剖定义,并在论文中声明这一口径风险。

附录 A 子任务与图像对照

组 子任务 例数 标注者 模态 维度 届次
前列腺 task01 55 6 MRI 2D 2020 / 2021
前列腺 task02 55 6 MRI 2D 2020 / 2021
脑生长 task01 39 7 MRI 2D 2020 / 2021
脑肿瘤 task01 32 3 多模态 MRI 2D 2020 / 2021
脑肿瘤 task02 32 3 多模态 MRI 2D 2020 / 2021
脑肿瘤 task03 32 3 多模态 MRI 2D 2020 / 2021
肾脏 task01 24 3 CT 2D 2020 / 2021
胰腺 task01 76 次扫描 2 CT 3D 2021
胰腺病灶 task01 42 次扫描 3 CT 3D 2021

子任务合计九项。按「例数乘标注者数」粗算,全套的专家掩膜文件总量在一千份上下——这个数由官方例数与标注人数相乘得到,不是官方公布的统计值,只用于估算存储与读取开销。

附录 B 标注组织与文件格式

项目 规格
影像格式 NIfTI(.nii / .nii.gz)
掩膜格式 NIfTI,二值,取值 0 与 1
掩膜命名 按专家与子任务分文件,一位专家一份
概率图真值 由同一例全部专家掩膜逐体素平均生成
真值取值 0 到 1 的离散分数,档数等于该例标注者人数
提交格式 与训练目录同构的 zip,每任务一份概率图
阈值设定 0.1 至 0.9,共十档,逐档二值化后算 Dice
主指标 十档 Dice 的平均
辅助指标 Q-Dice,按概率分层比对
测试集比例 约为训练例数的两成
提交窗口 测试数据下发后 48 小时

附录 C 术语表

术语 含义
标注者间差异 多位专家对同一结构独立勾画所产生的边界不一致
多标注 同一例影像附带多份独立标注,而非一份融合结果
不确定性量化 让模型输出概率或方差,以表达其判断的可信程度
概率图 取值 0 到 1 的逐体素输出,表示该体素属于目标的概率
硬标签 只取 0 或 1 的掩膜,无中间态
共识掩膜 由多份标注投票或融合得到的单一参考掩膜
平均真值 多份二值掩膜逐体素求平均得到的参考概率图
阈值化 把概率图按某个概率水平切成二值掩膜的操作
多阈值 Dice 在多个概率阈值上分别算 Dice 后取平均
Q-Dice 按概率分层比对预测与真值的改进型 Dice
深度集成 训练多个模型并以其输出分布表示不确定性
MC dropout 推理时保持 dropout 多次采样以近似后验
概率 U-Net 学习标注分布隐变量的分割网络
校准 模型输出的置信度与实际正确率的吻合程度
2D 切片 只取三维体数据中的一个层面作为一例
3D 体数据 以整个三维体积作为一例
供稿机构 提供影像与标注的医院或大学
隐藏测试集 影像公开、标注不公开、仅由官方评分的测试集
榜单 官方维护的队伍成绩排序表
成对一致性 两位标注者之间直接比较得到的一致程度

附录 D 常见误读 FAQ

Q:QUBIQ 是「量化」还是「分割」挑战赛?

官方全名的最后一个词是 Quantification(量化),不是 Segmentation。首页正文又说它处理的是分割任务上的不确定性量化。两者不矛盾:任务是分割,被评测的能力是量化不确定性。

Q:既然叫不确定性,是不是包含模型不确定性与数据不确定性两类?

数据侧的不确定性由多专家标注直接给出,这是官方提供的那一半。模型侧的不确定性要靠参赛者自己用集成或贝叶斯方法产生,官方不提供。把两者混为一谈是读这篇论文时最常见的误读。

Q:多标注是不是意味着标注质量差?

不是。独立勾画产生的分歧是设计出来的,目的就是保留判读自由度。真正被判定为质量差而剔除的只有前列腺组的三份标注。

Q:九个任务是不是意味着九个不同的模型?

不要求。官方明确说不需要一个算法打通全部任务,参赛者可以只提交单个任务,但总冠军按所有任务的平均分排。

Q:为什么 2021 届的页面开头还写着「四组、七个任务」?

那是从 2020 版复制后未更新的一段。同一页下方逐组列出的已经是六组、九个任务。引用时以逐组清单为准。

Q:这套数据和 LIDC-IDRI 的多阅片者标注有什么不同?

LIDC-IDRI 是单器官、四位放射科医师、以结节为单位;QUBIQ 跨六个器官与模态、2 至 7 位标注、以病例与子任务为单位,且给出了统一的概率图评测协议。前者适合研究肺结节判读,后者适合做跨任务的横向对比。

附录 E 许可与引用

项目 内容
数据许可 CC BY(官方挑战设计文档 Data usage agreement 一节声明)
文档许可 Zenodo 记录元数据标注为 CC BY-ND 4.0,针对设计文档本身
署名要求 使用数据须署名,并在方法部分注明所用组与届次
推荐引用 Li H B, Navarro F, Ezhov I, et al. QUBIQ: Uncertainty Quantification for Biomedical Image Segmentation Challenge. arXiv:2405.18435, 2024
论文许可 预印本标注 CC BY-NC-ND 4.0,与数据许可不同
数据入口 2020 届与 2021 届分别在各自的 Grand Challenge 站点,训练数据经 LRZ 网盘分发
设计文档 Zenodo 记录 3947852(2020 届)与 4575204(2021 届)
引用陷阱 只引论文不注届次,会让读者无法判断你用的是 7 任务版还是 9 任务版

编辑说明

核查时间 2026-10-29。主要依据:qubiq.grand-challenge.org 首页、About 页、participation 页;qubiq21.grand-challenge.org 首页与 participation 页;arXiv 2405.18435v2 全文(含 Table 2 的子任务表、Table 3 与 Table 4 的榜单);Zenodo 记录 4575204 的元数据与正文。例数与标注者数一律以两届 participation 页的逐组清单为准,论文 Table 2 作为交叉核对。千份掩膜的总量为按例数乘标注人数的估算,非官方统计。下载链接在核查时页面可正常打开,但 LRZ 网盘页面依赖 JavaScript,未实际下载压缩包验证内容完整性。未覆盖:各组的扫描参数、层厚、病例纳入排除标准、标注者资历分布——这些官方均未公布。


相关数据集导航

以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:

  • medsam2-dataset — 共享标签:医学影像 / 医学图像分割 / 挑战赛数据集 / MRI / CT
  • mm-whs — 共享标签:医学影像 / 医学图像分割 / 挑战赛数据集 / MRI / CT
  • topcow — 共享标签:医学影像 / 医学图像分割 / 挑战赛数据集 / MRI / CT
  • care-challenge — 共享标签:医学影像 / 医学图像分割 / 挑战赛数据集 / MRI / CT
  • rsna-aneurysm-2025 — 共享标签:医学影像 / 医学图像分割 / 挑战赛数据集 / MRI / CT
  • medical-decathlon — 共享标签:医学影像 / 医学图像分割 / MRI / CT
  • amos-abdominal — 共享标签:医学影像 / 医学图像分割 / MRI / CT
  • amos — 共享标签:医学影像 / 医学图像分割 / MRI / CT
  • chaos — 共享标签:医学影像 / 医学图像分割 / MRI / CT
  • segthor — 共享标签:医学影像 / 医学图像分割 / 挑战赛数据集 / CT

导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

返回 AI-Ready 数据集