信息速览
INFOBOX — MIMIC-Ext-CXR-QBA 一屏速览
维度 内容 本质 从 MIMIC-CXR 放射报告自动构建的大规模胸片 VQA 数据集,以「问题-框-答案」三元组为核心,附场景图 别名 缩写 CXR-QBA(GitHub 与论文通用);PhysioNet 收录名含 “Question-Box-Answer Triplets” 团队 慕尼黑工业大学(TUM)Philip Müller、Friederike Jungmann、Georgios Kaissis、Daniel Rueckert 论文 ICLR 2026(Poster);OpenReview 早期版曾投 NeurIPS 2025 Datasets & Benchmarks Track 数据 42,172,827 条 QA 对 / 90,915,200 条子答案 / 65,317 名患者 / 227,239 项检查 源流 227,827 篇 MIMIC-CXR 报告 + 377,110 张 MIMIC-CXR-JPG 图像 + Chest ImaGenome 场景图 三大特异点 ① 层级化整句答案 ② 逐子答案边界框(正负发现均定位)③ 结构化标签(发现/区域/确定性等) 问题族 4 类:Indication / Study Abnormality / Region Abnormality / Finding 词汇规模 237 个发现类 + 311 个区域类 + 257 个定位解剖结构 流水线 Llama 3.1 70B 信息抽取 → BioLORD+SNOMED-CT 实体映射 → 模板问答生成 → Llama 3.1 8B 质量评级 子集 Pre-training grade(B+)31,230,906 条|Fine-tuning grade(A+)7,532,281 条 验证 发现标签 MCC 0.71(CXR-LT 长尾类提升约 20%)|框 IoU@30 优于 Chest ImaGenome 获取 PhysioNet 凭证访问(DUA + CITI 培训);v1.0.0(2025-07-22)/ v1.0.1(2026-08-25) 许可 PhysioNet Credentialed Health Data License 1.5.0;论文 CC BY 4.0 库内互链 MIMIC-CXR(16)、MIMIC-CXR-JPG(617)、MS-CXR(340)、CXR-LT(657)、Chest ImaGenome 同源条目
MIMIC-Ext-CXR-QBA(简称 CXR-QBA)干的事,是把"胸片问答"从"是的/不是"的猜谜游戏,升级成"请你指出病灶在哪、用报告口吻完整描述、并附上确定性标签"的临床级任务。它不采集任何新图像,而是让一个大语言模型去读 MIMIC-CXR 里 22.8 万篇放射报告,把每句话拆成"看到什么、在哪、多确定"的结构化节点,再用这些节点自动生成 4220 万条问答对——每条答案都带着边界框,连"这里没有问题"也给出一个框。这是目前公开胸片 VQA 数据集里规模与结构化程度都最靠前的一个,代价是它站在 MIMIC-CXR 的凭证访问门槛之后。
导语读法三则:
- 只想用数据:直奔 §6 获取与许可——注意这是 PhysioNet 凭证访问(要 DUA + CITI 培训),不是公开直链;再读 §4 规模硬数字挑子集。
- 关心 VQA 方法学:直奔 §3 构建流水线与 §5 任务类型——"场景图先行、答案从图出"是它区别于纯模板/纯 LLM 直出的关键。
- 做胸片定位或报告 grounding:直奔 §7 评测——MCC 与 IoU@30 双指标对 Chest ImaGenome 的对照是现成的对标基线。
§0 导读:这个数据集解决什么问题
胸片(chest X-ray, CXR)是全世界最常用的影像检查,也是医学 AI 竞争最激烈的赛道。在大语言模型(LLM)与大型多模态模型(LMM)兴起后,胸片判读正从"一图一个固定输出"(分类标签、分割掩码、一段报告)走向"可交互、可按需追问"的对话式形态——视觉问答(Visual Question Answering, VQA)就是其中的代表任务。但训一个稳健的医学 VQA 模型,卡脖子的从来不是模型,而是数据。
CXR-QBA 的作者把既有胸片 VQA 数据集的痛点总结成三条硬伤。第一,答案太短太浅:多数数据集只给"是/否"或一个单词(如"肺炎"),没有报告那种"右下肺见斑片状渗出,较前片吸收"的完整叙述。第二,缺定位信息:模型回答对了问题,却不能被要求指出"你凭什么这么答",没有边界框就无从核查——这正是"Clever Hans(聪明汉斯)效应"的温床,模型可能答对了但看错了地方。第三,几乎没有结构化元数据:发现类别、解剖区域、确定性估计这些让答案可筛选、可解释的标签普遍缺失。再加上规模偏小(VQA-RAD 仅 3.5K、SLAKE 14K,最大的 CheXinstruct 约 8.5M 且纯模板化),它们既撑不起预训练,也撑不起"可解释、可定位"的模型开发。
核心矛盾在于:人工标注能保证答案质量与定位精度,但无法规模化;自动化方案要么答案僵硬(纯模板),要么不直接以报告为条件(产生幻觉)。 CXR-QBA 的破题思路是"先结构、后生成"——不直接让 LLM 从报告里吐问答对,而是先把每篇报告解析成一张视觉接地场景图(visually grounded scene graph),把"发现—区域—框—确定性"显式建模成图上的节点与边,再从这张图派生问题与答案。因为答案是从图上"取"出来而非"编"出来的,文本细节继承自原始报告、边界框来自定位模型、标签来自受控词表,三者都对得上账。这个"报告 → 场景图 → 问答"的三段式流水线,就是 CXR-QBA 的方法学内核,也是它与所有"LLM 直出式"VQA 数据集的分水岭。
§0 读法三则:
- 这个条目是"数据集 + 方法论文 + 评测任务"三合一体:核心产物是 4220 万条 QA 三元组与随附场景图,衍生品是"结构化 VQA 任务(Structured VQA Task)"与 RadStrucVQA 指标,副产品是一整套可复用的构建流水线(§3)。
- 全文所有统计数字均出自 PhysioNet v1.0.0 官方页面与 GitHub README 三源互证;论文对比表内出现的 32.6M 与官方 42,172,827 的冲突已在坑 4 存照。
- 检索时若把 “MIMIC-CXR-VQA”(377K 模板化)或 “CheXinstruct”(8.5M 模板化)当作本数据集,会拿到另一套东西——四者名字相近但血缘不同,辨析见 §8.3。
§1 数据集速览:十问十答
Q1:MIMIC-Ext-CXR-QBA 的 “Ext” 指什么?它和 MIMIC-CXR 是什么关系?
“MIMIC” 指父数据库,“Ext” 指在 MIMIC-CXR 之上的扩展派生(extended derivative)——不采集新患者、新影像,而是对 MIMIC-CXR 报告做信息抽取、对 MIMIC-CXR-JPG 图像做解剖定位,生成全新的 VQA 层。“QBA” 即 Question-Box-Answer(问题-框-答案)三元组。父集是 MIMIC-CXR v2.1.0(doi:10.13026/4jqj-jw95)与 MIMIC-CXR-JPG v2.1.0。
Q2:42,172,827 条问答对是怎么来的?
源料是 MIMIC-CXR 的 227,827 篇自由文本放射报告。用 Llama 3.1 70B 对每篇报告做逐步抽取:先切句并判定所属章节(FINDINGS / IMPRESSION / INDICATION),抽出指征信息,再逐 FINDING/IMPRESSION 句抽取"observation"(含实体、区域、概率、变化、子观察);同时用 CXAS 模型在 377,110 张胸片上分割解剖结构、结合 Chest ImaGenome 的框,组合出 257 个定位解剖结构;最后用模板引擎据场景图生成四类问题的问答对。
Q3:每条答案长什么样?为什么说"层级化"?
每条答案是多粒度、层级化的:主答案给出报告口吻的完整句子(如"右下肺见斑片影"),其下挂若干**子答案(sub-answer)**承载细节与相关信息,总数达 90,915,200 条子答案(约为问答对数的 2.16 倍)。答案可由模板生成,也可直接改写自报告原句——元数据里 from_report 与 contains_report_answers 字段能区分。
Q4:边界框是怎么标上去的?"正负发现均定位"什么意思?
框不是人工画的,而是与解剖区域绑定:报告提到"右下肺",就在该区域的计算框上挂观察节点。所谓正负发现均定位(negative grounding),是指对"右肺野未见异常"这类阴性表述,也给一个框——告诉模型"这一块是干净的"。绝大多数数据集只标"有什么",CXR-QBA 把"没有什么"也锚定到空间上,这对训练模型系统性地排除病变至关重要。
Q5:结构化标签都有哪些?
核心三类:发现(finding)237 类、解剖区域(region)311 类、以及确定性(certainty);另有侧别(laterality)、概率估计、时序修饰、变化(change)等。标签体系参考 PadChest、Chest ImaGenome 与 SNOMED-CT,并经临床专家核验,含同义词表、层级与关系。
Q6:质量怎么保证的?
两段式:场景图用规则追踪(region/entity/sentence/change/localization 五类质量项);问答对用 Llama 3.1 8B 作 LLM 判官,就蕴含(entailment)、相关性、完整性、问题清晰度、答案清晰度五个维度独立评分;再加一个整体的定量验证——把场景图衍生的发现标签与边界框,拿去和 MIMIC-CXR-JPG 放射标注、CXR-LT 2024 金标准、MS-CXR、REFLACX 逐类比对(§7)。
Q7:什么评级、怎么选子集?
每条 QA 对拿到一个总评级(A++ / A+ / A / B / C / D / Unrated)。作者据此切两个推荐子集:Pre-training grade = 评级 B 及以上(31,230,906 条)、Fine-tuning grade = 评级 A 及以上(7,532,281 条)。两个子集都排除非正位片与无正位片的检查。
Q8:那个"约 20% 未评级"是怎么回事?
有 8,280,266 条样本(约全量 20%)因 LLM 评估环节失败而未获评级(Unrated)。作者明说这些不一定是坏样本,但无法保证质量,不推荐用于训练;他们选择不再优化以扩大已验证样本量,因为已有的高质量池子已足够大。全量数据(含未评级与低评级)一并释出,供研究。
Q9:我怎么拿到它?
走 PhysioNet 凭证访问:需要有 credentialed 账户、签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0,并完成 CITI “Data or Specimens Only Research” 培训;访问还受 PhysioNet 的出口地区政策约束。它不是 HuggingFace/Kaggle 那样的公开直链下载。
Q10(补充):数据里有原始胸片图像吗?
没有。CXR-QBA 只提供问答对、场景图、标签与边界框(坐标),不打包原始 DICOM / JPG。若要喂图像给模型,需另行从 MIMIC-CXR-JPG 按 image_id 获取像素——两套数据通过 image_id / study_id 对齐。这也是为什么 §10 把 MIMIC-CXR-JPG 列为强互链条目:一个是标注层,一个是像素层。
Q11(补充):答案是英文还是中文?能直接做中文任务吗?
问题、答案、标签与报告文本全部是英文(源自英文放射报告)。做中文医学 VQA 需自行翻译或做跨语言迁移,且翻译质量会直接影响下游性能——这是一条容易被忽略但影响很大的实操限制。
Q12(补充):它的规模在同类里排第几?
按公开可查口径,42,172,827 条显著大于 CheXinstruct(约 8.5M)、Medical-CXR-VQA(约 780K)、MIMIC-CXR-VQA(约 377K)、SLAKE(约 14K)、VQA-RAD(约 3.5K)。作者在论文中称其为 “the largest and most sophisticated VQA dataset for CXRs to date”。稳妥表述是:目前公开胸片 VQA 数据集中规模与结构化程度均领先者("最"字依赖口径,见坑 4)。
Q13(补充):为什么有的数字是 377,110、有的是 376,175?
377,110 是 MIMIC-CXR-JPG 的实际 JPG 张数(定位分割的输入全集);376,175 是进入 CXR-QBA 图像元数据表、实际参与问答构建的张数。两者相差 935,源于构建时的过滤(非正位片、定位或抽取失败的检查)。前者讲"上游图像资源",后者讲"本数据集图像表规模"——不是矛盾。
Q14(补充):它是"衍生数据"还是"原始数据"?
是衍生数据(derivative)。它不采集新患者、新影像,而是在 MIMIC-CXR 报告与 MIMIC-CXR-JPG 图像之上生成的新标注层。因此伦理审批继承自父 MIMIC,使用条款也须一并遵循父集 DUA。
§0.5 背景深潜:为什么"胸片问答"比"胸片分类"难得多
要理解 CXR-QBA 的存在理由,得先理解胸片 AI 的两代任务范式之别。第一代范式是分类:输入一张胸片,输出一组预定义标签(如 CheXpert 的 13 类)或一个"正常/异常"判断。这套范式成熟、指标清晰(AUC、F1),MIMIC-CXR-JPG 等标注数据集正是为它而生。但它有三个结构性局限:其一,标签体系固定,用户不能追问"这个阴影具体在肺的哪一段";其二,输出是一次性的,一张片子只有一个(或一组)固定答案,无法按临床场景定制问题;其三,不可解释,模型给出"异常"时,你无法要求它指出依据在哪。
第二代范式是交互式任务,包括视觉问答(VQA)、报告生成、视觉接地(grounding)。它们的共同点是"输入不止图像,还有用户的文字指令",输出也形态多样。VQA 尤其灵活——可以让用户问任意问题,从最粗的"这张片正常吗"到最细的"气管插管尖端位置是否理想"。这正是 LLM/LMM 时代医学影像的演进方向:从"分类器"走向"会对话的助手"。
难点恰恰在于数据。 第一代范式的数据好造:放射科标注员看一眼给几个标签即可,成本低、可并行。第二代范式的数据难造:VQA 需要为每张图设计多个问题、写出临床级的完整答案、还要标注答案依据的空间位置——如果全靠人工,成本高到无法规模化。这就是整个领域长期卡在"要么小规模高质量(VQA-RAD 3.5K)、要么大规模低质量(模板化提不起预训练)"两难的原因。
CXR-QBA 的回答是"用结构化换规模"。 它发现放射报告本身其实就是一种"医生写好的结构化描述"——里面天然含有"发现是什么、在哪、多确定、有什么变化"的信息。于是它把报告先解析成场景图(把这四类信息显式建模),再从图派生问答。因为答案是从图上"取"的,就不需要为每条问答雇人重写;因为图上的区域节点带框,答案就能附定位;因为标签映射到受控词表,答案就能带结构化元数据。一句话:它把"报告里的隐含结构"挖出来,变成了"千万级问答对的显式监督"。 这就是它能在规模与结构化上同时领先的方法学根因。
§0.6 三类读者的三条最优路径
路径一|数据工程师 / 想快速用起来:§6 获取与许可(先办凭证)→ §4 规模硬数字(选 Pre-training 还是 Fine-tuning 子集)→ §7.8 使用手册(跑通 baseline)→ 坑 1/坑 5/坑 8(避雷)。预计阅读 15 分钟可上手。
路径二|VQA / 多模态研究者 / 关心方法:§0 导读(问题意识)→ §3 构建流水线(三段式怎么设计)→ §5 任务与标注(四类问题族 + Structured VQA Task)→ §7 评测(MCC/IoU 双线对照 + RadStrucVQA)。重点理解"先图后答"为何抗幻觉、为何能定位。
路径三|数据合规 / 数据集选型:§6 许可层次 + 版本链 → §10 DAIMS 评估 → §9.7 与库内近邻对照 → §11 存照与遗留疑点。重点判断"凭证门槛 + 父集连带 + 地区策略"三条合规约束是否可接受。
§1.5 一条 QA 三元组的完整解剖(示意)
为让抽象的结构落地,下面用示意性(非逐字原文)的方式展示一条 CXR-QBA 记录包含哪些部分,帮助读者建立字段直觉:
- 问题(question):属于某问题族与策略,如"区域异常—describe_abnormal_region"(C02)。
- 主答案(main answer):报告口吻的完整句子,如"右下肺野见斑片状密度增高影,考虑渗出性病变。"带标签:发现=渗出影、区域=右下肺、确定性=疑似(probable)。
- 子答案(sub-answers):细节子答案(如"较前片部分吸收")、相关信息子答案(如"未见胸腔积液"),各带自身标签。
- 边界框(bounding box):挂在子答案层,指向"右下肺"区域;若为阴性发现(如"未见气胸"),同样给出框(negative grounding)。
- 质量评级(quality):由场景图评级与该问题所有答案评级取最小值得到,落 A++ 至 D 或 Unrated。
- 溯源字段:
from_report(是否来自报告句)、contains_template_answers(是否含模板答案)、num_regions(涉及区域数)等。
(注:字段名取自 PhysioNet 元数据说明;具体取值以实际数据与 dataset_info.json 为准。)这条解剖解释了为什么一个数据集能同时服务于三类下游:文本端取主/子答案做报告生成;标签端取发现/区域做分类;定位端取框做检测。
Q10:它和 MAIRA-2 这类"接地报告生成"数据集的区别?
MAIRA-2 给的是检查级描述 + 少量 ROI,没有个体级问题,也没有类别/标签映射;CXR-QBA 给的是逐子答案、问题特异的框,并带发现/区域等结构化标签映射。用作者的话说,前者"不能直接拿来做 QA 任务"。完整对照见 §8.3。
§2 名称、身份与来龙去脉
2.1 三个名字,一套东西
CXR-QBA 在流通中至少有三种叫法,检索时务必认清:
- MIMIC-Ext-CXR-QBA:完整官方名(PhysioNet 与 GitHub 仓库名均用此)。
- CXR-QBA:论文与代码里的简称,也是数据集"人设名"。
- PhysioNet 收录全名:MIMIC-Ext-CXR-QBA: A Structured, Tagged, and Localized Visual Question Answering Dataset with Question-Box-Answer Triplets and Scene Graphs for Chest X-ray Images。
而论文标题用的是另一套措辞——A Structured, Tagged, and Localized Visual Question Answering Dataset with Full Sentence Answers and Scene Graphs for Chest X-ray Images——把 “Question-Box-Answer Triplets” 换成了 “Full Sentence Answers”。这是论文标题与数据集合规名之间的措辞差异,不是两个东西;判断依据是作者(四人完全一致)与代码仓库链接(同一 GitHub 仓库)。
2.2 出身:一个团队的第三条胸片路线
作者四人全部来自慕尼黑工业大学(Technical University of Munich, TUM):Philip Müller(一作)、Friederike Jungmann、Georgios Kaissis、Daniel Rueckert。其中 Friederike Jungmann 兼具放射科临床背景(属慕尼黑工大附属医院 Klinikum rechts der Isar 放射研究所,兼 TUM「AI in Healthcare and Medicine」讲席),Daniel Rueckert 是医学影像 AI 领域的资深学者。
这条线索解释了一个关键问题:CXR-QBA 不是从零冒出来的孤立数据集,而是 TUM 团队胸片系列工作的自然延伸。 一作 Müller 与 Kaissis、Rueckert 在 ECCV 2024 上发表过 ChEX(Interactive Localization and Region Description in Chest X-rays)——用交互方式在胸片上做区域描述与定位。CXR-QBA 把 ChEX 的"交互式定位"思路推到了"规模化问答"层面:既然模型需要知道"看哪里、说什么",那就造一个把两者绑定、且大到能预训练的数据集。理解这层血缘,就能理解 CXR-QBA 为什么如此强调"定位 + 结构化标签"而非单纯堆规模。
2.3 时间线:从投稿到双版本
| 时间 | 事件 |
|---|---|
| 2025-04-25 | GitHub 仓库首次提交(LICENSE、llm_processor 代码) |
| 2025-04-07 | OpenReview 出现早期版本记录(曾投 NeurIPS 2025 Datasets & Benchmarks Track) |
| 2025-05 | README、示例图完善;仓库结构成型(extract/train/utils 三个工具包) |
| 2025-07-22 | PhysioNet v1.0.0 正式发布(DOI 10.13026/8qmz-da41) |
| 2026-08-25 | PhysioNet v1.0.1 发布(latest DOI 10.13026/6193-he91) |
| 2026 | 论文以 ICLR 2026 Poster 形式发表 |
双口径存照:同一篇论文在 OpenReview 上留下过两个 forum id——t7TTpDkCfJ(标注投 NeurIPS 2025 D&B,2025-04 投、2025-10 修改)与 LrmyW9JLYq(GitHub README 的官方链接,对应 ICLR 2026)。投稿轨迹是"先投 NeurIPS 未中 → 后录 ICLR 2026"。本条目按最终的 ICLR 2026 记,NeurIPS 版本一并存照。
版本链存照:数据集有 v1.0.0 与 v1.0.1 两个 PhysioNet 版本,各有独立 DOI(8qmz-da41 / 6193-he91)。本条目所有硬数字采 v1.0.0(抓取时点可见的 Dataset Statistics 表),v1.0.1 的具体变更 changelog 未见公开 diff,列为遗留疑点。
§3 构建流水线:报告→场景图→问答
CXR-QBA 最值得细读的不是它的规模,而是它的三段式构建流水线——这是它把"LLM 幻觉"关进笼子的工程手段,也是它能同时给出文字、框、标签的原因。
3.1 第一段:场景图构建(Scene Graph Construction)
场景图是整条流水线的"真值底座"。构建分三步:
(a)区域定位(Region Localization)。 用 CXAS 模型在 377,110 张 MIMIC-CXR-JPG 胸片上预测胸廓解剖结构的分割掩码(CXAS 原始输出 158 个结构),经形态学变换去噪;再引入 Chest ImaGenome 提供的边界框(覆盖 MIMIC-CXR 多数正位片的 29 个解剖结构)。两者经交集、并集、超框等组合运算,最终派生 257 个定位解剖结构。任何过小的掩码/框都被丢弃,其余转成边界框——这就是"框"的物理来源。
(b)信息抽取(Information Extraction)。 用 Llama 3.1 70B 配 few-shot 提示,对 227,827 篇报告逐步处理:先切出独立句子并判定章节(FINDINGS / IMPRESSION / INDICATION 等),丢弃无信息句、合并描述相近信息的句;再专门抽取 INDICATION 章节,产出指征摘要、患者信息、临床指征、待评估项目,以及"指征问题的简答";最后逐 FINDING/IMPRESSION 句抽取 observation 对象,每个 observation 含名称、摘要句、发现实体、关联区域、概率(阳/阴性及可能性)、时序与变化修饰、以及子观察(children,递归同构)。
(c)图构建与实体映射(Graph Construction and Entity Mapping)。 把抽出的实体与区域对齐到预定义词表:词表以 PadChest、Chest ImaGenome 与 SNOMED-CT 为基础、经临床专家核验,含同义词表、层级与关系;映射时用 BioLORD(语义句向量模型)计算嵌入、取最近概念,以增强鲁棒性;再对区域做合并/简化。最终每个 observation 挂到对应的 region 节点上(带框),形成"region 节点 + observation 节点"双节点结构的场景图。
3.2 第二段:问答生成(Question-Answer Generation)
场景图是"源",问答是"流"。模板引擎由作者与放射科医师共同设计,围绕四类问题族生成问答对(问题族明细见 §5):
- 一类问指征(为什么拍、该评估什么);
- 一类问整体异常(这张片整体描述、是否异常、是否正常);
- 一类问区域异常(某个解剖区域的描述、是否异常);
- 一类问具体发现/疾病/器械(某发现位于何处、是否存在)。
答案构造是混合式:一部分走模板(用场景图标签填槽),一部分直接改写自报告原句。这使得答案既有模板的规整,又保留报告文本的临床细节与多样性——正是它区别于纯模板数据集(如 CheXinstruct)的关键。
3.3 第三段:质量评估与分级(Quality Assessment)
两套独立质控叠加:
(a)场景图质量(规则式):追踪六类质量项——region_quality、entity_quality、sentence_name_quality、change_quality、issue_level、localization_quality,每项映射到 A++ 至 B 的最高评级。
(b)问答质量(LLM 判官式):用 Llama 3.1 8B few-shot,就五个维度逐条独立评分——蕴含性(Entailment)、相关性(Relevance)、完整性(Completeness)、问题清晰度、答案清晰度,各维度给出从 A++(最佳)到 D(矛盾/不可理解)的分档。
(c)总评级与子集切分:综合场景图评级与当前问题所有答案的评级取最小值,得到每条 QA 对的总评级。据此切两个推荐子集:Pre-training grade(B 及以上)= 31,230,906 条,Fine-tuning grade(A 及以上)= 7,532,281 条;两子集均排除非正位片、剔除无正位片的检查,并剔除评估失败样本(约 20%,即 8,280,266 条 Unrated)。
3.4 为什么"先图后答"是关键
把报告先结构化成图、再从图出问答,堵住的是 LLM 直出方案的两个漏洞。其一,抗幻觉:直接让 LLM"看图说话式"生成问答,很容易编造不在报告里的发现;先建图则把"图上有什么"和"答案说什么"绑定,答案字段可回溯到图节点。其二,可定位:因为 region 节点天然带框,"在这张图上问某发现"时答案就能附上空间锚点,且阴性发现也因 region 存在而能被锚定——这是纯文本流水线做不到的。代价是流水线更长、更依赖上游定位模型的质量,这一点作者用定量验证(§7)来兜底。
3.5 流水线的工程实现:LLM 批处理为何是隐形关键
这条流水线要在 22.8 万篇报告上跑两级 LLM(70B 抽取 + 8B 评估),外加在 37 万张图上跑定位模型——工程难度不在算法,而在"大规模、鲁棒地调 LLM"。作者为此专门开源了一个 llm_processor 工具库(随 GitHub 仓库提供),用于分布式、可重试、抗失败的 LLM 批处理。理解这一点,能解释为什么数据集能有如此规模:它不是靠人海标注堆出来的,而是靠一套能"无人值守地把 LLM 当数据工人用"的工程设施。
具体而言,流水线实现有四个值得注意的工程点:
- 分批与幂等:把报告按检查切分成可独立处理的任务单元,失败单元可单独重试而不必重跑全量——这是敢在 20 万级规模上跑 LLM 的前提;
- 结构化输出约束:让 LLM 输出的不是自由文本,而是带字段的 observation 对象(名称、摘要、实体、区域、概率、变化、子观察),降低下游解析的歧义;
- 中间产物持久化:抽取结果先落盘成场景图数据(对应最终
scene_data.zip),再做问答生成,而非一条龙内存流转——既便于断点续跑,也让"图"成为可审计的中间真值; - 并行度与成本权衡:本地环境(未调外部 API)意味着算力自备,因此批处理效率直接决定构建周期。
这四点共同构成了"数据集的工程护城河":方法可以被复述,但把这套流水线稳定跑通并把产物开放出来,本身就需要相当规模的工程投入。 这也是作者愿意把构建流水线(cxr_qba_extract)一并开源的原因——它把"方法论"变成了"可复现的工程资产"。
3.6 三条贯穿全流程的设计取舍
回看整条流水线,能提炼出三条贯穿始终的设计取舍,它们共同定义了 CXR-QBA 的性格:
| 取舍 | 选择了什么 | 放弃了什么 | 后果 |
|---|---|---|---|
| 结构 vs 规模 | 先建场景图,再从图批量生成 | LLM 直出问答的"高多样" | 抗幻觉、可定位,但答案带模板成分 |
| 覆盖 vs 精度 | 框覆盖解剖区域(高 IoT) | 手工病灶级精确框(低 IoP) | 高召回、低精度,需下游后处理 |
| 自动 vs 人工 | LLM 抽取 + 规则/判官质控 | 临床标注员逐条复核 | 规模惊人,但质量有波动(含 20% 未评级) |
理解这三条取舍,就能理解这份数据集"为什么长成这样"——它不是缺陷的堆砌,而是在"规模足够大、结构化足够强、成本足够低"三者之间反复权衡后的最优解。任何使用者拿着它去做任务,本质上都是在继承作者已经做出的这三项取舍,并针对自身需求补齐短板。
§4 数据规模硬数字
以下数字全部出自 PhysioNet v1.0.0 官方 Dataset Statistics 与 Directory Structure(抓取时点 2026-10-08),逐条与 GitHub README 及论文口径互证。
4.1 总量
| 指标 | 数值 |
|---|---|
| 问答对(QA pairs) | 42,172,827 |
| 子答案(sub-answers) | 90,915,200 |
| 问题(questions) | 42,172,827 |
| 患者(patients) | 65,317 |
| 检查(studies) | 227,239 |
| 图像(images) | 376,175 |
| 问题-图像对 | 70,045,778 |
| 答案-图像对 | 151,539,450 |
| 源报告(MIMIC-CXR) | 227,827 篇 |
| 源图像(MIMIC-CXR-JPG) | 377,110 张 |
4.2 训练/验证/测试切分
| 指标 | Train | Val | Test | Total |
|---|---|---|---|---|
| 患者 | 64,524 | 500 | 293 | 65,317 |
| 检查 | 222,180 | 1,805 | 3,254 | 227,239 |
| 问答对 | 41,239,042 | 600,763 | 333,022 | 42,172,827 |
| 子答案 | 88,876,344 | 717,117 | 1,321,739 | 90,915,200 |
4.3 质量评级分布(Total)
| 评级 | 数量 | 占比(约) |
|---|---|---|
| A++ | 1,368,001 | 3.2% |
| A+ | 1,115,789 | 2.6% |
| A | 5,347,580 | 12.7% |
| B | 24,812,681 | 58.8% |
| C | 700,747 | 1.7% |
| D | 547,763 | 1.3% |
| Unrated(未评级) | 8,280,266 | 19.6% |
两个推荐子集:Pre-training grade(B 及以上)= 31,230,906 条;Fine-tuning grade(A 及以上)= 7,532,281 条。
4.4 词汇与文件规模
- 发现类别 237 个、区域类别 311 个、定位解剖结构 257 个。
- 文件目录(约 28 GB 量级):
metadata/2.3 GB(七级元数据的 csv.gz 与 parquet 双版本 + dataset_info.json)、stats/4.5 GB、scene_data.zip1.3 GB、qa.zip7.5 GB、exports/12.4 GB、quality_mappings.csv5 KB。 - 元数据七级:patient / study / image / question / question-image / answer / answer-image——每级都给冗余双格式(
.csv.gz便于解读、.parquet便于高速读取),并带唯一 ID 与筛选字段。
4.5 硬数字的双口径提示
论文对比表(Table)中 CXR-QBA 行的 “# QA-Pairs” 写作 32.6M,与官方 42,172,827 不一致——这是同一篇论文内的数字冲突,本条目采官方硬数 42,172,827,32.6M 存照于坑 4。另:摘要层反复出现 “42 million” 的约整口径,精确值以 Dataset Statistics 表为准。
4.6 七级元数据逐级说明
CXR-QBA 的元数据不是"一张大表",而是按实体层级拆分成的七级,每一级都有自己的计数与字段。理解这七级,才能正确地把问题、答案、图像三者 join 起来:
| 层级 | 文件名(示意) | 一条记录代表 | 关键字段 |
|---|---|---|---|
| patient | patient_metadata |
一位患者 | 患者 ID、性别、年龄组 |
| study | study_metadata |
一次检查 | 检查 ID、患者 ID、采集描述、正位片有无 |
| image | image_metadata |
一张影像(共 376,175 行) | 图像 ID、检查 ID、视图体位、DICOM 元信息 |
| question | question_metadata |
一个问题(共 42,172,827) | 问题 ID、问题族、策略标识、问题文本 |
| question-image | question_image_metadata |
一个问题与一张图的可问答关系(共 70,045,778) | 问题 ID、图像 ID |
| answer | answer_metadata |
一条答案 / 子答案 | 答案 ID、问题 ID、答案文本、发现标签、区域标签、确定性、侧别、概率、时序、变化、评级 |
| answer-image | answer_image_metadata |
一条答案与一张图的接地关系(共 151,539,450) | 答案 ID、图像 ID、边界框 |
每一级都同时提供 .csv.gz(人类可读、便于快速检视)与 .parquet(列存、便于高速加载)两种格式,形成冗余但互补的读取路径。dataset_info.json 则集中记录全库级别的统计与版本信息。
4.7 一条答案记录里到底装了什么
以 answer 层的单条记录为例,它远不止"一句话",而是一个结构化的对象:
- answer_id / question_id:定位这条答案属于哪个问题;
- answer_text / sub_answer_text:主答案句与子答案句(层级化);
- findings:该答案涉及的发现标签(取自 237 类发现词表),可多个;
- regions:涉及的解剖区域标签(取自 311 类区域词表),可多个;
- certainty:确定性分档(如 definite / probable / possible / uncertain);
- laterality:侧别(左 / 右 / 双侧 / 不适用);
- probability:该发现在该答案中的概率性描述(阳 / 阴 / 不确定);
- temporal / change:时序与变化修饰(新发、加重、好转、稳定、陈旧等);
- quality rating:该答案经 LLM 判官打出的 A++–D 评级。
正是这些字段让同一段自然语言答案可筛选、可聚合、可解释——例如可以只取"certainty ≥ probable 且 laterality = 右"的答案做侧别消融实验,而不必重新跑一遍 NLP。
4.8 场景图节点的字段结构
场景图(scene graph)是本数据集"最底层"的表示,scene_data.zip(1.3 GB)即存放于此。其节点结构可概括为:
- region 节点:
region_id、region_name(解剖区域名,映射到区域词表)、bbox(边界框坐标); - observation 节点:
observation_id、parent_region(挂靠的 region)、name(发现名)、summary(摘要句,改写自报告)、entities(发现实体,映射到发现词表与 SNOMED-CT)、probability(阳性/阴性/可能性)、temporal、change、children(子观察,递归同构)、bbox(其自身或继承自 region 的框)。
由于 observation 可递归挂子观察,一张片子的描述能形成"区域 → 若干发现 → 每条发现的进一步细节"的树状结构。问答对正是从这棵树上"剪枝"生成的:问区域就给 region 节点的框,问发现就给 observation 节点的框,问阴性就保留阴性 observation 并附框。
4.9 为什么图像数是 376,175 而非 377,110
细心的读者会注意到两个"图像数":
- 377,110:MIMIC-CXR-JPG 的实际 JPG 张数,是区域定位分割的输入全集;
- 376,175:进入 CXR-QBA image 元数据表的图像数,是经过筛选后实际参与问答构建的图像数。
两者相差 935 张,源于构建过程中的过滤(如非正位片、定位或抽取失败的检查)。因此引用时须分清:讲"上游图像资源"用 377,110,讲"本数据集图像表规模"用 376,175。这同样是易被误读为"数字打架"的地方,实为上游全集与下游子集之别。
§4.10 数据构成深度拆解:从一张胸片到一条问答
要真正理解 CXR-QBA 的"体量"从何而来,需要把它的数据层级拆开看。举一个抽象但仍然真实的例子:某患者一次胸部检查,报告 FINDINGS 里写"右下肺见斑片状渗出影,较前片吸收,未见气胸"。这句话经 Llama 3.1 70B 抽取后,可能变成多个 observation:{片状渗出影 | 区域=右下肺 | 概率=阳性 | 变化=较前吸收}、{气胸 | 区域=右肺 | 概率=阴性}。每个 observation 挂到对应 region 节点(带 CXAS/组合派生的框),场景图就此成形。
接着模板引擎围绕这张图生成问题时,“区域异常"族会问"右肺野是否存在异常”,答案会挂上该区域的框;“整体异常"族会问"请描述这张胸片”,答案组织成整句;“具体发现"族会问"气胸位于何处”,答案给出"未见气胸"并附上一个阴性框。同一个 observation 会被多个问题族复用——这正是问答对数(4220 万)远多于报告数(22.8 万)、也多于场景图观察数的原因。
层级答案的展开。一条主答案下挂子答案:主答案给出总体判断,子答案给出细节(细节子答案)与相关信息(related information 子答案)。全库 90,915,200 条子答案 / 42,172,827 条问答对 ≈ 平均每题 2.16 条子答案。answer_metadata 里的 answer_type(main / details / related)与 answer_level(层级深度)两个字段,让使用者可以按需只取主答案或展开全层级——这是它"多粒度"承诺的落地机制。
四条计数链的自洽性核验:
- 问题数(42,172,827)== 问答对数(42,172,827)——一问一答对;
- 问题-图像对(70,045,778)> 问题数——部分问题关联多张图像(如同患者多视图);
- 答案数(90,915,200)> 问答对数——层级展开所致;
- 答案-图像对(151,539,450)> 答案数——答案与图像的多对多关联。
这四条计数链在本条目中逐条列明(§4.1、附录 B),便于使用者按自身需求选择读取哪一级元数据,而非盲目下全量。
§4.11 一个被低估的数字:为什么"子答案"才是训练信号
多数人看 CXR-QBA 会盯着 42,172,827 这个总数,但真正决定它训练价值的是 90,915,200 条子答案。原因在于:如果只训练模型输出主答案,模型学到的仍是"一段文字";只有把子答案的层级结构、以及挂在每个子答案上的标签与框纳入监督,模型才被迫学会"分层输出 + 逐层定位"——这正是 Structured VQA 任务要考的能力。因此使用时若只读 question_metadata 而不读 answer_metadata,会丢掉这个数据集相对纯报告数据集最核心的增量。
同理,quality 字段存在于 study / question / answer 三级(附录 B):study 级反映场景图整体质量,question 级反映问题质量,answer 级反映每条答案质量。真正科学的过滤策略是沿父级向下取最小评级(作者正是这么算总评级的),而非只看单一层级——否则可能留下"问题很好但某条子答案很差"的样本。
§4.12 规模在胸片 VQA 谱系中的横向定位
把 CXR-QBA 放进"胸片问答/描述"数据集序列,规模与结构化程度的关系一目了然:
| 数据集 | 规模量级 | 答案形态 | 定位 | 结构化标签 |
|---|---|---|---|---|
| VQA-RAD | 千(3.5K) | 短答案 | 无 | 无 |
| SLAKE | 万(14K) | 短答案 | 无 | 语义标注 |
| MIMIC-CXR-VQA | 十万(377K) | 短答案 | 无 | 无 |
| Medical-CXR-VQA | 十万(780K) | 短答案 | 无 | 无 |
| CheXinstruct | 百万(8.5M) | 短答案(模板) | 无 | 无 |
| CXR-QBA | 千万(42.17M) | 整句、层级 | 有(逐子答案 + 阴阳均标) | 有(发现/区域等) |
结论有两面:在"规模 × 结构化 × 定位"的三维空间里,CXR-QBA 目前没有同量级对手;但它为此付出的代价是自动化构建带来的质量波动(§3.3、坑 2、坑 8),这一点在横向对比时不能忽略——VQA-RAD 与 SLAKE 虽小,却是临床标注员手写、答案可靠度更受认可。数据集选型时,规模从来不是唯一变量。
§5 任务与标注:四类问题、三种特异点
5.1 四类问题族(Question Families)
CXR-QBA 的问题不是随机生成,而是按临床推理的层级组织成 4 类问题族,每类下再有具体的"问题策略(question strategy)"标识符:
| 问题族 | 含义 | 代表问题策略(标识符) |
|---|---|---|
| Indication(指征) | 为什么做这次检查、该评估什么 | indication(A_indication) |
| Study Abnormality(整体异常) | 对整张片的整体描述与是否异常 | describe_all(B01)、describe_abnormal(B02)、is_abnormal(B03)、is_normal(B04)、describe_subcat(B08)、is_abnormal_subcat(B10)、describe_device(B12)、has_devices(B13)、describe_acquisition(B14)、describe_imaging_artifacts(B15) |
| Region Abnormality(区域异常) | 针对某解剖区域的描述与判断 | region_abnormal、describe_region(C01)、describe_abnormal_region(C02)、is_abnormal_region(C03)、is_normal_region(C04)、describe_region_device(C07)、has_region_device(C08) |
| Finding(具体发现) | 针对某发现/疾病/器械的定位与存在性 | finding、where_is_device(D07) |
5.2 各问题族的规模(Total 口径精选)
| 问题策略(标识符) | 问题数(Total) |
|---|---|
| Indication(A_indication) | 218,294 |
| Abnormal(abnormal,整体异常) | 11,915,384 |
| describe_all(B01) | 208,433 |
| describe_abnormal(B02) | 208,433 |
| is_abnormal(B03) | 208,433 |
| Region(region_abnormal) | 20,620,708 |
| describe_region(C01) | 2,827,147 |
| describe_abnormal_region(C02) | 2,827,177 |
| is_abnormal_region(C03) | 2,832,066 |
| is_normal_region(C04) | 2,831,838 |
| describe_region_device(C07) | 4,650,283 |
| has_region_device(C08) | 4,652,197 |
| Finding(finding) | 9,418,441 |
| where_is_device(D07) | 322,056 |
(完整的问题类型 × 策略表见本条目附录 A。)
5.3 三种特异点(相对既有胸片 VQA 数据集)
特异点一:层级化整句答案。 答案不是单词/是否,而是报告风格的完整句子,且分层级:主答案 + 若干子答案(承载细节与相关信息),全库共 90,915,200 条子答案。这种"多粒度、层级化"结构使同一问题可在不同细节层级上被评估。
特异点二:逐子答案边界框 + 正负发现均定位。 边界框挂在每一个子答案上(不是仅检查级 ROI),且阳性发现与阴性发现都定位。后者尤其罕见——“右肺野未见异常"也会得到一个框,从空间上告诉模型"这里查过了、是干净的”,这对训练模型的系统性排查能力有直接价值。
特异点三:结构化标签。 每条答案附带发现(237 类)、区域(311 类)、确定性、侧别、概率、时序与变化等标签,且这些标签可映射回受控词表(SNOMED-CT 等),使答案可筛选、可聚合、可解释。
5.4 提出"结构化 VQA 任务"与新指标
CXR-QBA 不只给数据,还提出一个新任务范式——Structured VQA Task(结构化 VQA 任务):模型回答时不能只输出一段文字,还须输出结构化的标签序列(确定性、侧别、区域等)与边界框,从而把模型的"推理依据"显式暴露出来,便于临床核查。配套指标 RadStrucVQA 随 GitHub cxr_qba_train 提供(详见 §7)。
5.5 三类标注粒度:检查级、区域级、发现级
把四类问题族再抽象一层,可以看清 CXR-QBA 的三级标注粒度:
| 粒度 | 对应问题族 | 标注内容 | 典型问题 |
|---|---|---|---|
| 检查级(Study-level) | Indication、Study Abnormality | 整张片的指征、整体描述、是否异常 | “这张片整体有没有异常?” |
| 区域级(Region-level) | Region Abnormality | 某解剖区域的描述与判断(带区域框) | “右下肺有没有异常?” |
| 发现级(Finding-level) | Finding | 某具体发现/疾病/器械的存在性与位置(带发现框) | “气胸在哪里?” |
三级粒度自上而下递进:检查级给全局印象,区域级给定位,发现级给最细的实体判断。这种层级设计使同一临床判断可在不同细节层级上被检验——既能问粗(有无异常),也能问细(某个具体发现落在哪个区域)。
5.6 正负样本与阴性框的价值
CXR-QBA 的阴性接地(negative grounding)值得单独说明,因为它是最被低估的设计之一。传统检测/定位数据集几乎只标阳性目标,导致模型学不到"什么样的区域是干净的"。CXR-QBA 把阴性观察也挂到 region 节点上并给出框,等于给模型提供了显式的阴性空间监督:
- 对检测任务:阴性框是天然的难负样本(hard negative)——它们与阳性框共享同样的解剖语境,迫使模型区分"有"与"无";
- 对报告生成:阴性框让模型知道"该说没问题的位置在哪里",避免只描述病灶而漏掉系统排查;
- 对可解释性:临床审阅者能看到模型"排查"覆盖了哪些区域,而不只是它"发现"了什么。
这也是为什么 §7 中 CXR-QBA 的框覆盖率(IoT 0.87–0.94)特别高——因为它不只是要覆盖病灶,还要覆盖筛查范围。
5.7 与"报告生成"任务的关系
需要澄清一个常见混淆:CXR-QBA 虽带报告风格答案,但它不是报告生成数据集。区别在于:
| 维度 | 报告生成数据集 | CXR-QBA |
|---|---|---|
| 任务形态 | 一次前向生成整篇报告 | 按问题追问、逐问作答 |
| 交互性 | 无(固定的 图 → 报告 映射) | 有(同一张片可被问多个问题) |
| 监督粒度 | 检查级 | 检查 / 区域 / 发现三级 |
| 定位 | 通常无或仅 ROI | 逐子答案框 + 阴性框 |
因此,CXR-QBA 可以辅助报告生成(把 VQA 答案拼装成结构化报告),但它的本职是问答与定位。把它当报告生成数据集用,会浪费其交互性与粒度优势。
§6 获取、许可与版本链
6.1 获取方式:PhysioNet 凭证访问(Credentialed Access)
CXR-QBA 的下载入口是 PhysioNet:
- 数据集页:
https://physionet.org/content/mimic-ext-cxr-qba/1.0.0/ - 代码与工具:GitHub
https://github.com/philip-mueller/mimic-ext-cxr-qba
获取门槛(三步缺一不可):
- 拥有 PhysioNet credentialed 账户(需完成身份与机构核验);
- 签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0(DUA);
- 完成 CITI “Data or Specimens Only Research” 培训。
PhysioNet 页面明文:“Only credentialed users who sign the DUA can access the files.”(仅签署 DUA 的 credentialed 用户可访问文件。)这与 HuggingFace/Kaggle 式的公开直链下载有本质区别——它是受限访问的医学数据集,这也是它派生自 MIMIC-CXR 的必然结果。
地区策略存照:抓取时点(2026-10-08,境外出口)PhysioNet 页面显示 “Data Not Available — Data is not available in your region due to legal or policy restrictions.”。这属于 PhysioNet/MIMIC 体系一贯的出口区域策略,非本数据集特有缺陷,不影响其真实性与可获取性判定。
6.2 许可层次
| 层 | 许可/条款 |
|---|---|
| 数据集本体 | PhysioNet Credentialed Health Data License 1.5.0 |
| 使用协议 | PhysioNet Credentialed Health Data Use Agreement 1.5.0 |
| 必需培训 | CITI — Data or Specimens Only Research |
| 论文本体 | CC BY 4.0(OpenReview 页面标注) |
| 代码仓库 | GitHub 仓库内置独立 LICENSE 文件(代码与数据集许可分离) |
父集许可连带:作为 MIMIC-CXR 的派生集,使用 CXR-QBA 还须一并遵循父数据集条款——PhysioNet 页面列出的 Parent Projects 为 MIMIC-CXR Database v2.1.0、MIMIC-CXR-JPG v2.1.0、Chest ImaGenome Dataset v1.0.0,并注明"Please cite them when using this project"。
6.3 版本链
| 版本 | 发布日期 | DOI |
|---|---|---|
| v1.0.0 | 2025-07-22 | 10.13026/8qmz-da41 |
| v1.0.1(latest) | 2026-08-25 | 10.13026/6193-he91 |
两版本 DOI 不同,引用时须指明版本。本条目硬数字采 v1.0.0;v1.0.1 的变更明细未公开,列为遗留疑点。
6.4 下载后怎么用
GitHub 提供三套工具(对应仓库三个目录):
cxr_qba_utils:加载、筛选、导出数据集(可导出为 CSV / HDF5,供 seq2seq 训练,或转成分类/目标检测数据集格式)。适合在自己的代码里直接消费场景图与问答对。cxr_qba_train:训练与评测示例 VQA 模型,并含 RadStrucVQA 指标实现。适合直接跑 Structured VQA 任务。cxr_qba_extract:从零复现数据集构建流水线。适合要重建数据集、理解构建过程,或把流水线迁移到其他数据源的研究者。
此外仓库还提供一个 llm_processor 工具库,用于大规模、分布式、鲁棒的 LLM 批处理(作者自己构建数据集时即用此)。
6.5 共享的伦理与数据处理声明
作者声明:本数据集为 MIMIC-CXR 派生集,未采集任何新的患者数据,伦理审批继承自父 MIMIC。全部数据处理、生成与训练均在本地安全环境内完成——包括 LLM、定位模型、嵌入模型的使用,以及所有(视觉-语言)模型的训练与评测;没有任何数据被发送到外部 API 或由第三方服务处理。这一点对含患者影像的敏感数据集尤为关键。
6.6 从申请到可用的实操路径
把获取流程拆成可执行的步骤,大致如下:
- 确认资格:申请者须为具名研究者,通常要求有机构背书(用于身份核验);
- 完成 PhysioNet 凭证认证:在 PhysioNet 上提交 credentialed access 申请,完成身份/机构核验;
- 完成 CITI 培训:完成 “Data or Specimens Only Research” 课程并通过考核,取得证书;
- 签署 DUA 1.5.0:在 PhysioNet 上电子签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0;
- 签署父集相关协议:MIMIC-CXR 及其派生集的既有 DUA 须一并遵循;
- 下载:通过 PhysioNet 项目页面获取文件(v1.0.0 或 v1.0.1,注意版本 DOI);
- 本地使用:按本地安全环境规范存储与使用,做好访问控制与去标识化维护。
提示:CITI 培训与身份核验通常需要数天到数周,走完流程再规划算力与数据管道,避免"数据等模型、模型等数据"的双向空转。
6.7 存储与加载的工程建议
CXR-QBA 约 28 GB,怎么装、怎么读有讲究:
- 最小可用集:若只做小规模实验,可只下
metadata/(2.3 GB)+qa.zip(7.5 GB),跳过stats/(4.5 GB)与exports/(12.4 GB); - 高速读取:优先用
.parquet(列存,join 快)而非.csv.gz(解压 + 解析慢); - 导出形态:
exports/提供 CSV 与 HDF5 两种下游格式,前者便于检视、后者便于大数据训练;cxr_qba_utils可直接产出目标检测/分类数据集格式; - 场景图:
scene_data.zip(1.3 GB)解压后按检查组织,适合按需加载而非全量驻留内存; - 磁盘规划:解压后占用大于压缩包总和,建议预留 2–3 倍空间。
6.8 版本选择建议
面对 v1.0.0 与 v1.0.1,实践中怎么选?
- 复现论文/对齐全文中数字:用 v1.0.0(本条目所有硬数字的来源),DOI 10.13026/8qmz-da41;
- 新项目/新实验:可用 v1.0.1(latest,DOI 10.13026/6193-he91),但须注意其变更未公开,若遇数字与本文不符,先排查版本差异;
- 可复现性要求高的场景:无论选哪个版本,引用时务必写明版本 DOI,因为两者 DOI 不同,混引会导致他人无法复现你的实验。
§7 评测与基准:MCC 与 IoU 双线对照
CXR-QBA 的评测分两层:自动质量评估(§3.3,给每条 QA 打分)与定量验证(本节点,把标签与框拿去和外部金标准比对)。后者是判断"这个自动数据集有多可信"的硬证据。
7.1 发现标签验证(Finding Tags):MCC 对 Chest ImaGenome
把场景图衍生的检查级标签,与两套参照比对——MIMIC-CXR-JPG 的放射科标注(13 个 CheXpert 类)与 CXR-LT 2024 金标准(task 2 测试集,含 12 个罕见长尾类),指标为 Matthews 相关系数(MCC)。
对照一:vs MIMIC-CXR-JPG Test
| 类集合 | CXP-5 | CXP-7 | CXP-13 | Micro |
|---|---|---|---|---|
| Ours(场景图) | 0.80 | 0.81 | 0.69 | 0.71 |
| Chest ImaGenome | 0.78 | 0.80 | 0.66 | 0.67 |
对照二:vs CXR-LT 2024 Gold
| 类集合 | CXP-7 | CXP-13 | LT-only | CXR-LT | Micro |
|---|---|---|---|---|---|
| Ours(场景图) | 0.65 | 0.57 | 0.71 | 0.64 | 0.67 |
| Chest ImaGenome | 0.65 | 0.56 | 0.59 | 0.58 | 0.64 |
解读:CXR-QBA 场景图在两组对照上均(微幅)胜过 Chest ImaGenome,Micro MCC 分别 0.71 vs 0.67、0.67 vs 0.64;长尾类(LT-only)提升约 20%(0.71 vs 0.59)——这正是它 237 个细粒度发现标签的价值所在:能捕捉到粗类体系漏掉的罕见发现。
7.2 边界框验证(Bounding Boxes):IoU/IoP/IoT
把发现框转为检查级像素掩码(对含该发现标签的阳性观察节点框取并集),与两套手工标注比对:MS-CXR(选 8 类中有正样本的 6 类)与 REFLACX(选 29 类中有正样本的 18 类)。指标为像素级 IoU、IoP(Intersection-over-Prediction)、IoT(Intersection-over-Target),30% 阈值下微平均。
对照三:vs MS-CXR
| 指标 | IoU@30 | IoP@30 | IoT@30 |
|---|---|---|---|
| Ours(场景图) | 0.51 | 0.56 | 0.94 |
| Chest ImaGenome | 0.45 | 0.48 | 0.98 |
对照四:vs REFLACX
| 指标 | IoU@30 | IoP@30 | IoT@30 |
|---|---|---|---|
| Ours(场景图) | 0.45 | 0.54 | 0.87 |
| Chest ImaGenome | 0.42 | 0.46 | 0.95 |
解读:IoU 上 CXR-QBA 略优于 ImaGenome。低 IoP 是固有特征——框往往偏大,因为框源自报告提及的解剖区域(如"右下肺"整个区域),而手工标注更精确;高 IoT 说明框能较好地覆盖住发现的真实位置。作者的对比亮点是:CXR-QBA 的 IoP 高于 ImaGenome(框更精确),归功于其 311 个细粒度区域类——区域划得越细,挂在区域上的框就越贴合目标。
7.3 Structured VQA 任务与 RadStrucVQA 指标
除数据本身,CXR-QBA 的评测贡献是提出了任务范式的转变:从"输出一段答案"转向"输出文本 + 结构化标签 + 边界框"。为此论文提出 RadStrucVQA 指标(GitHub cxr_qba_train 提供实现),用于同时衡量答案文本质量与结构化成分(标签、框)的正确性。论文声称在该任务上,用 CXR-QBA 训练的 baseline 模型显著优于通用医学 MLLM(正文提及 MAIRA-2、LLaVA-Med 等作为对照)。
7.4 与既有胸片 VQA 数据集的横向对照
| 数据集 | 边界框 | 答案结构 | #QA 对 | 问题构造 | 答案构造 |
|---|---|---|---|---|---|
| CXR-QBA(本条目) | 有,逐子答案 | 多粒度、层级、整句 + 标签 | 32.6M(表中)/ 42.17M(官方) | 模板 | 模板 + 报告改写句混合 |
| VQA-RAD | 无 | 短答案 | 3.5K(含非 CXR) | 临床标注员 | 临床标注员 |
| SLAKE | 无 | 短答案 | 14K(含非 CXR) | 临床标注员 | 临床标注员 |
| MIMIC-CXR-VQA | 无 | 短答案 | 377K | 模板(+LLM 改写) | 模板(+LLM 改写) |
| Medical-CXR-VQA | 无 | 短答案 | 780K | 模板 | 模板 |
| CheXinstruct | 无 | 短答案 | 8.5M | 模板 | 模板 |
与 grounded 报告数据集的区别:MedTrinity-25M、MAIRA-2 等虽提供接地的胸片描述,但只给检查级描述与少量 ROI,没有个体化问题,也没有类别/标签映射,因此不能直接用于 QA 任务。CXR-QBA 给的是逐子答案、问题特异的框,并带发现/区域标签映射——这是它自居"最精细胸片 VQA 数据集"的底气。
7.5 评测结果的正确读法
上述四组对照(两标签 + 两框)容易被误读,这里给出三条读法:
读法一:看 Micro MCC 的"小差距、大意义"。 0.71 vs 0.67、0.67 vs 0.64 的绝对差看似不大,但 MCC 在 0.6–0.7 区间已属高难度区,且这是在全类集合上的微平均,任何 0.03–0.04 的提升都意味着成千上万条标注的改判。更关键的是 LT-only(长尾单类)从 0.59 到 0.71 的约 20% 提升——长尾类恰是粗类体系(CheXpert 13 类)系统性漏检之处,CXR-QBA 的 237 类细粒度词表正是在这里发力。
读法二:IoU 低不等于质量差,要配合 IoP/IoT 一起读。 0.51 / 0.45 的 IoU@30 在像素级定位里不算高,但它的 IoT 高达 0.94 / 0.87(目标几乎被完全覆盖),IoP 中等(0.56 / 0.54)——三点合起来刻画的是"框偏大但覆盖全、不遗漏"的画像。这与它"框源自报告提及的解剖区域"的设计完全一致。若下游任务要求高精度框,可在 CXR-QBA 框内再做细化;若下游要求高召回,CXR-QBA 的框已经足够。
读法三:与 ImaGenome 的对比要分维度看。 在 IoT 上 ImaGenome 更高(0.98 vs 0.94、0.95 vs 0.87),因为它的框更保守、更小;但在 IoU 与 IoP 上 CXR-QBA 更高,因为它的区域类更细(311 类)、框更贴合。因此不能说"谁绝对更好",只能说 CXR-QBA 在覆盖-贴合平衡上更优,ImaGenome 在精确覆盖上更保守。
7.6 论文声称的性能优势与其边界
论文称,在 Structured VQA 任务上,用 CXR-QBA 训练的 baseline 模型显著优于通用医学多模态大模型(正文以 MAIRA-2、LLaVA-Med 等为对照)。对这一结论,需注意三点边界:
- 对照的公平性:通用 MLLM 未在 CXR-QBA 上专门微调,属于"零样本/少样本"对照,差距部分来自任务适配而非模型能力本身;
- 任务与指标的自洽性:Structured VQA 与 RadStrucVQA 均由作者提出,是在"自家标尺"上取胜,跨标尺比较仍需第三方复现;
- 可复现性:指标实现随 GitHub
cxr_qba_train开源,具备复现条件,这是加分项。
综合看,论文贡献的稳妥表述是:CXR-QBA 提供了一个可行且规模空前的结构化胸片 VQA 训练资源,在其定义的任务上 baseline 优于通用对照;至于它是否代表"胸片 VQA 的最优解",应留给后续独立评测。
7.7 质量评级与下游性能的关系(使用提示)
值得注意的是,论文与文档并未声称"评级越高、下游一定越好"——评级是数据质量代理指标(衡量答案是否被正确蕴含、是否相关、是否完整、问题与答案是否清晰),而非下游任务性能的直接保证。实践中建议:
- 先用 Pre-training grade(B 及以上,31.2M) 做大规模预训练;
- 再用 Fine-tuning grade(A 及以上,7.5M) 做高质量微调;
- 若资源充裕,可用 A++/A+ 子集(合计约 248 万条) 做小规模高保真对齐或人工抽检基线;
- 用 C 级与 D 级 做"噪声鲁棒性"或"困难样本"分析,而非训练主力。
这种"分级使用"的思路,正是 CXR-QBA 把它那套评级体系一并释出的最大用意——让使用者在"规模"与"质量"之间自己选择工作点。
7.10 定量验证的读法:三条曲线背后的工程真相
CXR-QBA 公布的验证数字看似平铺直叙,但每一组都对应一个工程决策,读懂了才能判断它适不适合自己的任务。
第一组(发现标签 MCC)告诉我们"结构化有用"。 CXR-QBA 的 Micro MCC 在两组对照上分别达 0.71 与 0.67,均略胜 Chest ImaGenome(0.67 / 0.64)。真正拉开差距的是长尾类(LT-only 0.71 vs 0.59,约 +20%)——粗类体系(如 CheXpert 13 类)把大量罕见发现糅进"其他",而 CXR-QBA 的 237 个细粒度发现标签能把这些罕见发现单独锚定。若你的任务涉及罕见病或长尾发现识别,这组数字是最直接的选型依据。
第二组(边界框 IoU/IoP/IoT)告诉我们"框的性质"。 三个指标要连起来读:IoT 高(0.87-0.94)说明框能覆盖目标——不会漏;IoP 低(0.54-0.56)说明框常常大于目标——会多框;IoU 居中(0.45-0.51)是前两者的折中。低 IoP 的根因是设计选择:框来自报告提及的解剖区域,而非手工勾画的病灶精确轮廓。这带来一个实用推论——把 CXR-QBA 的框直接当分割掩码用会偏大,做精确病灶分割需自行后处理,或改用 311 类细粒度区域以缩小框。
第三组的隐含信息:IoP 反而优于 ImaGenome。 尽管整体框偏大,CXR-QBA 的 IoP(0.56 / 0.54)却高于 ImaGenome(0.48 / 0.46)——说明它的框相对更贴合、更少溢出。作者将其归因于更多的细粒度区域标注。这组对比也间接证明了"区域划得越细、框越精确"这一工程直觉。
7.11 Structured VQA 任务的评估难点
RadStrucVQA 要同时评估三样东西——答案文本、结构化标签、边界框——本身就带来评估挑战:文本可做语义匹配,但标签与框是离散/空间量,二者如何加权成一个分数?论文提出了该指标的实现(GitHub cxr_qba_train),但对其内部权重的具体设计,PhysioNet 页面未展开,需读论文正文与代码(列为遗留疑点)。对使用者的建议是:不要只信一个聚合分数,而应拆开看文本、标签、框三个子分数,因为不同任务的瓶颈往往只在一项上(如报告生成任务更在乎文本、定位任务更在乎框)。
7.12 与"接地报告生成"数据集的评测差异
MAIRA-2、MedTrinity-25M 这类数据集也做"图像—文本"接地,但其评测通常围绕报告级文本相似度与少量 ROI 命中率。CXR-QBA 的评测粒度更细:逐子答案的语义 + 逐发现类的标签 MCC + 逐类像素级的框 IoU。这带来一个直接好处——它的验证结果可以与大量既有胸片 CXR 基准(MS-CXR、REFLACX、CXR-LT)直接对齐,无需重新定义指标;代价是评测代码与数据管线更复杂。
§7.8 使用手册:从拿到数据到跑通一个 baseline
假设你已通过 PhysioNet 凭证流程拿到数据,下面是一条从零到跑通的最短路径(基于官方工具,非本条目杜撰):
第一步:确认版本与完整性。 核对下载的是 v1.0.0 还是 v1.0.1,记录对应 DOI;解压后应看到 metadata/、stats/、scene_data.zip、qa.zip、exports/、quality_mappings.csv 六大块(§4.4)。先读 metadata/dataset_info.json,它给出所有标签的取值域,是理解字段含义的入口。
第二步:用 cxr_qba_utils 加载与筛选。 该工具包支持按层级(patient / study / question / answer)筛选。典型筛选逻辑是:先按 quality 取 Pre-training(B+)或 Fine-tuning(A+)子集,再按 question_type 选任务相关的问题族(如只想做区域异常判断,就取 region 相关策略)。工具支持导出为 CSV / HDF5(seq2seq 训练)或转成分类/检测格式。
第三步:用 cxr_qba_train 训练与评测。 该工具包提供示例 VQA 模型训练脚本与 RadStrucVQA 指标。若要用自己的模型,可只用其数据加载与指标部分,训练循环自写。
第四步:若要复现或迁移流水线,用 cxr_qba_extract。 该工具含 Llama 信息抽取、BioLORD 实体映射、CXAS 定位的完整代码,作者明言可迁移到其他数据源。注意其 llm_processor 依赖大规模 LLM 批处理能力。
第五步:务必遵守的合规动作。 引用时一并引用三个父集(MIMIC-CXR、MIMIC-CXR-JPG、Chest ImaGenome);不得再分发原始影像或报告;产出模型/论文中注明数据来源与版本 DOI。
7.9 常见选型问题速答
问:我要做"胸片是否正常"的二分类,能用它吗?
能,但可能"杀鸡用牛刀"。CXR-QBA 的 is_normal / is_abnormal 类问题(B03/B04)可直接聚合出检查级二分类标签,但更专门的数据集(如带 CheXpert 标签的 MIMIC-CXR-JPG)可能更省事。用 CXR-QBA 的价值在于:你可以同时拿到"判断 + 定位 + 理由文本"。
问:我要做病灶检测(object detection),框够用吗?
需谨慎。§7.5 已指出框偏大(低 IoP)。若做粗粒度检测(区域级)尚可;若做精确病灶检测,建议以 311 类细粒度区域替代,或把 CXR-QBA 作为预训练、再用 MS-CXR 等精标数据微调。
问:我要做报告生成,它的整句答案能当训练目标吗?
可以,但要过滤:只取 from_report=True(直接来自报告句)的答案作为"报告风格"目标更稳;模板答案风格偏规整,直接混入可能引入模板腔。这正是坑 2 提醒的用法。
问:我能拿它做多模态预训练吗?
这是它的主场。用 Pre-training grade(B+,31,230,906 条)+ 问题-图像对,可构造大规模图文对;其量表(answer-image 151M 关联)足以支撑千万级对的预训练。
问:标签能直接映射到 CheXpert / SNOMED 吗?
发现标签参考了 CheXpert(13 类)与 SNOMED-CT 体系并经专家核验(§3.1c、§7.1),可做映射;但 237 类到 13 类的聚合会丢失长尾信息——若下游只需粗类,聚合即可;若在意长尾,保留细类。
§8 生态、互链与库内位置
8.1 它在数据谱系里的位置
理解 CXR-QBA,最快的办法是把它放进"MIMIC-CXR 派生族谱"里看:它位于最下游——父集是报告与图像,它是从报告里"长出来"的问题与答案。
MIMIC-IV(临床数据库)
└── MIMIC-CXR(227,827 篇放射报告 + DICOM 影像)
├── MIMIC-CXR-JPG(377,110 张 JPG,从 DICOM 转码)──┐
└── Chest ImaGenome(解剖区域框 + 场景图)──────────┤
▼
【CXR-QBA】(本条目)
场景图 + 问题-框-答案三元组
│
┌────────────────────────────────────────┤
▼ ▼
MS-CXR(定位基准,用作框验证) CXR-LT 2024(长尾金标准,用作标签验证)
上游依赖(缺一不可):
- MIMIC-CXR(库内 rid 16):提供 227,827 篇自由文本放射报告,是场景图信息抽取的原料;
- MIMIC-CXR-JPG(库内 rid 617):提供 377,110 张 JPG 胸片,是区域定位(CXAS 分割)的输入图像;
- Chest ImaGenome(父项目之一):提供部分解剖结构框,参与 257 个定位结构的构建。
下游 / 同级互验:
- MS-CXR(库内 rid 340):句-框对定位基准,论文取其中 8 类、有正样本的 6 类验收 IoU;
- CXR-LT 2024(库内 rid 657):长尾多标签金标准,论文取其 task 2 测试集验收长尾类的 MCC。
8.2 库内互链条目清单(可直接做双链)
| 相关条目 | rid | 关系性质 |
|---|---|---|
| mimic-cxr | 16 | 直接父集(报告与影像源头) |
| mimic-cxr-jpg | 617 | 直接父集(图像来源,377,110 张) |
| mimiciv | 592 | 上游临床数据库 |
| mimic-iv-clinical-database | 4 | 上游临床数据库(英文名条目) |
| ms-cxr | 340 | 论文框验证金标准 |
| cxr-lt | 657 | 论文长尾标签验证金标准 |
| chexmask-cxr-segmentation-data | 602 | 同族胸片分割掩码 |
| lung-segment-mimic-cxr | 613 | 同族 MIMIC-CXR 肺分割 |
| image-embeddings-mimic-cxr | 611 | 同族 MIMIC-CXR 表征 |
| mimic-cxr-ext-ils | 616 | 同族 MIMIC-CXR 派生条目 |
| vindr-cxr | 125 | 广义胸片数据集 |
| covidx-cxr | 197 | 广义胸片数据集(新冠) |
| cxr-pro | 608 | 广义胸片数据集 |
8.3 它区别于同一生态里的哪几个"近邻"
最容易混的是三个:
| 近邻 | 与 CXR-QBA 的关键差异 |
|---|---|
| MIMIC-CXR-VQA(377K) | 只有短答案、无框、无标签映射;规模小两个数量级 |
| MIMIC-CXR-JPG(结构化标签) | 给的是检查级 CheXpert 标签,没有"问题",不能直接做 QA |
| Chest ImaGenome(场景图) | 也有场景图,但为描述服务;CXR-QBA 在其基础上补出问题、层级答案、模板化 QA 与质量分级 |
一句话定位:CXR-QBA = Chest ImaGenome 的场景图 × 放射科模板 × 42M 问题-框-答案三元组 × 质量分级子集。
8.4 五个典型使用场景
CXR-QBA 能被用于的任务不止一种,以下是五条最现实的使用路径,各有其"该取哪部分数据"的建议:
场景一:多模态大模型预训练。 取 Pre-training grade(B 及以上,31,230,906 条) 的问答对与问题-图像对(70,045,778),构造大规模图文对。此时不必在意逐条质量,要的是量与多样性;用问题-图像对而非答案-图像对可显著降低图文对的平均长度。
场景二:胸片 VQA 微调。 取 Fine-tuning grade(A 及以上,7,532,281 条),并进一步按问题族筛选(如只做区域异常判断就取 Region 族)。这部分数据质量经 LLM 判官验证,适合做高保真微调。
场景三:病灶检测 / 定位。 取 answer 层的边界框与区域标签,把发现框转成检测框。注意框偏大(见坑 8),若要求精确框需用 MS-CXR 类精标数据补充或后处理。
场景四:报告生成 / 结构化报告。 取 from_report=True 的整句答案作为报告风格目标,把多条问答答案拼装成结构化报告。子答案层级天然适合做"分层生成"训练。
场景五:评测基准构建。 用其 Structured VQA 任务与 RadStrucVQA 指标,把自家模型放到统一标尺上;或直接用其与 MS-CXR / REFLACX / CXR-LT 的对齐关系做定位/标签评测。
8.5 生态层面的三条风险提示
风险一:单点依赖 MIMIC-CXR。 CXR-QBA 的全部数据来自 MIMIC-CXR,因此继承了 MIMIC 的人群偏差(单一医疗中心、特定人群构成)与访问门槛。若研究面向多中心、跨人群泛化,需注意这一局限。
风险二:上游定位模型的质量天花板。 框的质量上限由 CXAS 与 Chest ImaGenome 决定。若上游分割在某一解剖区域表现差,该区域的框与问答也会受影响——这是"自动派生"的固有传导风险。
风险三:版本变更不透明。 v1.0.0 → v1.0.1 的具体改动未公开,跨版本复用同一实验脚本可能得到不同结果。建议固定版本、固定 DOI,并在论文方法章明确标注。
8.6 一句话放进数据地图
如果把胸片 AI 的数据生态画成一张地图,CXR-QBA 的位置是——站在 MIMIC-CXR 这座"原料山"脚下,把报告里的隐含结构挖出来、铸成"问题-框-答案"的砖块,再把这些砖块同时供给预训练、微调、定位、报告生成四条生产线。它既是数据集,也是一套可复用的方法论模板。
8.7 库内互链的引用规范建议
在千方病案医数集内做跨条目互链时,建议遵循以下规范,以保证读者不被相近名称误导:
- 互链条目一律附 slug 与 rid(本文 §8.2 表格即按此格式),便于机器解析与人工核对;
- 同名不同物必须辨析:如
mimic-cxr-ext-ils(rid 616)与本条目名称形近但任务不同(前者非问答数据集),互链须加一句区别说明; - 血缘与验证分开标注:父集(MIMIC-CXR / MIMIC-CXR-JPG / Chest ImaGenome)标注为"直接父集",MS-CXR / CXR-LT 标注为"论文验证金标准",二者性质不同不可混谈;
- 慎用"同一数据集的不同版本"表述:本条目与库内其他 MIMIC-CXR 派生条目并非版本关系,而是不同团队/不同任务各自构建的独立条目;
- 引用父集时同步注明 DUA 连带:凡引用 MIMIC-CXR 系条目,提醒读者存在共同的凭证访问与数据使用约束。
8.8 它填补的库内空白
在千方病案医数集已收录的胸片条目里,覆盖了不少"图像层"(MIMIC-CXR-JPG)、“标签层”(CXR-LT)、“分割层”(chexmask、lung-segment)与"表征层"(image-embeddings)资源,但**“交互式问答 + 逐子答案定位 + 结构化标签"这一层此前是空白**。CXR-QBA 的入库,把库内胸片资源的覆盖从"看什么”(分类/分割)推进到"问什么、答什么、依据在哪"(VQA/grounding),补上了临床推理监督这一环。这也是本条目被收录的核心理由——它让数据集条目族从"静态标注"扩展到了"可交互监督"。
§9 使用避坑与注意事项
以下 8 条是使用本数据集时最容易踩的坑,按"踩中概率"从高到低排列。
坑 1:把「Total 42.17M」当成"训练可用规模"
现象:一上来就把 42,172,827 条 QA 全量加载进 dataloader。
真相:42.17M 是 Total(含全部质量等级)。真正为训练分级的是 Pre-training grade(B 或以上)31,230,906 与 Fine-tuning grade(A 或以上)7,532,281。若目标是"高质量微调",应该用 7.5M 子集而不是 42M 全集——后者里有 8,280,266 条 Unrated + 若干 C 级(700,747)/D 级(547,763),混入会稀释信号。
建议:先明确目标——预训练用 B 以上(31.2M),微调/评测用 A 以上(7.5M),做消融或"脏数据鲁棒性"实验才用 Total。
坑 2:以为答案是"是否 / 单词",结果被整句答案卡住
现象:按传统 VQA 习惯把 answer 当作 yes/no 或三五个词,直接接分类头。
真相:CXR-QBA 的答案设计是多粒度、层级化的完整句子,且一条主答案下挂若干子答案(sub-answers)——全库子答案总数 90,915,200。所以一条 QA 记录的 answer 字段很可能是一整句报告风格的话(如"右下肺可见局灶性实变,伴轻度支气管充气征"),甚至再细分。
建议:把它当 seq2seq(生成式) 任务处理,而不是分类任务。若要分类,需先用附带的结构化标签(findings/regions/certainty)把句子"降维"成标签序列再入分类头。
坑 3:只标阳性发现,忽略了"阴性也有框"
现象:做可视化或下游训练时,下意识只提取标签为"异常"的边界框。
真相:CXR-QBA 的正负发现都定位(negative grounding)——“右肺野未见明显异常"同样会得到一个框。这是它极其罕见的设计,从空间上告诉模型"这一带筛查过、是干净的”,对训练系统性排查能力有直接价值。
建议:如果做检测/定位任务,务必保留阴性框,并考虑用它们构造"该区域无异常"的负样本;如果只想要异常,也要显式过滤而不是默认丢弃。
坑 4:把 32.6M 和 42.17M 当成两个版本
现象:在论文对比表里看到 CXR-QBA 的 #QA-Pairs = 32.6M,在 PhysioNet / 摘要里又看到 42 million,怀疑是不是有 v1/v2 两个规模。
真相:这是同一篇论文内部的两处口径不一致——正文与官方统计页写 42,172,827,对比表格里写 32.6M(疑为过滤后口径或笔误)。不是版本差异,v1.0.0 与 v1.0.1 的规模差异另有原因(且未公开 changelog)。
建议:引用规模时以 PhysioNet Dataset Statistics 的 42,172,827 为准,并在论文里引自对比表数字时一并注明口径来源,避免"数字打架"。
坑 5:以为有 credentialed 账户就能下载
现象:注册了 PhysioNet 账号,点开数据集页却发现拿不到文件。
真相:Credentialed access 是三重门槛——(1) 完成机构与身份核验的 credentialed 账户;(2) 签署 DUA 1.5.0;(3) 完成 CITI “Data or Specimens Only Research” 培训。三者缺一不可。且 PhysioNet 页面明文"Only credentialed users who sign the DUA can access the files."。此外,抓取时点在境外出口还遇到 “Data is not available in your region” 的地区限制。
建议:提前走完 CITI 培训(有数小时课程 + 考试),并与机构签好 DUA;不要指望像 HuggingFace 那样一行 load_dataset 直接拉。
坑 6:忽略父数据集与引用的连带义务
现象:只用 CXR-QBA、只引 CXR-QBA。
真相:它是派生集(derivative dataset),PhysioNet 父项目明确列出 MIMIC-CXR v2.1.0、MIMIC-CXR-JPG v2.1.0、Chest ImaGenome v1.0.0,并注明"Please cite them when using this project"。同时它未采集新患者数据,伦理审批与数据使用条款继承自父 MIMIC。
建议:论文致谢/引用里把三个父集 + CXR-QBA 一起引;涉及伦理声明时明确"派生自 MIMIC,无新患者数据"。
坑 7:把 158 与 257 当成相互矛盾的数字
现象:PhysioNet 正文写 CXAS 预测 158 个解剖结构,摘要又写 257 个定位解剖结构,怀疑数据自相矛盾。
真相:158 是 CXAS 模型的原始输出结构数;257 是 CXAS 158 + Chest ImaGenome 29 等来源交并/超框组合后的最终定位结构数(29 是 Chest ImaGenome 侧的贡献,两者经交并/超框规则合并派生)。是"原始"与"组合后"两个层次,不是矛盾。
建议:表述时分层写清楚——“定位结构总数 257,由 CXAS 的 158 个结构与 Chest ImaGenome 的 29 个结构等经交并组合派生”。同理,发现类 237、区域类 311 是另一组独立词表,不要与结构数混谈。
坑 8:以为"框很松"是标注质量差
现象:做起视觉误差分析,发现 CXR-QBA 的框常常比手工标注大一圈,IoU 只有 0.45–0.51,于是判定"框不准"。
真相:低 IoP(0.54–0.56)与偏大的框是设计固有特征——框源自报告里提到的解剖区域(如"右下肺"整个区域),而非手工勾画的精确病灶轮廓;所以它 IoT 很高(0.87–0.94),覆盖率好,而 IoP 偏低。对照组的 Chest ImaGenome 框更小(IoT 0.95–0.98)但覆盖更保守。CXR-QBA 的 IoP 反而高于 ImaGenome,正说明它 311 个细粒度区域类把区域切得更细、框更贴合。
建议:做定位评测时同时报告 IoU/IoP/IoT 三个指标,别只看 IoU 一个数就下结论;误差分析时要区分"框大导致的 IoU 损失"与"框错位导致的 IoU 损失"。
9.9 快速自查清单
上手前过一遍这张表,能避开上面八成的问题:
| 检查项 | 正确做法 |
|---|---|
| 用哪个规模? | 预训练 B 以上 31.2M / 微调 A 以上 7.5M / 全集 42.17M 仅用于特定实验 |
| 任务形态? | seq2seq 生成(层级整句答案 + 子答案) |
| 标签从哪来? | 结构化标签(findings 237 / regions 311 / certainty / laterality) |
| 框怎么用? | 逐子答案框;保留阴性框 |
| 规模数字引用? | 以 42,172,827 为准,注明对比表 32.6M 口径差异 |
| 访问门槛? | credentialed + DUA 1.5.0 + CITI 培训 |
| 引用连带? | 一并引 MIMIC-CXR / MIMIC-CXR-JPG / Chest ImaGenome |
| 定位指标? | IoU + IoP + IoT 三个一起报 |
附录 B:DAIMS 数据资产成熟度评估
评估口径:D 数据治理 / A 可用性 / I 互操作性 / M 元数据 / S 可持续性,各维 1–10 分;综合评级 A–D。
| 维度 | 评分(1-10) | 依据 |
|---|---|---|
| D 数据治理(Data Governance) | 8 | 派生自 MIMIC,伦理继承清晰;无新患者数据;本地安全环境处理、未调外部 API;许可层次明确(License 1.5.0 + DUA 1.5.0 + CITI),父集引用义务已声明。扣分点:地区出口限制、"本地环境"细节未完全公开 |
| A 可用性(Availability) | 7 | PhysioNet 官方托管、v1.0.0/v1.0.1 双版本 DOI 齐备;存储约 28GB 可及;GitHub 提供 utils/train/extract 三套工具与 llm_processor。扣分点:credentialed 门槛(三重)导致获取周期长,非开放直链 |
| I 互操作性(Interoperability) | 9 | 与 MIMIC-CXR-JPG / Chest ImaGenome / MS-CXR / CXR-LT 生态强互操作;标签可映射回 SNOMED-CT;提供 CSV/HDF5 导出;findings/regions 受控词表。这是本数据集最强项 |
| M 元数据(Metadata) | 9 | Dataset Statistics 表给到患者/研究/图像/QA 对/子答案/问题-图像对/答案-图像对全链路计数;Directory Structure 给到分项文件大小;质量分级与评级分布完整;场景图节点带 bbox/标签/原报告文本 |
| S 可持续性(Sustainability) | 8 | PhysioNet + GitHub 双渠道、DOI 持久标识、ICLR 2026 正式发表、TUM 机构背书、ERC 资助。扣分点:v1.0.1 changelog 未公开、匿名镜像可用性未复核 |
| 综合评级 | A(8.2/10) | 治理与元数据突出、互操作性行业领先;主要短板在获取门槛与版本变更透明度,属"高质量但受限访问"的成熟研究数据集 |
一句话总评:在胸片 VQA 这一细分赛道上,CXR-QBA 是目前元数据最完整、互操作性最强、规模最大的公开数据集;其 A 级评级主要被"credentialed 访问门槛"与"版本变更未透明"两项拉低,而非数据质量本身。
§9.5 术语表(术语首现已标英文,此处集中释义)
- VQA(Visual Question Answering,视觉问答):给定图像 + 问题,模型生成答案的任务。
- QBA(Question-Box-Answer,问题-框-答案):本数据集的核心数据结构——每个问题对应一个答案与一个边界框。
- Scene Graph(场景图):把报告描述结构化为"region 节点 + observation 节点"及其关系的图;本数据集的"真值底座"。
- Observation(观察):场景图中的发现节点,含名称、摘要句、发现实体、关联区域、概率、变化修饰、子观察。
- Region(解剖区域):场景图中的解剖结构节点,带边界框;本数据集共 311 类。
- Bounding Box(边界框):标记发现所在空间范围的矩形;本数据集逐子答案提供,且阳性/阴性发现均标。
- Negative Grounding(阴性接地/负发现定位):为"未见异常"这类阴性表述也提供空间锚点,是本数据集特色。
- Multi-granular / Hierarchical Answer(多粒度层级答案):主答案 + 子答案的树状结构,主答案给结论、子答案给细节。
- Sub-answer(子答案):层级答案中的下级节点,类型有 details(细节)与 related information(相关信息)。
- Entailment(蕴含性):质量评估维度之一,判断答案是否与报告事实一致(是否被报告"蕴含")。
- LLM-as-a-judge(LLM 作判官):用 LLM(此处 Llama 3.1 8B)对样本质量自动打分的方法。
- CXAS:胸片解剖分割模型,用于预测 158 个解剖结构掩码。
- BioLORD:生物医学语义句向量模型,用于把抽取实体映射到受控概念。
- SNOMED-CT:临床标准术语体系,本数据集标签映射的参照本体之一。
- CheXpert(CXP):胸片常用 13/5/7 类标签体系,用于横向对照。
- CXR-LT:胸片长尾(long-tail)数据集,含 12 个罕见类,本数据集用作标签验证。
- MS-CXR / REFLACX:胸片手绘定位标注集,本数据集用作边界框验证。
- MCC(Matthews Correlation Coefficient,马修斯相关系数):类别不平衡下的分类质量指标,本数据集用于发现标签验证。
- IoU / IoP / IoT:交并比 / 交集比预测 / 交集比目标,三种像素级重叠指标,用于边界框验证。
- RadStrucVQA:本数据集提出的结构化 VQA 评测指标。
- Structured VQA Task(结构化 VQA 任务):要求模型同时输出文本、结构化标签与边界框的新任务范式。
- DAIMS:本条目使用的数据可获取性与互操作性成熟度评估框架(§10)。
- Credentialed Access(凭证访问):PhysioNet 的受限访问模式,需账户核验 + DUA + 培训。
- DUA(Data Use Agreement,数据使用协议):访问受限数据的法律协议,此处为 PhysioNet 1.5.0 版。
§9.6 扩展 FAQ:十个高频疑问
FAQ 1:CXR-QBA 的 4220 万条,是真有那么多不同的问题吗?还是重复?
不是 4220 万个不同问题文本。问题由模板基于场景图生成,因此大量问题是同模板的实例化(如"某区域是否异常"对每个区域/每位患者各生成一次)。真正的多样性来自底层 observation 的多样性(不同患者、不同发现、不同区域)与问题族 × 区域 × 发现的组合。理解这一点,就不会误以为它是 4220 万条人工编写的问题。
FAQ 2:数据里有没有原始胸片图像?
没有。CXR-QBA 只提供问答对、场景图、标签与边界框(坐标),不打包原始 DICOM/图像。图像须另行从 MIMIC-CXR-JPG 按 image_id 获取(同样需凭证)。这是它与 MIMIC-CXR-JPG 的分工——前者是"标注层",后者是"像素层"。
FAQ 3:边界框用什么坐标格式?
相对坐标或像素坐标依工具导出格式而定,cxr_qba_utils 的导出会给出与图像尺寸对应的框;绑定关系通过 image_id 与 question_image_metadata / answer_image_metadata 的映射确定。使用前务必读 cxr_qba_utils README 确认坐标系(列为使用注意事项)。
FAQ 4:为什么问题数是 42,172,827 而不是"问题族数 × 检查数"这样的整数?
因为它由场景图的实际内容驱动——每项检查抽出的观察数不等、能生成的问题策略也不同,所以是"按内容生成"而非"按矩阵笛卡尔积生成",总数自然是不规则的 42,172,827。
FAQ 5:Unrated 的 20% 能不能用?
作者明确"不推荐用于训练",但释出了,供研究。若你的研究正是"如何利用低质量/未评级样本"或"评估噪声对训练的影响",它反而是难得的素材。默认训练请过滤。
FAQ 6:它和 MIMIC-CXR-JPG 的 CheXpert 标签冲突怎么办?
不冲突,是互补。MIMIC-CXR-JPG 给的是检查级 13 类 CheXpert 标签(放射科标注),CXR-QBA 给的是问答级、区域级的细粒度标签。两者可用 study_id 对齐。若发现二者对同一检查判断不一致,通常是因为粒度不同(检查级 vs 区域级)——CXR-QBA 论文已用 MCC 量化了两者的整体一致性(§7.1)。
FAQ 7:中文能直接用吗?
不能。问题、答案、标签、报告文本全是英文(源自英文放射报告)。做中文任务需自行翻译或迁移,翻译质量会直接影响训练。
FAQ 8:它是"最大"的胸片 VQA 数据集吗?
按公开可查的规模,42.17M 显著大于 CheXinstruct(8.5M)等;作者也称其为 “the largest and most sophisticated VQA dataset for CXRs to date”。但"最大"依赖口径(见坑 4:论文表内 32.6M),引用时建议表述为"目前公开胸片 VQA 数据集中规模与结构化程度领先者"。
FAQ 9:许可证允许商用吗?
不能默认商用。PhysioNet Credentialed Health Data License 1.5.0 限研究用途,且受父集 MIMIC 条款约束;论文 CC BY 4.0 只覆盖论文文本,不覆盖数据集。任何商用须单独核实授权链。
FAQ 10:如果 OpenReview 打不开怎么办?
PhysioNet 官方页 + GitHub README 已含 Abstract、Methods、Dataset Statistics、验证结果等核心信息,足以理解与引用数据集;论文正文(如 RadStrucVQA 细节)可在 OpenReview 开通或读 ICLR 论文集(§附录 C 给了海报页链接)。
§9.7 与库内近邻条目的深度对照
对照 A:CXR-QBA vs MIMIC-CXR-JPG(rid 617)。 二者共享图像层(MIMIC-CXR-JPG 的 377,110 张胸片是 CXR-QBA 的定位输入)。差异在"层":MIMIC-CXR-JPG 是标注层(检查级 CheXpert 13 类 + DICOM 元数据),CXR-QBA 是问答层(逐子答案的问答 + 区域级标签 + 框)。可对齐字段是 study_id / image_id。组合用法:用 JPG 的标签做辅助监督,用 QBA 的问答做结构化任务。
对照 B:CXR-QBA vs MS-CXR(rid 340)。 MS-CXR 是手工绘制的定位标注集(精确但小),CXR-QBA 的框是自动派生的大规模框(多但粗)。二者在论文里正好是"被验证者 vs 验证者"的关系(§7.2)。组合用法:用 MS-CXR 精标微调、CXR-QBA 大规模预训练。
对照 C:CXR-QBA vs CXR-LT(rid 657)。 CXR-LT 是长尾金标准(罕见发现),CXR-QBA 的 237 类细粒度标签在长尾上提升 20%(§7.1)。二者验证关系明确,组合用法:借 CXR-LT 评估 CXR-QBA 派生标签的长期质量。
对照 D:CXR-QBA vs mimic-cxr-ext-ils(rid 616)。 名称形近但任务不同:ILS 条目是 MIMIC-CXR 的另一扩展派生(非问答),CXR-QBA 是问答三元组。二者仅在"同源于 MIMIC-CXR"上一致。互链须注明区别,避免误认为同一数据集的不同版本。
§10 互链点:与本条目最相关的 13 个库内数据集
CXR-QBA 不是孤立条目——它站在 MIMIC 生态下游,又与多个胸片数据集构成验证与被验证的关系。以下按"关系强度"分组。
10.1 上行血缘:它的父与祖(4 个)
| 数据集 | slug / rid | 为什么相关 |
|---|---|---|
| MIMIC-CXR | mimic-cxr / 16 |
报告源头(227,827 篇自由文本放射报告),场景图信息抽取的原料 |
| MIMIC-CXR-JPG | mimic-cxr-jpg / 617 |
图像源头(377,110 张 JPG),区域定位分割的输入 |
| MIMIC-IV | mimiciv / 592 |
上游临床数据库(患者/住院维度) |
| MIMIC-IV Clinical Database | mimic-iv-clinical-database / 4 |
同上,英文命名条目 |
使用 CXR-QBA 时,PhysioNet 要求"Please cite them when using this project"——这三个父项目(MIMIC-CXR v2.1.0 / MIMIC-CXR-JPG v2.1.0 / Chest ImaGenome v1.0.0)须一并引用。
10.2 平级验证:论文拿来做金标准的两个(2 个)
| 数据集 | slug / rid | 怎么被用 |
|---|---|---|
| MS-CXR | ms-cxr / 340 |
论文框验证的对照——取 8 类中有正样本的 6 类,验 IoT/IoP/IoU@30 |
| CXR-LT 2024 | cxr-lt / 657 |
论文标签验证的对照——task 2 测试集 12 个长尾类,验 MCC(长尾类 +20%) |
10.3 同族派生:MIMIC-CXR 衍生的兄弟条目(4 个)
| 数据集 | slug / rid | 关系 |
|---|---|---|
| CheXmask-CXR Segmentation Data | chexmask-cxr-segmentation-data / 602 |
同族胸片分割掩码,可作区域定位的互补资源 |
| Lung Segment MIMIC-CXR | lung-segment-mimic-cxr / 613 |
同族肺部分割,可用于区域后处理 |
| Image Embeddings MIMIC-CXR | image-embeddings-mimic-cxr / 611 |
同族图像表征,可用于检索式 QA |
| MIMIC-CXR-Ext-ILS | mimic-cxr-ext-ils / 616 |
同族 MIMIC-CXR 派生条目 |
10.4 广义胸片数据集:同赛道的"表亲"(3 个)
| 数据集 | slug / rid | 差异 |
|---|---|---|
| VinDr-CXR | vindr-cxr / 125 |
多标签胸片检测,人工标注精确框,但无 QA 对 |
| COVIDx-CXR | covidx-cxr / 197 |
新冠胸片分类,标签体系与 CXR-QBA 不通用 |
| CXR-Pro | cxr-pro / 608 |
胸片预训练表征资源 |
10.5 它想在论文里"对标/超越"的 VQA 生态(正文提及,非库内条目)
- VQA-RAD(约 3.5K,含非 CXR)、SLAKE(约 14K,含非 CXR):临床专家标注、短答案、无框;
- MIMIC-CXR-VQA(377K)、Medical-CXR-VQA(780K)、CheXinstruct(8.5M):模板化、短答案、无框;
- MedTrinity-25M / MAIRA-2:接地报告数据集,检查级描述,不能直接做 QA。
这构成 CXR-QBA 论文的核心论证:在"有框 + 层级整句答案 + 结构化标签"三项上,既有 VQA 数据集均不满足——这正是它自称"最精细胸片 VQA"的依据。
10.6 互链使用的三条原则
原则一:区分"血缘"与"验证"。 与 MIMIC-CXR / MIMIC-CXR-JPG / Chest ImaGenome 是血缘关系(数据来自它们,须一并引用、受同一 DUA 约束);与 MS-CXR / CXR-LT 是验证关系(论文拿来当外部金标准,无版权连带)。互链时应措辞区分,避免读者误以为后两者也是数据来源。
原则二:同族条目要说明差异。 库内有多条 MIMIC-CXR 派生条目(chexmask、lung-segment、image-embeddings、ext-ils 等)。它们同源但任务各异;互链时若不注明区别,读者容易以为它们是同一数据集的不同版本。建议每条互链都带一句"关系性质"说明。
原则三:广义胸片数据集仅作"赛道同伴"互链。 VinDr-CXR、COVIDx-CXR、CXR-Pro 与 CXR-QBA 无血缘、无验证关系,仅在"同属胸片影像数据集"这一层相关。互链价值在于帮读者建立赛道全景,而非暗示数据可互换。
10.7 上游数据在库内的可获得性
一个实际的互链问题是:想用 CXR-QBA,还需不需要库内的上游条目? 答案取决于任务:
| 若要做… | 是否需要上游 | 原因 |
|---|---|---|
| 纯 VQA / 结构化任务 | 不必 | 问答、标签、框坐标即自足,无需原始像素 |
| 需要看/喂图像 | 需要 MIMIC-CXR-JPG | CXR-QBA 不打包原始图像,须按 image_id 去 JPG 取像素 |
| 要检查级 CheXpert 标签做辅助监督 | 需要 MIMIC-CXR-JPG | 其 13 类标签可作辅助信号 |
| 要与临床时序/用药关联 | 需要 MIMIC-IV | 通过 subject_id 关联住院与用药记录 |
| 要用更细的区域分割 | 可参考 chexmask / lung-segment | 同族分割资源可做区域后处理增强 |
简言之:CXR-QBA 是标注层,MIMIC-CXR-JPG 是像素层——做视觉任务时两者往往要配对使用,这也是互链中最容易被忽略的一条实操关系。
附录 A:完整问题类型 × 策略一览
下表汇总 CXR-QBA 的问题策略(question strategy)体系。标识符前缀对应问题族:A = Indication、B = Study Abnormality(整体)、C = Region Abnormality(区域)、D = Finding(具体发现)。
A.1 Indication 族(指征)
| 策略标识 | 问题含义 | 答案形态 |
|---|---|---|
| A_indication | 为什么做这次胸片检查 / 该评估什么 | 报告指征的改写句 |
问题数(Total):218,294。
A.2 Study Abnormality 族(整体层面)
| 策略标识 | 问题含义 | 答案形态 |
|---|---|---|
| B01 describe_all | 描述整张片的整体情况 | 整句描述 |
| B02 describe_abnormal | 描述整张片的异常所见 | 整句描述 + 发现标签 |
| B03 is_abnormal | 这张片是否异常? | 判断 + 依据句 |
| B04 is_normal | 这张片是否正常? | 判断 + 依据句 |
| B08 describe_subcat | 描述某个子类别(整体层) | 整句描述 |
| B10 is_abnormal_subcat | 子类别是否异常? | 判断 + 依据句 |
| B12 describe_device | 描述片上的器械 | 整句描述 |
| B13 has_devices | 片上是否有器械? | 判断 + 依据句 |
| B14 describe_acquisition | 描述采集方式/体位 | 整句描述 |
| B15 describe_imaging_artifacts | 描述成像伪影 | 整句描述 |
Abnormal 族合计问题数(Total):11,915,384(其中 B01/B02/B03 各 208,433)。
A.3 Region Abnormality 族(区域层面)
| 策略标识 | 问题含义 | 答案形态 |
|---|---|---|
| C01 describe_region | 描述某解剖区域 | 整句描述 + 区域标签 |
| C02 describe_abnormal_region | 描述某区域的异常 | 整句 + 发现标签 + 框 |
| C03 is_abnormal_region | 某区域是否异常? | 判断 + 依据句 + 框 |
| C04 is_normal_region | 某区域是否正常? | 判断 + 依据句 + 阴性框 |
| C07 describe_region_device | 描述某区域的器械 | 整句 + 器械标签 + 框 |
| C08 has_region_device | 某区域是否有器械? | 判断 + 依据句 + 框 |
Region 族合计问题数(Total):20,620,708(describe_region 2,827,147 / describe_abnormal_region 2,827,177 / is_abnormal_region 2,832,066 / is_normal_region 2,831,838 / describe_region_device 4,650,283 / has_region_device 4,652,197)。
为什么 Region 族最大? 因为它对每一个解剖结构 × 每一个(子)发现都要问一遍"这里有没有、是什么",是组合爆炸的主力。
A.4 Finding 族(具体发现 / 疾病 / 器械)
| 策略标识 | 问题含义 | 答案形态 |
|---|---|---|
| finding | 某具体发现是否存在 / 在哪 | 判断 + 位置 + 框 |
| D07 where_is_device | 某器械在哪里? | 位置描述 + 框 |
Finding 族合计问题数(Total):9,418,441(其中 D07_where_is_device 322,056)。
A.5 问题族规模对照(Total 口径)
| 问题族 | 代表标识 | 问题数(Total) | 占比示意 |
|---|---|---|---|
| Region Abnormality | region_abnormal | 20,620,708 | 最大 |
| Study Abnormality | abnormal | 11,915,384 | 次大 |
| Finding | finding | 9,418,441 | 第三 |
| Indication | A_indication | 218,294 | 最小(但临床最基础) |
| (器械专类) | D07_where_is_device | 322,056 | 器械细分 |
| 合计 | — | 42,172,827 | 与官方 QA 对总数一致 |
注:上表为 Total 口径精选,其中若干策略(如 B01/B02/B03 各 208,433)单独列出会重复计入别名族,故此处按族聚合,与 §5.2 的逐策略明细互补。
A.6 与 CFG/模板的对应关系
四类问题族不是普通模板文本,而是与放射科医师共同设计的模板引擎产出。每条模板都绑定:
- 一个问题文本骨架(如"Does the {region} show {finding}?");
- 一组可填充槽位(region / finding / certainty / laterality);
- 一条答案构造规则(模板句 + 从报告改写句混合);
- 一个框挂载规则(把对应观察节点/区域节点的 bbox 挂到子答案上)。
这套"问题-槽位-答案-框"四联设计,正是它能同时输出结构完整 QA 与逐子答案框的技术根因。
附录 C:核心事实清单(一页速查)
| 项目 | 数值 / 内容 |
|---|---|
| 官方全称 | MIMIC-Ext-CXR-QBA: A Structured, Tagged, and Localized Visual Question Answering Dataset with Question-Box-Answer Triplets and Scene Graphs for Chest X-ray Images |
| 缩写 | CXR-QBA |
| 本质 | MIMIC-CXR 派生的胸片「问题-框-答案」三元组 VQA 数据集(含场景图) |
| 作者 | Philip Müller, Friederike Jungmann, Georgios Kaissis, Daniel Rueckert |
| 机构 | Technical University of Munich (TUM) 体系 |
| 会议 | ICLR 2026(Poster) |
| PhysioNet | https://physionet.org/content/mimic-ext-cxr-qba/1.0.0/ |
| GitHub | https://github.com/philip-mueller/mimic-ext-cxr-qba |
| QA 对总数 | 42,172,827 |
| 子答案总数 | 90,915,200 |
| 患者数 | 65,317 |
| 研究数 | 227,239 |
| 图像数 | 376,175 |
| 问题-图像对 | 70,045,778 |
| 答案-图像对 | 151,539,450 |
| Pre-training grade(≥B) | 31,230,906 |
| Fine-tuning grade(≥A) | 7,532,281 |
| Unrated | 8,280,266 |
| finding 类 | 237 |
| region 类 | 311 |
| 定位解剖结构 | 257(CXAS 158 + Chest ImaGenome 29 等组合) |
| 存储规模 | 约 28 GB |
| 许可 | PhysioNet Credentialed Health Data License 1.5.0 |
| 使用协议 | PhysioNet Credentialed Health Data Use Agreement 1.5.0 |
| 培训要求 | CITI “Data or Specimens Only Research” |
| 论文许可 | CC BY 4.0 |
| v1.0.0 DOI | 10.13026/8qmz-da41(2025-07-22) |
| v1.0.1 DOI | 10.13026/6193-he91(2026-08-25) |
| 标签验证(Micro MCC) | 0.71(vs MIMIC-CXR-JPG Test)/ 0.67(vs CXR-LT 2024 Gold) |
| 长尾类提升 | 约 +20%(LT-only MCC 0.71 vs 0.59) |
| 框验证(IoU@30) | 0.51(vs MS-CXR)/ 0.45(vs REFLACX,微平均) |
| 新指标 | RadStrucVQA |
| 新任务 | Structured VQA Task |
附录 D:术语表
| 术语 | 中文/解释 |
|---|---|
| VQA | Visual Question Answering,视觉问答——给定图像 + 问题,模型给出答案 |
| Structured VQA | 结构化视觉问答——答案须含文本 + 结构化标签 + 边界框,本数据集提出的新任务范式 |
| Scene Graph | 场景图——由区域节点与观察节点构成的图结构,承载影像的区域-发现关系 |
| Region Node | 区域节点——场景图中表示解剖区域(如"右下肺")的节点,带 bbox |
| Observation Node | 观察节点——场景图中表示一条观察/发现的节点,挂在区域节点下,带标签与描述 |
| Bounding Box(bbox) | 边界框——标注目标位置的矩形框,本数据集挂到每个子答案 |
| Negative Grounding | 阴性接地——对"未见异常"的阴性发现也给出框,标注"此区域已筛查、正常" |
| Question-Box-Answer Triplet | 问题-框-答案三元组——本数据集的基本数据单元 |
| Sub-answer | 子答案——层级化答案中承载细节与相关信息的下级句子 |
| Indication | 指征——做该检查的临床理由 |
| Certainty | 确定性——对某发现的确定程度(如 definite / probable / possible) |
| Laterality | 侧别——左/右/双侧 |
| MCC | Matthews Correlation Coefficient,马修斯相关系数——不平衡分类的稳健指标 |
| IoU | Intersection over Union,交并比——框/掩码重叠度 |
| IoP | Intersection over Prediction,交/预测比——衡量预测框有多少落在目标内 |
| IoT | Intersection over Target,交/目标比——衡量目标有多少被预测框覆盖 |
| CXAS | 一个胸片解剖结构分割模型,提供 158 个结构的区域定位 |
| Chest ImaGenome | 胸片场景图数据集,提供解剖区域框,贡献 29 个结构 |
| BioLORD | 生物医学句向量模型,用于把抽取出的实体映射到 SNOMED-CT |
| SNOMED-CT | 系统化医学命名法——临床术语受控词表 |
| Llama 3.1 70B / 8B | 信息抽取用 70B,质量评估(LLM-as-a-judge)用 8B |
| LLM-as-a-judge | 用大模型充当评委给样本打分的方法 |
| Credentialed Access | 凭证访问——PhysioNet 需身份核验 + 签 DUA + 培训的受限访问模式 |
| DUA | Data Use Agreement,数据使用协议 |
| CITI | 研究者培训与认证平台,“Data or Specimens Only Research” 为其课程 |
| RadStrucVQA | 论文提出的 Structured VQA 评测指标 |
| MAIRA-2 | 微软的胸片接地报告生成模型,作为对照 |
| LLaVA-Med | 医学领域多模态大模型,作为对照 |
附录 E:常见问题(FAQ)
F1:CXR-QBA 和 MIMIC-CXR-VQA 是同一个东西吗?
不是。MIMIC-CXR-VQA 约 377K 问答对、短答案、无框;CXR-QBA 42,172,827 条、层级整句答案、逐子答案框。两者规模差两个数量级,形态完全不同。
F2:我能直接 load_dataset("...") 拉下来吗?
不能。它是 PhysioNet credentialed access,需 credentialed 账户 + DUA 1.5.0 + CITI 培训三重门槛。
F3:为什么有很多"框"看起来偏大?
因为框源自报告里提到的解剖区域(如"右下肺"整个区域),而非精确到病灶轮廓。这导致低 IoP、高 IoT——是设计特征而非缺陷(见坑 8)。
F4:42,172,827 和论文表的 32.6M 哪个对?
以 PhysioNet Dataset Statistics 的 42,172,827 为准;32.6M 是同一论文对比表内的口径不一致(疑过滤后或笔误),已存照。
F5:Unrated 的 830 万条能用来训练吗?
作者明确不推荐。这些样本因 LLM 评估失败未获评级,质量无法保证。训练请用 Pre-training grade(31.2M)或 Fine-tuning grade(7.5M)。
F6:它需要新增患者伦理审批吗?
不需要。它是 MIMIC-CXR 派生集,未采集任何新患者数据,伦理继承自父 MIMIC。
F7:158 和 257 到底哪个是"结构数"?
158 是 CXAS 模型原始输出的结构数;257 是 CXAS 158 + Chest ImaGenome 29 等经交并/超框组合后的最终定位结构数。分层表述即可(见坑 7)。
F8:训练数据会不会被送到外部 API?
不会。作者声明全部处理、生成与训练均在本地安全环境完成,LLM/定位/嵌入模型均未调用外部 API。
F9:做定位任务该报哪个指标?
同时报 IoU、IoP、IoT 三个。只报 IoU 会误读"框偏大"为"标注差"。
F10:怎么引用?
引 CXR-QBA 本体(指明版本 DOI)+ 三个父项目(MIMIC-CXR v2.1.0 / MIMIC-CXR-JPG v2.1.0 / Chest ImaGenome v1.0.0)。
附录 F:版本变更与引用建议
F.1 版本对照
| 版本 | 发布日期 | DOI | 状态 | 备注 |
|---|---|---|---|---|
| v1.0.0 | 2025-07-22 | 10.13026/8qmz-da41 | 首版 | 本条目硬数字来源 |
| v1.0.1 | 2026-08-25 | 10.13026/6193-he91 | latest | 变更明细未公开 |
F.2 引用建议
- 引用数据时务必指明版本 DOI(两版本 DOI 不同,混用会导致不可复现);
- 引用数字时,优先引 42,172,827(官方统计),若引对比表数字需注明口径;
- 涉及伦理/许可声明时,一并注明三个父项目与派生集性质。
F.3 引用格式(示意)
Müller, P., Jungmann, F., Kaissis, G., & Rueckert, D. (2025). MIMIC-Ext-CXR-QBA: A Structured, Tagged, and Localized Visual Question Answering Dataset with Question-Box-Answer Triplets and Scene Graphs for Chest X-ray Images (version 1.0.0). PhysioNet. https://doi.org/10.13026/8qmz-da41
附录 G:方法学启示——这套流水线能被复用到别处吗
CXR-QBA 留下的最大遗产,可能不是那 4220 万条问答,而是它的构建方法论。作者明确表示构建流水线(cxr_qba_extract)可迁移到其他数据源。下面提炼其可迁移的五个要点,供其他医学数据集构建者参考。
G.1 "先结构后生成"是可复用的通用范式
CXR-QBA 的核心洞察——不要直接让 LLM 从原始文本生成监督信号,而要先把它结构化为图(或表),再从结构派生监督——对任何"从报告生成数据集"的场景都成立。其他模态亦然:病理报告 → 病理 VQA、超声报告 → 超声 VQA、内镜报告 → 内镜 VQA,都可套用"报告 → 结构化中间表示 → 任务数据"的三段式。
它解决的通用问题是:LLM 的生成能力与数据的可核查性之间的张力。直出快但难核,先结构化慢但可控。CXR-QBA 用"三步走 + 中间产物落盘"把这个张力转化成了工程可管理的问题。
G.2 受控词表 + 语义映射是可复用的标签工程
用预定义词表(PadChest / Chest ImaGenome / SNOMED-CT)约束 LLM 的实体输出,再用语义嵌入模型(BioLORD)做最近概念匹配,这套"受限生成 + 语义对齐"的组合,是把开放域抽取变成闭合域标注的通用手段,同样适用于其他医学文本的实体标准化任务。
G.3 规则质控 + LLM 判官是双保险,但非万能
CXR-QBA 的双层质控(场景图用规则、问答用 LLM 判官)给出了一条务实经验:自动质控能筛掉明显错误,但不能保证逐条正确。其证据是那 20% 的 Unrated(评估环节失败即无评级)——说明 LLM 判官本身也会失败,失败样本只能"隔离"而非"修复"。给后来者的启示是:自动质控的价值在于分级与隔离,而非"保证每一条都对";若任务对正确率要求极高,自动质控之后仍需人工抽检。
G.4 阴性接地是常被忽视的监督增强
CXR-QBA 把阴性发现也定位,是一个低成本、高回报的设计:它复用了已有的区域框,额外标注成本近乎为零,却给模型提供了"何处正常"的显式信号。这一招对任何"需要模型系统性排查"的视觉任务(工业质检、遥感变化检测、病理全片筛查)都有借鉴意义——别只标"有什么",也标"哪里查过、是干净的"。
G.5 质量分级子集:给数据"装一个可调旋钮"
把数据按质量分级并随全量一并释出,等于给使用者提供了一个"规模-质量"的可调旋钮。这是一种对使用者友好的数据集设计哲学——不替使用者决定工作点,而是把选择权交出去。后来的大规模自动数据集若能效仿(给出质量分、推荐子集与各自的计数),将显著降低使用门槛。
G.6 复用的边界:哪些不能照搬
也需承认这套方法论的适用边界:它强依赖高质量的上游结构(此处是 MIMIC-CXR 报告 + Chest ImaGenome 场景图);若源报告本身信息稀疏、或缺乏可用的解剖定位资源,"先结构后生成"就会失去根基。此外,它无法解决源数据的固有偏差(单中心、人群构成),这是方法论层面无法逾越的天花板——泛化性问题只能在数据来源层面解决。
§11 结语:它为什么值得被"AI-Ready"地记录
胸片是全世界做最多的影像检查,也是医学多模态 AI 最拥挤的赛道。但"拥挤"不等于"可用"——真正缺的从来不是更多图片,而是能把临床推理过程显式化的监督信号:不只是"这张片有没有肺炎",而是"问到哪里、看哪里、依据是什么、边界在哪、有多确定"。
CXR-QBA 的价值正在于此。它把 22.8 万篇放射报告拆解成 4220 万个问题、9 千万条子答案和与之对应的边界框,把放射科医师脑子里的"分层推理"变成机器可读的「问题-框-答案」三元组;它还罕见地给阴性发现也标框,逼着模型学会"系统地看完整张片"而不是"猜一个标签"。它不是又一个大数据集,而是一次对胸片 VQA 任务定义的重写——从"猜答案"到"说依据"。
对研究者,它提供了现成的预训练池(31.2M)与微调池(7.5M);对工程师,它提供了 CSV/HDF5 导出与三套工具;对临床 AI 的安全审阅者,它提供了标签映射与质量分级。它唯一的高墙是访问门槛——credentialed + DUA + CITI,但这道墙恰恰是医学数据伦理的应有之义。
一句话记住它:CXR-QBA = 把 MIMIC-CXR 的放射报告,变成 4220 万个"看着框、答整句、带标签"的胸片问题——并且告诉你,干净的肺在哪里。
条目维护说明
本条目依据抓取时点 2026-10-08 的公开信息编写。硬数字以 PhysioNet Dataset Statistics 表 v1.0.0 口径为准;论文对比表与摘要层的口径差异、OpenReview 反爬导致的未直读项、v1.0.1 变更明细等,均已在正文与坑点中逐条存照。若后续版本公开变更日志或地区访问策略调整,建议同步更新 §6.3 版本链、附录 C 事实清单与附录 F 版本对照。
附录 H:相关胸片数据集定位速查表
为便于在选型时横向比较,下表汇总本文涉及的胸片数据集(含 CXR-QBA 自身):
| 数据集 | 类型 | 规模 | 答案/标签形态 | 定位 | 结构化标签 | 访问 |
|---|---|---|---|---|---|---|
| CXR-QBA | VQA + 场景图 | 42.17M QA | 层级整句 + 子答案 | 逐子答案框(阴阳均标) | 有(发现/区域等) | PhysioNet 凭证 |
| MIMIC-CXR | 报告 + 影像 | 227,827 报告 | 自由文本报告 | 无 | 无 | PhysioNet 凭证 |
| MIMIC-CXR-JPG | 图像 + 标签 | 377,110 图像 | 检查级标签 | 无 | CheXpert 13 类 | PhysioNet 凭证 |
| Chest ImaGenome | 场景图 | 与 MIMIC-CXR 同规模 | 区域描述 | 区域框 | 有(区域/关系) | PhysioNet 凭证 |
| MS-CXR | 定位基准 | 小(千级句-框对) | 句-框对 | 手工精确框 | 有 | PhysioNet 凭证 |
| CXR-LT 2024 | 长尾多标签 | 中(含 12 罕见类) | 多标签 | 无 | 长尾类标签 | 视版本 |
| MIMIC-CXR-VQA | VQA | 377K | 短答案 | 无 | 无 | 视版本 |
| Medical-CXR-VQA | VQA | 780K | 短答案 | 无 | 无 | 视版本 |
| CheXinstruct | 指令/VQA | 8.5M | 短答案(模板) | 无 | 无 | 视版本 |
| VQA-RAD | VQA | 3.5K(含非 CXR) | 短答案 | 无 | 无 | 公开 |
| SLAKE | VQA | 14K(含非 CXR) | 短答案 | 无 | 语义标注 | 公开 |
| VinDr-CXR | 检测 | 中 | 多标签 + 框 | 人工精确框 | 有(病灶) | 公开/协议 |
| COVIDx-CXR | 分类 | 大 | 分类标签 | 无 | 新冠相关 | 公开 |
速读结论:
- 要"有框 + 整句答案 + 结构化标签"三合一:目前只有 CXR-QBA 同时满足;
- 要"精确手工框":MS-CXR、VinDr-CXR 更合适(但规模小);
- 要"长尾发现评测":CXR-LT 是金标准;
- 要"检查级粗标签":MIMIC-CXR-JPG 最省事;
- 要"开放直链、快速上手":VQA-RAD / SLAKE 门槛最低(但规模最小、含非 CXR)。
CXR-QBA 的独特价值不在任何单一维度领先,而在同时满足规模、结构化、定位三项——这正是它愿意用"凭证访问"这道高墙换取数据敏感性的底气所在。
附录 I:本文写作口径与存照方法说明
为便于读者判断本条目数字的可信度,此处说明写作时的信息处理原则:
信息源优先级:以 PhysioNet 官方 Dataset Statistics / Directory Structure 表为一手硬数字来源;GitHub README 为工具与接口的二手来源;OpenReview / ICLR 页面为任务口径与论文身份来源;第三方论文解读页作交叉印证。三者互证后方采信。
冲突处理原则:当两个来源数字不一致时(如论文对比表 32.6M vs 官方 42,172,827),采官方一手口径,并在正文与坑点中同时存照另一口径,绝不隐藏冲突。
未直读项的处理:OpenReview 页面因反爬未能直读原文(“Verifying your browser”),相关数字改用 PhysioNet + GitHub + 第三方三源互证,并在遗留疑点中如实标注,不假装读过。
地区限制的处理:抓取时点在境外出口遇到 PhysioNet 地区访问限制,判定为 PhysioNet/MIMIC 体系一贯策略,不影响数据集真实性与可获取性判定,但如实存照。
数字的层级澄清:凡出现"同一指标多个数字"处(如 377,110 vs 376,175、158 vs 257、42.17M vs 32.6M),均给出层级解释而非简单择一,避免读者误读为数据自相矛盾。
这套"一手优先、冲突存照、未读标注、层级澄清"的口径,是本条目作为 AI-Ready 知识条目可被信任的基础。
相关数据集导航
以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:
- rexvqa — 共享标签:多模态 / 视觉问答 / X光影像 / 医学问答 / 评测基准
- rex-in-the-wild — 共享标签:多模态 / 视觉问答 / 医学问答 / 评测基准
- derm1m — 共享标签:多模态 / 视觉问答 / 影像-文本对齐 / 评测基准
- medical-cxr-vqa-dataset — 共享标签:多模态 / 视觉问答 / X光影像 / 评测基准
- medreco-db — 共享标签:多模态 / 视觉问答 / 影像-文本对齐 / 医学问答
- liveclin — 共享标签:多模态 / 视觉问答 / 医学问答 / 评测基准
- nejm-bench — 共享标签:多模态 / 视觉问答 / 医学问答 / 评测基准
- mimic-eye-multimodal-datasets — 共享标签:多模态 / 视觉问答 / X光影像
- ms-cxr-t — 共享标签:多模态 / 影像-文本对齐 / X光影像 / 评测基准
- chestagentbench — 共享标签:多模态 / X光影像 / 医学问答 / 评测基准
导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

