MIMIC-Ext-CXR-QBA — 胸片视觉问答的「问题-框-答案」三元组数据集

从 MIMIC-CXR 的 22.8 万篇放射报告自动构建 42,172,827 条胸片 VQA 问答对——每问附细粒度解剖边界框(正负发现均定位)、层级化整句答案与结构化标签,配套场景图与 ICLR 2026 结构化 VQA 任务基准,PhysioNet 凭证访问

来源 MIMIC-CXR 派生的胸片 VQA 数据集(42,172,827 问答对,源 227,827 篇放射报告 / 377,110 张 MIMIC-CXR-JPG 图像),PhysioNet 凭证访问发布时间: 2026-10-08最后更新: 2026-10-20 阅读 35
MIMIC-Ext-CXR-QBA — 胸片视觉问答的「问题-框-答案」三元组数据集

信息速览

数据集名称MIMIC-Ext-CXR-QBA — 胸片视觉问答的「问题-框-答案」三元组数据集
数据类型影像数据,文本数据,衍生数据
规模65,317 名患者(Train 64,524 / Val 500 / Test 293);227,239 项检查、376,175 张图像
接入方式MIMIC-CXR 派生的胸片 VQA 数据集(42,172,827 问答对,源 227,827 篇放射报告 / 377,110 张 MIMIC-CXR-JPG 图像),PhysioNet 凭证访问
AI 就绪度

INFOBOX — MIMIC-Ext-CXR-QBA 一屏速览

维度 内容
本质 从 MIMIC-CXR 放射报告自动构建的大规模胸片 VQA 数据集,以「问题-框-答案」三元组为核心,附场景图
别名 缩写 CXR-QBA(GitHub 与论文通用);PhysioNet 收录名含 “Question-Box-Answer Triplets”
团队 慕尼黑工业大学(TUM)Philip Müller、Friederike Jungmann、Georgios Kaissis、Daniel Rueckert
论文 ICLR 2026(Poster);OpenReview 早期版曾投 NeurIPS 2025 Datasets & Benchmarks Track
数据 42,172,827 条 QA 对 / 90,915,200 条子答案 / 65,317 名患者 / 227,239 项检查
源流 227,827 篇 MIMIC-CXR 报告 + 377,110 张 MIMIC-CXR-JPG 图像 + Chest ImaGenome 场景图
三大特异点 ① 层级化整句答案 ② 逐子答案边界框(正负发现均定位)③ 结构化标签(发现/区域/确定性等)
问题族 4 类:Indication / Study Abnormality / Region Abnormality / Finding
词汇规模 237 个发现类 + 311 个区域类 + 257 个定位解剖结构
流水线 Llama 3.1 70B 信息抽取 → BioLORD+SNOMED-CT 实体映射 → 模板问答生成 → Llama 3.1 8B 质量评级
子集 Pre-training grade(B+)31,230,906 条|Fine-tuning grade(A+)7,532,281 条
验证 发现标签 MCC 0.71(CXR-LT 长尾类提升约 20%)|框 IoU@30 优于 Chest ImaGenome
获取 PhysioNet 凭证访问(DUA + CITI 培训);v1.0.0(2025-07-22)/ v1.0.1(2026-08-25)
许可 PhysioNet Credentialed Health Data License 1.5.0;论文 CC BY 4.0
库内互链 MIMIC-CXR(16)、MIMIC-CXR-JPG(617)、MS-CXR(340)、CXR-LT(657)、Chest ImaGenome 同源条目

MIMIC-Ext-CXR-QBA(简称 CXR-QBA)干的事,是把"胸片问答"从"是的/不是"的猜谜游戏,升级成"请你指出病灶在哪、用报告口吻完整描述、并附上确定性标签"的临床级任务。它不采集任何新图像,而是让一个大语言模型去读 MIMIC-CXR 里 22.8 万篇放射报告,把每句话拆成"看到什么、在哪、多确定"的结构化节点,再用这些节点自动生成 4220 万条问答对——每条答案都带着边界框,连"这里没有问题"也给出一个框。这是目前公开胸片 VQA 数据集里规模与结构化程度都最靠前的一个,代价是它站在 MIMIC-CXR 的凭证访问门槛之后。

导语读法三则:

  1. 只想用数据:直奔 §6 获取与许可——注意这是 PhysioNet 凭证访问(要 DUA + CITI 培训),不是公开直链;再读 §4 规模硬数字挑子集。
  2. 关心 VQA 方法学:直奔 §3 构建流水线与 §5 任务类型——"场景图先行、答案从图出"是它区别于纯模板/纯 LLM 直出的关键。
  3. 做胸片定位或报告 grounding:直奔 §7 评测——MCC 与 IoU@30 双指标对 Chest ImaGenome 的对照是现成的对标基线。

§0 导读:这个数据集解决什么问题

胸片(chest X-ray, CXR)是全世界最常用的影像检查,也是医学 AI 竞争最激烈的赛道。在大语言模型(LLM)与大型多模态模型(LMM)兴起后,胸片判读正从"一图一个固定输出"(分类标签、分割掩码、一段报告)走向"可交互、可按需追问"的对话式形态——视觉问答(Visual Question Answering, VQA)就是其中的代表任务。但训一个稳健的医学 VQA 模型,卡脖子的从来不是模型,而是数据。

CXR-QBA 的作者把既有胸片 VQA 数据集的痛点总结成三条硬伤。第一,答案太短太浅:多数数据集只给"是/否"或一个单词(如"肺炎"),没有报告那种"右下肺见斑片状渗出,较前片吸收"的完整叙述。第二,缺定位信息:模型回答对了问题,却不能被要求指出"你凭什么这么答",没有边界框就无从核查——这正是"Clever Hans(聪明汉斯)效应"的温床,模型可能答对了但看错了地方。第三,几乎没有结构化元数据:发现类别、解剖区域、确定性估计这些让答案可筛选、可解释的标签普遍缺失。再加上规模偏小(VQA-RAD 仅 3.5K、SLAKE 14K,最大的 CheXinstruct 约 8.5M 且纯模板化),它们既撑不起预训练,也撑不起"可解释、可定位"的模型开发。

核心矛盾在于:人工标注能保证答案质量与定位精度,但无法规模化;自动化方案要么答案僵硬(纯模板),要么不直接以报告为条件(产生幻觉)。 CXR-QBA 的破题思路是"先结构、后生成"——不直接让 LLM 从报告里吐问答对,而是先把每篇报告解析成一张视觉接地场景图(visually grounded scene graph),把"发现—区域—框—确定性"显式建模成图上的节点与边,再从这张图派生问题与答案。因为答案是从图上"取"出来而非"编"出来的,文本细节继承自原始报告、边界框来自定位模型、标签来自受控词表,三者都对得上账。这个"报告 → 场景图 → 问答"的三段式流水线,就是 CXR-QBA 的方法学内核,也是它与所有"LLM 直出式"VQA 数据集的分水岭。

§0 读法三则:

  1. 这个条目是"数据集 + 方法论文 + 评测任务"三合一体:核心产物是 4220 万条 QA 三元组与随附场景图,衍生品是"结构化 VQA 任务(Structured VQA Task)"与 RadStrucVQA 指标,副产品是一整套可复用的构建流水线(§3)。
  2. 全文所有统计数字均出自 PhysioNet v1.0.0 官方页面与 GitHub README 三源互证;论文对比表内出现的 32.6M 与官方 42,172,827 的冲突已在坑 4 存照。
  3. 检索时若把 “MIMIC-CXR-VQA”(377K 模板化)或 “CheXinstruct”(8.5M 模板化)当作本数据集,会拿到另一套东西——四者名字相近但血缘不同,辨析见 §8.3。

§1 数据集速览:十问十答

Q1:MIMIC-Ext-CXR-QBA 的 “Ext” 指什么?它和 MIMIC-CXR 是什么关系?
“MIMIC” 指父数据库,“Ext” 指在 MIMIC-CXR 之上的扩展派生(extended derivative)——不采集新患者、新影像,而是对 MIMIC-CXR 报告做信息抽取、对 MIMIC-CXR-JPG 图像做解剖定位,生成全新的 VQA 层。“QBA” 即 Question-Box-Answer(问题-框-答案)三元组。父集是 MIMIC-CXR v2.1.0(doi:10.13026/4jqj-jw95)与 MIMIC-CXR-JPG v2.1.0。

Q2:42,172,827 条问答对是怎么来的?
源料是 MIMIC-CXR 的 227,827 篇自由文本放射报告。用 Llama 3.1 70B 对每篇报告做逐步抽取:先切句并判定所属章节(FINDINGS / IMPRESSION / INDICATION),抽出指征信息,再逐 FINDING/IMPRESSION 句抽取"observation"(含实体、区域、概率、变化、子观察);同时用 CXAS 模型在 377,110 张胸片上分割解剖结构、结合 Chest ImaGenome 的框,组合出 257 个定位解剖结构;最后用模板引擎据场景图生成四类问题的问答对。

Q3:每条答案长什么样?为什么说"层级化"?
每条答案是多粒度、层级化的:主答案给出报告口吻的完整句子(如"右下肺见斑片影"),其下挂若干**子答案(sub-answer)**承载细节与相关信息,总数达 90,915,200 条子答案(约为问答对数的 2.16 倍)。答案可由模板生成,也可直接改写自报告原句——元数据里 from_report 与 contains_report_answers 字段能区分。

Q4:边界框是怎么标上去的?"正负发现均定位"什么意思?
框不是人工画的,而是与解剖区域绑定:报告提到"右下肺",就在该区域的计算框上挂观察节点。所谓正负发现均定位(negative grounding),是指对"右肺野未见异常"这类阴性表述,也给一个框——告诉模型"这一块是干净的"。绝大多数数据集只标"有什么",CXR-QBA 把"没有什么"也锚定到空间上,这对训练模型系统性地排除病变至关重要。

Q5:结构化标签都有哪些?
核心三类:发现(finding)237 类、解剖区域(region)311 类、以及确定性(certainty);另有侧别(laterality)、概率估计、时序修饰、变化(change)等。标签体系参考 PadChest、Chest ImaGenome 与 SNOMED-CT,并经临床专家核验,含同义词表、层级与关系。

Q6:质量怎么保证的?
两段式:场景图用规则追踪(region/entity/sentence/change/localization 五类质量项);问答对用 Llama 3.1 8B 作 LLM 判官,就蕴含(entailment)、相关性、完整性、问题清晰度、答案清晰度五个维度独立评分;再加一个整体的定量验证——把场景图衍生的发现标签与边界框,拿去和 MIMIC-CXR-JPG 放射标注、CXR-LT 2024 金标准、MS-CXR、REFLACX 逐类比对(§7)。

Q7:什么评级、怎么选子集?
每条 QA 对拿到一个总评级(A++ / A+ / A / B / C / D / Unrated)。作者据此切两个推荐子集:Pre-training grade = 评级 B 及以上(31,230,906 条)、Fine-tuning grade = 评级 A 及以上(7,532,281 条)。两个子集都排除非正位片与无正位片的检查。

Q8:那个"约 20% 未评级"是怎么回事?
有 8,280,266 条样本(约全量 20%)因 LLM 评估环节失败而未获评级(Unrated)。作者明说这些不一定是坏样本,但无法保证质量,不推荐用于训练;他们选择不再优化以扩大已验证样本量,因为已有的高质量池子已足够大。全量数据(含未评级与低评级)一并释出,供研究。

Q9:我怎么拿到它?
走 PhysioNet 凭证访问:需要有 credentialed 账户、签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0,并完成 CITI “Data or Specimens Only Research” 培训;访问还受 PhysioNet 的出口地区政策约束。它不是 HuggingFace/Kaggle 那样的公开直链下载。

Q10(补充):数据里有原始胸片图像吗?
没有。CXR-QBA 只提供问答对、场景图、标签与边界框(坐标),不打包原始 DICOM / JPG。若要喂图像给模型,需另行从 MIMIC-CXR-JPG 按 image_id 获取像素——两套数据通过 image_id / study_id 对齐。这也是为什么 §10 把 MIMIC-CXR-JPG 列为强互链条目:一个是标注层,一个是像素层。

Q11(补充):答案是英文还是中文?能直接做中文任务吗?
问题、答案、标签与报告文本全部是英文(源自英文放射报告)。做中文医学 VQA 需自行翻译或做跨语言迁移,且翻译质量会直接影响下游性能——这是一条容易被忽略但影响很大的实操限制。

Q12(补充):它的规模在同类里排第几?
按公开可查口径,42,172,827 条显著大于 CheXinstruct(约 8.5M)、Medical-CXR-VQA(约 780K)、MIMIC-CXR-VQA(约 377K)、SLAKE(约 14K)、VQA-RAD(约 3.5K)。作者在论文中称其为 “the largest and most sophisticated VQA dataset for CXRs to date”。稳妥表述是:目前公开胸片 VQA 数据集中规模与结构化程度均领先者("最"字依赖口径,见坑 4)。

Q13(补充):为什么有的数字是 377,110、有的是 376,175?
377,110 是 MIMIC-CXR-JPG 的实际 JPG 张数(定位分割的输入全集);376,175 是进入 CXR-QBA 图像元数据表、实际参与问答构建的张数。两者相差 935,源于构建时的过滤(非正位片、定位或抽取失败的检查)。前者讲"上游图像资源",后者讲"本数据集图像表规模"——不是矛盾。

Q14(补充):它是"衍生数据"还是"原始数据"?
是衍生数据(derivative)。它不采集新患者、新影像,而是在 MIMIC-CXR 报告与 MIMIC-CXR-JPG 图像之上生成的新标注层。因此伦理审批继承自父 MIMIC,使用条款也须一并遵循父集 DUA。

§0.5 背景深潜:为什么"胸片问答"比"胸片分类"难得多

要理解 CXR-QBA 的存在理由,得先理解胸片 AI 的两代任务范式之别。第一代范式是分类:输入一张胸片,输出一组预定义标签(如 CheXpert 的 13 类)或一个"正常/异常"判断。这套范式成熟、指标清晰(AUC、F1),MIMIC-CXR-JPG 等标注数据集正是为它而生。但它有三个结构性局限:其一,标签体系固定,用户不能追问"这个阴影具体在肺的哪一段";其二,输出是一次性的,一张片子只有一个(或一组)固定答案,无法按临床场景定制问题;其三,不可解释,模型给出"异常"时,你无法要求它指出依据在哪。

第二代范式是交互式任务,包括视觉问答(VQA)、报告生成、视觉接地(grounding)。它们的共同点是"输入不止图像,还有用户的文字指令",输出也形态多样。VQA 尤其灵活——可以让用户问任意问题,从最粗的"这张片正常吗"到最细的"气管插管尖端位置是否理想"。这正是 LLM/LMM 时代医学影像的演进方向:从"分类器"走向"会对话的助手"。

难点恰恰在于数据。 第一代范式的数据好造:放射科标注员看一眼给几个标签即可,成本低、可并行。第二代范式的数据难造:VQA 需要为每张图设计多个问题、写出临床级的完整答案、还要标注答案依据的空间位置——如果全靠人工,成本高到无法规模化。这就是整个领域长期卡在"要么小规模高质量(VQA-RAD 3.5K)、要么大规模低质量(模板化提不起预训练)"两难的原因。

CXR-QBA 的回答是"用结构化换规模"。 它发现放射报告本身其实就是一种"医生写好的结构化描述"——里面天然含有"发现是什么、在哪、多确定、有什么变化"的信息。于是它把报告先解析成场景图(把这四类信息显式建模),再从图派生问答。因为答案是从图上"取"的,就不需要为每条问答雇人重写;因为图上的区域节点带框,答案就能附定位;因为标签映射到受控词表,答案就能带结构化元数据。一句话:它把"报告里的隐含结构"挖出来,变成了"千万级问答对的显式监督"。 这就是它能在规模与结构化上同时领先的方法学根因。

§0.6 三类读者的三条最优路径

路径一|数据工程师 / 想快速用起来:§6 获取与许可(先办凭证)→ §4 规模硬数字(选 Pre-training 还是 Fine-tuning 子集)→ §7.8 使用手册(跑通 baseline)→ 坑 1/坑 5/坑 8(避雷)。预计阅读 15 分钟可上手。

路径二|VQA / 多模态研究者 / 关心方法:§0 导读(问题意识)→ §3 构建流水线(三段式怎么设计)→ §5 任务与标注(四类问题族 + Structured VQA Task)→ §7 评测(MCC/IoU 双线对照 + RadStrucVQA)。重点理解"先图后答"为何抗幻觉、为何能定位。

路径三|数据合规 / 数据集选型:§6 许可层次 + 版本链 → §10 DAIMS 评估 → §9.7 与库内近邻对照 → §11 存照与遗留疑点。重点判断"凭证门槛 + 父集连带 + 地区策略"三条合规约束是否可接受。

§1.5 一条 QA 三元组的完整解剖(示意)

为让抽象的结构落地,下面用示意性(非逐字原文)的方式展示一条 CXR-QBA 记录包含哪些部分,帮助读者建立字段直觉:

  • 问题(question):属于某问题族与策略,如"区域异常—describe_abnormal_region"(C02)。
  • 主答案(main answer):报告口吻的完整句子,如"右下肺野见斑片状密度增高影,考虑渗出性病变。"带标签:发现=渗出影、区域=右下肺、确定性=疑似(probable)。
  • 子答案(sub-answers):细节子答案(如"较前片部分吸收")、相关信息子答案(如"未见胸腔积液"),各带自身标签。
  • 边界框(bounding box):挂在子答案层,指向"右下肺"区域;若为阴性发现(如"未见气胸"),同样给出框(negative grounding)。
  • 质量评级(quality):由场景图评级与该问题所有答案评级取最小值得到,落 A++ 至 D 或 Unrated。
  • 溯源字段:from_report(是否来自报告句)、contains_template_answers(是否含模板答案)、num_regions(涉及区域数)等。

(注:字段名取自 PhysioNet 元数据说明;具体取值以实际数据与 dataset_info.json 为准。)这条解剖解释了为什么一个数据集能同时服务于三类下游:文本端取主/子答案做报告生成;标签端取发现/区域做分类;定位端取框做检测。
Q10:它和 MAIRA-2 这类"接地报告生成"数据集的区别?
MAIRA-2 给的是检查级描述 + 少量 ROI,没有个体级问题,也没有类别/标签映射;CXR-QBA 给的是逐子答案、问题特异的框,并带发现/区域等结构化标签映射。用作者的话说,前者"不能直接拿来做 QA 任务"。完整对照见 §8.3。

§2 名称、身份与来龙去脉

2.1 三个名字,一套东西

CXR-QBA 在流通中至少有三种叫法,检索时务必认清:

  • MIMIC-Ext-CXR-QBA:完整官方名(PhysioNet 与 GitHub 仓库名均用此)。
  • CXR-QBA:论文与代码里的简称,也是数据集"人设名"。
  • PhysioNet 收录全名:MIMIC-Ext-CXR-QBA: A Structured, Tagged, and Localized Visual Question Answering Dataset with Question-Box-Answer Triplets and Scene Graphs for Chest X-ray Images。

而论文标题用的是另一套措辞——A Structured, Tagged, and Localized Visual Question Answering Dataset with Full Sentence Answers and Scene Graphs for Chest X-ray Images——把 “Question-Box-Answer Triplets” 换成了 “Full Sentence Answers”。这是论文标题与数据集合规名之间的措辞差异,不是两个东西;判断依据是作者(四人完全一致)与代码仓库链接(同一 GitHub 仓库)。

2.2 出身:一个团队的第三条胸片路线

作者四人全部来自慕尼黑工业大学(Technical University of Munich, TUM):Philip Müller(一作)、Friederike Jungmann、Georgios Kaissis、Daniel Rueckert。其中 Friederike Jungmann 兼具放射科临床背景(属慕尼黑工大附属医院 Klinikum rechts der Isar 放射研究所,兼 TUM「AI in Healthcare and Medicine」讲席),Daniel Rueckert 是医学影像 AI 领域的资深学者。

这条线索解释了一个关键问题:CXR-QBA 不是从零冒出来的孤立数据集,而是 TUM 团队胸片系列工作的自然延伸。 一作 Müller 与 Kaissis、Rueckert 在 ECCV 2024 上发表过 ChEX(Interactive Localization and Region Description in Chest X-rays)——用交互方式在胸片上做区域描述与定位。CXR-QBA 把 ChEX 的"交互式定位"思路推到了"规模化问答"层面:既然模型需要知道"看哪里、说什么",那就造一个把两者绑定、且大到能预训练的数据集。理解这层血缘,就能理解 CXR-QBA 为什么如此强调"定位 + 结构化标签"而非单纯堆规模。

2.3 时间线:从投稿到双版本

时间 事件
2025-04-25 GitHub 仓库首次提交(LICENSE、llm_processor 代码)
2025-04-07 OpenReview 出现早期版本记录(曾投 NeurIPS 2025 Datasets & Benchmarks Track)
2025-05 README、示例图完善;仓库结构成型(extract/train/utils 三个工具包)
2025-07-22 PhysioNet v1.0.0 正式发布(DOI 10.13026/8qmz-da41)
2026-08-25 PhysioNet v1.0.1 发布(latest DOI 10.13026/6193-he91)
2026 论文以 ICLR 2026 Poster 形式发表

双口径存照:同一篇论文在 OpenReview 上留下过两个 forum id——t7TTpDkCfJ(标注投 NeurIPS 2025 D&B,2025-04 投、2025-10 修改)与 LrmyW9JLYq(GitHub README 的官方链接,对应 ICLR 2026)。投稿轨迹是"先投 NeurIPS 未中 → 后录 ICLR 2026"。本条目按最终的 ICLR 2026 记,NeurIPS 版本一并存照。

版本链存照:数据集有 v1.0.0 与 v1.0.1 两个 PhysioNet 版本,各有独立 DOI(8qmz-da41 / 6193-he91)。本条目所有硬数字采 v1.0.0(抓取时点可见的 Dataset Statistics 表),v1.0.1 的具体变更 changelog 未见公开 diff,列为遗留疑点。

§3 构建流水线:报告→场景图→问答

CXR-QBA 最值得细读的不是它的规模,而是它的三段式构建流水线——这是它把"LLM 幻觉"关进笼子的工程手段,也是它能同时给出文字、框、标签的原因。

3.1 第一段:场景图构建(Scene Graph Construction)

场景图是整条流水线的"真值底座"。构建分三步:

(a)区域定位(Region Localization)。 用 CXAS 模型在 377,110 张 MIMIC-CXR-JPG 胸片上预测胸廓解剖结构的分割掩码(CXAS 原始输出 158 个结构),经形态学变换去噪;再引入 Chest ImaGenome 提供的边界框(覆盖 MIMIC-CXR 多数正位片的 29 个解剖结构)。两者经交集、并集、超框等组合运算,最终派生 257 个定位解剖结构。任何过小的掩码/框都被丢弃,其余转成边界框——这就是"框"的物理来源。

(b)信息抽取(Information Extraction)。 用 Llama 3.1 70B 配 few-shot 提示,对 227,827 篇报告逐步处理:先切出独立句子并判定章节(FINDINGS / IMPRESSION / INDICATION 等),丢弃无信息句、合并描述相近信息的句;再专门抽取 INDICATION 章节,产出指征摘要、患者信息、临床指征、待评估项目,以及"指征问题的简答";最后逐 FINDING/IMPRESSION 句抽取 observation 对象,每个 observation 含名称、摘要句、发现实体、关联区域、概率(阳/阴性及可能性)、时序与变化修饰、以及子观察(children,递归同构)。

(c)图构建与实体映射(Graph Construction and Entity Mapping)。 把抽出的实体与区域对齐到预定义词表:词表以 PadChest、Chest ImaGenome 与 SNOMED-CT 为基础、经临床专家核验,含同义词表、层级与关系;映射时用 BioLORD(语义句向量模型)计算嵌入、取最近概念,以增强鲁棒性;再对区域做合并/简化。最终每个 observation 挂到对应的 region 节点上(带框),形成"region 节点 + observation 节点"双节点结构的场景图。

3.2 第二段:问答生成(Question-Answer Generation)

场景图是"源",问答是"流"。模板引擎由作者与放射科医师共同设计,围绕四类问题族生成问答对(问题族明细见 §5):

  • 一类问指征(为什么拍、该评估什么);
  • 一类问整体异常(这张片整体描述、是否异常、是否正常);
  • 一类问区域异常(某个解剖区域的描述、是否异常);
  • 一类问具体发现/疾病/器械(某发现位于何处、是否存在)。

答案构造是混合式:一部分走模板(用场景图标签填槽),一部分直接改写自报告原句。这使得答案既有模板的规整,又保留报告文本的临床细节与多样性——正是它区别于纯模板数据集(如 CheXinstruct)的关键。

3.3 第三段:质量评估与分级(Quality Assessment)

两套独立质控叠加:

(a)场景图质量(规则式):追踪六类质量项——region_quality、entity_quality、sentence_name_quality、change_quality、issue_level、localization_quality,每项映射到 A++ 至 B 的最高评级。

(b)问答质量(LLM 判官式):用 Llama 3.1 8B few-shot,就五个维度逐条独立评分——蕴含性(Entailment)、相关性(Relevance)、完整性(Completeness)、问题清晰度、答案清晰度,各维度给出从 A++(最佳)到 D(矛盾/不可理解)的分档。

(c)总评级与子集切分:综合场景图评级与当前问题所有答案的评级取最小值,得到每条 QA 对的总评级。据此切两个推荐子集:Pre-training grade(B 及以上)= 31,230,906 条,Fine-tuning grade(A 及以上)= 7,532,281 条;两子集均排除非正位片、剔除无正位片的检查,并剔除评估失败样本(约 20%,即 8,280,266 条 Unrated)。

3.4 为什么"先图后答"是关键

把报告先结构化成图、再从图出问答,堵住的是 LLM 直出方案的两个漏洞。其一,抗幻觉:直接让 LLM"看图说话式"生成问答,很容易编造不在报告里的发现;先建图则把"图上有什么"和"答案说什么"绑定,答案字段可回溯到图节点。其二,可定位:因为 region 节点天然带框,"在这张图上问某发现"时答案就能附上空间锚点,且阴性发现也因 region 存在而能被锚定——这是纯文本流水线做不到的。代价是流水线更长、更依赖上游定位模型的质量,这一点作者用定量验证(§7)来兜底。

3.5 流水线的工程实现:LLM 批处理为何是隐形关键

这条流水线要在 22.8 万篇报告上跑两级 LLM(70B 抽取 + 8B 评估),外加在 37 万张图上跑定位模型——工程难度不在算法,而在"大规模、鲁棒地调 LLM"。作者为此专门开源了一个 llm_processor 工具库(随 GitHub 仓库提供),用于分布式、可重试、抗失败的 LLM 批处理。理解这一点,能解释为什么数据集能有如此规模:它不是靠人海标注堆出来的,而是靠一套能"无人值守地把 LLM 当数据工人用"的工程设施。

具体而言,流水线实现有四个值得注意的工程点:

  1. 分批与幂等:把报告按检查切分成可独立处理的任务单元,失败单元可单独重试而不必重跑全量——这是敢在 20 万级规模上跑 LLM 的前提;
  2. 结构化输出约束:让 LLM 输出的不是自由文本,而是带字段的 observation 对象(名称、摘要、实体、区域、概率、变化、子观察),降低下游解析的歧义;
  3. 中间产物持久化:抽取结果先落盘成场景图数据(对应最终 scene_data.zip),再做问答生成,而非一条龙内存流转——既便于断点续跑,也让"图"成为可审计的中间真值;
  4. 并行度与成本权衡:本地环境(未调外部 API)意味着算力自备,因此批处理效率直接决定构建周期。

这四点共同构成了"数据集的工程护城河":方法可以被复述,但把这套流水线稳定跑通并把产物开放出来,本身就需要相当规模的工程投入。 这也是作者愿意把构建流水线(cxr_qba_extract)一并开源的原因——它把"方法论"变成了"可复现的工程资产"。

3.6 三条贯穿全流程的设计取舍

回看整条流水线,能提炼出三条贯穿始终的设计取舍,它们共同定义了 CXR-QBA 的性格:

取舍 选择了什么 放弃了什么 后果
结构 vs 规模 先建场景图,再从图批量生成 LLM 直出问答的"高多样" 抗幻觉、可定位,但答案带模板成分
覆盖 vs 精度 框覆盖解剖区域(高 IoT) 手工病灶级精确框(低 IoP) 高召回、低精度,需下游后处理
自动 vs 人工 LLM 抽取 + 规则/判官质控 临床标注员逐条复核 规模惊人,但质量有波动(含 20% 未评级)

理解这三条取舍,就能理解这份数据集"为什么长成这样"——它不是缺陷的堆砌,而是在"规模足够大、结构化足够强、成本足够低"三者之间反复权衡后的最优解。任何使用者拿着它去做任务,本质上都是在继承作者已经做出的这三项取舍,并针对自身需求补齐短板。

§4 数据规模硬数字

以下数字全部出自 PhysioNet v1.0.0 官方 Dataset Statistics 与 Directory Structure(抓取时点 2026-10-08),逐条与 GitHub README 及论文口径互证。

4.1 总量

指标 数值
问答对(QA pairs) 42,172,827
子答案(sub-answers) 90,915,200
问题(questions) 42,172,827
患者(patients) 65,317
检查(studies) 227,239
图像(images) 376,175
问题-图像对 70,045,778
答案-图像对 151,539,450
源报告(MIMIC-CXR) 227,827 篇
源图像(MIMIC-CXR-JPG) 377,110 张

4.2 训练/验证/测试切分

指标 Train Val Test Total
患者 64,524 500 293 65,317
检查 222,180 1,805 3,254 227,239
问答对 41,239,042 600,763 333,022 42,172,827
子答案 88,876,344 717,117 1,321,739 90,915,200

4.3 质量评级分布(Total)

评级 数量 占比(约)
A++ 1,368,001 3.2%
A+ 1,115,789 2.6%
A 5,347,580 12.7%
B 24,812,681 58.8%
C 700,747 1.7%
D 547,763 1.3%
Unrated(未评级) 8,280,266 19.6%

两个推荐子集:Pre-training grade(B 及以上)= 31,230,906 条;Fine-tuning grade(A 及以上)= 7,532,281 条。

4.4 词汇与文件规模

  • 发现类别 237 个、区域类别 311 个、定位解剖结构 257 个。
  • 文件目录(约 28 GB 量级):metadata/ 2.3 GB(七级元数据的 csv.gz 与 parquet 双版本 + dataset_info.json)、stats/ 4.5 GB、scene_data.zip 1.3 GB、qa.zip 7.5 GB、exports/ 12.4 GB、quality_mappings.csv 5 KB。
  • 元数据七级:patient / study / image / question / question-image / answer / answer-image——每级都给冗余双格式(.csv.gz 便于解读、.parquet 便于高速读取),并带唯一 ID 与筛选字段。

4.5 硬数字的双口径提示

论文对比表(Table)中 CXR-QBA 行的 “# QA-Pairs” 写作 32.6M,与官方 42,172,827 不一致——这是同一篇论文内的数字冲突,本条目采官方硬数 42,172,827,32.6M 存照于坑 4。另:摘要层反复出现 “42 million” 的约整口径,精确值以 Dataset Statistics 表为准。

4.6 七级元数据逐级说明

CXR-QBA 的元数据不是"一张大表",而是按实体层级拆分成的七级,每一级都有自己的计数与字段。理解这七级,才能正确地把问题、答案、图像三者 join 起来:

层级 文件名(示意) 一条记录代表 关键字段
patient patient_metadata 一位患者 患者 ID、性别、年龄组
study study_metadata 一次检查 检查 ID、患者 ID、采集描述、正位片有无
image image_metadata 一张影像(共 376,175 行) 图像 ID、检查 ID、视图体位、DICOM 元信息
question question_metadata 一个问题(共 42,172,827) 问题 ID、问题族、策略标识、问题文本
question-image question_image_metadata 一个问题与一张图的可问答关系(共 70,045,778) 问题 ID、图像 ID
answer answer_metadata 一条答案 / 子答案 答案 ID、问题 ID、答案文本、发现标签、区域标签、确定性、侧别、概率、时序、变化、评级
answer-image answer_image_metadata 一条答案与一张图的接地关系(共 151,539,450) 答案 ID、图像 ID、边界框

每一级都同时提供 .csv.gz(人类可读、便于快速检视)与 .parquet(列存、便于高速加载)两种格式,形成冗余但互补的读取路径。dataset_info.json 则集中记录全库级别的统计与版本信息。

4.7 一条答案记录里到底装了什么

以 answer 层的单条记录为例,它远不止"一句话",而是一个结构化的对象:

  • answer_id / question_id:定位这条答案属于哪个问题;
  • answer_text / sub_answer_text:主答案句与子答案句(层级化);
  • findings:该答案涉及的发现标签(取自 237 类发现词表),可多个;
  • regions:涉及的解剖区域标签(取自 311 类区域词表),可多个;
  • certainty:确定性分档(如 definite / probable / possible / uncertain);
  • laterality:侧别(左 / 右 / 双侧 / 不适用);
  • probability:该发现在该答案中的概率性描述(阳 / 阴 / 不确定);
  • temporal / change:时序与变化修饰(新发、加重、好转、稳定、陈旧等);
  • quality rating:该答案经 LLM 判官打出的 A++–D 评级。

正是这些字段让同一段自然语言答案可筛选、可聚合、可解释——例如可以只取"certainty ≥ probable 且 laterality = 右"的答案做侧别消融实验,而不必重新跑一遍 NLP。

4.8 场景图节点的字段结构

场景图(scene graph)是本数据集"最底层"的表示,scene_data.zip(1.3 GB)即存放于此。其节点结构可概括为:

  • region 节点:region_id、region_name(解剖区域名,映射到区域词表)、bbox(边界框坐标);
  • observation 节点:observation_id、parent_region(挂靠的 region)、name(发现名)、summary(摘要句,改写自报告)、entities(发现实体,映射到发现词表与 SNOMED-CT)、probability(阳性/阴性/可能性)、temporal、change、children(子观察,递归同构)、bbox(其自身或继承自 region 的框)。

由于 observation 可递归挂子观察,一张片子的描述能形成"区域 → 若干发现 → 每条发现的进一步细节"的树状结构。问答对正是从这棵树上"剪枝"生成的:问区域就给 region 节点的框,问发现就给 observation 节点的框,问阴性就保留阴性 observation 并附框。

4.9 为什么图像数是 376,175 而非 377,110

细心的读者会注意到两个"图像数":

  • 377,110:MIMIC-CXR-JPG 的实际 JPG 张数,是区域定位分割的输入全集;
  • 376,175:进入 CXR-QBA image 元数据表的图像数,是经过筛选后实际参与问答构建的图像数。

两者相差 935 张,源于构建过程中的过滤(如非正位片、定位或抽取失败的检查)。因此引用时须分清:讲"上游图像资源"用 377,110,讲"本数据集图像表规模"用 376,175。这同样是易被误读为"数字打架"的地方,实为上游全集与下游子集之别。

§4.10 数据构成深度拆解:从一张胸片到一条问答

要真正理解 CXR-QBA 的"体量"从何而来,需要把它的数据层级拆开看。举一个抽象但仍然真实的例子:某患者一次胸部检查,报告 FINDINGS 里写"右下肺见斑片状渗出影,较前片吸收,未见气胸"。这句话经 Llama 3.1 70B 抽取后,可能变成多个 observation:{片状渗出影 | 区域=右下肺 | 概率=阳性 | 变化=较前吸收}、{气胸 | 区域=右肺 | 概率=阴性}。每个 observation 挂到对应 region 节点(带 CXAS/组合派生的框),场景图就此成形。

接着模板引擎围绕这张图生成问题时,“区域异常"族会问"右肺野是否存在异常”,答案会挂上该区域的框;“整体异常"族会问"请描述这张胸片”,答案组织成整句;“具体发现"族会问"气胸位于何处”,答案给出"未见气胸"并附上一个阴性框。同一个 observation 会被多个问题族复用——这正是问答对数(4220 万)远多于报告数(22.8 万)、也多于场景图观察数的原因。

层级答案的展开。一条主答案下挂子答案:主答案给出总体判断,子答案给出细节(细节子答案)与相关信息(related information 子答案)。全库 90,915,200 条子答案 / 42,172,827 条问答对 ≈ 平均每题 2.16 条子答案。answer_metadata 里的 answer_type(main / details / related)与 answer_level(层级深度)两个字段,让使用者可以按需只取主答案或展开全层级——这是它"多粒度"承诺的落地机制。

四条计数链的自洽性核验:

  • 问题数(42,172,827)== 问答对数(42,172,827)——一问一答对;
  • 问题-图像对(70,045,778)> 问题数——部分问题关联多张图像(如同患者多视图);
  • 答案数(90,915,200)> 问答对数——层级展开所致;
  • 答案-图像对(151,539,450)> 答案数——答案与图像的多对多关联。

这四条计数链在本条目中逐条列明(§4.1、附录 B),便于使用者按自身需求选择读取哪一级元数据,而非盲目下全量。

§4.11 一个被低估的数字:为什么"子答案"才是训练信号

多数人看 CXR-QBA 会盯着 42,172,827 这个总数,但真正决定它训练价值的是 90,915,200 条子答案。原因在于:如果只训练模型输出主答案,模型学到的仍是"一段文字";只有把子答案的层级结构、以及挂在每个子答案上的标签与框纳入监督,模型才被迫学会"分层输出 + 逐层定位"——这正是 Structured VQA 任务要考的能力。因此使用时若只读 question_metadata 而不读 answer_metadata,会丢掉这个数据集相对纯报告数据集最核心的增量。

同理,quality 字段存在于 study / question / answer 三级(附录 B):study 级反映场景图整体质量,question 级反映问题质量,answer 级反映每条答案质量。真正科学的过滤策略是沿父级向下取最小评级(作者正是这么算总评级的),而非只看单一层级——否则可能留下"问题很好但某条子答案很差"的样本。

§4.12 规模在胸片 VQA 谱系中的横向定位

把 CXR-QBA 放进"胸片问答/描述"数据集序列,规模与结构化程度的关系一目了然:

数据集 规模量级 答案形态 定位 结构化标签
VQA-RAD 千(3.5K) 短答案 无 无
SLAKE 万(14K) 短答案 无 语义标注
MIMIC-CXR-VQA 十万(377K) 短答案 无 无
Medical-CXR-VQA 十万(780K) 短答案 无 无
CheXinstruct 百万(8.5M) 短答案(模板) 无 无
CXR-QBA 千万(42.17M) 整句、层级 有(逐子答案 + 阴阳均标) 有(发现/区域等)

结论有两面:在"规模 × 结构化 × 定位"的三维空间里,CXR-QBA 目前没有同量级对手;但它为此付出的代价是自动化构建带来的质量波动(§3.3、坑 2、坑 8),这一点在横向对比时不能忽略——VQA-RAD 与 SLAKE 虽小,却是临床标注员手写、答案可靠度更受认可。数据集选型时,规模从来不是唯一变量。

§5 任务与标注:四类问题、三种特异点

5.1 四类问题族(Question Families)

CXR-QBA 的问题不是随机生成,而是按临床推理的层级组织成 4 类问题族,每类下再有具体的"问题策略(question strategy)"标识符:

问题族 含义 代表问题策略(标识符)
Indication(指征) 为什么做这次检查、该评估什么 indication(A_indication)
Study Abnormality(整体异常) 对整张片的整体描述与是否异常 describe_all(B01)、describe_abnormal(B02)、is_abnormal(B03)、is_normal(B04)、describe_subcat(B08)、is_abnormal_subcat(B10)、describe_device(B12)、has_devices(B13)、describe_acquisition(B14)、describe_imaging_artifacts(B15)
Region Abnormality(区域异常) 针对某解剖区域的描述与判断 region_abnormal、describe_region(C01)、describe_abnormal_region(C02)、is_abnormal_region(C03)、is_normal_region(C04)、describe_region_device(C07)、has_region_device(C08)
Finding(具体发现) 针对某发现/疾病/器械的定位与存在性 finding、where_is_device(D07)

5.2 各问题族的规模(Total 口径精选)

问题策略(标识符) 问题数(Total)
Indication(A_indication) 218,294
Abnormal(abnormal,整体异常) 11,915,384
describe_all(B01) 208,433
describe_abnormal(B02) 208,433
is_abnormal(B03) 208,433
Region(region_abnormal) 20,620,708
describe_region(C01) 2,827,147
describe_abnormal_region(C02) 2,827,177
is_abnormal_region(C03) 2,832,066
is_normal_region(C04) 2,831,838
describe_region_device(C07) 4,650,283
has_region_device(C08) 4,652,197
Finding(finding) 9,418,441
where_is_device(D07) 322,056

(完整的问题类型 × 策略表见本条目附录 A。)

5.3 三种特异点(相对既有胸片 VQA 数据集)

特异点一:层级化整句答案。 答案不是单词/是否,而是报告风格的完整句子,且分层级:主答案 + 若干子答案(承载细节与相关信息),全库共 90,915,200 条子答案。这种"多粒度、层级化"结构使同一问题可在不同细节层级上被评估。

特异点二:逐子答案边界框 + 正负发现均定位。 边界框挂在每一个子答案上(不是仅检查级 ROI),且阳性发现与阴性发现都定位。后者尤其罕见——“右肺野未见异常"也会得到一个框,从空间上告诉模型"这里查过了、是干净的”,这对训练模型的系统性排查能力有直接价值。

特异点三:结构化标签。 每条答案附带发现(237 类)、区域(311 类)、确定性、侧别、概率、时序与变化等标签,且这些标签可映射回受控词表(SNOMED-CT 等),使答案可筛选、可聚合、可解释。

5.4 提出"结构化 VQA 任务"与新指标

CXR-QBA 不只给数据,还提出一个新任务范式——Structured VQA Task(结构化 VQA 任务):模型回答时不能只输出一段文字,还须输出结构化的标签序列(确定性、侧别、区域等)与边界框,从而把模型的"推理依据"显式暴露出来,便于临床核查。配套指标 RadStrucVQA 随 GitHub cxr_qba_train 提供(详见 §7)。

5.5 三类标注粒度:检查级、区域级、发现级

把四类问题族再抽象一层,可以看清 CXR-QBA 的三级标注粒度:

粒度 对应问题族 标注内容 典型问题
检查级(Study-level) Indication、Study Abnormality 整张片的指征、整体描述、是否异常 “这张片整体有没有异常?”
区域级(Region-level) Region Abnormality 某解剖区域的描述与判断(带区域框) “右下肺有没有异常?”
发现级(Finding-level) Finding 某具体发现/疾病/器械的存在性与位置(带发现框) “气胸在哪里?”

三级粒度自上而下递进:检查级给全局印象,区域级给定位,发现级给最细的实体判断。这种层级设计使同一临床判断可在不同细节层级上被检验——既能问粗(有无异常),也能问细(某个具体发现落在哪个区域)。

5.6 正负样本与阴性框的价值

CXR-QBA 的阴性接地(negative grounding)值得单独说明,因为它是最被低估的设计之一。传统检测/定位数据集几乎只标阳性目标,导致模型学不到"什么样的区域是干净的"。CXR-QBA 把阴性观察也挂到 region 节点上并给出框,等于给模型提供了显式的阴性空间监督:

  • 对检测任务:阴性框是天然的难负样本(hard negative)——它们与阳性框共享同样的解剖语境,迫使模型区分"有"与"无";
  • 对报告生成:阴性框让模型知道"该说没问题的位置在哪里",避免只描述病灶而漏掉系统排查;
  • 对可解释性:临床审阅者能看到模型"排查"覆盖了哪些区域,而不只是它"发现"了什么。

这也是为什么 §7 中 CXR-QBA 的框覆盖率(IoT 0.87–0.94)特别高——因为它不只是要覆盖病灶,还要覆盖筛查范围。

5.7 与"报告生成"任务的关系

需要澄清一个常见混淆:CXR-QBA 虽带报告风格答案,但它不是报告生成数据集。区别在于:

维度 报告生成数据集 CXR-QBA
任务形态 一次前向生成整篇报告 按问题追问、逐问作答
交互性 无(固定的 图 → 报告 映射) 有(同一张片可被问多个问题)
监督粒度 检查级 检查 / 区域 / 发现三级
定位 通常无或仅 ROI 逐子答案框 + 阴性框

因此,CXR-QBA 可以辅助报告生成(把 VQA 答案拼装成结构化报告),但它的本职是问答与定位。把它当报告生成数据集用,会浪费其交互性与粒度优势。

§6 获取、许可与版本链

6.1 获取方式:PhysioNet 凭证访问(Credentialed Access)

CXR-QBA 的下载入口是 PhysioNet:

  • 数据集页:https://physionet.org/content/mimic-ext-cxr-qba/1.0.0/
  • 代码与工具:GitHub https://github.com/philip-mueller/mimic-ext-cxr-qba

获取门槛(三步缺一不可):

  1. 拥有 PhysioNet credentialed 账户(需完成身份与机构核验);
  2. 签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0(DUA);
  3. 完成 CITI “Data or Specimens Only Research” 培训。

PhysioNet 页面明文:“Only credentialed users who sign the DUA can access the files.”(仅签署 DUA 的 credentialed 用户可访问文件。)这与 HuggingFace/Kaggle 式的公开直链下载有本质区别——它是受限访问的医学数据集,这也是它派生自 MIMIC-CXR 的必然结果。

地区策略存照:抓取时点(2026-10-08,境外出口)PhysioNet 页面显示 “Data Not Available — Data is not available in your region due to legal or policy restrictions.”。这属于 PhysioNet/MIMIC 体系一贯的出口区域策略,非本数据集特有缺陷,不影响其真实性与可获取性判定。

6.2 许可层次

层 许可/条款
数据集本体 PhysioNet Credentialed Health Data License 1.5.0
使用协议 PhysioNet Credentialed Health Data Use Agreement 1.5.0
必需培训 CITI — Data or Specimens Only Research
论文本体 CC BY 4.0(OpenReview 页面标注)
代码仓库 GitHub 仓库内置独立 LICENSE 文件(代码与数据集许可分离)

父集许可连带:作为 MIMIC-CXR 的派生集,使用 CXR-QBA 还须一并遵循父数据集条款——PhysioNet 页面列出的 Parent Projects 为 MIMIC-CXR Database v2.1.0、MIMIC-CXR-JPG v2.1.0、Chest ImaGenome Dataset v1.0.0,并注明"Please cite them when using this project"。

6.3 版本链

版本 发布日期 DOI
v1.0.0 2025-07-22 10.13026/8qmz-da41
v1.0.1(latest) 2026-08-25 10.13026/6193-he91

两版本 DOI 不同,引用时须指明版本。本条目硬数字采 v1.0.0;v1.0.1 的变更明细未公开,列为遗留疑点。

6.4 下载后怎么用

GitHub 提供三套工具(对应仓库三个目录):

  • cxr_qba_utils:加载、筛选、导出数据集(可导出为 CSV / HDF5,供 seq2seq 训练,或转成分类/目标检测数据集格式)。适合在自己的代码里直接消费场景图与问答对。
  • cxr_qba_train:训练与评测示例 VQA 模型,并含 RadStrucVQA 指标实现。适合直接跑 Structured VQA 任务。
  • cxr_qba_extract:从零复现数据集构建流水线。适合要重建数据集、理解构建过程,或把流水线迁移到其他数据源的研究者。

此外仓库还提供一个 llm_processor 工具库,用于大规模、分布式、鲁棒的 LLM 批处理(作者自己构建数据集时即用此)。

6.5 共享的伦理与数据处理声明

作者声明:本数据集为 MIMIC-CXR 派生集,未采集任何新的患者数据,伦理审批继承自父 MIMIC。全部数据处理、生成与训练均在本地安全环境内完成——包括 LLM、定位模型、嵌入模型的使用,以及所有(视觉-语言)模型的训练与评测;没有任何数据被发送到外部 API 或由第三方服务处理。这一点对含患者影像的敏感数据集尤为关键。

6.6 从申请到可用的实操路径

把获取流程拆成可执行的步骤,大致如下:

  1. 确认资格:申请者须为具名研究者,通常要求有机构背书(用于身份核验);
  2. 完成 PhysioNet 凭证认证:在 PhysioNet 上提交 credentialed access 申请,完成身份/机构核验;
  3. 完成 CITI 培训:完成 “Data or Specimens Only Research” 课程并通过考核,取得证书;
  4. 签署 DUA 1.5.0:在 PhysioNet 上电子签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0;
  5. 签署父集相关协议:MIMIC-CXR 及其派生集的既有 DUA 须一并遵循;
  6. 下载:通过 PhysioNet 项目页面获取文件(v1.0.0 或 v1.0.1,注意版本 DOI);
  7. 本地使用:按本地安全环境规范存储与使用,做好访问控制与去标识化维护。

提示:CITI 培训与身份核验通常需要数天到数周,走完流程再规划算力与数据管道,避免"数据等模型、模型等数据"的双向空转。

6.7 存储与加载的工程建议

CXR-QBA 约 28 GB,怎么装、怎么读有讲究:

  • 最小可用集:若只做小规模实验,可只下 metadata/(2.3 GB)+ qa.zip(7.5 GB),跳过 stats/(4.5 GB)与 exports/(12.4 GB);
  • 高速读取:优先用 .parquet(列存,join 快)而非 .csv.gz(解压 + 解析慢);
  • 导出形态:exports/ 提供 CSV 与 HDF5 两种下游格式,前者便于检视、后者便于大数据训练;cxr_qba_utils 可直接产出目标检测/分类数据集格式;
  • 场景图:scene_data.zip(1.3 GB)解压后按检查组织,适合按需加载而非全量驻留内存;
  • 磁盘规划:解压后占用大于压缩包总和,建议预留 2–3 倍空间。

6.8 版本选择建议

面对 v1.0.0 与 v1.0.1,实践中怎么选?

  • 复现论文/对齐全文中数字:用 v1.0.0(本条目所有硬数字的来源),DOI 10.13026/8qmz-da41;
  • 新项目/新实验:可用 v1.0.1(latest,DOI 10.13026/6193-he91),但须注意其变更未公开,若遇数字与本文不符,先排查版本差异;
  • 可复现性要求高的场景:无论选哪个版本,引用时务必写明版本 DOI,因为两者 DOI 不同,混引会导致他人无法复现你的实验。

§7 评测与基准:MCC 与 IoU 双线对照

CXR-QBA 的评测分两层:自动质量评估(§3.3,给每条 QA 打分)与定量验证(本节点,把标签与框拿去和外部金标准比对)。后者是判断"这个自动数据集有多可信"的硬证据。

7.1 发现标签验证(Finding Tags):MCC 对 Chest ImaGenome

把场景图衍生的检查级标签,与两套参照比对——MIMIC-CXR-JPG 的放射科标注(13 个 CheXpert 类)与 CXR-LT 2024 金标准(task 2 测试集,含 12 个罕见长尾类),指标为 Matthews 相关系数(MCC)。

对照一:vs MIMIC-CXR-JPG Test

类集合 CXP-5 CXP-7 CXP-13 Micro
Ours(场景图) 0.80 0.81 0.69 0.71
Chest ImaGenome 0.78 0.80 0.66 0.67

对照二:vs CXR-LT 2024 Gold

类集合 CXP-7 CXP-13 LT-only CXR-LT Micro
Ours(场景图) 0.65 0.57 0.71 0.64 0.67
Chest ImaGenome 0.65 0.56 0.59 0.58 0.64

解读:CXR-QBA 场景图在两组对照上均(微幅)胜过 Chest ImaGenome,Micro MCC 分别 0.71 vs 0.67、0.67 vs 0.64;长尾类(LT-only)提升约 20%(0.71 vs 0.59)——这正是它 237 个细粒度发现标签的价值所在:能捕捉到粗类体系漏掉的罕见发现。

7.2 边界框验证(Bounding Boxes):IoU/IoP/IoT

把发现框转为检查级像素掩码(对含该发现标签的阳性观察节点框取并集),与两套手工标注比对:MS-CXR(选 8 类中有正样本的 6 类)与 REFLACX(选 29 类中有正样本的 18 类)。指标为像素级 IoU、IoP(Intersection-over-Prediction)、IoT(Intersection-over-Target),30% 阈值下微平均。

对照三:vs MS-CXR

指标 IoU@30 IoP@30 IoT@30
Ours(场景图) 0.51 0.56 0.94
Chest ImaGenome 0.45 0.48 0.98

对照四:vs REFLACX

指标 IoU@30 IoP@30 IoT@30
Ours(场景图) 0.45 0.54 0.87
Chest ImaGenome 0.42 0.46 0.95

解读:IoU 上 CXR-QBA 略优于 ImaGenome。低 IoP 是固有特征——框往往偏大,因为框源自报告提及的解剖区域(如"右下肺"整个区域),而手工标注更精确;高 IoT 说明框能较好地覆盖住发现的真实位置。作者的对比亮点是:CXR-QBA 的 IoP 高于 ImaGenome(框更精确),归功于其 311 个细粒度区域类——区域划得越细,挂在区域上的框就越贴合目标。

7.3 Structured VQA 任务与 RadStrucVQA 指标

除数据本身,CXR-QBA 的评测贡献是提出了任务范式的转变:从"输出一段答案"转向"输出文本 + 结构化标签 + 边界框"。为此论文提出 RadStrucVQA 指标(GitHub cxr_qba_train 提供实现),用于同时衡量答案文本质量与结构化成分(标签、框)的正确性。论文声称在该任务上,用 CXR-QBA 训练的 baseline 模型显著优于通用医学 MLLM(正文提及 MAIRA-2、LLaVA-Med 等作为对照)。

7.4 与既有胸片 VQA 数据集的横向对照

数据集 边界框 答案结构 #QA 对 问题构造 答案构造
CXR-QBA(本条目) 有,逐子答案 多粒度、层级、整句 + 标签 32.6M(表中)/ 42.17M(官方) 模板 模板 + 报告改写句混合
VQA-RAD 无 短答案 3.5K(含非 CXR) 临床标注员 临床标注员
SLAKE 无 短答案 14K(含非 CXR) 临床标注员 临床标注员
MIMIC-CXR-VQA 无 短答案 377K 模板(+LLM 改写) 模板(+LLM 改写)
Medical-CXR-VQA 无 短答案 780K 模板 模板
CheXinstruct 无 短答案 8.5M 模板 模板

与 grounded 报告数据集的区别:MedTrinity-25M、MAIRA-2 等虽提供接地的胸片描述,但只给检查级描述与少量 ROI,没有个体化问题,也没有类别/标签映射,因此不能直接用于 QA 任务。CXR-QBA 给的是逐子答案、问题特异的框,并带发现/区域标签映射——这是它自居"最精细胸片 VQA 数据集"的底气。

7.5 评测结果的正确读法

上述四组对照(两标签 + 两框)容易被误读,这里给出三条读法:

读法一:看 Micro MCC 的"小差距、大意义"。 0.71 vs 0.67、0.67 vs 0.64 的绝对差看似不大,但 MCC 在 0.6–0.7 区间已属高难度区,且这是在全类集合上的微平均,任何 0.03–0.04 的提升都意味着成千上万条标注的改判。更关键的是 LT-only(长尾单类)从 0.59 到 0.71 的约 20% 提升——长尾类恰是粗类体系(CheXpert 13 类)系统性漏检之处,CXR-QBA 的 237 类细粒度词表正是在这里发力。

读法二:IoU 低不等于质量差,要配合 IoP/IoT 一起读。 0.51 / 0.45 的 IoU@30 在像素级定位里不算高,但它的 IoT 高达 0.94 / 0.87(目标几乎被完全覆盖),IoP 中等(0.56 / 0.54)——三点合起来刻画的是"框偏大但覆盖全、不遗漏"的画像。这与它"框源自报告提及的解剖区域"的设计完全一致。若下游任务要求高精度框,可在 CXR-QBA 框内再做细化;若下游要求高召回,CXR-QBA 的框已经足够。

读法三:与 ImaGenome 的对比要分维度看。 在 IoT 上 ImaGenome 更高(0.98 vs 0.94、0.95 vs 0.87),因为它的框更保守、更小;但在 IoU 与 IoP 上 CXR-QBA 更高,因为它的区域类更细(311 类)、框更贴合。因此不能说"谁绝对更好",只能说 CXR-QBA 在覆盖-贴合平衡上更优,ImaGenome 在精确覆盖上更保守。

7.6 论文声称的性能优势与其边界

论文称,在 Structured VQA 任务上,用 CXR-QBA 训练的 baseline 模型显著优于通用医学多模态大模型(正文以 MAIRA-2、LLaVA-Med 等为对照)。对这一结论,需注意三点边界:

  1. 对照的公平性:通用 MLLM 未在 CXR-QBA 上专门微调,属于"零样本/少样本"对照,差距部分来自任务适配而非模型能力本身;
  2. 任务与指标的自洽性:Structured VQA 与 RadStrucVQA 均由作者提出,是在"自家标尺"上取胜,跨标尺比较仍需第三方复现;
  3. 可复现性:指标实现随 GitHub cxr_qba_train 开源,具备复现条件,这是加分项。

综合看,论文贡献的稳妥表述是:CXR-QBA 提供了一个可行且规模空前的结构化胸片 VQA 训练资源,在其定义的任务上 baseline 优于通用对照;至于它是否代表"胸片 VQA 的最优解",应留给后续独立评测。

7.7 质量评级与下游性能的关系(使用提示)

值得注意的是,论文与文档并未声称"评级越高、下游一定越好"——评级是数据质量代理指标(衡量答案是否被正确蕴含、是否相关、是否完整、问题与答案是否清晰),而非下游任务性能的直接保证。实践中建议:

  • 先用 Pre-training grade(B 及以上,31.2M) 做大规模预训练;
  • 再用 Fine-tuning grade(A 及以上,7.5M) 做高质量微调;
  • 若资源充裕,可用 A++/A+ 子集(合计约 248 万条) 做小规模高保真对齐或人工抽检基线;
  • 用 C 级与 D 级 做"噪声鲁棒性"或"困难样本"分析,而非训练主力。

这种"分级使用"的思路,正是 CXR-QBA 把它那套评级体系一并释出的最大用意——让使用者在"规模"与"质量"之间自己选择工作点。

7.10 定量验证的读法:三条曲线背后的工程真相

CXR-QBA 公布的验证数字看似平铺直叙,但每一组都对应一个工程决策,读懂了才能判断它适不适合自己的任务。

第一组(发现标签 MCC)告诉我们"结构化有用"。 CXR-QBA 的 Micro MCC 在两组对照上分别达 0.71 与 0.67,均略胜 Chest ImaGenome(0.67 / 0.64)。真正拉开差距的是长尾类(LT-only 0.71 vs 0.59,约 +20%)——粗类体系(如 CheXpert 13 类)把大量罕见发现糅进"其他",而 CXR-QBA 的 237 个细粒度发现标签能把这些罕见发现单独锚定。若你的任务涉及罕见病或长尾发现识别,这组数字是最直接的选型依据。

第二组(边界框 IoU/IoP/IoT)告诉我们"框的性质"。 三个指标要连起来读:IoT 高(0.87-0.94)说明框能覆盖目标——不会漏;IoP 低(0.54-0.56)说明框常常大于目标——会多框;IoU 居中(0.45-0.51)是前两者的折中。低 IoP 的根因是设计选择:框来自报告提及的解剖区域,而非手工勾画的病灶精确轮廓。这带来一个实用推论——把 CXR-QBA 的框直接当分割掩码用会偏大,做精确病灶分割需自行后处理,或改用 311 类细粒度区域以缩小框。

第三组的隐含信息:IoP 反而优于 ImaGenome。 尽管整体框偏大,CXR-QBA 的 IoP(0.56 / 0.54)却高于 ImaGenome(0.48 / 0.46)——说明它的框相对更贴合、更少溢出。作者将其归因于更多的细粒度区域标注。这组对比也间接证明了"区域划得越细、框越精确"这一工程直觉。

7.11 Structured VQA 任务的评估难点

RadStrucVQA 要同时评估三样东西——答案文本、结构化标签、边界框——本身就带来评估挑战:文本可做语义匹配,但标签与框是离散/空间量,二者如何加权成一个分数?论文提出了该指标的实现(GitHub cxr_qba_train),但对其内部权重的具体设计,PhysioNet 页面未展开,需读论文正文与代码(列为遗留疑点)。对使用者的建议是:不要只信一个聚合分数,而应拆开看文本、标签、框三个子分数,因为不同任务的瓶颈往往只在一项上(如报告生成任务更在乎文本、定位任务更在乎框)。

7.12 与"接地报告生成"数据集的评测差异

MAIRA-2、MedTrinity-25M 这类数据集也做"图像—文本"接地,但其评测通常围绕报告级文本相似度与少量 ROI 命中率。CXR-QBA 的评测粒度更细:逐子答案的语义 + 逐发现类的标签 MCC + 逐类像素级的框 IoU。这带来一个直接好处——它的验证结果可以与大量既有胸片 CXR 基准(MS-CXR、REFLACX、CXR-LT)直接对齐,无需重新定义指标;代价是评测代码与数据管线更复杂。

§7.8 使用手册:从拿到数据到跑通一个 baseline

假设你已通过 PhysioNet 凭证流程拿到数据,下面是一条从零到跑通的最短路径(基于官方工具,非本条目杜撰):

第一步:确认版本与完整性。 核对下载的是 v1.0.0 还是 v1.0.1,记录对应 DOI;解压后应看到 metadata/、stats/、scene_data.zip、qa.zip、exports/、quality_mappings.csv 六大块(§4.4)。先读 metadata/dataset_info.json,它给出所有标签的取值域,是理解字段含义的入口。

第二步:用 cxr_qba_utils 加载与筛选。 该工具包支持按层级(patient / study / question / answer)筛选。典型筛选逻辑是:先按 quality 取 Pre-training(B+)或 Fine-tuning(A+)子集,再按 question_type 选任务相关的问题族(如只想做区域异常判断,就取 region 相关策略)。工具支持导出为 CSV / HDF5(seq2seq 训练)或转成分类/检测格式。

第三步:用 cxr_qba_train 训练与评测。 该工具包提供示例 VQA 模型训练脚本与 RadStrucVQA 指标。若要用自己的模型,可只用其数据加载与指标部分,训练循环自写。

第四步:若要复现或迁移流水线,用 cxr_qba_extract。 该工具含 Llama 信息抽取、BioLORD 实体映射、CXAS 定位的完整代码,作者明言可迁移到其他数据源。注意其 llm_processor 依赖大规模 LLM 批处理能力。

第五步:务必遵守的合规动作。 引用时一并引用三个父集(MIMIC-CXR、MIMIC-CXR-JPG、Chest ImaGenome);不得再分发原始影像或报告;产出模型/论文中注明数据来源与版本 DOI。

7.9 常见选型问题速答

问:我要做"胸片是否正常"的二分类,能用它吗?
能,但可能"杀鸡用牛刀"。CXR-QBA 的 is_normal / is_abnormal 类问题(B03/B04)可直接聚合出检查级二分类标签,但更专门的数据集(如带 CheXpert 标签的 MIMIC-CXR-JPG)可能更省事。用 CXR-QBA 的价值在于:你可以同时拿到"判断 + 定位 + 理由文本"。

问:我要做病灶检测(object detection),框够用吗?
需谨慎。§7.5 已指出框偏大(低 IoP)。若做粗粒度检测(区域级)尚可;若做精确病灶检测,建议以 311 类细粒度区域替代,或把 CXR-QBA 作为预训练、再用 MS-CXR 等精标数据微调。

问:我要做报告生成,它的整句答案能当训练目标吗?
可以,但要过滤:只取 from_report=True(直接来自报告句)的答案作为"报告风格"目标更稳;模板答案风格偏规整,直接混入可能引入模板腔。这正是坑 2 提醒的用法。

问:我能拿它做多模态预训练吗?
这是它的主场。用 Pre-training grade(B+,31,230,906 条)+ 问题-图像对,可构造大规模图文对;其量表(answer-image 151M 关联)足以支撑千万级对的预训练。

问:标签能直接映射到 CheXpert / SNOMED 吗?
发现标签参考了 CheXpert(13 类)与 SNOMED-CT 体系并经专家核验(§3.1c、§7.1),可做映射;但 237 类到 13 类的聚合会丢失长尾信息——若下游只需粗类,聚合即可;若在意长尾,保留细类。

§8 生态、互链与库内位置

8.1 它在数据谱系里的位置

理解 CXR-QBA,最快的办法是把它放进"MIMIC-CXR 派生族谱"里看:它位于最下游——父集是报告与图像,它是从报告里"长出来"的问题与答案。

MIMIC-IV(临床数据库)
   └── MIMIC-CXR(227,827 篇放射报告 + DICOM 影像)
         ├── MIMIC-CXR-JPG(377,110 张 JPG,从 DICOM 转码)──┐
         └── Chest ImaGenome(解剖区域框 + 场景图)──────────┤
                                                              ▼
                                         【CXR-QBA】(本条目)
                              场景图 + 问题-框-答案三元组
                                                              │
                     ┌────────────────────────────────────────┤
                     ▼                                        ▼
        MS-CXR(定位基准,用作框验证)           CXR-LT 2024(长尾金标准,用作标签验证)

上游依赖(缺一不可):

  • MIMIC-CXR(库内 rid 16):提供 227,827 篇自由文本放射报告,是场景图信息抽取的原料;
  • MIMIC-CXR-JPG(库内 rid 617):提供 377,110 张 JPG 胸片,是区域定位(CXAS 分割)的输入图像;
  • Chest ImaGenome(父项目之一):提供部分解剖结构框,参与 257 个定位结构的构建。

下游 / 同级互验:

  • MS-CXR(库内 rid 340):句-框对定位基准,论文取其中 8 类、有正样本的 6 类验收 IoU;
  • CXR-LT 2024(库内 rid 657):长尾多标签金标准,论文取其 task 2 测试集验收长尾类的 MCC。

8.2 库内互链条目清单(可直接做双链)

相关条目 rid 关系性质
mimic-cxr 16 直接父集(报告与影像源头)
mimic-cxr-jpg 617 直接父集(图像来源,377,110 张)
mimiciv 592 上游临床数据库
mimic-iv-clinical-database 4 上游临床数据库(英文名条目)
ms-cxr 340 论文框验证金标准
cxr-lt 657 论文长尾标签验证金标准
chexmask-cxr-segmentation-data 602 同族胸片分割掩码
lung-segment-mimic-cxr 613 同族 MIMIC-CXR 肺分割
image-embeddings-mimic-cxr 611 同族 MIMIC-CXR 表征
mimic-cxr-ext-ils 616 同族 MIMIC-CXR 派生条目
vindr-cxr 125 广义胸片数据集
covidx-cxr 197 广义胸片数据集(新冠)
cxr-pro 608 广义胸片数据集

8.3 它区别于同一生态里的哪几个"近邻"

最容易混的是三个:

近邻 与 CXR-QBA 的关键差异
MIMIC-CXR-VQA(377K) 只有短答案、无框、无标签映射;规模小两个数量级
MIMIC-CXR-JPG(结构化标签) 给的是检查级 CheXpert 标签,没有"问题",不能直接做 QA
Chest ImaGenome(场景图) 也有场景图,但为描述服务;CXR-QBA 在其基础上补出问题、层级答案、模板化 QA 与质量分级

一句话定位:CXR-QBA = Chest ImaGenome 的场景图 × 放射科模板 × 42M 问题-框-答案三元组 × 质量分级子集。

8.4 五个典型使用场景

CXR-QBA 能被用于的任务不止一种,以下是五条最现实的使用路径,各有其"该取哪部分数据"的建议:

场景一:多模态大模型预训练。 取 Pre-training grade(B 及以上,31,230,906 条) 的问答对与问题-图像对(70,045,778),构造大规模图文对。此时不必在意逐条质量,要的是量与多样性;用问题-图像对而非答案-图像对可显著降低图文对的平均长度。

场景二:胸片 VQA 微调。 取 Fine-tuning grade(A 及以上,7,532,281 条),并进一步按问题族筛选(如只做区域异常判断就取 Region 族)。这部分数据质量经 LLM 判官验证,适合做高保真微调。

场景三:病灶检测 / 定位。 取 answer 层的边界框与区域标签,把发现框转成检测框。注意框偏大(见坑 8),若要求精确框需用 MS-CXR 类精标数据补充或后处理。

场景四:报告生成 / 结构化报告。 取 from_report=True 的整句答案作为报告风格目标,把多条问答答案拼装成结构化报告。子答案层级天然适合做"分层生成"训练。

场景五:评测基准构建。 用其 Structured VQA 任务与 RadStrucVQA 指标,把自家模型放到统一标尺上;或直接用其与 MS-CXR / REFLACX / CXR-LT 的对齐关系做定位/标签评测。

8.5 生态层面的三条风险提示

风险一:单点依赖 MIMIC-CXR。 CXR-QBA 的全部数据来自 MIMIC-CXR,因此继承了 MIMIC 的人群偏差(单一医疗中心、特定人群构成)与访问门槛。若研究面向多中心、跨人群泛化,需注意这一局限。

风险二:上游定位模型的质量天花板。 框的质量上限由 CXAS 与 Chest ImaGenome 决定。若上游分割在某一解剖区域表现差,该区域的框与问答也会受影响——这是"自动派生"的固有传导风险。

风险三:版本变更不透明。 v1.0.0 → v1.0.1 的具体改动未公开,跨版本复用同一实验脚本可能得到不同结果。建议固定版本、固定 DOI,并在论文方法章明确标注。

8.6 一句话放进数据地图

如果把胸片 AI 的数据生态画成一张地图,CXR-QBA 的位置是——站在 MIMIC-CXR 这座"原料山"脚下,把报告里的隐含结构挖出来、铸成"问题-框-答案"的砖块,再把这些砖块同时供给预训练、微调、定位、报告生成四条生产线。它既是数据集,也是一套可复用的方法论模板。

8.7 库内互链的引用规范建议

在千方病案医数集内做跨条目互链时,建议遵循以下规范,以保证读者不被相近名称误导:

  1. 互链条目一律附 slug 与 rid(本文 §8.2 表格即按此格式),便于机器解析与人工核对;
  2. 同名不同物必须辨析:如 mimic-cxr-ext-ils(rid 616)与本条目名称形近但任务不同(前者非问答数据集),互链须加一句区别说明;
  3. 血缘与验证分开标注:父集(MIMIC-CXR / MIMIC-CXR-JPG / Chest ImaGenome)标注为"直接父集",MS-CXR / CXR-LT 标注为"论文验证金标准",二者性质不同不可混谈;
  4. 慎用"同一数据集的不同版本"表述:本条目与库内其他 MIMIC-CXR 派生条目并非版本关系,而是不同团队/不同任务各自构建的独立条目;
  5. 引用父集时同步注明 DUA 连带:凡引用 MIMIC-CXR 系条目,提醒读者存在共同的凭证访问与数据使用约束。

8.8 它填补的库内空白

在千方病案医数集已收录的胸片条目里,覆盖了不少"图像层"(MIMIC-CXR-JPG)、“标签层”(CXR-LT)、“分割层”(chexmask、lung-segment)与"表征层"(image-embeddings)资源,但**“交互式问答 + 逐子答案定位 + 结构化标签"这一层此前是空白**。CXR-QBA 的入库,把库内胸片资源的覆盖从"看什么”(分类/分割)推进到"问什么、答什么、依据在哪"(VQA/grounding),补上了临床推理监督这一环。这也是本条目被收录的核心理由——它让数据集条目族从"静态标注"扩展到了"可交互监督"。


§9 使用避坑与注意事项

以下 8 条是使用本数据集时最容易踩的坑,按"踩中概率"从高到低排列。

坑 1:把「Total 42.17M」当成"训练可用规模"

现象:一上来就把 42,172,827 条 QA 全量加载进 dataloader。

真相:42.17M 是 Total(含全部质量等级)。真正为训练分级的是 Pre-training grade(B 或以上)31,230,906 与 Fine-tuning grade(A 或以上)7,532,281。若目标是"高质量微调",应该用 7.5M 子集而不是 42M 全集——后者里有 8,280,266 条 Unrated + 若干 C 级(700,747)/D 级(547,763),混入会稀释信号。

建议:先明确目标——预训练用 B 以上(31.2M),微调/评测用 A 以上(7.5M),做消融或"脏数据鲁棒性"实验才用 Total。

坑 2:以为答案是"是否 / 单词",结果被整句答案卡住

现象:按传统 VQA 习惯把 answer 当作 yes/no 或三五个词,直接接分类头。

真相:CXR-QBA 的答案设计是多粒度、层级化的完整句子,且一条主答案下挂若干子答案(sub-answers)——全库子答案总数 90,915,200。所以一条 QA 记录的 answer 字段很可能是一整句报告风格的话(如"右下肺可见局灶性实变,伴轻度支气管充气征"),甚至再细分。

建议:把它当 seq2seq(生成式) 任务处理,而不是分类任务。若要分类,需先用附带的结构化标签(findings/regions/certainty)把句子"降维"成标签序列再入分类头。

坑 3:只标阳性发现,忽略了"阴性也有框"

现象:做可视化或下游训练时,下意识只提取标签为"异常"的边界框。

真相:CXR-QBA 的正负发现都定位(negative grounding)——“右肺野未见明显异常"同样会得到一个框。这是它极其罕见的设计,从空间上告诉模型"这一带筛查过、是干净的”,对训练系统性排查能力有直接价值。

建议:如果做检测/定位任务,务必保留阴性框,并考虑用它们构造"该区域无异常"的负样本;如果只想要异常,也要显式过滤而不是默认丢弃。

坑 4:把 32.6M 和 42.17M 当成两个版本

现象:在论文对比表里看到 CXR-QBA 的 #QA-Pairs = 32.6M,在 PhysioNet / 摘要里又看到 42 million,怀疑是不是有 v1/v2 两个规模。

真相:这是同一篇论文内部的两处口径不一致——正文与官方统计页写 42,172,827,对比表格里写 32.6M(疑为过滤后口径或笔误)。不是版本差异,v1.0.0 与 v1.0.1 的规模差异另有原因(且未公开 changelog)。

建议:引用规模时以 PhysioNet Dataset Statistics 的 42,172,827 为准,并在论文里引自对比表数字时一并注明口径来源,避免"数字打架"。

坑 5:以为有 credentialed 账户就能下载

现象:注册了 PhysioNet 账号,点开数据集页却发现拿不到文件。

真相:Credentialed access 是三重门槛——(1) 完成机构与身份核验的 credentialed 账户;(2) 签署 DUA 1.5.0;(3) 完成 CITI “Data or Specimens Only Research” 培训。三者缺一不可。且 PhysioNet 页面明文"Only credentialed users who sign the DUA can access the files."。此外,抓取时点在境外出口还遇到 “Data is not available in your region” 的地区限制。

建议:提前走完 CITI 培训(有数小时课程 + 考试),并与机构签好 DUA;不要指望像 HuggingFace 那样一行 load_dataset 直接拉。

坑 6:忽略父数据集与引用的连带义务

现象:只用 CXR-QBA、只引 CXR-QBA。

真相:它是派生集(derivative dataset),PhysioNet 父项目明确列出 MIMIC-CXR v2.1.0、MIMIC-CXR-JPG v2.1.0、Chest ImaGenome v1.0.0,并注明"Please cite them when using this project"。同时它未采集新患者数据,伦理审批与数据使用条款继承自父 MIMIC。

建议:论文致谢/引用里把三个父集 + CXR-QBA 一起引;涉及伦理声明时明确"派生自 MIMIC,无新患者数据"。

坑 7:把 158 与 257 当成相互矛盾的数字

现象:PhysioNet 正文写 CXAS 预测 158 个解剖结构,摘要又写 257 个定位解剖结构,怀疑数据自相矛盾。

真相:158 是 CXAS 模型的原始输出结构数;257 是 CXAS 158 + Chest ImaGenome 29 等来源交并/超框组合后的最终定位结构数(29 是 Chest ImaGenome 侧的贡献,两者经交并/超框规则合并派生)。是"原始"与"组合后"两个层次,不是矛盾。

建议:表述时分层写清楚——“定位结构总数 257,由 CXAS 的 158 个结构与 Chest ImaGenome 的 29 个结构等经交并组合派生”。同理,发现类 237、区域类 311 是另一组独立词表,不要与结构数混谈。

坑 8:以为"框很松"是标注质量差

现象:做起视觉误差分析,发现 CXR-QBA 的框常常比手工标注大一圈,IoU 只有 0.45–0.51,于是判定"框不准"。

真相:低 IoP(0.54–0.56)与偏大的框是设计固有特征——框源自报告里提到的解剖区域(如"右下肺"整个区域),而非手工勾画的精确病灶轮廓;所以它 IoT 很高(0.87–0.94),覆盖率好,而 IoP 偏低。对照组的 Chest ImaGenome 框更小(IoT 0.95–0.98)但覆盖更保守。CXR-QBA 的 IoP 反而高于 ImaGenome,正说明它 311 个细粒度区域类把区域切得更细、框更贴合。

建议:做定位评测时同时报告 IoU/IoP/IoT 三个指标,别只看 IoU 一个数就下结论;误差分析时要区分"框大导致的 IoU 损失"与"框错位导致的 IoU 损失"。

9.9 快速自查清单

上手前过一遍这张表,能避开上面八成的问题:

检查项 正确做法
用哪个规模? 预训练 B 以上 31.2M / 微调 A 以上 7.5M / 全集 42.17M 仅用于特定实验
任务形态? seq2seq 生成(层级整句答案 + 子答案)
标签从哪来? 结构化标签(findings 237 / regions 311 / certainty / laterality)
框怎么用? 逐子答案框;保留阴性框
规模数字引用? 以 42,172,827 为准,注明对比表 32.6M 口径差异
访问门槛? credentialed + DUA 1.5.0 + CITI 培训
引用连带? 一并引 MIMIC-CXR / MIMIC-CXR-JPG / Chest ImaGenome
定位指标? IoU + IoP + IoT 三个一起报

附录 B:DAIMS 数据资产成熟度评估

评估口径:D 数据治理 / A 可用性 / I 互操作性 / M 元数据 / S 可持续性,各维 1–10 分;综合评级 A–D。

维度 评分(1-10) 依据
D 数据治理(Data Governance) 8 派生自 MIMIC,伦理继承清晰;无新患者数据;本地安全环境处理、未调外部 API;许可层次明确(License 1.5.0 + DUA 1.5.0 + CITI),父集引用义务已声明。扣分点:地区出口限制、"本地环境"细节未完全公开
A 可用性(Availability) 7 PhysioNet 官方托管、v1.0.0/v1.0.1 双版本 DOI 齐备;存储约 28GB 可及;GitHub 提供 utils/train/extract 三套工具与 llm_processor。扣分点:credentialed 门槛(三重)导致获取周期长,非开放直链
I 互操作性(Interoperability) 9 与 MIMIC-CXR-JPG / Chest ImaGenome / MS-CXR / CXR-LT 生态强互操作;标签可映射回 SNOMED-CT;提供 CSV/HDF5 导出;findings/regions 受控词表。这是本数据集最强项
M 元数据(Metadata) 9 Dataset Statistics 表给到患者/研究/图像/QA 对/子答案/问题-图像对/答案-图像对全链路计数;Directory Structure 给到分项文件大小;质量分级与评级分布完整;场景图节点带 bbox/标签/原报告文本
S 可持续性(Sustainability) 8 PhysioNet + GitHub 双渠道、DOI 持久标识、ICLR 2026 正式发表、TUM 机构背书、ERC 资助。扣分点:v1.0.1 changelog 未公开、匿名镜像可用性未复核
综合评级 A(8.2/10) 治理与元数据突出、互操作性行业领先;主要短板在获取门槛与版本变更透明度,属"高质量但受限访问"的成熟研究数据集

一句话总评:在胸片 VQA 这一细分赛道上,CXR-QBA 是目前元数据最完整、互操作性最强、规模最大的公开数据集;其 A 级评级主要被"credentialed 访问门槛"与"版本变更未透明"两项拉低,而非数据质量本身。

§9.5 术语表(术语首现已标英文,此处集中释义)

  • VQA(Visual Question Answering,视觉问答):给定图像 + 问题,模型生成答案的任务。
  • QBA(Question-Box-Answer,问题-框-答案):本数据集的核心数据结构——每个问题对应一个答案与一个边界框。
  • Scene Graph(场景图):把报告描述结构化为"region 节点 + observation 节点"及其关系的图;本数据集的"真值底座"。
  • Observation(观察):场景图中的发现节点,含名称、摘要句、发现实体、关联区域、概率、变化修饰、子观察。
  • Region(解剖区域):场景图中的解剖结构节点,带边界框;本数据集共 311 类。
  • Bounding Box(边界框):标记发现所在空间范围的矩形;本数据集逐子答案提供,且阳性/阴性发现均标。
  • Negative Grounding(阴性接地/负发现定位):为"未见异常"这类阴性表述也提供空间锚点,是本数据集特色。
  • Multi-granular / Hierarchical Answer(多粒度层级答案):主答案 + 子答案的树状结构,主答案给结论、子答案给细节。
  • Sub-answer(子答案):层级答案中的下级节点,类型有 details(细节)与 related information(相关信息)。
  • Entailment(蕴含性):质量评估维度之一,判断答案是否与报告事实一致(是否被报告"蕴含")。
  • LLM-as-a-judge(LLM 作判官):用 LLM(此处 Llama 3.1 8B)对样本质量自动打分的方法。
  • CXAS:胸片解剖分割模型,用于预测 158 个解剖结构掩码。
  • BioLORD:生物医学语义句向量模型,用于把抽取实体映射到受控概念。
  • SNOMED-CT:临床标准术语体系,本数据集标签映射的参照本体之一。
  • CheXpert(CXP):胸片常用 13/5/7 类标签体系,用于横向对照。
  • CXR-LT:胸片长尾(long-tail)数据集,含 12 个罕见类,本数据集用作标签验证。
  • MS-CXR / REFLACX:胸片手绘定位标注集,本数据集用作边界框验证。
  • MCC(Matthews Correlation Coefficient,马修斯相关系数):类别不平衡下的分类质量指标,本数据集用于发现标签验证。
  • IoU / IoP / IoT:交并比 / 交集比预测 / 交集比目标,三种像素级重叠指标,用于边界框验证。
  • RadStrucVQA:本数据集提出的结构化 VQA 评测指标。
  • Structured VQA Task(结构化 VQA 任务):要求模型同时输出文本、结构化标签与边界框的新任务范式。
  • DAIMS:本条目使用的数据可获取性与互操作性成熟度评估框架(§10)。
  • Credentialed Access(凭证访问):PhysioNet 的受限访问模式,需账户核验 + DUA + 培训。
  • DUA(Data Use Agreement,数据使用协议):访问受限数据的法律协议,此处为 PhysioNet 1.5.0 版。

§9.6 扩展 FAQ:十个高频疑问

FAQ 1:CXR-QBA 的 4220 万条,是真有那么多不同的问题吗?还是重复?
不是 4220 万个不同问题文本。问题由模板基于场景图生成,因此大量问题是同模板的实例化(如"某区域是否异常"对每个区域/每位患者各生成一次)。真正的多样性来自底层 observation 的多样性(不同患者、不同发现、不同区域)与问题族 × 区域 × 发现的组合。理解这一点,就不会误以为它是 4220 万条人工编写的问题。

FAQ 2:数据里有没有原始胸片图像?
没有。CXR-QBA 只提供问答对、场景图、标签与边界框(坐标),不打包原始 DICOM/图像。图像须另行从 MIMIC-CXR-JPG 按 image_id 获取(同样需凭证)。这是它与 MIMIC-CXR-JPG 的分工——前者是"标注层",后者是"像素层"。

FAQ 3:边界框用什么坐标格式?
相对坐标或像素坐标依工具导出格式而定,cxr_qba_utils 的导出会给出与图像尺寸对应的框;绑定关系通过 image_id 与 question_image_metadata / answer_image_metadata 的映射确定。使用前务必读 cxr_qba_utils README 确认坐标系(列为使用注意事项)。

FAQ 4:为什么问题数是 42,172,827 而不是"问题族数 × 检查数"这样的整数?
因为它由场景图的实际内容驱动——每项检查抽出的观察数不等、能生成的问题策略也不同,所以是"按内容生成"而非"按矩阵笛卡尔积生成",总数自然是不规则的 42,172,827。

FAQ 5:Unrated 的 20% 能不能用?
作者明确"不推荐用于训练",但释出了,供研究。若你的研究正是"如何利用低质量/未评级样本"或"评估噪声对训练的影响",它反而是难得的素材。默认训练请过滤。

FAQ 6:它和 MIMIC-CXR-JPG 的 CheXpert 标签冲突怎么办?
不冲突,是互补。MIMIC-CXR-JPG 给的是检查级 13 类 CheXpert 标签(放射科标注),CXR-QBA 给的是问答级、区域级的细粒度标签。两者可用 study_id 对齐。若发现二者对同一检查判断不一致,通常是因为粒度不同(检查级 vs 区域级)——CXR-QBA 论文已用 MCC 量化了两者的整体一致性(§7.1)。

FAQ 7:中文能直接用吗?
不能。问题、答案、标签、报告文本全是英文(源自英文放射报告)。做中文任务需自行翻译或迁移,翻译质量会直接影响训练。

FAQ 8:它是"最大"的胸片 VQA 数据集吗?
按公开可查的规模,42.17M 显著大于 CheXinstruct(8.5M)等;作者也称其为 “the largest and most sophisticated VQA dataset for CXRs to date”。但"最大"依赖口径(见坑 4:论文表内 32.6M),引用时建议表述为"目前公开胸片 VQA 数据集中规模与结构化程度领先者"。

FAQ 9:许可证允许商用吗?
不能默认商用。PhysioNet Credentialed Health Data License 1.5.0 限研究用途,且受父集 MIMIC 条款约束;论文 CC BY 4.0 只覆盖论文文本,不覆盖数据集。任何商用须单独核实授权链。

FAQ 10:如果 OpenReview 打不开怎么办?
PhysioNet 官方页 + GitHub README 已含 Abstract、Methods、Dataset Statistics、验证结果等核心信息,足以理解与引用数据集;论文正文(如 RadStrucVQA 细节)可在 OpenReview 开通或读 ICLR 论文集(§附录 C 给了海报页链接)。

§9.7 与库内近邻条目的深度对照

对照 A:CXR-QBA vs MIMIC-CXR-JPG(rid 617)。 二者共享图像层(MIMIC-CXR-JPG 的 377,110 张胸片是 CXR-QBA 的定位输入)。差异在"层":MIMIC-CXR-JPG 是标注层(检查级 CheXpert 13 类 + DICOM 元数据),CXR-QBA 是问答层(逐子答案的问答 + 区域级标签 + 框)。可对齐字段是 study_id / image_id。组合用法:用 JPG 的标签做辅助监督,用 QBA 的问答做结构化任务。

对照 B:CXR-QBA vs MS-CXR(rid 340)。 MS-CXR 是手工绘制的定位标注集(精确但小),CXR-QBA 的框是自动派生的大规模框(多但粗)。二者在论文里正好是"被验证者 vs 验证者"的关系(§7.2)。组合用法:用 MS-CXR 精标微调、CXR-QBA 大规模预训练。

对照 C:CXR-QBA vs CXR-LT(rid 657)。 CXR-LT 是长尾金标准(罕见发现),CXR-QBA 的 237 类细粒度标签在长尾上提升 20%(§7.1)。二者验证关系明确,组合用法:借 CXR-LT 评估 CXR-QBA 派生标签的长期质量。

对照 D:CXR-QBA vs mimic-cxr-ext-ils(rid 616)。 名称形近但任务不同:ILS 条目是 MIMIC-CXR 的另一扩展派生(非问答),CXR-QBA 是问答三元组。二者仅在"同源于 MIMIC-CXR"上一致。互链须注明区别,避免误认为同一数据集的不同版本。


§10 互链点:与本条目最相关的 13 个库内数据集

CXR-QBA 不是孤立条目——它站在 MIMIC 生态下游,又与多个胸片数据集构成验证与被验证的关系。以下按"关系强度"分组。

10.1 上行血缘:它的父与祖(4 个)

数据集 slug / rid 为什么相关
MIMIC-CXR mimic-cxr / 16 报告源头(227,827 篇自由文本放射报告),场景图信息抽取的原料
MIMIC-CXR-JPG mimic-cxr-jpg / 617 图像源头(377,110 张 JPG),区域定位分割的输入
MIMIC-IV mimiciv / 592 上游临床数据库(患者/住院维度)
MIMIC-IV Clinical Database mimic-iv-clinical-database / 4 同上,英文命名条目

使用 CXR-QBA 时,PhysioNet 要求"Please cite them when using this project"——这三个父项目(MIMIC-CXR v2.1.0 / MIMIC-CXR-JPG v2.1.0 / Chest ImaGenome v1.0.0)须一并引用。

10.2 平级验证:论文拿来做金标准的两个(2 个)

数据集 slug / rid 怎么被用
MS-CXR ms-cxr / 340 论文框验证的对照——取 8 类中有正样本的 6 类,验 IoT/IoP/IoU@30
CXR-LT 2024 cxr-lt / 657 论文标签验证的对照——task 2 测试集 12 个长尾类,验 MCC(长尾类 +20%)

10.3 同族派生:MIMIC-CXR 衍生的兄弟条目(4 个)

数据集 slug / rid 关系
CheXmask-CXR Segmentation Data chexmask-cxr-segmentation-data / 602 同族胸片分割掩码,可作区域定位的互补资源
Lung Segment MIMIC-CXR lung-segment-mimic-cxr / 613 同族肺部分割,可用于区域后处理
Image Embeddings MIMIC-CXR image-embeddings-mimic-cxr / 611 同族图像表征,可用于检索式 QA
MIMIC-CXR-Ext-ILS mimic-cxr-ext-ils / 616 同族 MIMIC-CXR 派生条目

10.4 广义胸片数据集:同赛道的"表亲"(3 个)

数据集 slug / rid 差异
VinDr-CXR vindr-cxr / 125 多标签胸片检测,人工标注精确框,但无 QA 对
COVIDx-CXR covidx-cxr / 197 新冠胸片分类,标签体系与 CXR-QBA 不通用
CXR-Pro cxr-pro / 608 胸片预训练表征资源

10.5 它想在论文里"对标/超越"的 VQA 生态(正文提及,非库内条目)

  • VQA-RAD(约 3.5K,含非 CXR)、SLAKE(约 14K,含非 CXR):临床专家标注、短答案、无框;
  • MIMIC-CXR-VQA(377K)、Medical-CXR-VQA(780K)、CheXinstruct(8.5M):模板化、短答案、无框;
  • MedTrinity-25M / MAIRA-2:接地报告数据集,检查级描述,不能直接做 QA。

这构成 CXR-QBA 论文的核心论证:在"有框 + 层级整句答案 + 结构化标签"三项上,既有 VQA 数据集均不满足——这正是它自称"最精细胸片 VQA"的依据。

10.6 互链使用的三条原则

原则一:区分"血缘"与"验证"。 与 MIMIC-CXR / MIMIC-CXR-JPG / Chest ImaGenome 是血缘关系(数据来自它们,须一并引用、受同一 DUA 约束);与 MS-CXR / CXR-LT 是验证关系(论文拿来当外部金标准,无版权连带)。互链时应措辞区分,避免读者误以为后两者也是数据来源。

原则二:同族条目要说明差异。 库内有多条 MIMIC-CXR 派生条目(chexmask、lung-segment、image-embeddings、ext-ils 等)。它们同源但任务各异;互链时若不注明区别,读者容易以为它们是同一数据集的不同版本。建议每条互链都带一句"关系性质"说明。

原则三:广义胸片数据集仅作"赛道同伴"互链。 VinDr-CXR、COVIDx-CXR、CXR-Pro 与 CXR-QBA 无血缘、无验证关系,仅在"同属胸片影像数据集"这一层相关。互链价值在于帮读者建立赛道全景,而非暗示数据可互换。

10.7 上游数据在库内的可获得性

一个实际的互链问题是:想用 CXR-QBA,还需不需要库内的上游条目? 答案取决于任务:

若要做… 是否需要上游 原因
纯 VQA / 结构化任务 不必 问答、标签、框坐标即自足,无需原始像素
需要看/喂图像 需要 MIMIC-CXR-JPG CXR-QBA 不打包原始图像,须按 image_id 去 JPG 取像素
要检查级 CheXpert 标签做辅助监督 需要 MIMIC-CXR-JPG 其 13 类标签可作辅助信号
要与临床时序/用药关联 需要 MIMIC-IV 通过 subject_id 关联住院与用药记录
要用更细的区域分割 可参考 chexmask / lung-segment 同族分割资源可做区域后处理增强

简言之:CXR-QBA 是标注层,MIMIC-CXR-JPG 是像素层——做视觉任务时两者往往要配对使用,这也是互链中最容易被忽略的一条实操关系。


附录 A:完整问题类型 × 策略一览

下表汇总 CXR-QBA 的问题策略(question strategy)体系。标识符前缀对应问题族:A = Indication、B = Study Abnormality(整体)、C = Region Abnormality(区域)、D = Finding(具体发现)。

A.1 Indication 族(指征)

策略标识 问题含义 答案形态
A_indication 为什么做这次胸片检查 / 该评估什么 报告指征的改写句

问题数(Total):218,294。

A.2 Study Abnormality 族(整体层面)

策略标识 问题含义 答案形态
B01 describe_all 描述整张片的整体情况 整句描述
B02 describe_abnormal 描述整张片的异常所见 整句描述 + 发现标签
B03 is_abnormal 这张片是否异常? 判断 + 依据句
B04 is_normal 这张片是否正常? 判断 + 依据句
B08 describe_subcat 描述某个子类别(整体层) 整句描述
B10 is_abnormal_subcat 子类别是否异常? 判断 + 依据句
B12 describe_device 描述片上的器械 整句描述
B13 has_devices 片上是否有器械? 判断 + 依据句
B14 describe_acquisition 描述采集方式/体位 整句描述
B15 describe_imaging_artifacts 描述成像伪影 整句描述

Abnormal 族合计问题数(Total):11,915,384(其中 B01/B02/B03 各 208,433)。

A.3 Region Abnormality 族(区域层面)

策略标识 问题含义 答案形态
C01 describe_region 描述某解剖区域 整句描述 + 区域标签
C02 describe_abnormal_region 描述某区域的异常 整句 + 发现标签 + 框
C03 is_abnormal_region 某区域是否异常? 判断 + 依据句 + 框
C04 is_normal_region 某区域是否正常? 判断 + 依据句 + 阴性框
C07 describe_region_device 描述某区域的器械 整句 + 器械标签 + 框
C08 has_region_device 某区域是否有器械? 判断 + 依据句 + 框

Region 族合计问题数(Total):20,620,708(describe_region 2,827,147 / describe_abnormal_region 2,827,177 / is_abnormal_region 2,832,066 / is_normal_region 2,831,838 / describe_region_device 4,650,283 / has_region_device 4,652,197)。

为什么 Region 族最大? 因为它对每一个解剖结构 × 每一个(子)发现都要问一遍"这里有没有、是什么",是组合爆炸的主力。

A.4 Finding 族(具体发现 / 疾病 / 器械)

策略标识 问题含义 答案形态
finding 某具体发现是否存在 / 在哪 判断 + 位置 + 框
D07 where_is_device 某器械在哪里? 位置描述 + 框

Finding 族合计问题数(Total):9,418,441(其中 D07_where_is_device 322,056)。

A.5 问题族规模对照(Total 口径)

问题族 代表标识 问题数(Total) 占比示意
Region Abnormality region_abnormal 20,620,708 最大
Study Abnormality abnormal 11,915,384 次大
Finding finding 9,418,441 第三
Indication A_indication 218,294 最小(但临床最基础)
(器械专类) D07_where_is_device 322,056 器械细分
合计 — 42,172,827 与官方 QA 对总数一致

注:上表为 Total 口径精选,其中若干策略(如 B01/B02/B03 各 208,433)单独列出会重复计入别名族,故此处按族聚合,与 §5.2 的逐策略明细互补。

A.6 与 CFG/模板的对应关系

四类问题族不是普通模板文本,而是与放射科医师共同设计的模板引擎产出。每条模板都绑定:

  1. 一个问题文本骨架(如"Does the {region} show {finding}?");
  2. 一组可填充槽位(region / finding / certainty / laterality);
  3. 一条答案构造规则(模板句 + 从报告改写句混合);
  4. 一个框挂载规则(把对应观察节点/区域节点的 bbox 挂到子答案上)。

这套"问题-槽位-答案-框"四联设计,正是它能同时输出结构完整 QA 与逐子答案框的技术根因。


附录 C:核心事实清单(一页速查)

项目 数值 / 内容
官方全称 MIMIC-Ext-CXR-QBA: A Structured, Tagged, and Localized Visual Question Answering Dataset with Question-Box-Answer Triplets and Scene Graphs for Chest X-ray Images
缩写 CXR-QBA
本质 MIMIC-CXR 派生的胸片「问题-框-答案」三元组 VQA 数据集(含场景图)
作者 Philip Müller, Friederike Jungmann, Georgios Kaissis, Daniel Rueckert
机构 Technical University of Munich (TUM) 体系
会议 ICLR 2026(Poster)
PhysioNet https://physionet.org/content/mimic-ext-cxr-qba/1.0.0/
GitHub https://github.com/philip-mueller/mimic-ext-cxr-qba
QA 对总数 42,172,827
子答案总数 90,915,200
患者数 65,317
研究数 227,239
图像数 376,175
问题-图像对 70,045,778
答案-图像对 151,539,450
Pre-training grade(≥B) 31,230,906
Fine-tuning grade(≥A) 7,532,281
Unrated 8,280,266
finding 类 237
region 类 311
定位解剖结构 257(CXAS 158 + Chest ImaGenome 29 等组合)
存储规模 约 28 GB
许可 PhysioNet Credentialed Health Data License 1.5.0
使用协议 PhysioNet Credentialed Health Data Use Agreement 1.5.0
培训要求 CITI “Data or Specimens Only Research”
论文许可 CC BY 4.0
v1.0.0 DOI 10.13026/8qmz-da41(2025-07-22)
v1.0.1 DOI 10.13026/6193-he91(2026-08-25)
标签验证(Micro MCC) 0.71(vs MIMIC-CXR-JPG Test)/ 0.67(vs CXR-LT 2024 Gold)
长尾类提升 约 +20%(LT-only MCC 0.71 vs 0.59)
框验证(IoU@30) 0.51(vs MS-CXR)/ 0.45(vs REFLACX,微平均)
新指标 RadStrucVQA
新任务 Structured VQA Task

附录 D:术语表

术语 中文/解释
VQA Visual Question Answering,视觉问答——给定图像 + 问题,模型给出答案
Structured VQA 结构化视觉问答——答案须含文本 + 结构化标签 + 边界框,本数据集提出的新任务范式
Scene Graph 场景图——由区域节点与观察节点构成的图结构,承载影像的区域-发现关系
Region Node 区域节点——场景图中表示解剖区域(如"右下肺")的节点,带 bbox
Observation Node 观察节点——场景图中表示一条观察/发现的节点,挂在区域节点下,带标签与描述
Bounding Box(bbox) 边界框——标注目标位置的矩形框,本数据集挂到每个子答案
Negative Grounding 阴性接地——对"未见异常"的阴性发现也给出框,标注"此区域已筛查、正常"
Question-Box-Answer Triplet 问题-框-答案三元组——本数据集的基本数据单元
Sub-answer 子答案——层级化答案中承载细节与相关信息的下级句子
Indication 指征——做该检查的临床理由
Certainty 确定性——对某发现的确定程度(如 definite / probable / possible)
Laterality 侧别——左/右/双侧
MCC Matthews Correlation Coefficient,马修斯相关系数——不平衡分类的稳健指标
IoU Intersection over Union,交并比——框/掩码重叠度
IoP Intersection over Prediction,交/预测比——衡量预测框有多少落在目标内
IoT Intersection over Target,交/目标比——衡量目标有多少被预测框覆盖
CXAS 一个胸片解剖结构分割模型,提供 158 个结构的区域定位
Chest ImaGenome 胸片场景图数据集,提供解剖区域框,贡献 29 个结构
BioLORD 生物医学句向量模型,用于把抽取出的实体映射到 SNOMED-CT
SNOMED-CT 系统化医学命名法——临床术语受控词表
Llama 3.1 70B / 8B 信息抽取用 70B,质量评估(LLM-as-a-judge)用 8B
LLM-as-a-judge 用大模型充当评委给样本打分的方法
Credentialed Access 凭证访问——PhysioNet 需身份核验 + 签 DUA + 培训的受限访问模式
DUA Data Use Agreement,数据使用协议
CITI 研究者培训与认证平台,“Data or Specimens Only Research” 为其课程
RadStrucVQA 论文提出的 Structured VQA 评测指标
MAIRA-2 微软的胸片接地报告生成模型,作为对照
LLaVA-Med 医学领域多模态大模型,作为对照

附录 E:常见问题(FAQ)

F1:CXR-QBA 和 MIMIC-CXR-VQA 是同一个东西吗?
不是。MIMIC-CXR-VQA 约 377K 问答对、短答案、无框;CXR-QBA 42,172,827 条、层级整句答案、逐子答案框。两者规模差两个数量级,形态完全不同。

F2:我能直接 load_dataset("...") 拉下来吗?
不能。它是 PhysioNet credentialed access,需 credentialed 账户 + DUA 1.5.0 + CITI 培训三重门槛。

F3:为什么有很多"框"看起来偏大?
因为框源自报告里提到的解剖区域(如"右下肺"整个区域),而非精确到病灶轮廓。这导致低 IoP、高 IoT——是设计特征而非缺陷(见坑 8)。

F4:42,172,827 和论文表的 32.6M 哪个对?
以 PhysioNet Dataset Statistics 的 42,172,827 为准;32.6M 是同一论文对比表内的口径不一致(疑过滤后或笔误),已存照。

F5:Unrated 的 830 万条能用来训练吗?
作者明确不推荐。这些样本因 LLM 评估失败未获评级,质量无法保证。训练请用 Pre-training grade(31.2M)或 Fine-tuning grade(7.5M)。

F6:它需要新增患者伦理审批吗?
不需要。它是 MIMIC-CXR 派生集,未采集任何新患者数据,伦理继承自父 MIMIC。

F7:158 和 257 到底哪个是"结构数"?
158 是 CXAS 模型原始输出的结构数;257 是 CXAS 158 + Chest ImaGenome 29 等经交并/超框组合后的最终定位结构数。分层表述即可(见坑 7)。

F8:训练数据会不会被送到外部 API?
不会。作者声明全部处理、生成与训练均在本地安全环境完成,LLM/定位/嵌入模型均未调用外部 API。

F9:做定位任务该报哪个指标?
同时报 IoU、IoP、IoT 三个。只报 IoU 会误读"框偏大"为"标注差"。

F10:怎么引用?
引 CXR-QBA 本体(指明版本 DOI)+ 三个父项目(MIMIC-CXR v2.1.0 / MIMIC-CXR-JPG v2.1.0 / Chest ImaGenome v1.0.0)。


附录 F:版本变更与引用建议

F.1 版本对照

版本 发布日期 DOI 状态 备注
v1.0.0 2025-07-22 10.13026/8qmz-da41 首版 本条目硬数字来源
v1.0.1 2026-08-25 10.13026/6193-he91 latest 变更明细未公开

F.2 引用建议

  • 引用数据时务必指明版本 DOI(两版本 DOI 不同,混用会导致不可复现);
  • 引用数字时,优先引 42,172,827(官方统计),若引对比表数字需注明口径;
  • 涉及伦理/许可声明时,一并注明三个父项目与派生集性质。

F.3 引用格式(示意)

Müller, P., Jungmann, F., Kaissis, G., & Rueckert, D. (2025). MIMIC-Ext-CXR-QBA: A Structured, Tagged, and Localized Visual Question Answering Dataset with Question-Box-Answer Triplets and Scene Graphs for Chest X-ray Images (version 1.0.0). PhysioNet. https://doi.org/10.13026/8qmz-da41


附录 G:方法学启示——这套流水线能被复用到别处吗

CXR-QBA 留下的最大遗产,可能不是那 4220 万条问答,而是它的构建方法论。作者明确表示构建流水线(cxr_qba_extract)可迁移到其他数据源。下面提炼其可迁移的五个要点,供其他医学数据集构建者参考。

G.1 "先结构后生成"是可复用的通用范式

CXR-QBA 的核心洞察——不要直接让 LLM 从原始文本生成监督信号,而要先把它结构化为图(或表),再从结构派生监督——对任何"从报告生成数据集"的场景都成立。其他模态亦然:病理报告 → 病理 VQA、超声报告 → 超声 VQA、内镜报告 → 内镜 VQA,都可套用"报告 → 结构化中间表示 → 任务数据"的三段式。

它解决的通用问题是:LLM 的生成能力与数据的可核查性之间的张力。直出快但难核,先结构化慢但可控。CXR-QBA 用"三步走 + 中间产物落盘"把这个张力转化成了工程可管理的问题。

G.2 受控词表 + 语义映射是可复用的标签工程

用预定义词表(PadChest / Chest ImaGenome / SNOMED-CT)约束 LLM 的实体输出,再用语义嵌入模型(BioLORD)做最近概念匹配,这套"受限生成 + 语义对齐"的组合,是把开放域抽取变成闭合域标注的通用手段,同样适用于其他医学文本的实体标准化任务。

G.3 规则质控 + LLM 判官是双保险,但非万能

CXR-QBA 的双层质控(场景图用规则、问答用 LLM 判官)给出了一条务实经验:自动质控能筛掉明显错误,但不能保证逐条正确。其证据是那 20% 的 Unrated(评估环节失败即无评级)——说明 LLM 判官本身也会失败,失败样本只能"隔离"而非"修复"。给后来者的启示是:自动质控的价值在于分级与隔离,而非"保证每一条都对";若任务对正确率要求极高,自动质控之后仍需人工抽检。

G.4 阴性接地是常被忽视的监督增强

CXR-QBA 把阴性发现也定位,是一个低成本、高回报的设计:它复用了已有的区域框,额外标注成本近乎为零,却给模型提供了"何处正常"的显式信号。这一招对任何"需要模型系统性排查"的视觉任务(工业质检、遥感变化检测、病理全片筛查)都有借鉴意义——别只标"有什么",也标"哪里查过、是干净的"。

G.5 质量分级子集:给数据"装一个可调旋钮"

把数据按质量分级并随全量一并释出,等于给使用者提供了一个"规模-质量"的可调旋钮。这是一种对使用者友好的数据集设计哲学——不替使用者决定工作点,而是把选择权交出去。后来的大规模自动数据集若能效仿(给出质量分、推荐子集与各自的计数),将显著降低使用门槛。

G.6 复用的边界:哪些不能照搬

也需承认这套方法论的适用边界:它强依赖高质量的上游结构(此处是 MIMIC-CXR 报告 + Chest ImaGenome 场景图);若源报告本身信息稀疏、或缺乏可用的解剖定位资源,"先结构后生成"就会失去根基。此外,它无法解决源数据的固有偏差(单中心、人群构成),这是方法论层面无法逾越的天花板——泛化性问题只能在数据来源层面解决。


§11 结语:它为什么值得被"AI-Ready"地记录

胸片是全世界做最多的影像检查,也是医学多模态 AI 最拥挤的赛道。但"拥挤"不等于"可用"——真正缺的从来不是更多图片,而是能把临床推理过程显式化的监督信号:不只是"这张片有没有肺炎",而是"问到哪里、看哪里、依据是什么、边界在哪、有多确定"。

CXR-QBA 的价值正在于此。它把 22.8 万篇放射报告拆解成 4220 万个问题、9 千万条子答案和与之对应的边界框,把放射科医师脑子里的"分层推理"变成机器可读的「问题-框-答案」三元组;它还罕见地给阴性发现也标框,逼着模型学会"系统地看完整张片"而不是"猜一个标签"。它不是又一个大数据集,而是一次对胸片 VQA 任务定义的重写——从"猜答案"到"说依据"。

对研究者,它提供了现成的预训练池(31.2M)与微调池(7.5M);对工程师,它提供了 CSV/HDF5 导出与三套工具;对临床 AI 的安全审阅者,它提供了标签映射与质量分级。它唯一的高墙是访问门槛——credentialed + DUA + CITI,但这道墙恰恰是医学数据伦理的应有之义。

一句话记住它:CXR-QBA = 把 MIMIC-CXR 的放射报告,变成 4220 万个"看着框、答整句、带标签"的胸片问题——并且告诉你,干净的肺在哪里。


条目维护说明
本条目依据抓取时点 2026-10-08 的公开信息编写。硬数字以 PhysioNet Dataset Statistics 表 v1.0.0 口径为准;论文对比表与摘要层的口径差异、OpenReview 反爬导致的未直读项、v1.0.1 变更明细等,均已在正文与坑点中逐条存照。若后续版本公开变更日志或地区访问策略调整,建议同步更新 §6.3 版本链、附录 C 事实清单与附录 F 版本对照。


附录 H:相关胸片数据集定位速查表

为便于在选型时横向比较,下表汇总本文涉及的胸片数据集(含 CXR-QBA 自身):

数据集 类型 规模 答案/标签形态 定位 结构化标签 访问
CXR-QBA VQA + 场景图 42.17M QA 层级整句 + 子答案 逐子答案框(阴阳均标) 有(发现/区域等) PhysioNet 凭证
MIMIC-CXR 报告 + 影像 227,827 报告 自由文本报告 无 无 PhysioNet 凭证
MIMIC-CXR-JPG 图像 + 标签 377,110 图像 检查级标签 无 CheXpert 13 类 PhysioNet 凭证
Chest ImaGenome 场景图 与 MIMIC-CXR 同规模 区域描述 区域框 有(区域/关系) PhysioNet 凭证
MS-CXR 定位基准 小(千级句-框对) 句-框对 手工精确框 有 PhysioNet 凭证
CXR-LT 2024 长尾多标签 中(含 12 罕见类) 多标签 无 长尾类标签 视版本
MIMIC-CXR-VQA VQA 377K 短答案 无 无 视版本
Medical-CXR-VQA VQA 780K 短答案 无 无 视版本
CheXinstruct 指令/VQA 8.5M 短答案(模板) 无 无 视版本
VQA-RAD VQA 3.5K(含非 CXR) 短答案 无 无 公开
SLAKE VQA 14K(含非 CXR) 短答案 无 语义标注 公开
VinDr-CXR 检测 中 多标签 + 框 人工精确框 有(病灶) 公开/协议
COVIDx-CXR 分类 大 分类标签 无 新冠相关 公开

速读结论:

  • 要"有框 + 整句答案 + 结构化标签"三合一:目前只有 CXR-QBA 同时满足;
  • 要"精确手工框":MS-CXR、VinDr-CXR 更合适(但规模小);
  • 要"长尾发现评测":CXR-LT 是金标准;
  • 要"检查级粗标签":MIMIC-CXR-JPG 最省事;
  • 要"开放直链、快速上手":VQA-RAD / SLAKE 门槛最低(但规模最小、含非 CXR)。

CXR-QBA 的独特价值不在任何单一维度领先,而在同时满足规模、结构化、定位三项——这正是它愿意用"凭证访问"这道高墙换取数据敏感性的底气所在。


附录 I:本文写作口径与存照方法说明

为便于读者判断本条目数字的可信度,此处说明写作时的信息处理原则:

信息源优先级:以 PhysioNet 官方 Dataset Statistics / Directory Structure 表为一手硬数字来源;GitHub README 为工具与接口的二手来源;OpenReview / ICLR 页面为任务口径与论文身份来源;第三方论文解读页作交叉印证。三者互证后方采信。

冲突处理原则:当两个来源数字不一致时(如论文对比表 32.6M vs 官方 42,172,827),采官方一手口径,并在正文与坑点中同时存照另一口径,绝不隐藏冲突。

未直读项的处理:OpenReview 页面因反爬未能直读原文(“Verifying your browser”),相关数字改用 PhysioNet + GitHub + 第三方三源互证,并在遗留疑点中如实标注,不假装读过。

地区限制的处理:抓取时点在境外出口遇到 PhysioNet 地区访问限制,判定为 PhysioNet/MIMIC 体系一贯策略,不影响数据集真实性与可获取性判定,但如实存照。

数字的层级澄清:凡出现"同一指标多个数字"处(如 377,110 vs 376,175、158 vs 257、42.17M vs 32.6M),均给出层级解释而非简单择一,避免读者误读为数据自相矛盾。

这套"一手优先、冲突存照、未读标注、层级澄清"的口径,是本条目作为 AI-Ready 知识条目可被信任的基础。


相关数据集导航

以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:

  • rexvqa — 共享标签:多模态 / 视觉问答 / X光影像 / 医学问答 / 评测基准
  • rex-in-the-wild — 共享标签:多模态 / 视觉问答 / 医学问答 / 评测基准
  • derm1m — 共享标签:多模态 / 视觉问答 / 影像-文本对齐 / 评测基准
  • medical-cxr-vqa-dataset — 共享标签:多模态 / 视觉问答 / X光影像 / 评测基准
  • medreco-db — 共享标签:多模态 / 视觉问答 / 影像-文本对齐 / 医学问答
  • liveclin — 共享标签:多模态 / 视觉问答 / 医学问答 / 评测基准
  • nejm-bench — 共享标签:多模态 / 视觉问答 / 医学问答 / 评测基准
  • mimic-eye-multimodal-datasets — 共享标签:多模态 / 视觉问答 / X光影像
  • ms-cxr-t — 共享标签:多模态 / 影像-文本对齐 / X光影像 / 评测基准
  • chestagentbench — 共享标签:多模态 / X光影像 / 医学问答 / 评测基准

导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

返回 AI-Ready 数据集