信息速览
放射报告是放射科医师写给临床同行的自由文本。MIMIC-CXR 把这些报告的原文整段公开之后,几乎所有胸片视觉语言(vision-language)工作都要先干同一件脏活:把一段报告切成「为什么拍」「看到什么」「结论是什么」,才能拿来当模型学语言的目标。过去若干年这件事几乎只有一个做法——写正则。正则的痛点从来不是报错,而是静默失败:抬头写成 EXAMINATION 还是 XR CHEST PORTABLE、所见段落里夹着一句「与前片相比病灶缩小」,都会让规则漏切或错切。更麻烦的是它会把这类时间比较原封不动地塞进训练目标,让模型去学「如何描述一张它根本没看过的旧片」。
2025 年 1 月 24 日,微软研究院、斯坦福大学等机构的作者组把他们的解法发布成了 PhysioNet 上的一个数据物件:LLaVA-Rad MIMIC-CXR Annotations v1.0.0。它不是一批新胸片,不含一个像素;它是三份 JSON 文件,用 GPT-4 把同一批 MIMIC-CXR 报告重新切成四段、删掉所有与既往影像比较的表述,再按 LLaVA 框架的对话格式封装起来。训练分裂合计 400,042 条图文对,其中 237,073 条是这一步新做出来的。
认清这个定位,优点和短板就同时清楚了:它的价值全部集中在「同一批报告的另一种切法」,而它永远替代不了影像本身。一屏速览见下表。
| 维度 | 内容 |
|---|---|
| 全名 | LLaVA-Rad MIMIC-CXR Annotations |
| 托管平台 | PhysioNet(MIT 计算生理实验室维护) |
| 发布方与作者机构 | PhysioNet 平台;作者团队署名机构含 Microsoft Research、Stanford University、University of Washington、University of Southern California、University of California, Davis |
| 版本与时间 | 1.0.0,2025 年 1 月 24 日发布,目前仅此一个版本 |
| 资源形态 | 纯文本 JSON,不含任何影像像素 |
| 文件构成 | 三份 JSON,分别对应训练、验证、测试分裂(具体文件名需在登录后由文件列表确认) |
| 训练分裂规模 | 400,042 条图文对,其中 GPT-4 抽取 237,073 条、规则抽取 162,969 条 |
| 验证分裂规模 | 3,238 条,其中 GPT-4 抽取 1,952 条、规则抽取 1,286 条 |
| 测试分裂规模 | 2,461 条,官方统计表显示仅有规则抽取 |
| 覆盖人群 | 训练 63,169 名患者、213,365 次检查;验证 487 名、1,733 次;测试 289 名、3,041 次 |
| 覆盖影像 | 训练 237,972 张 DICOM(仅 AP/PA 位);验证 1,959 张;测试 3,403 张 |
| 原始来源 | MIMIC-CXR Database v2.1.0 的自由文本放射报告(官方 Parent Projects 区注明) |
| 抽取方式 | 两路并行:官方 MIMIC Code Repository 的正则规则;GPT-4 提示词工程(少样本示例、JSON 输出约束、显式去除时间引用) |
| 每条记录的字段 | id、image、generate_method、reason、impression、indication、history、view、orientation、chexpert_labels、conversations |
| 附带标签 | 14 项 CheXbert 标签,取值 1.0 / 0.0 / -1.0 / NaN |
| 访问方式 | 凭证化访问,须完成 CITI「Data or Specimens Only Research」培训并签署数据使用协议 |
| 许可 | PhysioNet Credentialed Health Data License 1.5.0 |
| DOI | 10.13026/4ma4-k740(v1.0.0);10.13026/6ey5-df78(指向最新版) |
| 官方报告的评测指标 | BLEU-4 78.8、ROUGE-L 90.9、F1 CheXbert-14 96.7、F1 RadGraph 93.2、Gatortron 余弦相似度 0.928、CheXprompt 平均错误数 0.20、82.4% 的报告零错误 |
| 官方写明的限制 | GPT-4 自动抽取可能包含错误,因发布规模所限未经专家人工复核 |
| 典型用途 | 胸片所见生成模型的指令微调、文本预处理方式的消融对照、视觉语言数据工程研究 |
§1 它要解决的具体麻烦
1.1 报告里的话,不全是在说这张片子
放射报告是叙事性文本。一段典型的胸片所见里常常同时装着三类信息:对当前图像的描述、与前次检查的比较、以及推理或建议。对一个「给这张图配一段话」的生成任务来说,只有第一类信息是从图像本身能推出来的,也只有它能被当作监督目标。
规则方法在这里踩的是结构性跟头。官方 Background 一节把麻烦列了四条:其一,规则依赖预设模式,稍有变化即失效;其二,不同医师、不同报告系统的格式不一,没有一套规则能通吃;其三,拼写错误、术语差异、否定句(如 no evidence of fracture)与条件句普遍存在;其四,时间比较与历史引用无处不在——放射科医师写「与六个月前相比无显著变化」是职业习惯,而这句话对只看当前影像的模型而言是纯噪声,它既不能被证真,也无法被证伪。
GPT-4 重抽取恰恰在第四条上给出最大增量。官方提示词里有一条硬约束:去掉任何无法从当前影像直接观察到的信息,包括人口学信息、既往病史,以及所有与既往影像的比较,并把这类比较改写为「只对当前影像成立的状态描述」,抽不到就留空。这条约束作用的位置很关键——它作用在训练目标侧,而不是在评测侧事后打补丁。
1.2 三条常见的错误期待
第一条,把它当成影像集。它是标注集,或者说是一份「指向别人家图像的表格」。image 字段是形如 mimic/p10/p10003502/s50084553/70d7e600-373c1311-929f5ff9-23ee3621-ff551ff9.jpg 的路径字符串,仓库里没有任何与之对应的图片文件。想训练,影像要另去申请 MIMIC-CXR 或 MIMIC-CXR-JPG。
第二条,把它当成人工精标。它的生成全程无人工:规则路径是正则,GPT 路径是大语言模型,两者都没有放射科医师逐份审阅。官方在 Usage Notes 里把话说得很直白——因发布规模所限,没有做专家人工评估。「GPT 生成」在这里指的是方法,不是宣传语。
第三条,把它当成全新的图文对齐资源。它的图文对齐关系与 MIMIC-CXR 完全一致,只是文本侧换了一套处理方式。如果你的流程已经能把 MIMIC-CXR 的报告处理到可用程度,那么它能带来的增量主要是「不必自己重跑一遍 GPT」和「省掉一轮提示词调试」,而不是一批新的影文对。
1.3 它能给到的与给不到的
| 你的需求 | 它给的 | 够不够 |
|---|---|---|
| 训练一个从胸片生成所见段落的模型 | 四十万条已对齐的路径到文本映射,LLaVA 对话格式 | 够,这正是它被设计出来的用途 |
| 比较「正则切」与「模型切」两种文本处理的影响 | 同一批训练影像上两套抽取结果并存,generate_method 可区分 |
够,这是它有别于其他资源的核心 |
| 直接拿到影像像素 | — | 不够,必须另申请 MIMIC-CXR |
| 拿到可当作标准答案的人工标注 | — | 不够,官方明确未做专家复核 |
| 某句话对应的解剖位置或边框 | — | 不够,无坐标、无短语接地 |
| 实体与修饰关系层面的结构 | — | 不够,那是 RadGraph 家族的活 |
| 给生成加条件(体位、投照方位) | view、orientation、reason 三个字段可用于拼提示词 |
够做,官方也鼓励这种改写 |
| 在侧位影像上做报告生成 | — | 不够,纳入口径为 AP/PA 位 |
| 摆脱源数据的人群偏倚 | 继承 MIMIC-CXR 的单一机构急诊人群 | 不够,偏倚来自上游 |
| 逐字可复现的抽取结果 | 提示词公布,模型版本未锁定 | 不够,详见 §3.3 |
1.4 你的处境与它能帮到的事
| 你的处境 | 它能帮你什么 | 下一步该做什么 |
|---|---|---|
| 你要训一个轻量胸片描述模型,不想自己处理报告 | 提供可直接进 LLaVA 系代码的 JSON 与对话模板 | 先把 image 路径接回本地影像目录(§5.5),再决定用哪条文本通道 |
| 你在写方法论文,要证明文本预处理很关键 | 同一批影像、两套文本,天然构成对照 | 固定模型侧与超参,只换 generate_method 做消融,并写清模型版本不可锁 |
| 你已有正则流程,想知道换成模型重写值不值 | 官方给了两套并存产物与一组自动指标 | 以它的两套产物之差为参照,不必自己重跑 GPT |
| 你要复现 LLaVA-Rad 的训练 | 它就是官方声明的配套数据资源 | 还须另外拿影像与相应代码仓,两者都不随它发布 |
| 你要在自己的机构里用模型处理临床文本 | 官方的处理链路与合规姿势可参考 | 参考其专有实例、退出人工审核的做法(§3.3),但须按本机构合规要求重走一遍 |
| 你需要随图可用的影像级标签 | CheXbert 的 14 项标签随记录给出 | 注意这些标签本身是模型预测值,不是人工标注 |
1.5 一句话判断
它不是又一批胸片,而是「同一批胸片报告的第二次读法」:想省掉一次四段落抽取的工程、又想有一个能与正则结果对照的大规模文本通道,它是目前公开资源里最省事的一个。
1.6 不适合谁:四条边界
不适合想要影像的人。 零像素。期待「下载即可训练」的流程会卡在这里,而且要过的是两个资源的凭证,不是一个。
不适合把它们当标准答案。 文本由两级自动处理产生,官方没做专家复核。用它训练出来的模型,语言边界是「规则加 GPT-4 加 CheXbert」三层的边界,不是放射科医师的边界。
不适合需要纵向信息的任务。 官方刻意去掉了所有与既往影像的比较。想研究「如何把既往纳入生成」的人,这个资源反而把关键信息删掉了,应改看专门处理这类引用的资源。
不适合直接做产品级部署。 官方把它定位为研究工件,许可适用于 1.5.0 版凭证化条款,且上游 MIMIC-CXR 的使用条款会通过父资源关系传导过来。
§2 数据构成与规格
2.1 三份 JSON 与「LLaVA 格式」指的是什么
官方 Data Description 开篇即说明:数据集由三个 JSON 文件构成,分别对应训练、验证、测试分裂,内容是 MIMIC-CXR 报告的抽取段落与元数据,格式对齐 LLaVA 框架。
LLaVA 框架里的指令微调数据惯例是一个数组,每个元素描述一张图片及其对话:一个对象里有唯一标识、图片路径,以及一段人机多轮对话。对话中 from 为 human 的一轮代表用户提问(含 <image> 图像标记),from 为 gpt 的一轮代表目标答复。这个格式的存在意义是工程上的:LLaVA 系列代码及其医学分支可以直接读它,不必改造数据加载器。
对这个资源来说,格式带来三个直接后果。第一,监督目标固定为所见段落:官方示例里 human 一轮的文本就是 <image>\nDescribe the findings of the chest x-ray.\n,gpt 一轮就是所见的抽取文本;想要生成印象段落,需要自己改组对话,官方 Usage Notes 也明确鼓励这种改写。第二,四个段落以独立字段存着,所以「换个目标段落重编对话」不需要再跑模型。第三,image 是相对路径,加载器要把根目录换成你本地的影像目录。
2.2 字段字典
下表按官方 Data Description 的列举与官方示例整理。需要先说清楚:官方并没有给出逐字段的正式字典,语义部分来自官方那一句概括与那个示例;凡属从示例形态推出来的判断,都在备注栏里标明。
| 字段 | 类型与取值 | 官方语义 | 使用注意 |
|---|---|---|---|
id |
字符串,形如 10003502_50084553 |
该条记录的唯一标识 | 形态是「患者编号_研究编号」;官方统计以 DICOM 计影像数,故同一 id 可能对应多条记录(§5.6) |
image |
字符串路径 | MIMIC-CXR 内对应影像的位置 | 只是路径,不是像素;前缀 mimic/ 对应 JPG 版本的 files/ 目录 |
generate_method |
字符串,示例值为 gpt4 |
该条记录由哪种方式抽取 | 训练与验证分裂里两套并存;测试分裂官方表显示只有规则抽取 |
reason |
字符串或 null | 检查理由 | 官方示例中为一句自然语言描述,内含脱敏掩码写法 |
impression |
字符串或 null | 印象段落 | 官方示例为 null,抽不到就留空 |
indication |
字符串或 null | 指征段落 | 同上,可为空 |
history |
字符串或 null | 病史段落 | 同上,可为空 |
view |
字符串,示例 AP |
投照方位 | 官方统计口径限定为 AP/PA |
orientation |
字符串,示例 Erect |
患者体位 | 可作为生成时的条件变量 |
chexpert_labels |
对象,14 个键 | 由 CheXbert 从报告得到的影像标签 | 取值 1.0 / 0.0 / -1.0 / NaN;NaN 不是合法 JSON 字面量 |
conversations |
数组,两轮 | 人机对话,机器答复为所见段落 | 提问文本固定,改写提示词需自行组装 |
chexpert_labels 的 14 个键按官方示例的名称罗列(顺序依示例):Atelectasis、Cardiomegaly、Consolidation、Edema、Enlarged Cardiomediastinum、Fracture、Lung Lesion、Lung Opacity、No Finding、Pleural Effusion、Pleural Other、Pneumonia、Pneumothorax、Support Devices。
2.3 单条记录的完整解剖
理解字段最好的材料是官方给出的那一条示例,原样摘录如下:
{
"id": "10003502_50084553",
"image": "mimic/p10/p10003502/s50084553/70d7e600-373c1311-929f5ff9-23ee3621-ff551ff9.jpg",
"generate_method": "gpt4",
"reason": "___ year old woman with heart failure and dyspnea// eval for pulmonary edema.",
"impression": null,
"indication": null,
"history": null,
"view": "AP",
"orientation": "Erect",
"chexpert_labels": {
"Atelectasis": 1.0,
"Cardiomegaly": -1.0,
"Consolidation": NaN,
"Edema": 1.0,
"Enlarged Cardiomediastinum": NaN,
"Fracture": NaN,
"Lung Lesion": NaN,
"Lung Opacity": NaN,
"No Finding": NaN,
"Pleural Effusion": 1.0,
"Pleural Other": NaN,
"Pneumonia": NaN,
"Pneumothorax": 0.0,
"Support Devices": NaN
},
"conversations": [
{
"from": "human",
"value": "<image>\nDescribe the findings of the chest x-ray.\n"
},
{
"from": "gpt",
"value": "Large right and moderate left pleural effusions and severe bibasilar atelectasis are present. Cardiac silhouette is obscured. No pneumothorax. Pulmonary edema is mild, obscured radiographically by overlying abnormalities."
}
]
}
从头读到尾,能看到设计上的几处取舍。reason 里保留了 ___ year old 这样的脱敏掩码写法,而官方提示词明明要求去掉当前影像看不见的人口学信息;两处对照说明一件事:清洗是尽力而为,不是保证。三个段落字段全为 null,可能是原报告本来没有独立成段,也可能是模型没抽出来——这两种情况在管道里无法分辨,这也是它不能当标准答案的原因之一。
chexpert_labels 里只有 5 个值非空,其余 9 个是 NaN。按 CheXpert 体系的通行约定,1.0 为阳性、0.0 为阴性、-1.0 为原文表述不确定、NaN 为未提及;示例中 Cardiomegaly 取 -1.0,正是不确定语义的体现。需要说明的是:这四项中文措辞是按 CheXpert 体系通行定义给出的解释,官方页面并未逐项声明取值含义。
2.4 怎么接回 MIMIC-CXR
这是使用它的第一步,也是最容易被忽略的一步。image 字段里的 mimic/p10/p10003502/s50084553/<hash>.jpg 与 MIMIC-CXR-JPG 的目录结构是同一套:files/p10/p10003502/s50084553/<hash>.jpg,替换前缀即可。
| 你要去的地方 | 用什么做键 | 怎么拼 |
|---|---|---|
| JPG 版本的影像文件 | image 整条路径 |
去掉 mimic/ 前缀,接到本地 JPG 根目录的 files/ 下 |
| 原始 DICOM | image 末段文件名 + id 的研究部分 |
患者目录 p10/p10003502,研究目录 s50084553,文件取路径末段 |
| 标签表 | id 的患者部分与研究部分 |
下划线前为 patient 编号,其后为 study 编号 |
| 住院层面的临床上下文 | id 的患者部分 |
与 MIMIC 体系内的 subject 编号同源,需另行关联 |
需要注意:官方 Parent Projects 区标注的本资源父版本是 MIMIC-CXR Database v2.1.0,拼接目录时应按该版本的落盘结构处理;官方页面并未对本资源能否兼容其他版本作额外声明。
2.5 两条抽取产物并存,这是它最值钱的结构
官方那张统计表行数不多,信息量却很大,原样转录如下(数字全部取自官方 Data Description 的表格,未作加工):
| 统计口径 | 训练 | 验证 | 测试 |
|---|---|---|---|
| 患者数 | 63,169 | 487 | 289 |
| 检查数 | 213,365 | 1,733 | 3,041 |
| DICOM 数(AP/PA) | 237,972 | 1,959 | 3,403 |
| 规则抽取报告数 | 162,969 | 1,286 | 2,461 |
| GPT 结构化报告数 | 237,073 | 1,952 | — |
| 合计记录数 | 400,042 | 3,238 | 2,461 |
表下方有一行官方说明:DICOM 行统计的是官方 MIMIC-CXR 分裂下 AP/PA 位的影像数;规则方式与 GPT-4 方式在训练与验证分裂上产出的图文对数,已排除抽取不出所见段落的文本。这句话值得反复读。它同时说明了两件事:其一,抽取失败的记录没有进表的以上就是这几行的全部信息;其二,测试分裂的 GPT 一行是短横线,也就是该分裂未提供 GPT 抽取版本。
两条路径的差异不是简单的「更干净」,而是三件事的叠加:
| 差异维度 | 规则路径 | GPT-4 路径 |
|---|---|---|
| 切分依据 | 按标题与正则匹配 | 按内容归属判断,不论原标题怎么拼写 |
| 错字与重复 | 原样保留 | 提示词要求修正断词、删除重复短语 |
| 时间比较 | 通常原样保留 | 显式去除与既往影像的比较,改写为当前影像的状态描述 |
| 缺段处理 | 视规则匹配情况而定 | 明确缺段时输出 null |
| 输出形式 | 文本段落 | JSON 四段,便于程序化读取 |
| 官方给的定位 | 作为评测时的参照基准 | 与参照基准做自动指标比较(§4.2) |
2.6 粒度:它是段落级资源,不是句子级,更不是病灶级
一段所见在这个资源里是一个完整字符串,对应关系到段为止。想知道某个观察落在哪一句,得自己再做一层处理;想知道病灶在哪,它没有坐标;想做实体关系抽取,它也没有。
| 你要的结构 | 这个资源有没有 | 该找谁 |
|---|---|---|
| 报告四分段的文本 | 有 | 本资源 |
| 14 项影像级标签 | 有,随记录附带 | 本资源,或 CheXpert 系列 |
| 断言句实与实体类别 | 没有 | RadGraph 家族 |
| 短语到影像的接地 | 没有 | MS-CXR 系列 |
| 解剖关系与场景图 | 没有 | Chest ImaGenome |
| 像素级分割 | 没有 | 专门的分割类资源 |
这不是缺点,而是分工。它承担的是「把报告变成可以喂给视觉语言模型的四段文本」这一环,其余层次由别的资源承担。用错层次的人,多数是想要句子粒度却懒得再跑一次抽取模型。
2.7 把同一条记录组装成不同的训练目标
同一份数据可以拼出好几种训练口径,差别只在 conversations 怎么填。官方提供了固定提问加所见答复的默认形态,同时明确鼓励使用者自行改造,下表列出四种常见组装方式及其代价:
| 组装方式 | human 一轮写什么 | gpt 一轮写什么 | 代价与注意 |
|---|---|---|---|
| 默认形态 | 固定提问加图像标记 | 所见段落 | 官方示例即此形态,开箱可用 |
| 双段目标 | 固定提问 | 所见段落加印象段落 | 印象字段常为空,需先按非空过滤 |
| 带条件的生成 | 把 view、orientation、reason 拼进提问 |
所见段落 | 条件字段为空时会引入「空提示」,建议先补齐再拼 |
| 问答形态 | 由 chexpert_labels 的非空项生成是非问答 |
是或否 | 负一的含义是不确定,直接当二元标签会把风险写进监督信号 |
这张表想说明的只有一件事:默认形态不是唯一形态。字段都是独立存放的,改 conversations 不需要重新抽取文本,这正是它的结构可用性在五维评分里拿高分的原因。
§3 它是谁的数据
3.1 贡献者与机构
官方页面列出 26 位作者,署名机构集中在五家:第一作者 Juan Manuel Zambrano Chaves(Microsoft Research),末位作者 Hoifung Poon(Microsoft Research)。
| 机构 | 官方页面标注的所属成员 | 说明 |
|---|---|---|
| Microsoft Research | 第一作者与多名共同作者 | 数据工程与模型主张的主体单位 |
| Stanford University | Shih-Cheng Huang、Akshay Chaudhari、Serena Yeung、Curtis Langlotz | 放射学建模与评测方法方向 |
| University of Washington | Hanwen Xu、Sheng Wang | 多模态建模方向 |
| University of Southern California | Fei Wang | 健康信息学方向 |
| University of California, Davis | Muhao Chen | 自然语言处理方向 |
需要说明:官方页面区分了机构名录,但没有给出逐位作者的贡献分工,上表右列属于角色描述而非官方事实。
3.2 时间线
| 时间 | 事件 | 出处 |
|---|---|---|
| 2024 年 3 月 12 日 | 原始论文预印本首版上线(arXiv:2403.08002) | arXiv 摘要页版本历史 |
| 2024 年 6 月 27 日 | 预印本更新至第 5 版 | 同上 |
| 2025 年 1 月 24 日 | 本资源 v1.0.0 在 PhysioNet 发布,版本 DOI 为 10.13026/4ma4-k740 | PhysioNet 项目页 Versions 区 |
| 2025 年 | 原始论文正式发表于 Nature Communications 第 16 卷,文章编号 3108 | arXiv 摘要页的期刊出处栏 |
| 核验时点 | 项目页仅有 1.0.0 一个版本 | PhysioNet 项目页 |
一个容易混淆的点:资源发布早于期刊版上线,因此官方 Cite 区块给出的附加引用是按预印本写的。写自己的论文时,按目标期刊习惯选择预印本或期刊版即可。
3.3 生成场景与由此带来的可复现性问题
官方 Ethics 一节写得相当具体,而且这部分恰是使用者最该读的:原数据来自 MIMIC-CXR,处理中使用了 GPT-4 的应用程序接口。由于 MIMIC-CXR 的使用条款禁止向第三方共享数据、并要求保障电子数据安全,作者组使用了专有的 Azure OpenAI 实例,在该实例上放弃了人工审核,并且依据条款不允许服务方为滥用检测而处理这些数据。
这段描述有三个下游含义。第一,没有人替你逐份看过输出。既没有第三方审核员,服务端也没有做滥用检测,质量控制完全依赖作者组自己的自动评测。第二,重跑不会得到逐字相同的结果。官方公布了提示词与使用策略(任务指令、少样本示例、JSON 输出约束),这很好;但 GPT-4 的具体模型版本未在发布页面中锁定,加上接口本身的非决定性,指望严格复现是不现实的。第三,合规姿势可以借鉴但不能照抄。作者为 MIMIC-CXR 条款量身定制的方案,换一家服务或换一份条款就需要重新论证。
3.4 数据来路的四个层次
| 层次 | 是什么 | 谁产出 | 能否独立获取 |
|---|---|---|---|
| 第一层:原始放射报告 | MIMIC-CXR v2.1.0 的自由文本 | 临床放射科与 MIMIC 团队 | 能,凭申请获取 MIMIC-CXR |
| 第二层:规则抽取结果 | 官方代码仓的正则切分 | MIMIC 代码仓维护者与作者组 | 能,代码公开 |
| 第三层:GPT-4 重抽取 | 本资源新增的那一半 | 本资源作者组 | 只能从本资源取,或自己重跑 |
| 第四层:对话格式封装 | 路径、标签与两轮对话的组装 | 本资源作者组 | 只能从本资源取 |
这个分层对理解评测非常关键:官方报告的那组自动指标,比较的是第三层与第二层,不是与第一层。也就是说,「GPT 抽取很像规则抽取」得到了验证,而「两者都忠实于原始报告」并没有被同样的证据验证。
§4 它最独特的东西
4.1 稀缺性:同一批影像的两份文本,而且在同一个文件里
胸片领域既不缺报告数据集,也不缺带标签的报告衍生物。真正少见的是:在同一个训练分裂里,同一批影像同时存在两套抽取文本,并且能被一个字段分开。以往需要在自家管道里做两次处理、再小心翼翼按主键对齐的消融实验,现在只需要按 generate_method 过滤。
这份稀缺性有两层保障。一是规模够大(训练侧 400,042 条),不是那种只给几百条用于演示的样本集;二是口径一致(两套抽取共用同一套 MIMIC-CXR 官方分裂),不会出现「两份数据来自不同切分」这种难以调和的麻烦。
4.2 差异化证据:官方给了指标,但参照系要看清楚
官方在 Methods 一节报告了对 GPT-4 抽取质量的自动评估,对象集中在所见段落,参照物是规则抽取的结果(被当作参照基准),评测在报告测试分裂上进行:
| 指标 | 官方报告值 | 这一指标在看什么 | 怎么读这个值 |
|---|---|---|---|
| BLEU-4 | 78.8 | 字面片段重叠 | 高值说明与参照高度相似,不说明正确性 |
| ROUGE-L | 90.9 | 最长公共子序列 | 同上,对基本保留原文的改写天然友好 |
| F1 CheXbert-14 | 96.7 | 影像征象层面的标签一致性 | 更接近语义一致,但仍受参照物约束 |
| F1 RadGraph | 93.2 | 实体关系层面的事实一致性 | 较高,说明所需改动在实体级别有限 |
| Gatortron 余弦相似度 | 0.928(标准差 0.084) | 语义嵌入空间相似度 | 平均值高、标准差不大,未见大面积漂移 |
| CheXprompt 平均错误数 | 0.20(标准差 0.47) | 面向放射学的事实性错误计数 | 官方同时报告 82.4% 的报告零错误 |
怎么读这张表,比数字本身更重要。所有指标的参照系都是**「与规则抽取比」**,不是「与原报告比」,也不是「与放射科医师判读比」。在这个参照系下,高相似度的含义是「GPT-4 没有把规则能抽出来的东西搞丢、也没有大幅改写」,而不是「它抽得更正确」。官方自己也只给出了定性层面的改进描述:修正拼写、删除重复短语、去除既往检查引用、按内容而非按标题归属段落。这些改动恰好都是让自动指标变好或指标看不太出来的类型。
所以最诚实的读法是:这组数字证明了 GPT 路径不会毁掉规则路径已经得到的信息,并且在规整性上有定性改进;它不能证明 GPT 路径比规则路径更正确,因为没有对着「正确」量过。
4.3 案例:官方少样本示例揭示的那点真相
官方 Methods 一节公布了提示词里的少样本示例。输入报告的所见里有这样的句子:与上午十时四十二分相比,右肺尖气胸略有缩小,先前测得十四毫米、现在测得十毫米。输出侧被改写为:气胸测得十毫米,右肺尖一处轻微挫伤大致稳定,右腋一带有少量胸壁气肿,此外无纵隔移位、未见胸腔积液,印象为 null。
这一句改写把三项处理都演示了一遍:时间比较被删除(两处「相比」都没了)、状态描述被保留(挫伤大致稳定属于对当前影像的判断)、清理并不彻底(原报告里的拼写错误原样留在输出中,句子语法也不完整)。最后一点格外有说服力:管道保证的是结构与意图层面的处理,而不是逐字的文字正确性。
因此用它做研究时,把可能残留的拼写错误与不完整句子当成已知噪声,比假设输出是「干净文本」要稳妥得多。
4.4 边界条件:什么情况下它不再适用
| 情况 | 后果 | 怎么绕 |
|---|---|---|
| 你需要侧位影像 | 官方口径为 AP/PA,侧位不在纳入范围 | 回到 MIMIC-CXR 自行处理 |
| 你要做引用既往的纵向生成 | 这里刻意删掉了既往比较 | 用专门处理既往引用的资源 |
| 你要人工核验过的标准答案 | 未经专家复核 | 用有人工作标注的资源做验收 |
| 你没有 MIMIC-CXR 凭证 | 只有文本没有图 | 先申请影像,这一步无法绕过 |
| 你要逐字可复现的结果 | 模型版本未锁定 | 把它当数据资产使用,重跑只作旁证 |
| 你要多中心代表性 | 继承单一机构急诊人群 | 归因到上游 MIMIC-CXR,不要归因到本资源 |
4.5 它的独特之处究竟在哪
不在规模——比它大的胸片资源并不少;而在于把**「文本处理流派之争」做成了一个可直接做实验的数据事实**。以往这一步藏在各自的仓库里,论文里通常只有一句「我们按常规方式切分报告」,同行既不能复现也无法反驳。这里把它转成了一个公开、可引用、带统计表的东西:你可以不同意它的切法,但你能在论文里写明「我用的是 GPT 通道」或「我用的是规则通道」,而这四个字带来的可比性,胜过任何一句含糊的方法描述。
§5 怎么拿到
5.1 目录结构与文件列表的现实情况
官方 Data Description 说明有三个 JSON 文件,分别对应训练、验证、测试分裂,但没有逐文件列出文件名。PhysioNet 的文件列表对未通过凭证与身份核验的访问返回拒绝响应——本次核验在数据面拿到的是 403 与「数据在你所在区域不可用」的提示——因此文件名属于「登录后可见,但本次未能核验」的信息,写在 §10 的未核验清单里,此处不作猜测。
| 期望中的组成 | 官方是否写明 | 备注 |
|---|---|---|
| 训练分裂 JSON | 写明存在,未给文件名 | 官方统计表 Training 列对应 400,042 条 |
| 验证分裂 JSON | 写明存在,未给文件名 | 对应 3,238 条 |
| 测试分裂 JSON | 写明存在,未给文件名 | 对应 2,461 条 |
| 附属说明文件或许可全文 | 未写明 | PhysioNet 常规会配许可文本,是否随包未核验 |
| 影像本体 | 明确没有 | 必须另行获取 MIMIC-CXR |
5.2 批量下载
凭证化资源的下载要经过登录会话。最朴素也最不容易出错的做法是用 wget 递归拉取:
#-- 在自己的登录后会话上拉取;用户名与密码走交互输入,避免进入 shell 历史
wget -r -N -c -np --user=<PHYSIONET_USER> --ask-password \
https://physionet.org/files/llava-rad-mimic-cxr-annotation/1.0.0/
#-- 拉完先看一眼体量,确认三个文件都在
ls -lh llava-rad-mimic-cxr-annotation/1.0.0/
-np(不向上追父目录)这一项不能省,否则会把同层的其他目录一并拉下来。社区里也有第三方的命令行工具可做同样的事,但那些工具不在本次核验范围内(§10)。另需提醒:官方页面在某些网络环境下会显示区域限制提示,这不是文件损坏,换合规途径处理即可。
5.3 读取:别被 NaN 咬一口
这个资源最容易让人吃亏的一处是 chexpert_labels 里的 NaN 字面量。JSON 标准里没有它,Python 的标准库出于宽容会接受,但很多严格解析器以及一些语言的默认配置会直接报错。
import json
import math
#-- Python 的 json.load 会把 NaN 解析成 float('nan')
with open('train.json') as f:
data = json.load(f)
print(len(data)) #-- 记录数,官方写训练侧 400,042 条
print(data[0]['generate_method']) #-- 取值区分两条抽取路径
#-- 判断 NaN 不能用等号,要用 math.isnan
lab = data[0]['chexpert_labels']
mentioned = {k: v for k, v in lab.items() if isinstance(v, float) and not math.isnan(v)}
print(mentioned)
稳妥的做法是在首次读取后做一次标准化,把 NaN 换成空值,把数据落到自己的中间格式上,后续流程就不需要再考虑这件事。
5.4 转成通用表结构
把嵌套对象摊平成表是多数分析流程的第一步:
import json
import pandas as pd
#-- 读入后摊平一层:chexpert_labels 展开为 14 列
with open('train.json') as f:
data = json.load(f)
df = pd.json_normalize(data)
df['prompt'] = df['conversations'].apply(lambda c: c[0]['value'])
df['target'] = df['conversations'].apply(lambda c: c[-1]['value'])
df['patient'] = df['id'].str.split('_').str[0]
df['study'] = df['id'].str.split('_').str[1]
label_cols = [c for c in df.columns if c.startswith('chexpert_labels.')]
df[label_cols] = df[label_cols].astype(float) #-- NaN 在此变成浮点缺失值
这一路处理有两个坑:conversations 是列表,json_normalize 不会自动展开其内容,所以取首元素得到提问、取末元素得到目标答复要自己写;转换类型之后 NaN 会变成表里的缺失值,语义仍是「报告未提及」,做统计时必须显式排除而不能当零。
5.5 把 image 路径接回本地影像目录
from pathlib import Path
JPG_ROOT = Path('/data/mimic-cxr-jpg/2.1.0') #-- 换成你本地的落盘根目录
def to_local(image_field: str) -> Path:
#-- 官方示例里 image 以 mimic/ 开头,对应 JPG 版本的 files/ 目录
rel = image_field.replace('mimic/', 'files/', 1)
return JPG_ROOT / rel
p = to_local(data[0]['image'])
print(p, p.exists())
p.exists() 这一句是必要的自检:接不上就是接不上,不要靠猜测补齐。如果本地部署里没有 mimic/ 前缀,改用路径末段的文件名在影像目录里定位也能达到同样效果,但这已经是本资源之外的工程决定了。
5.6 六个最容易出错的地方
| 坑 | 后果 | 怎么避免 |
|---|---|---|
把 image 当成随包附带的图片 |
数据读了,图读不到 | 先办 MIMIC-CXR 凭证,image 只是路径串 |
| 严格解析器读不了 NaN | 解析中断或标签全丢 | 用宽容模式读入后把 NaN 统一换成空值 |
把 id 当成唯一主键 |
合并与去重时误删记录 | 官方以 DICOM 计样本,同一 patient_study 可能对应多张影像;联合 id 与 image 使用 |
| 用 GPT 通道训练、用规则通道测试 | 文本口径不一致,结果不可信 | 评测前先把 generate_method 对齐,并在论文里写清用的是哪一条 |
| 忘了测试分裂没有 GPT 版本 | 计划中的对照在测试侧做不了 | 对照实验放在训练或验证侧设计 |
| 自行按记录随机重划 | 同一患者的多次检查分散到两侧 | 若要重划,按 id 里的 patient 编号分组,不要按记录随机切 |
§6 与站内相关资源的关系
6.1 关系图谱
下表列出站内百科中与它强相关的资源,rid 为站内编号,可通过文末导航跳转。
| 相关资源 | rid | 与本资源的关系 | 谁该先看 |
|---|---|---|---|
| mimic-cxr | 16 | 它的父资源与唯一影像来源 | 所有人,尤其是先要理解影像侧的人 |
| mimic-cxr-jpg | 617 | image 路径所指的落盘形态 |
准备把路径接上像素的人 |
| radgraph | 561 | 句子与实体级抽取,作为粒度对照 | 想要更细粒度的人 |
| radgraph2-radiology-reports | 622 | 实体关系的时序扩展 | 关心修饰语与时间线索的人 |
| chexpert | 5 | chexpert_labels 的标签体系来源 |
需要理解那 14 项标签语义的人 |
| chexpert-plus | 740 | 带报告文本的标签资源 | 想同时拿标签与全文的人 |
| chest-imagenome | 330 | 同为 MIMIC-CXR 报告的结构化抽取,走场景图路线 | 想要解剖关系结构的人 |
| cxr-pro | 608 | 专门处理既往引用的一类报告资源 | 关心纵向生成的人 |
| cxrgraph | 1303 | 面向报告生成改造的实体关系标注 | 想细做事实一致性的人 |
| mimic-ext-cxr-qba | 926 | 同样派生自 MIMIC-CXR 的问答三元组 | 做问答而不是生成的人 |
| mimic-cxr-ext-mimic-cxr-db | 927 | 把胸片与住院记录关联起来的关系型资源 | 需要住院上下文的人 |
| image-embeddings-mimic-cxr | 611 | 同一批影像的另一种派生形态 | 不想要像素只要表征的人 |
| openi-iu-xray | 1379 | 胸片报告生成领域的第一个公开基准 | 写论文需要早期基准对照的人 |
6.2 三条检索路径
| 你的入口 | 顺着走 | 终点 |
|---|---|---|
| 我想要图 | mimic-cxr → mimic-cxr-jpg → 本资源 | 影像与影文对齐全 |
| 我想要标签 | chexpert → chexpert-plus → 本资源 | 标签口径清楚,且报告文本可用 |
| 我想要结构 | radgraph → chest-imagenome → cxrgraph → 本资源 | 从实体级到段落级,由细到粗 |
6.3 分工判据
| 任务 | 该用哪个 | 为什么不是本资源 |
|---|---|---|
| 端到端训练一个胸片所见生成模型 | 本资源 | — |
| 评测生成文本的事实一致性 | cxrgraph 或 radgraph | 它本身就是被评测的对象,且没有人工金标 |
| 研究既往引用对生成的污染 | cxr-pro | 它刻意删掉了这类表述 |
| 短语接地或可视化定位 | MS-CXR 系列 | 它没有任何坐标信息 |
| 把同一批图用于问答任务 | mimic-ext-cxr-qba | 它的对话只有一种固定提问 |
| 只要算力友好的影像表征 | image-embeddings-mimic-cxr | 它给不了表征,只给路径与文本 |
§7 质量评估与局限性
7.0 阅读本节前的一个前置校正
评价这类派生资源时,最容易犯的错误是把源数据的质量与派生处理的质量混在一起打分。影像清晰度、人群构成、疾病谱全部继承自 MIMIC-CXR,不是它能决定的;它能决定的只有一件事:文本抽取与封装做得好不好。下面的评分只针对后半段。
第二个校正是关于质量这个词本身。在这里,质量的参照物有两种:一是原报告说了什么,二是规则抽取抽出什么。官方量化的是第二种。记住这一点,就不会把 96.7 的 F1 读成「事实正确率 96.7%」。
7.1 五维评分
按常用维度打分,每项 1 到 5 分,针对「作为胸片视觉语言模型训练数据」这一用途:
| 维度 | 分数 | 理由 |
|---|---|---|
| 数据规模 | 5 | 训练侧 400,042 条,覆盖 63,169 名患者、213,365 次检查 |
| 结构可用性 | 5 | 字段精简、直连 LLaVA 生态,另附 14 项标签与体位方位字段 |
| 标注可信度 | 3 | 两级自动处理,官方明确未做专家人工复核;评测以规则抽取为参照 |
| 文档完整 | 4 | 有统计表、有示例、有提示词;但无逐字段字典、未给文件名 |
| 可获取性 | 2 | 需培训、签协议、身份审核,影像还要另申请,并存在区域限制提示 |
合计 19 分(满分 25)。分数形状可以概括为两头强中间弱:规模与可用性拉满,可信度与可获取性拖后腿,文档居中偏上。
7.2 标注可信度的两层
| 层 | 谁产出 | 凭什么让人信 | 失败模式 |
|---|---|---|---|
| 原始报告 | 临床放射科医师 | 职业责任与临床流程 | 拼写错误、习惯性写时间比较、风格差异大 |
| 规则抽取 | 正则脚本 | 确定性、可重跑 | 标题变体漏切、把比较句带进所见、缺段处理不一致 |
| GPT-4 重抽取 | 大语言模型 | 官方报告的自动指标(与规则抽取比) | 可能改动措辞、可能漏信息、可能残留错字,且无人复核 |
| CheXbert 标签 | 另一个模型 | 与报告文本同源 | 标签本身是预测值,不等于人工标注 |
四层叠在一起,就是「每一行文本由三段自动处理串成」。这不是一个薄弱环节叠加的吓人故事,但它清楚界定了谁能用它、能得到什么级别的结论:工程型结论可信,临床型结论不可信。
7.3 已知的可枚举偏差
| 偏差 | 来源 | 表现 | 官方是否给量化 |
|---|---|---|---|
| 纳入口径限于 AP/PA | 设计决定 | 侧位影像没有对应记录 | 官方统计表标题写明 AP/PA |
| 抽不出所见的报告被排除 | 设计决定 | 报告数与影像数不相等 | 官方表格说明已排除 |
| 时间信息被系统性移除 | 提示词硬约束 | 文本里几乎没有纵向比较 | 仅定性说明,未量化 |
| 措辞被改写 | 语言模型天性 | 与规则抽取不是逐字同一文本 | 有 BLEU 与 ROUGE 作为侧面证据 |
| 残留拼写错误与不完整句 | 清洗不彻底 | 官方少样本示例中可见 | 未量化 |
| 模型版本未锁定 | 发布方式 | 重跑不可逐字复现 | 未声明 |
| 源人群偏倚 | MIMIC-CXR | 单一机构急诊人群 | 官方把伦理注意事项指向上游 |
| 参照系偏差 | 评测设计 | 指标是「与规则比」而非「与真相比」 | 官方明写以规则结果为参照基准 |
7.4 外部验证矩阵
| 被验证的事 | 由谁验证 | 强度 | 未被验证的事 |
|---|---|---|---|
| GPT 抽取在自动指标上接近规则抽取 | 作者组自己 | 强,多指标多侧面 | 是否更接近放射科医师判读 |
| 消除时间引用等在定性上更好 | 作者组的定性陈述与示例 | 中,仅示例层面 | 被删掉的比例与残余情况 |
| 错误计数低于阈值 | 作者组,报告 82.4% 零错误 | 中,仍是与规则参照比 | 若以原报告为参照会怎样 |
| 用它训练所得模型在下游任务上的表现 | 论文层面的实验(本文未逐项核验) | 见 §10 | — |
7.5 它为何仍然值得用
在胸片多模态领域,训练数据的稀缺从来不是主要矛盾——MIMIC-CXR 一直在那里,任何人都可以跑自己的正则。真正的摩擦在于:每一步文本处理都藏在各自的仓库里,绝大多数论文从不公开。结果就是同一个任务上的两篇工作,连喂给模型的文本到底是否可比都说不清。
这个资源把那一步看不见的工程做成了可发布、可引用、带统计表的物件。你不必同意它的切法,但可以在论文里明确写出自己用的是哪条通道;而这种可陈述性,正是多数胸片报告工作目前最缺的东西。这也是 LLaVA-Rad 标注集在规模之外仍然存在的理由。
§8 生态位与历史
8.1 沿革:从「拼凑规则」到重写文本
把时间轴拉开看,这条线走了三步。第一步,2019 年 MIMIC-CXR 发布,把数十万量级的胸片影文对变成公共资源;第二步,围绕它的每一项工作都要自己解决报告切段问题,官方代码仓里的正则成了事实标准,谁都不满意但谁都得用;第三步,自 2023 年起,LLaVA 系列把指令微调数据的格式标准化,而语言模型的调用成本降到足以处理几十万份报告,「重新切一遍」第一次成为一件可以被批量发布的事。
这个资源就是第三步的产物:它不是新发现的数据源,而是一次方法论改造的落盘结果。这类资源在传统评价体系里容易被忽略——没有新数据、没有新模型、没有新指标——但它解决的问题恰恰是复现性中最脏、最没人写进论文的那部分。
8.2 与评测基准的关系
它自身并不隶属于任何挑战赛。位置在训练侧:作为 LLaVA-Rad 项目的配套数据,用于支持可复现性。评测侧的对应物是同一篇工作提出的 CheXprompt,一种基于模型的面向事实性的报告评价指标,官方称其与专家评测具有可比性。
所以准确的理解是:训练数据与评测工具是同一篇工作的两个产物,两者通过那篇工作耦合,但不能互相替代。不要指望它能像评测基准那样告诉你的模型好不好。
8.3 生态位:夹在原报告与精细标注之间
| 资源类型 | 代表 | 粒度 | 是否含模型重写 | 适合什么 |
|---|---|---|---|---|
| 原始报告库 | MIMIC-CXR | 报告全文 | 无 | 自定义任何处理流程 |
| 规则派生标签库 | CheXpert、CheXpert Plus | 十余类标签加报告全文 | 无 | 分类任务与弱监督标签 |
| 实体关系标注 | RadGraph 家族 | 实体与关系 | 无 | 事实一致性评测 |
| 本资源 | LLaVA-Rad MIMIC-CXR Annotations | 四段文本加对话 | 有 | 端到端生成任务的训练数据 |
| 短语接地 | MS-CXR 系列 | 短语加坐标 | 无 | 可视化接地与问责 |
它在表格里的位置很清楚:公开资源里少有的把模型重写作为核心成分的一个。这带来两个后果——它的文本更贴合生成任务的表达习惯,同时也更像一个模型产物而非标准答案。
8.4 谁在用它,用来做什么
官方 Usage Notes 自己给了三条用途建议,基本覆盖实际用法:其一,直接训练「给图像生成所见」的模型;其二,按需改造字段,把检查理由、投照方位、体位写进用户提问里;其三,要求模型同时生成所见与印象。除此之外,方法研究者最常见的两种用法是做文本预处理消融,以及把它当作现成的背景基线与自家处理流程对照。
§9 使用指引
9.1 三种角色的路径
| 角色 | 最短路径 | 要避开的坑 |
|---|---|---|
| 训练胸片描述模型的人 | 申请凭证 → 拉三份 JSON → 接影像路径 → 选 generate_method → 进 LLaVA 系代码仓 |
忘了影像要另申请;把 NaN 当零 |
| 做文本预处理研究的人 | 用 generate_method 分组 → 固定其余一切 → 报告两套结果 |
在测试侧做通道对照,那里只有一条通道 |
| 做放射信息学的人 | 把它当参考实现,参考其提示词与合规姿势 | 直接把它当成会诊级的标准答案 |
9.2 一条最短的可用流程
#-- 1. 完成 CITI「Data or Specimens Only Research」培训并签署数据使用协议
#-- 2. 分别申请:本资源(JSON)与 MIMIC-CXR 或 JPG 版本(影像)
#-- 3. 拉取文件
wget -r -N -c -np --user=<PHYSIONET_USER> --ask-password \
https://physionet.org/files/llava-rad-mimic-cxr-annotation/1.0.0/
import json
import pandas as pd
from pathlib import Path
JPG_ROOT = Path('/data/mimic-cxr-jpg/2.1.0')
#-- 4. 读入训练分裂,按抽取通道过滤
with open('train.json') as f:
data = json.load(f)
gpt = [d for d in data if d.get('generate_method') == 'gpt4']
#-- 5. 摊平成表,并把路径接回本地影像目录
df = pd.json_normalize(gpt)
df['target'] = df['conversations'].apply(lambda c: c[-1]['value'])
df['local_path'] = df['image'].apply(lambda s: JPG_ROOT / s.replace('mimic/', 'files/', 1))
#-- 6. 自检:路径能否命中由你自己记录,不要默认全部命中
print('rows', len(df))
print('exists', df['local_path'].apply(lambda p: p.exists()).iloc[:5].tolist())
9.3 引用方式
PhysioNet 的惯例是同时引用资源本身、原始论文与平台:
| 引用对象 | 内容 |
|---|---|
| 数据资源 | Zambrano Chaves JM, Huang S-C, Xu Y, Xu H, Usuyama N, Zhang S, et al. LLaVA-Rad MIMIC-CXR Annotations (version 1.0.0). PhysioNet (2025). RRID:SCR_007345. https://doi.org/10.13026/4ma4-k740 |
| 原始论文(预印本) | Zambrano Chaves JM, Huang S-C, Xu Y, et al. Towards a clinically accessible radiology foundation model: open-access and lightweight, with automated evaluation. arXiv preprint arXiv:2403.08002. 2024. |
| 原始论文(期刊版) | 同上,正式发表于 Nature Communications 第 16 卷,文章编号 3108(2025),DOI 10.1038/s41467-025-58344-x |
| 父资源 | 还应同时引用 MIMIC-CXR Database v2.1.0,官方 Parent Projects 区明确要求 |
| 平台论文 | Pollard T, Moody BE, Lehman L, et al. PhysioNet as a global platform for biomedical research. Nature Health (2026). https://doi.org/10.1038/s44360-026-00096-z |
写论文时建议额外注明三件事:所用版本号(1.0.0)、使用的是哪条文本通道(generate_method 的取值)、以及影像来自哪个版本的 MIMIC-CXR。
§10 AI 使用声明
| 项目 | 声明 |
|---|---|
| 文本生成 | 本文由 AI 辅助撰写,编辑把关结构与事实 |
| 数字来源 | 规模、结构、边界三类数字全部来自 PhysioNet 官方项目页 v1.0.0 的摘要、方法与数据描述各节;时间线与期刊出处来自 arXiv 摘要页 |
| 文件核验 | 官方项目页可正常访问并逐段读取;文件列表接口返回 403、数据面返回区域不可用提示,三份 JSON 的实体内容未核验 |
| 不一致说明 | 官方统计表写明已排除抽不出所见段落的文本,因此训练侧影像数与 GPT 抽取数之间的差额属官方口径范围,本文未作推断;测试侧 GPT 一列为短横线,官方未作文字解释 |
| 论文信息 | 只核对了 arXiv 摘要页与官方页面,未读论文全文;下游实验细节因此未在此复述 |
| 未核验内容 | 三个 JSON 的准确文件名、文件体量、是否附带说明文件、id 在全库是否唯一、14 项标签的官方取值定义、影像路径前缀是否存在版本差异、第三方下载工具的可用性 |
| 图像 | 无配图;封面为生成式提示词,不含任何真实影像或可识别人物 |
| 免责 | 本文不构成临床建议;数据使用须遵守 PhysioNet 凭证化健康数据许可 1.5.0,并通过父资源关系遵守 MIMIC-CXR 的使用条款 |
常见误读(避坑清单)
| 说法 | 实际 | 证据 |
|---|---|---|
| 「它就是 LLaVA-Rad 模型」 | 它是模型的配套训练数据资源,不含模型权重 | 官方 Usage Notes 写的是「释放数据集」 |
| 「下载它就能训练,图也一起给」 | 只有文本,image 是路径字符串 |
官方示例与数据描述 |
| 「每条记录都有四个完整段落」 | 官方示例里印象、指征、病史三者皆为 null | 官方给出的 JSON 示例 |
| 「四十万条全是 GPT 生成的」 | 训练侧 400,042 条中 GPT 路径 237,073 条,其余 162,969 条为规则抽取 | 官方统计表 |
| 「测试分裂也有一份 GPT 版」 | 官方表在测试列的 GPT 行写短横线 | 官方统计表 |
| 「96.7 的 F1 说明正确率是 96.7%」 | 该指标是与规则抽取比较所得,参照不是放射科医师 | 官方方法节明写以规则结果为参照基准 |
| 「标签里的 NaN 等于阴性」 | NaN 表示报告未提及该项,与 0.0 的阴性语义不同 | 官方示例中两者并列出现 |
| 「它包含侧位片」 | 官方口径为 AP/PA 位 | 官方统计表标题 |
| 「模型重写之后文本是干净的」 | 官方少样本示例的输出里保留了拼写错误与不完整句 | 官方公布的提示词示例 |
| 「它是 MIMIC-CXR 的替代品」 | 官方 Parent Projects 明确写派生自 MIMIC-CXR v2.1.0 | 官方页面 Parent Projects 区 |
| 「开放数据,随便用」 | 凭证化访问加培训加协议,许可 1.5.0 | 官方 Access 区 |
| 「同一个 id 就是同一张图」 | id 是编号形态,官方则以 DICOM 计影像数 | 官方示例与统计表口径 |
FAQ
Q1:它到底是影像库还是标注库?
标注库。全部产出是三份 JSON 文件,唯一的影像痕迹是 image 字段里的那条路径字符串,例如 mimic/p10/p10003502/s50084553/70d7e600-373c1311-929f5ff9-23ee3621-ff551ff9.jpg。想训练,必须另行申请 MIMIC-CXR(原始 DICOM)或它的 JPG 版本,再把路径前缀换成本地目录。这也是它比多数胸片资源多一步手续的原因。
Q2:为什么训练集里同时存在规则抽取和 GPT-4 抽取?
这是它的核心设计,不是数据没清理干净。官方统计表把两行并列:训练分裂 400,042 条中,GPT-4 抽取 237,073 条,规则抽取 162,969 条。两者取自同一批影像与同一批报告,因此可以把 generate_method 当开关,在不换图像、不换模型的前提下比较两种文本处理方式。generate_method 的意义就在于此。
Q3:它的质量到底能不能信?
有条件的信。官方报告了 BLEU-4 78.8、ROUGE-L 90.9、F1 CheXbert-14 96.7、F1 RadGraph 93.2 等自动指标,以及 Gatortron 余弦相似度 0.928 与 CheXprompt 平均错误数 0.20、82.4% 的报告零错误。但参照物是规则抽取的结果,不是放射科医师判读;官方同时明确写了因规模原因未做专家人工复核。所以它能支撑「比规则抽取更规整」的工程结论,不能支撑临床正确性的结论。
Q4:那些 NaN 标签怎么处理?
按 CheXpert 体系的通行约定,1.0 是阳性、0.0 是阴性、-1.0 是原文表述不确定、NaN 是未提及。四项中文措辞属通行定义,官方页面未逐项声明,已列入未核验清单。工程上要注意两点:NaN 不是合法 JSON 字面量,严格解析器会报错;NaN 与 0.0 语义不同,做统计时不能当作阴性直接计入。
Q5:如果要更细的粒度怎么办?
先想清楚要哪一层。这个资源的产出是四段文本加一句固定提问的对话,属于段落级;想要实体与关系,RadGraph 家族更合适;想要坐标与接地,MS-CXR 系列才有;想要解剖结构与场景图,Chest ImaGenome 更贴近。它在这条梯度上的位置是「够喂端到端生成模型」,不是「够做细粒度分析」。
Q6:能不能用于跨多次检查的纵向生成研究?
不适合直接这么做。官方提示词有一条硬约束:去掉任何无法从当前影像直接观察到的信息,包括与既往影像的比较。这条约束把「较前片吸收」这类句子从训练目标里删掉了。想研究纵向生成,应改看专门保留并处理既往引用的资源,例如 CXR-PRO。
Q7:现在有没有更新版本?
核验时点,PhysioNet 项目页的版本区只有一个版本:1.0.0,2025 年 1 月 24 日。版本专属 DOI 为 10.13026/4ma4-k740,指向最新版的 DOI 为 10.13026/6ey5-df78。两者不同,引用时按自己实际所用的那个写。
Q8:凭证和手续具体怎么走?
三步:完成 CITI「Data or Specimens Only Research」培训;签署 PhysioNet 凭证化数据使用协议(1.5.0 版)并通过身份审核;登录后在文件列表下载三份 JSON。此外还要单独申请 MIMIC-CXR 或 JPG 版本以获得影像。官方页面在某些访问环境下会显示区域不可用提示,这是数据面的区域限制,不是文件损坏。
Q9:自己重划数据集时该怎么切?
不要按记录随机切。官方已经给了训练、验证、测试三个分裂,直接用最省事;若要自行划分,按 id 里的 patient 编号分组——同一患者的多张影像与多次检查在特征上高度相关。另外,测试分裂只有规则抽取版本,跨通道对照实验应放在训练或验证侧设计。
Q10:能不能与其他 MIMIC 派生资源联动?
可以,而且这是常见用法之一。由于 id 与 image 都落在 MIMIC-CXR 的主键空间里,可以在检查或影像层面与 RadGraph、Chest ImaGenome、CheXpert Plus 等资源做联合。前提是你同时拥有这些资源的凭证,并且确认各家使用的 MIMIC-CXR 版本一致——本资源的父版本为 v2.1.0。
术语表
| 术语 | 解释 |
|---|---|
| LLaVA 格式 | 视觉语言模型 LLaVA 系列使用的指令微调数据结构:一个对象描述一张图及其多轮对话 |
| 图文对 | 一张影像与其配套描述文本组成的训练样本,本资源的条数即以此计 |
| 规则抽取 | 用正则与关键词把报告的标题段落切出来的传统做法,本资源指的是官方代码仓提供的那一套 |
| GPT-4 重抽取 | 用大语言模型按提示词把报告重组为四段 JSON,并去除与时间或既往相关的表述 |
| 时间比较 | 报告中与先前检查对比才能成立的表述,是本资源刻意删除的对象 |
| 所见 | 放射报告中描述当前影像发现的核心段落,本资源的生成目标即此段 |
| 印象 | 报告末尾的结论性段落,本资源也抽取但常为空 |
| 指征 / 检查名称 | 报告中的检查理由段与检查项目段 |
| CheXbert | 从放射报告自动抽取 14 类影像标签的模型,本资源的标签字段由它产生 |
| NaN | 非数字字面量,本资源中表示报告未提及该标签项 |
| RadGraph | 把报告拆解为实体与关系的标注体系,常作为事实一致性评测的基础 |
| CheXprompt | 同一篇工作提出的、面向报告事实性的自动评价指标 |
| Gatortron | 面向临床文本的预训练语言模型,此处用于计算语义相似度 |
| BLEU / ROUGE-L | 字面重叠类的自动文本相似度指标,本资源的官方指标的前两项 |
| 凭证化访问 | PhysioNet 对敏感数据的访问管理方式:培训加协议加身份审核 |
| 数据使用协议 | 本资源适用 1.5.0 版凭证化条款 |
| 父项目 | 页面上标注的上游项目,此处为 MIMIC-CXR Database v2.1.0 |
| AP / PA 位 | 胸片的前后位与后前位投照方位,本资源仅纳入这两类 |
| 指令微调 | 用「指令到答复」形式的样本微调模型,使其按指令输出结果 |
附录 A:核心数字核对表
| 数字 | 出处 |
|---|---|
| 版本 1.0.0,发布日期 2025 年 1 月 24 日 | PhysioNet 项目页 Versions 区 |
| 训练分裂 400,042 条图文对 | 官方数据描述的统计表合计行 |
| 其中 GPT-4 抽取 237,073 条 | 统计表 GPT 结构化报告行 |
| 其中规则抽取 162,969 条 | 统计表规则抽取报告行 |
| 验证分裂 3,238 条(GPT 1,952 加规则 1,286) | 统计表合计行与上述两行 |
| 测试分裂 2,461 条 | 统计表测试列合计行 |
| 患者数 63,169 / 487 / 289 | 统计表患者行 |
| 检查数 213,365 / 1,733 / 3,041 | 统计表检查行 |
| AP/PA 影像数 237,972 / 1,959 / 3,403 | 统计表 DICOM 行 |
| BLEU-4 78.8 | 官方方法节的自动评测段落 |
| ROUGE-L 90.9 | 同上 |
| F1 CheXbert-14 96.7 | 同上 |
| F1 RadGraph 93.2 | 同上 |
| Gatortron 余弦相似度 0.928,标准差 0.084 | 同上 |
| CheXprompt 平均错误数 0.20,标准差 0.47 | 同上 |
| 82.4% 的报告零错误 | 同上 |
| CheXbert 标签 14 项 | 官方 JSON 示例的键名 |
| 字段 11 项(标签对象整体计一项) | 官方数据描述的字段列举与示例 |
| 三个 JSON 文件 | 官方数据描述首句 |
| 许可 PhysioNet Credentialed Health Data License 1.5.0 | 官方 Access 区 |
| DOI 10.13026/4ma4-k740 与 10.13026/6ey5-df78 | 官方 Discovery 区 |
| 父项目 MIMIC-CXR Database v2.1.0 | 官方 Parent Projects 区 |
编辑说明
本文的核验时间为 2026 年 10 月 28 日。核对方式为直接访问 PhysioNet 项目页并逐段读取摘要、背景、方法、数据描述、使用说明、伦理、参考文献、文件与访问各区;论文侧只核对了 arXiv 摘要页的版本历史与期刊出处,未读全文。实体文件未能核验:官方文件列表接口返回 403,数据面显示区域不可用,因此三个 JSON 的准确文件名、体量以及主键唯一性均未落实,已在 §10 的未核验清单中逐项列出。文中出现的每个数字都在附录 A 标了出处,未做任何由自己计算得出的分布性统计,也没有下载数据去算任何统计。官方页面自身存在两处口径不明(测试分裂为何只有规则抽取、影像数与报告数差额的构成),本文按原样写明而未作择一。
相关数据集导航
以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:
- mimic-cxr,共享标签:胸部 X 光 / 放射报告 / 多模态
- mimic-cxr-jpg,共享标签:MIMIC 系列 / 胸片影像 / 结构化标签
- radgraph,共享标签:放射报告 / 实体关系 / 自然语言处理
- radgraph2-radiology-reports,共享标签:放射报告 / 时序标注 / 实体关系
- chexpert,共享标签:胸部 X 光 / 弱监督标签 / 大规模
- chexpert-plus,共享标签:胸片 / 报告文本 / 多模态
- chest-imagenome,共享标签:胸片 / 场景图 / 结构化抽取
- cxr-pro,共享标签:胸片报告 / 既往引用处理 / 报告生成
- cxrgraph,共享标签:报告生成 / 实体关系 / 事实一致性
- mimic-ext-cxr-qba,共享标签:MIMIC 派生 / 胸片问答 / 视觉语言
- mimic-cxr-ext-mimic-cxr-db,共享标签:MIMIC 系列 / 关系型关联 / 住院记录
- image-embeddings-mimic-cxr,共享标签:MIMIC 派生 / 影像表征 / 免下载 heavy 文件
- openi-iu-xray,共享标签:胸片报告生成 / 基准 / 图文对
导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

