信息速览
电子病历的结构化字段里,有一类信息长期缺席:这个人有没有工作、住在哪儿、怎么来医院、家里有没有未成年的孩子、婚姻状况如何、身后有没有人搭把手。这些社会决定因素(Social Determinants of Health,SDoH)被世界卫生组织定义为「人们出生、成长、生活、工作与老去的环境条件」,官方页面引用的估计是,它们约占健康结局中可改变因素的 80–90%。但它们几乎从不进入结构化字段——ICD 的 Z 代码在真实住院里利用率很低,护士与社工写下的细节都埋在自由文本里。想让它变成可计算的数据,唯一的办法是逐句读、逐句标。
MIMIC-III SDoH 标注集就是这份逐句标注的公开产物。哈佛医学院 AIM 团队把 MIMIC-III 临床数据库 v1.4 里的 200 份病程记录(183 名患者)切成 5,329 句,就六类最难结构化的社会因素——就业、住房、交通、育儿、婚姻关系、社会支持——逐句做 0/1 标注,并把标注指南随数据一起发布。它的位置很独特:在公开世界里,覆盖整篇病程记录(而不只是 Social History 段)、句级粒度、绑定成文指南的 SDoH 金标准,几乎只有这一份,而且它挂在 MIMIC 生态上,可以借 SUBJECT_ID 与 ROW_ID 回连原始记录。代价同样明确:发布的部分由单一标注者完成、人群是波士顿一家医院的重症监护成人、访问要走 PhysioNet 凭证化流程。一屏速览见下表。
| 维度 | 内容 |
|---|---|
| 全名 | Annotation dataset of social determinants of health from MIMIC-III Clinical Care Database |
| 发布方 | PhysioNet(数据由美国哈佛医学院 / Mass General Brigham 的 AIM 团队等机构贡献) |
| 首次发布 | 2023 年 11 月 24 日,版本 1.0.0 |
| 最近改动 | 2024 年 1 月 24 日,版本 1.0.1 |
| 标注单元 | 句子,主标注文件共 5,329 行 |
| 病程记录数 | 200 份 |
| 患者数 | 183 名 |
| 标注类别 | 6 类:就业状态、住房问题、交通问题、育儿状态、婚姻关系、社会支持 |
| 标注方式 | 人工逐句标注,类别-属性级 0/1 取值;发布部分为单一标注者完成 |
| 标注指南 | 随数据发布(SDOH_annotation_guidelines.pdf) |
| 合成增广语料 | 两轮各 901 句;其中 480 句经人工核验 |
| 原始来源 | MIMIC-III Clinical Database v1.4(2001–2008 年 Beth Israel Deaconess Medical Center) |
| 文件格式 | CSV(主标注 1 个、合成语料 3 个)加 PDF 指南 1 份 |
| 许可 | PhysioNet Credentialed Health Data License 1.5.0,需 CITI 培训并签署 DUA |
| 关联论文 | NPJ Digital Medicine 2024 年第 7 卷第 1 期第 6 篇 |
| 典型用途 | SDoH 抽取模型的外部验证、句级多标签分类、提示工程与合成增广实验 |
§1 它要解决的具体麻烦
1.1 结构化字段里没有的东西
医疗系统很早就知道,一个人能不能按时来化疗、出院后有没有人照看、药费会不会把预算压垮,这些因素对结局的影响不亚于用药方案。官方页面的背景段引用了两组事实:其一,健康差异在几乎所有专科都有记录,但对其成因的理解仍然不足;其二,SDoH 被估计占健康结局中可改变因素的 80–90%。世界卫生组织的定义把它放到权力与资源分配的层面——「人们出生、成长、生活、工作与老去的环境条件……由全球、国家与地方层面的金钱、权力与资源配置所塑造」。
麻烦在于落点。电子病历的结构化表里几乎没有这些字段:医保编码体系里有 Z 代码可以表达住房不稳、照护缺位一类问题,但官方页面引用的研究显示,真实住院人群里 Z 代码的利用率长期偏低。结果就是一个经典的信息断层:临床文本里写满了「患者无家可归,社工已联系庇护所」,而数据库层面看不到任何一行能筛选出这个患者的记录。研究 SDoH 对结局的完整影响、主动识别需要社工跟进的患者,两条路都被这个断层堵着。
自然语言处理是显性的解法,但解法需要监督信号。谁来把散落在几亿字临床文本里的社会因素,一个词一个词地标出来?这份标注集回答的就是这个问题——它给的不是「SDoH 很重要」的又一次呼吁,而是一份可以拿来训练与验证模型的、带着明确指南的句级标注。
1.2 只标 Social History 段是不够的
此前公开的 SDoH 数据集大多有一个共同局限:只覆盖病程记录里的 Social History(社会史)段。这个选择可以理解——社会史是 SDoH 密度最高的段落,标注成本低。但官方页面直接指出了它的要害:临床上要紧的 SDoH 信息散落在记录的各个部分,而很多记录类型——住院病程记录、护士记录、社工记录——根本不固定包含社会史段。
这份数据集的设计恰好对着这个缺口:标注对象是整篇记录切出的全部句子,不限于某个段落;类别选择来自对社工、资源专员与肿瘤科医生的访谈,标准是「临床上相关、但电子病历结构化数据里拿不到、且会随时间动态变化」。最终入选六类:就业状态、住房问题、交通问题、育儿状态、婚姻关系、社会支持。像吸烟、饮酒这类已有成熟结构化路径的因素被有意排除在框架之外,这一点在阅读标注指南时值得先想清楚。
1.3 三条常见的错误期待
第一条,期待它是一份大规模训练语料。200 份记录、5,329 句、183 名患者——这个量级训练不出稳健的抽取模型,它的设计身份是开发指南时的验证语料,用法上是一张「考卷」而不是一座「粮仓」(§7、§8 会反复回到这个定位)。
第二条,期待它覆盖 MIMIC-III 全库。它只从 MIMIC-III 里取了 200 份记录,而且经过严格筛选:只收医生、社工、护士写的记录,聚焦至少有一篇社工记录的患者,短于 150 个词元的记录被剔除(§3.3)。把它当作「MIMIC-III 的 SDoH 版」会高估其覆盖面。
第三条,期待它像开放数据一样即取即用。它挂在凭证化许可之下:注册、实名、CITI 培训、签署数据使用协议、等待审批,一步不少(§5.2)。想做周末快速原型的商业团队要先算上这段流程时间。
1.4 它能给到的与给不到的
| 你的需求 | 它给的 | 够不够 |
|---|---|---|
| 句级 SDoH 多标签金标准 | 5,329 句、六类因素、类别-属性级 0/1 | 够,公开范围内少有替代 |
| 抽取模型的外部验证集 | 与开发语料同一套指南标注的独立语料 | 够,这正是官方论文的用法 |
| 训练通用 SDoH 抽取器 | 主文件加两轮合成语料共约两千句增广 | 不够,需再配自有数据 |
| 与 MIMIC-III 原始记录联接 | patient_id 与 note_id 直接映射 SUBJECT_ID 与 ROW_ID | 够,但需另行取得 MIMIC-III 授权 |
| 医保 Z 代码与结构化 SDoH 研究 | 无编码标签 | 不给,框架只到文本层 |
| 儿科或非美国人群 | 成人重症监护、波士顿单中心 | 不给,官方明确泛化性受限 |
| 免登录快速试用 | 凭证化访问 | 不行,须走完整流程 |
| 在无 PHI 权限环境评测专有大模型 | 480 句人工核验合成子集 | 够,官方场景之一 |
1.5 你的处境与它能帮到的事
| 你的处境 | 它能帮你什么 | 下一步该做什么 |
|---|---|---|
| 已在自有数据上训练 SDoH 抽取模型,缺公开基准 | 提供带指南的句级外部测试集 | 先逐条对齐六类定义再评测,报告时说明单一标注者 |
| 模型对不利 SDoH(失业、无家可归等)召回不足 | 属性级 0/1 可拼出「不利」二任务口径 | 用两轮合成语料做增广,评测仍用主文件 |
| 做提示工程,想给大模型出一份分级考卷 | 句子加 0/1 标签天然适合分类式提示 | 固定划分与随机种子,多类结果分别报告 |
| 研究 MIMIC-III 里的社会信息分布 | 可与 NOTEEVENTS 按 ROW_ID 回连 | 同时申请 MIMIC-III v1.4 授权 |
| 公共卫生研究想给问卷数据补临床视角 | 六类因素覆盖就业、住房、交通等经典维度 | 注意人群是重症监护成人,与社区问卷不可直接比 |
1.6 一句话判断与四条边界
它不适合当更大的训练集,而适合当更严的考卷:当你需要一份公开、成指南、句级粒度的 SDoH 金标准来量出模型在真实病历文本上的成色,它几乎是唯一选择;当你需要的是数据量,它帮不上忙。
不适合拿来做规模训练。 5,329 句对深度模型只是零头,官方也只把它定位为验证语料与增广来源。
不适合拿来做 Z 代码或结构化 SDoH 研究。 它没有编码、没有结构化字段映射,任务只到文本层。
不适合外推到非波士顿、非英语、非成人重症人群。 官方使用说明里明确写着:数据来自波士顿以白人为主的就诊人群,方法与结论的泛化性因此受限。
不适合不能签 DUA 的场景。 凭证化许可与 CITI 培训是硬门槛,商业演示环境若走不通审批,只能用 480 句人工核验的合成子集做替代演示(§4.3)。
§2 数据构成与规格
2.1 一套数据由五个文件组成
这份资源不是一个数据库,而是一组标注文件。官方页面的数据描述段逐一列出了文件名与内容,共五个:
| 文件 | 内容 | 规模(官方口径) | 标签形态 |
|---|---|---|---|
| SDOH_MIMICIII_physio_release.csv | 主标注文件,MIMIC-III 句子及其标注 | 5,329 行 | 类别-属性级 0/1 |
| SyntheticSentences_Round1.csv | 第一轮合成增广语料 | 901 句 | 类别 + 是否不利 |
| 第二轮合成语料文件 | 第二轮合成增广语料 | 901 句 | 类别 + 是否不利 |
| ManuallyAnnotatedSyntheticSentences.csv | 人工核验过的合成句 | 480 句 | 类别 + 是否不利 |
| SDOH_annotation_guidelines.pdf | 标注指南 | 一份 PDF | 定义文档 |
有一处必须交代:官方页面在文件名清单里把两个合成语料文件都写成了 SyntheticSentences_Round1.csv,按上下文第二个应为第二轮文件(Round2),这属于官方页面的笔误。本篇按「两个文件、各 901 句」的口径陈述,具体文件名以登录后的实际目录为准(§10 有记录)。
主文件与三个合成文件的角色差别是理解整套数据的关键:主文件是人工标注的真值,合成文件是模型开发的辅料——官方明确说合成句的标签「未人工核验、直接用于语言模型微调的数据增广、不能用于方法评测」。把辅料当真值用,是这份资源最常见的事故(§5.6、常见误读表)。
2.2 字段字典
主标注文件的列在官方数据描述段有完整定义:
| 列名 | 含义 | 使用注意 |
|---|---|---|
| provider_type | 句子所在记录的作者类型 | 医生、社工、护士三类(发布语料的收录范围) |
| patient_id | MIMIC-III 的 SUBJECT_ID | 回连 MIMIC-III 与按患者划分的键 |
| note_id | MIMIC-III 的 ROW_ID | 回连 NOTEEVENTS 的键 |
| sentence_index | 句子在记录内的序号 | 与切句口径绑定(§2.4) |
| text | 句子明文 | 已随 MIMIC-III 去标识化 |
| CATEGORY_attribute 系列 | 每个出现过的「类别-属性」组合各占一列 | 0 为阴性,1 为阳性;PARENT 是唯一没有属性的类别 |
属性列的命名规则是「类别名_属性名」,如 TRANSPORTATION_distance。官方说明这一系列列「从 TRANSPORTATION_distance 一直到 PARENT」,也就是说列集合由数据里实际出现过的组合决定,而不是六类因素的全量属性清单预先铺满。读表时先扫一遍列名再动手,比假设固定列数稳妥。
三个合成语料文件的列要简单得多:
| 列名 | 取值 | 含义 |
|---|---|---|
| text | 自由文本 | 合成生成的句子 |
| label | housing / employment / parent / support / relationship / transportation | 句子所属的 SDoH 类别 |
| adverse | adverse / nonadverse | 该标签是否属于不利 SDoH |
注意合成文件的标签是单标签制(一句一类),与主文件的多标签 0/1 不同;两套标签体系不能直接拼接,§5.4 给出对齐口径。
2.3 一行的解剖
主文件一行的语义可以这样拆开:一句话(text),带三个定位键(哪位患者、哪份记录、记录内第几句),加一组 0/1 标注(这句话里有没有出现某类社会因素、具体是哪个属性)。字段间的关系如下表(结构示意,非真实数据行):
| 字段组 | 例子里的角色 | 说明 |
|---|---|---|
| text | 句子本体 | 切句后的最小标注单元 |
| provider_type | 记录作者 | 影响行文风格与 SDoH 密度 |
| patient_id + note_id | 回到 MIMIC-III 的地址 | 联接与划分都靠它 |
| sentence_index | 记录内排序 | 复原句子在记录中的位置 |
| 属性列 | 0/1 矩阵 | 一句可同时命中多类多个属性 |
读取的标准写法:
import pandas as pd
#-- 凭证化下载后本地读取;列名区分大小写
df = pd.read_csv('SDOH_MIMICIII_physio_release.csv')
#-- 定位键与文本列在前,属性 0/1 列在后
meta_cols = ['provider_type', 'patient_id', 'note_id', 'sentence_index', 'text']
attr_cols = [c for c in df.columns if c not in meta_cols]
print(len(df), len(attr_cols)) #-- 5329 行,属性列数以实际文件为准
print(df[meta_cols].head(3).to_string())
两个数值得先记住:5,329 行、200 份记录、183 名患者。属性列的具体数量官方页面没有给出,属于拿到文件后第一件要核对的事。
2.4 主键映射与切句口径
三层结构值得先摆清楚:句子层(5,329 行)从属于记录层(200 份 note_id),记录层从属于患者层(183 个 patient_id)。200 份记录对 183 名患者,说明同一患者有多份记录进入语料。这直接决定了数据划分纪律:按 note_id 随机切分,会让同一患者的社工记录与医生记录分居训练与测试两侧——同一个人的社会处境、同一套转述习惯会在两边同时出现,结果虚高。正确做法只有一条:以 patient_id 为分组键,同一患者的所有句子只进一侧。
第二层映射通向 MIMIC-III 本体:patient_id 就是 SUBJECT_ID,note_id 就是 NOTEEVENTS 的 ROW_ID。拿到 MIMIC-III v1.4 授权后可以按这两个键回连,取回记录全文、科室、时间等上下文。但要小心一件事:官方说明所有句子在标注前先用 syntok 分句器切分、并按项目符号「•」二次拆分。这个口径写进了官方方法段,意味着你自己用 spaCy 或正则切出的句序,与 sentence_index 不会逐句对齐;复现切句要按官方工具链来。
第三层是「发布语料—开发语料」的映射。发布的是 MIMIC-III 的 200 份记录;开发指南用的是 800 份放疗记录(不公开);两者共享同一套指南与切句口径,但不是同一批人。做评测时引用一致性数字要注明它来自开发语料(§7.2)。
2.5 与同类资源的字段差异
| 对比项 | 本标注集 | i2b2/n2c2 共享任务语料 | MIMIC-IV-Note | emrQA |
|---|---|---|---|---|
| 标注对象 | 整篇记录的句子 | 按年度任务定(用药、吸烟等) | 无 SDoH 标注 | 规则生成的问答对 |
| 标注粒度 | 句级 0/1 | 实体与文档级混合 | 原始文本 | 问题-答案对 |
| 类别框架 | 六类社会因素,属性级 | 任务驱动、各届不同 | 无 | 问题模板驱动 |
| 标注方式 | 人工按成文指南 | 人工按任务指南 | 无标注 | 自动生成为主 |
| 与 MIMIC 的关系 | 派生自 MIMIC-III v1.4 | 独立语料 | MIMIC 家族 | 派生自 i2b2 |
| 许可 | 凭证化 1.5.0 | DUA | 凭证化 | DUA |
这张表的要点是「框架」一列:多数临床 NLP 语料的类别框架跟着任务走,而这份语料的六类框架来自对社工与临床专家的访谈,带有「临床上相关、结构化拿不到」的筛选逻辑。做跨语料迁移时,类别的语义对齐比字面对齐要紧——比如 i2b2 的吸烟史任务与本集的「住房问题」在概念上没有交集,但「就业状态」与某些年度任务里的职业暴露可能被误认为同义。
2.6 六类因素的语义与不利口径
标注框架的完整定义在指南 PDF 里,官方页面给出了类别与属性的清单。下表把「哪类、哪些属性、什么算不利」一次摆齐:
| 类别 | 属性 | 官方定义的不利口径 |
|---|---|---|
| Employment 就业状态 | employed、unemployed、underemployed、retired、disability、student | 失业、未充分就业、因残不能工作 |
| Housing 住房问题 | financial status、undomiciled、other | 全部属性均计为不利 |
| Transportation 交通问题 | distance、resource、other | 全部属性均计为不利 |
| Parental 育儿状态 | 无属性(PARENT 单列) | 有 18 岁以下的孩子 |
| Relationship 婚姻关系 | married、partnered、widowed、divorced、single | 丧偶、离异、单身 |
| Social support 社会支持 | 有或无 | 缺乏社会支持 |
不利(adverse)的判定标准官方写得很清楚:该属性「可能给患者带来额外的社工或资源支持需要」。所以单亲带娃算不利(养育负担),在职不算(尽管它也是 SDoH 提及)。两个任务由此定义:任意 SDoH 提及(不论属性)与不利 SDoH 提及,都是句级多标签任务。这个双层口径是官方论文的核心实验设计,也是这份语料比「一句一标签」的普通语料信息密度更高的原因。
还要记住官方的另一句提醒:SDoH 概念本身必然模糊,指南只能收窄定义,标注严格贴合指南、未必贴合宽泛的社会学定义。用它做跨研究比较时,先读指南再下结论,比事后打补丁便宜得多。
§3 它是谁的数据:三个语料,只公开了一个
3.1 贡献者与机构
数据由四位作者贡献:Marco Guevara(布列根和妇女医院 / 丹娜-法伯癌症研究所放疗科的人工智能医学项目)、Shan Chen(Harvard-MGB)、Spencer Thomas(波士顿儿童医院计算健康信息学项目)、Danielle Bitterman(Mass General Brigham 人工智能医学项目与哈佛医学院,兼布列根和妇女医院 / 丹娜-法伯放疗科)。团队的临床侧是癌症放疗场景——这解释了为什么开发语料来自放疗科,也解释了为什么指南里的类别特别强调「随时间动态变化」的社会处境。
官方致谢里点名了两位社工与资源支持专家 Susan Harper 与 Madeleine Goldstein,她们的专长是标注指南得以成立的领域知识来源。伦理方面,研究经 Mass General Brigham 机构审查委员会批准,属豁免类人体研究,知情同意被豁免。
3.2 时间线
| 时间 | 事件 | 意义 |
|---|---|---|
| 2015–2022 | 开发语料的临床时段:布列根和妇女医院 / 丹娜-法伯放疗科 800 份记录 | 指南在这批数据上迭代定稿 |
| 2023-11-24 | 版本 1.0.0 在 PhysioNet 上线 | 首次公开 |
| 2024-01-24 | 版本 1.0.1 发布 | 当前版本,改动说明官方未写(§10) |
| 2024 年 | 原始论文发表于 NPJ Digital Medicine 第 7 卷第 1 期第 6 篇 | 方法学全文 |
| 持续 | 项目代码与提示细节托管于 GitHub(AIM-Harvard/SDoH) | 复现路径 |
3.3 采集场景与筛选规则
项目一共标注了三个语料,理解它们的分工是理解这份资源的前提:
| 语料 | 规模 | 来源 | 是否公开 |
|---|---|---|---|
| 放疗开发语料 | 800 份记录 / 770 名患者 | 布列根和妇女医院 / 丹娜-法伯放疗科,2015–2022 | 否(含受保护健康信息) |
| 免疫治疗验证语料 | 200 份记录 / 170 名患者 | 丹娜-法伯癌症研究所 | 否(含受保护健康信息) |
| MIMIC-III 验证语料 | 200 份记录 / 183 名患者 | MIMIC-III v1.4,Beth Israel Deaconess Medical Center 重症监护,2001–2008 | 是(本资源) |
筛选规则官方写得很细,值得逐条列出,因为它们同时定义了语料的边界与偏差来源:只收医生、医生助理、执业护师、注册护士与社工所写的记录;少于 150 个词元的记录剔除,以保证最低信息量;除社工记录外,任何一节超过 500 词元的记录剔除,以免冗长段落稀释信息;医生、助理与护师记录须经定制版 medSpaCy 分节器确认至少含有评估与计划、社会史、病史/主观感受三类节之一。发布语料另有两道专门的收窄:只取医生、社工、护士三类作者所写的记录;聚焦至少有一篇社工记录的患者,不设日期范围。
3.4 数据来源的三个层次
第一层是指南。类别不是拍脑袋定的:先访谈社工、资源专员与肿瘤医生,确定「临床上相关但结构化拿不到」的因素集合;再做试点标注;再据试点与专家反馈迭代定稿。指南随数据发布,是这套资源可信度的锚。
第二层是双人标注。指南定稿后,两位标注者在放疗语料上人工标注,其中 300 份(占 800 份的 37.5%)做了双人双标。裁决前,双标记录的 Krippendorff alpha 与 Cohen kappa 均为 0.86(任意 SDoH),不利口径下均为 0.76。这组数字是整个标注流程质量的背书。
第三层是单人流水线。双标之后,放疗语料剩余部分、免疫治疗语料与 MIMIC-III 语料由单一标注者完成。也就是说,公开的这 5,329 句出自一人之手、按双人验证过的指南执行。这不是缺陷,而是资源形态的必然——含 PHI 的开发语料出不了院墙,能出来的部分只能小而精。但引用它时,把 0.86 的一致性安在发布语料头上,就是误读(§7.2、常见误读表)。
§4 它最独特的东西:一份可回连 MIMIC 的句级社会因素金标准
4.1 稀缺性从哪里来
SDoH 标注语料的稀缺不是没人想做,而是三个约束叠加的结果。第一是隐私:社会因素文本的再识别风险高于一般临床文本,「无家可归、独居、无车」三句话几乎等于一个人的画像,所以绝大多数机构的标注语料出不了院墙——本项目的放疗语料与免疫治疗语料就是例子。第二是成本:句级标注需要通读全文,2001–2008 年的重症监护记录动辄数千词,六类多标签的逐句标注是重人工活。第三是定义:SDoH 概念天然模糊,没有成文指南的标注各自为政,跨研究不可比。
这三条约束解释了公开生态的现状:多数既有公开数据集只标社会史段,或者只覆盖单一类别(如无家可归筛查),句级、整篇、六类、带指南的组合在公开世界里几乎没有竞品。MIMIC-III 的去标识化基础恰好解开了第一条约束——这是这份资源能存在的根本前提,也是它挂在 MIMIC 生态上的原因。
4.2 差异化的三个证据
第一个证据是标注协议有量化背书。开发语料上 300 份双标记录给出 Krippendorff alpha 与 Cohen kappa 双 0.86(任意口径)、双 0.76(不利口径),说明指南能把模糊概念操作化到「两个人标出一致结果」的程度。这个数字不能直接安到发布语料头上(§7.2),但它证明的是指南本身的质量。
第二个证据是指南随数据发布。SDOH_annotation_guidelines.pdf 把六类因素、每个属性、不利口径的判定规则写成了文档,使用者可以逐条核对自己的任务定义与官方定义的差距。对标注类资源来说,指南公开与否是「可复用」与「只能引用」的分界线。
第三个证据是类别选择有领域依据。六类因素来自对社工、资源专员与肿瘤医生的访谈,筛选标准是「临床上相关、结构化拿不到、会随时间动态变化」。这让它避开了「为标注而标注」的常见批评——每个类别都能回答一个真实的临床问题:要不要安排随访交通、要不要联系社工、出院照护谁来兜底。
4.3 案例:合成语料如何让不能碰病历的模型也能被评测
这套资源里最容易被忽视、但设计最巧的一块是合成语料管线。官方方法段给出的流程是两轮生成:第一轮用 GPT-turbo-0301(OpenAI API 上的 GPT-3.5 版本)以标注指南里的例句为参照,为每个类别生成新句子,每类每轮 100 句;第二轮以第一轮的输出为参照再生成一轮,以增加语言多样性。生成参数官方逐项给出:temperature 0.3、frequency penalty 1.9、presence penalty 0.9、max tokens 4000。
两个用途随之成立。其一,正类增广:SDoH 的正样本在真实语料里天然稀少,合成句直接用于语言模型微调时的增广。其二,也是更关键的一层:让不能接触受保护健康信息的专有大模型也能被评测。大型实验室的商用模型服务条款不允许上传 PHI,官方于是人工核验了 480 句合成句,作为这些模型的干净评测集——提示开发与微调全程未用真实患者数据,这条官方声明写得很硬。
| 语料 | 句数 | 标签可信度 | 官方指定的用途 |
|---|---|---|---|
| 主标注文件(MIMIC-III) | 5,329 | 人工按指南标注 | 方法开发与评测的主战场 |
| 第一轮合成句 | 901 | 未人工核验 | 微调增广,不可用于评测 |
| 第二轮合成句 | 901 | 未人工核验 | 微调增广,不可用于评测 |
| 人工核验合成子集 | 480 | 人工核验为正确 | 评测不能接触 PHI 的专有模型 |
这张表的最后一行是许多团队拿到数据后最先该用的一块:不申请凭证、不碰真实病历,也能在 480 句干净句子上先把提示词与模型选型筛一轮。
4.4 标注粒度:一层 0/1 里藏着两个任务
发布格式乍看朴素——一堆 0/1 列——但粒度设计是三层递进的。最细一层是「类别-属性」组合,一句「患者失业且面临断租」可以同时点亮失业属性与住房财务属性两列。中间一层是类别级:把某类下所有属性列做或运算,得到「这句话提到了就业问题吗」。最外一层是双任务口径:任意 SDoH 提及(不论有利不利)与不利 SDoH 提及,分别对应官方论文的两个分类任务。
这个设计的价值在于,同一份数据可以服务三类研究:类别级抽取(六选多的多标签)、属性级细粒度抽取、以及「社会风险筛查」式的二分类。粗细两层都从同一张 0/1 矩阵里压出来,不需要二次标注。§5.4 给出具体的重组代码。
4.5 边界条件:什么情况下它不再适用
| 条件 | 是否适用 | 判断依据 |
|---|---|---|
| 评测 SDoH 句级抽取模型 | 适用,且是它设计的目的 | 官方论文即用它做外部验证 |
| 评测不利 SDoH(社会风险)筛查 | 适用 | 不利口径是官方定义的任务之一 |
| 训练面向普通门诊的抽取器 | 谨慎 | 人群为重症监护成人,记录类型受限 |
| 研究儿童社会处境 | 不适用 | MIMIC-III 为成人库,且育儿类只标「有无 18 岁以下孩子」 |
| 非英语临床文本的研究 | 不适用 | 全部语料为英文 |
| 需要 ICD 编码或结构化 SDoH 字段 | 不适用 | 无编码层 |
| 用合成语料当评测真值 | 不适用,官方明令禁止 | 两轮合成标签未人工核验 |
| 在无凭证环境下做原型验证 | 部分适用 | 480 句人工核验合成子集可用 |
§5 怎么拿到:从凭证墙到可训练矩阵
5.1 访问面:五道门
这份资源不是点开链接就能下的开放数据。从零到拿到文件,要过五道门:
| 顺序 | 环节 | 说明 |
|---|---|---|
| 1 | PhysioNet 账号与实名 | 需真实身份与所属机构信息 |
| 2 | Credentialed 申请 | 说明研究目的,平台审核 |
| 3 | CITI 培训 | Data or Specimens Only Research 课程报告 |
| 4 | 签署 DUA | PhysioNet Credentialed Health Data Use Agreement 1.5.0 |
| 5 | 文件下载 | 登录后在项目文件目录逐个下载 |
官方许可为 PhysioNet Credentialed Health Data License 1.5.0,与 MIMIC-III 同族——意味着已通过 MIMIC-III 凭证审核的研究者流程会很顺,两边的培训与协议要求基本一致。若要回连原始记录,MIMIC-III v1.4 的授权必须单独具备,本资源的授权不包含母库。
还有一条区域现实需要提醒:核验时官方文件目录页对匿名访问返回 403,且项目页在部分地区显示「数据因法律或政策限制在你的区域不可用」。本篇所有文件名均以官方数据描述段为准,实际目录以登录后所见为准(§10)。
5.2 凭证化下载的正确姿势
拿到凭证后,下载本身很简单。项目文件都在 PhysioNet 的文件服务下,路径前缀为 /files/annotation-dataset-sdoh/1.0.1/。五个文件都是文本或文档,体量远小于任何波形库,一次可下完。
#-- 凭证登录后,浏览器直接下载五个文件即可;命令行可用会话方式
#-- 以下示意四个 CSV 与一份 PDF 的目标清单(文件名以登录后目录为准)
ls -1
#-- SDOH_MIMICIII_physio_release.csv
#-- SyntheticSentences_Round1.csv
#-- 第二轮合成语料文件(官方页面笔误处,见 §2.1)
#-- ManuallyAnnotatedSyntheticSentences.csv
#-- SDOH_annotation_guidelines.pdf
下载后第一件事是核对行数与列名:主文件应为 5,329 行数据(不含表头),定位键齐全;合成文件各 901 句;人工核验子集 480 句。任何一项对不上,先怀疑下载不完整,再怀疑版本——1.0.0 与 1.0.1 之间官方没有公布改动说明。
5.3 读入与初查
import pandas as pd
main = pd.read_csv('SDOH_MIMICIII_physio_release.csv')
syn1 = pd.read_csv('SyntheticSentences_Round1.csv')
verified = pd.read_csv('ManuallyAnnotatedSyntheticSentences.csv')
print(len(main)) #-- 5329
print(main['provider_type'].unique()) #-- 医生/社工/护士三类(官方收录范围)
print(main[['patient_id', 'note_id']].nunique()) #-- 183 名患者 / 200 份记录
初查要看三件事:行数对不对官方口径;patient_id 与 note_id 的去重计数是否落在 183 与 200;属性 0/1 列是否只有 0 和 1 两种取值。属性列的数量官方没有公布,第一次读入时把它记下来,写进你自己的方法节,比事后回忆可靠。
5.4 双任务标签的重组口径
官方定义的两个任务都可以从 0/1 矩阵里压出来。关键是把「类别-属性」列按类别归堆,再按不利清单做或运算:
GROUPS = {
'EMPLOYMENT': ['EMPLOYMENT_employed', 'EMPLOYMENT_unemployed',
'EMPLOYMENT_underemployed', 'EMPLOYMENT_retired',
'EMPLOYMENT_disability', 'EMPLOYMENT_student'],
'HOUSING': None, #-- 以实际列名为准:housing 各属性全部计不利
'TRANSPORTATION': None,
'PARENT': ['PARENT'],
'RELATIONSHIP': None,
'SUPPORT': None,
}
#-- 列名大小写与下划线拼写以文件为准,读入后先核对再套用
def cols_of(prefix, columns):
return [c for c in columns if c.startswith(prefix)]
#-- 任意 SDoH:每类内部做或运算,得到类别级多标签
for cat in ['EMPLOYMENT', 'HOUSING', 'TRANSPORTATION',
'PARENT', 'RELATIONSHIP', 'SUPPORT']:
cs = cols_of(cat, main.columns)
main['any_' + cat] = (main[cs].max(axis=1) == 1)
不利口径的归并同理,只是每类只取不利属性子集(§2.6 的表):就业取失业、未充分就业、残疾;住房、交通全属性;育儿有孩子即计;婚姻取丧偶、离异、单身;支持取缺失。两个口径分开报告是官方论文的做法,混在一起报告会同时失去两类信息。
5.5 与 MIMIC-III 回连
主文件的两个键就是为回连设计的:patient_id 对 SUBJECT_ID,note_id 对 NOTEEVENTS 的 ROW_ID。
#-- 需要 MIMIC-III v1.4 授权;以下示意联接骨架
notes = pd.read_csv('NOTEEVENTS.csv', low_memory=False)
joined = main.merge(
notes[['ROW_ID', 'SUBJECT_ID', 'CHARTDATE', 'CATEGORY', 'DESCRIPTION']],
left_on='note_id', right_on='ROW_ID', how='left')
#-- 核对联接键:note_id 应全部命中
print(joined['ROW_ID'].isna().sum()) #-- 期望为 0
回连之后有两处要克制。其一,句子对齐:官方切句用的是 syntok 加项目符号拆分,你自己对 NOTEEVENTS 全文重新切句,句序与 sentence_index 对不上,想复原上下文要按官方工具链走。其二,信息增量:MIMIC-III 的去标识化文本与主文件的 text 同源,回连的价值在 CHARTDATE、CATEGORY 一类元数据,不在重新标注全文——无授权扩展标注范围会违反 DUA。
5.6 五个最容易出错的地方
| 位置 | 错误写法 | 后果 | 正确做法 |
|---|---|---|---|
| 合成语料 | 拿两轮 901 句当评测真值 | 评测结果不可信 | 评测只用主文件与 480 句核验集 |
| 划分 | 按 note_id 随机切分 | 同一患者跨侧,结果虚高 | 按 patient_id 分组划分 |
| 一致性引用 | 把 0.86 安在发布语料上 | 高估标注质量 | 注明数字来自不公开的开发语料 |
| 切句 | 用自己的分句器对齐 sentence_index | 句序错位,上下文拼错 | 用官方的 syntok 加项目符号口径 |
| 标签语义 | 按社会学宽泛定义理解六类 | 与指南口径错位 | 先读指南 PDF,再定任务口径 |
§6 与库内条目的关系
6.1 关系图谱
在站内已发布的条目里,它与两个方向发生关系:MIMIC 家族提供数据本体,医疗 NLP 语料提供任务对照。
| 条目 | 关系 | 说明 |
|---|---|---|
| MIMIC-III Clinical Database | 母库 | 本资源派生自其 v1.4,两个键可直接回连 |
| MIMIC-IV-Note | 平行文本源 | 更新一代的自由文本库,无 SDoH 标注 |
| MIMIC-IV Clinical Database | 平行结构源 | 结构化表齐全,社会因素同样缺位 |
| MIMIC-IV-ED | 平行场景源 | 急诊场景,SDoH 密度理论上更高但无标注 |
| MIMIC 出院医嘱幻觉标注集(ann-pt-summ) | 同为 MIMIC 文本的句级人工标注 | 一个标临床摘要幻觉,一个标社会因素 |
| i2b2/n2c2 共享任务语料 | 任务对照 | 历届临床 NLP 任务的标注传统 |
| emrQA | 任务对照 | 规则自动生成的问答对,与人工句级标注互补 |
| 中文危重症病历库 CCCDB | 中文对照 | 电子病历结构相似,可用于跨语言 SDoH 探索 |
| CHNS 营养队列 | 结构化对照 | 问卷里的就业、住房、交通是「结构化版的 SDoH」 |
| KNHANES | 结构化对照 | 韩国国民调查,社会因素以量表采集 |
| CFPS 家庭追踪调查 | 结构化对照 | 中国家庭面板,社会与经济变量齐全 |
这张表里最后一组的对照价值值得说明:问卷调查是社会因素的传统采集方式,就业、住房、交通在 CHNS 一类调查里是结构化字段,而在电子病历里是自由文本。两边的差,就是这份标注集存在的理由——它把「调查里容易、病历里难」的那部分信息翻译成了可计算的监督信号。
6.2 检索路径
| 你要找的东西 | 检索词 | 会落到哪里 |
|---|---|---|
| 母库与回连 | MIMIC-III、SUBJECT_ID、NOTEEVENTS | §2.4 与 §5.5 |
| 句级人工标注的同类 | 句级标注、人工标注、临床文本 | §6.1 表中部 |
| 结构化 SDoH 的替代来源 | 调查数据、队列研究 | §6.1 表末组 |
| 一致性数字的出处 | Krippendorff、kappa、双标注 | §3.4 与 §7.2 |
| 合成语料的边界 | 合成、增广、人工核验 | §4.3 与 §5.6 |
| 凭证化访问 | Credentialed、DUA、CITI | §5.1 |
6.3 分工判据
| 任务 | 主粮仓该用什么 | 本资源的位置 | 原因 |
|---|---|---|---|
| SDoH 抽取模型的预训练 | 自有临床文本加两轮合成增广 | 增广辅料加验证主力 | 真实句太少,撑不起预训练 |
| SDoH 抽取模型的外部评测 | 无可替代 | 主力 | 公开句级金标准几乎没有第二份 |
| 社会风险(不利 SDoH)筛查研究 | 主文件的属性级标签 | 主力 | 不利口径是官方任务定义 |
| 大模型的 PHI 免接触评测 | 480 句人工核验合成子集 | 主力 | 官方明确给出这条路径 |
| 结构化 SDoH 流行病学 | CHNS、KNHANES、CFPS 一类调查 | 不适用 | 本资源无人群代表性设计 |
| 跨语言 SDoH 方法迁移 | 中文电子病历库加自建标注 | 参照物 | 定义框架可迁移,语料不可直接用 |
| ICD Z 代码利用研究 | 医保与住院编码库 | 不适用 | 无编码层 |
§7 质量评估与局限性
7.0 阅读本节前的一个前置校正
先纠正一个常见的误判:拿「语料规模」的尺子量它。5,329 句在很多 NLP 研究者眼里是小语料,但它的身份从来不是训练语料,而是验证语料——验证语料的质量尺是「标签可信度」与「定义可追溯性」,不是行数。把它放在天平的正确一侧,后面的评分才读得通。
7.1 五维评分
按用途「作为 SDoH 文本抽取研究数据」打分,每项 1–5 分:
| 维度 | 分数 | 理由 |
|---|---|---|
| 数据规模 | 2 | 5,329 句、200 份记录,训练不足,验证够用 |
| 标注质量 | 3 | 指南成文、开发语料有双标背书;发布部分为单一标注者 |
| 任务适配 | 5 | 句级、整篇、六类、双任务口径,公开范围内几乎唯一 |
| 文档完整 | 4 | 字段、类别、筛选规则、生成参数逐项写明;版本改动说明缺 |
| 可获取性 | 2 | 凭证化许可加培训加 DUA,且有区域限制风险 |
五项合计 16 分(满分 25)。分数结构与 INCART 一类小库相反的分别是:它的短板在获取门槛,而获取门槛恰恰是它标签可信的来源之一——凭证墙挡掉的是再识别风险,保住的是这份语料能挂上真实 MIMIC 记录。
7.2 标注质量的两层
第一层是指南绑定。六类因素的每个属性在指南里都有成文定义,不利口径逐类写明。代价是标注严格贴合官方定义,与宽泛的社会学概念不完全对齐——官方在使用说明里专门提醒了这一点。两层定义的差距在跨研究比较时最伤人:同样是「住房问题」,社会学问卷与本集指南的边界不同,直接比会得出错误的结论。
第二层是一致性数字的适用范围。0.86 与 0.76 测自开发语料的双标部分,发布语料是单人标注。这不是质量丑闻——单人按双人验证过的指南执行,是资源受限下的理性选择——但引用时必须写清:指南有一致性背书,发布语料本身没有单独报告的一致性数字。诚实报告这一点的论文,比笼统写「标注一致性 0.86」的论文可信。
| 用途 | 一致性背书的参考价值 | 建议 |
|---|---|---|
| 评测类别级抽取 | 高(指南操作性已被验证) | 可直接用主文件 |
| 评测属性级细类 | 中(细类标注更难) | 抽样人工复核再下结论 |
| 训练监督信号 | 中高 | 正类稀少时可加合成增广 |
| 跨研究口径对齐 | 只有指南可比,数字不可比 | 以指南定义为准做映射表 |
7.3 已知的、可枚举的偏差
| 偏差 | 表现 | 影响 |
|---|---|---|
| 人群偏差 | 官方明确:波士顿以白人为主的就诊人群 | 方法与结论向其他人群外推受限 |
| 场景偏差 | 源数据为 2001–2008 年成人重症监护 | 不覆盖儿科、门诊、当代记录风格 |
| 单标注者 | 发布语料由一人完成 | 个体理解差异未经过第二人裁决 |
| 提供者偏差 | 只收医生、社工、护士所写记录 | 其他角色(如物理治疗师)的社会线索缺席 |
| 筛选偏差 | 聚焦至少有一篇社工记录的患者 | 语料偏向已有社工介入的人群 |
| 切句工具 | syntok 加项目符号拆分 | 与其他分句器产出的句子不可逐句对齐 |
| 合成语料 | GPT-3.5 生成、未全部核验 | 语言风格偏模型腔,不能当真值 |
| 概念收窄 | 指南定义严于宽泛 SDoH | 类别覆盖率被定义上限锁死 |
这张表最有分量的两行是人群偏差与筛选偏差的叠加:语料不仅来自单中心,而且偏向「已经引起社工注意」的患者。用它评估的模型,学到的是「社工已经过问的社会处境」,未必是「全部需要帮助的社会处境」。这一层偏差官方没有展开,但顺着筛选规则(§3.3)可以直接推出来。
7.4 外部验证矩阵
它在官方论文里的位置就是外部验证集:指南与模型先在不公开的放疗语料上开发,再用这份公开的 MIMIC-III 语料检验跨场景的表现。
| 验证角色 | 做法 | 讲得通的地方 | 风险 |
|---|---|---|---|
| 跨场景外部验证 | 放疗门诊语料训练,本语料(重症监护)外测 | 场景、人群、记录风格都换了 | 两个场景的社会处境谱系不同 |
| 大模型零样本评测 | 提示直接对本语料出句级判断 | 干净、公开、有指南 | 单标注者带来标签噪声 |
| 专有模型评测 | 480 句人工核验合成子集 | 无 PHI 合规障碍 | 合成句与真实行文有风格差 |
| 增广策略消融 | 加与不加两轮合成句对比训练 | 正类稀少场景的直接解法 | 增广收益可能与风格过拟合混同 |
7.5 它为何能持续
它的护城河不是数据量,而是「公开 + 句级 + 指南 + 可回连 MIMIC」这个组合。替代它需要另一家机构愿意公开自己的人工标注语料——而隐私约束(§4.1)决定了这条路极难走通。只要组合里的四个词还同时成立,新出的通用大模型仍然需要这张考卷来回答同一个问题:你能不能从真实病历文本里读出一个人的社会处境。
§8 生态位与历史
8.1 沿革
这份资源是一条研究线的副产品,主线是哈佛医学院 AIM 团队的「用大语言模型从电子病历中识别社会决定因素」项目。项目按临床研究的节奏推进:先在放疗科语料上访谈、试点、定稿指南、双人标注;再用免疫治疗与 MIMIC-III 两份语料做验证;论文于 2024 年发表在 NPJ Digital Medicine;PhysioNet 版本先于论文一个月上线(2023 年 11 月 24 日),2024 年 1 月 24 日更新为 1.0.1。方法代码与提示细节放在 GitHub 的 AIM-Harvard/SDoH 仓库,与本资源互为补充。
8.2 与评测生态的关系
它不是挑战赛数据集,没有排行榜与官方划分,这一点与 i2b2/n2c2 传统不同。它更像评测生态里的「公共考卷」:没有官方的 train/test 划分,人人自己划,因此论文之间的数字不可直接比,只能比同一划分内的相对结果。这既是弱点(缺一个统一基准),也是特点(没有过拟合排行榜的机会)。大模型时代的 SDoH 抽取研究要形成统一基准,大概率要从这份语料出发再扩,而不是绕开它另起炉灶。
8.3 生态位:考卷而不是粮仓
| 角色 | 主力粮仓 | 公共考卷 |
|---|---|---|
| 典型用法 | 预训练、大规模微调 | 外部验证、提示评测、口径对齐 |
| 需要的前提 | 数据量大、标签可再生成 | 指南成文、标签不可再生 |
| 代表资源 | 自有临床文本、MIMIC-IV-Note 全文 | 本资源、480 句核验子集 |
| 失败模式 | 标签噪声累积、过拟合 | 样本小导致结论不稳 |
它坐在右边一列。把考卷当粮仓,模型一轮就把 5,329 句背完;把粮仓当考卷,评的是自己出的题。两者的混淆是 SDoH 抽取研究里最常见的实验设计错误。
8.4 谁在用它,用来做什么
从官方论文与项目仓库的设计看,使用者画像有三类:一是做 SDoH 抽取模型的 NLP 组,用它做外部验证与提示评测;二是公共卫生与卫生服务研究者,把它当作「临床文本里社会因素长什么样」的样本库;三是不能接触 PHI 的工业团队,用 480 句核验子集做合规评测。第三类最容易被忽视,却是合成子集设计时就写明的目标用户。
§9 使用指引
9.1 三种角色的路径
| 角色 | 第一天 | 第一周 | 注意事项 |
|---|---|---|---|
| NLP 研究者 | 读官方页面与指南 PDF,跑通 §5.3 的读入核对 | 定下双任务口径与按 patient_id 的划分,建立零样本基线 | 一致性数字只引指南背书,不引到发布语料(§7.2) |
| 临床信息学团队 | 盘点院内记录类型与本语料的收录范围差异 | 在自有数据上试标一小批,对照指南找口径差距 | 发布语料的筛选规则不代表院内全量记录的样子 |
| 公共卫生研究者 | 把六类框架与自己的调查变量做映射表 | 用主文件理解临床文本里社会因素的行文样貌 | 人群是重症监护成人,不具人群代表性 |
9.2 一条最短的可用流程
#-- 1. 完成 PhysioNet credentialed 流程后下载五个文件到本地目录
ls -1 *.csv *.pdf
#-- 2. 快速核对官方口径的三个数
python3 - <<'PY'
import pandas as pd
m = pd.read_csv('SDOH_MIMICIII_physio_release.csv')
print('行数', len(m)) #-- 期望 5329
print('患者数', m['patient_id'].nunique()) #-- 期望 183
print('记录数', m['note_id'].nunique()) #-- 期望 200
PY
#-- 3. 按 patient_id 分组划分,再重组双任务标签(§5.4 的口径)
from sklearn.model_selection import GroupShuffleSplit
gss = GroupShuffleSplit(n_splits=1, test_size=0.3, random_state=42)
tr, te = next(gss.split(m, groups=m['patient_id']))
print(len(tr), len(te)) #-- 同一患者的句子只会落在同一侧
第四步(可选)是与 MIMIC-III 回连取 CHARTDATE 与记录类别(§5.5),第五步是把 480 句核验子集加进评测弹药库,供无 PHI 权限的对比实验用。
9.3 引用方式
| 引用对象 | 内容 |
|---|---|
| 数据集本身 | Guevara, M., Chen, S., Thomas, S., Bitterman, D. Annotation dataset of social determinants of health from MIMIC-III Clinical Care Database (version 1.0.1). PhysioNet (2024), DOI 10.13026/zsgv-8w31,RRID SCR_007345 |
| 原始论文 | Guevara 等,Large Language Models to Identify Social Determinants of Health in Electronic Health Records,NPJ Digital Medicine 2024 年第 7 卷第 1 期第 6 篇 |
| 母库 | MIMIC-III Clinical Database v1.4 的官方引用(回连原始记录时必须同时引用) |
| 平台 | PhysioNet 平台综述,按官方页面的 Cite 按钮生成 |
| 代码 | GitHub 仓库 AIM-Harvard/SDoH,用于复现提示与生成设置 |
写方法节时建议同时写清四件事:使用的版本号(1.0.1)、双任务口径的定义处(指南第几节或 §2.6 的不利清单)、划分方式(按 patient_id)、以及是否使用了合成增广及其是否进入评测集。这四项缺任何一项,复现都会失败。
§10 AI 使用声明
| 项目 | 声明 |
|---|---|
| 文本生成 | 本文由 AI 辅助撰写,编辑把关结构与事实 |
| 数字来源 | 规模、结构、边界三类数字来自 PhysioNet 官方项目页(版本 1.0.1) |
| 文件核验 | 官方文件目录因访问限制未能匿名列出,文件名与字段以官方数据描述段为准 |
| 不一致说明 | 官方页面将两个合成语料文件均写作 SyntheticSentences_Round1.csv,第二个应为第二轮文件,属官方笔误 |
| 论文信息 | 仅据 PhysioNet 引文信息与论文页摘要,未读全文 |
| 未核验内容 | 文件实际目录与属性列全清单、1.0.1 相对 1.0.0 的改动说明、各标签对应的句子数量、五个文件的具体字节数 |
| 图像 | 无配图;封面为生成式提示词,不含真实病历文本 |
| 免责 | 本文不构成临床建议;数据使用须遵守 PhysioNet Credentialed Health Data License 1.5.0 与相应 DUA |
常见误读(避坑清单)
| 说法 | 实际 | 证据 |
|---|---|---|
| 「它标注了整个 MIMIC-III」 | 只取 200 份记录、183 名患者,且经过多道筛选 | 官方方法段:仅医生、社工、护士所写,聚焦有社工记录的患者 |
| 「5,329 句是它的全部内容」 | 另有两轮各 901 句合成语料与 480 句人工核验子集 | 官方数据描述段逐文件列出 |
| 「标注一致性 0.86」 | 该数字测自不公开的放疗开发语料的 300 份双标记录 | 官方摘要与方法段 |
| 「发布语料是双人标注的」 | 双标只发生在开发语料;发布的 MIMIC-III 部分由单一标注者完成 | 官方方法段:单人标注其余语料 |
| 「合成语料也能当测试集」 | 官方明令:合成标签未核验,只能用于增广,不能用于评测 | 官方使用说明段 |
| 「拿到它就等于拿到 MIMIC-III」 | 回连原始记录需另行取得 MIMIC-III v1.4 授权 | 官方页面母库声明与凭证化要求 |
| 「sentence_index 可以用 spaCy 复原」 | 官方切句用 syntok 并按项目符号二次拆分 | 官方方法段 |
| 「六类因素覆盖全部 SDoH」 | 吸烟、饮酒等已有结构化路径的因素被有意排除;概念按指南收窄 | 官方背景段与使用说明 |
| 「它是开放下载的开放数据」 | 凭证化许可、CITI 培训、签署 DUA,一步不能少 | 官方访问政策段 |
| 「波士顿人群的结论可以外推」 | 官方明确:以白人为主的波士顿人群,方法与结论泛化性受限 | 官方使用说明段 |
FAQ
Q1:它到底有多少数据?为什么不同介绍里的数字对不上?
因为三个数字量的是三样东西。主标注文件是 5,329 句(来自 200 份 MIMIC-III 病程记录、183 名患者),这是人工标注的真值部分。两个合成语料文件各有 901 句,标签未全部人工核验,是训练增广用的辅料。另有 480 句人工核验过的合成句,专供不能接触受保护健康信息的评测用。介绍里若把三部分混成一个总数,就是把真值与辅料混着报,正确做法是像官方页面那样分文件陈述。
Q2:0.86 的一致性能用来描述这份发布语料吗?
不能直接用。Krippendorff alpha 与 Cohen kappa 双 0.86(不利口径双 0.76)测自放疗开发语料中 300 份双标注记录——那批数据因含受保护健康信息不公开。发布的 MIMIC-III 语料由单一标注者按同一套双人验证过的指南完成,官方没有为它单独报告一致性数字。规范的做法是写「标注指南在开发语料上有一致性背书」,而不是写「本语料一致性 0.86」。
Q3:能不能免注册下载?
不能。它是 PhysioNet 凭证化访问资源:注册账号、完成 CITI 的 Data or Specimens Only Research 培训、签署 PhysioNet Credentialed Health Data Use Agreement 1.5.0、通过审批,之后才能下载。此外官方页面在部分地区显示数据不可用的提示,跨境团队要留意。要与 MIMIC-III 原始记录联接的话,母库授权还得单独申请。
Q4:两轮合成语料能不能拿来当测试集?
不能,官方使用说明写得很直白:合成句的标签没有人工核验过,只在模型微调时做数据增广,不应用于方法评测。要评测不能接触病历的专有大模型,用 480 句人工核验子集;要评测常规模型,用主标注文件。唯一可以接受的用法是把合成句放进训练集并在方法节写明,评测集必须干净。
Q5:为什么只公开了 MIMIC-III 这一部分?
项目共标注三个语料:800 份放疗记录、200 份免疫治疗记录、200 份 MIMIC-III 记录。前两个来自布列根和妇女医院与丹娜-法伯癌症研究所的真实临床文本,含受保护健康信息,按规则不能出院墙。MIMIC-III 本身是去标识化的公开资源,只有这 200 份记录可以发布。这也是它作为公开金标准稀缺的根源——绝大多数机构的社会因素标注语料,都被同一堵墙挡着。
术语表
| 术语 | 解释 |
|---|---|
| SDoH(社会决定因素) | 人们出生、成长、生活、工作与老去的环境条件,深刻影响健康结局 |
| 不利 SDoH(adverse) | 可能给患者带来额外社工或资源支持需要的属性,如失业、无固定住所 |
| Z 代码 | ICD 编码中表达社会风险因素的一组代码,真实使用率长期偏低 |
| 社会史(Social History) | 病程记录里记录吸烟、饮酒、职业、居住等社会信息的段落 |
| 句级标注 | 以句子为最小单元打标签,而非实体或整篇文档 |
| 多标签 | 一句话可同时命中多类因素,类别间不互斥 |
| 词元(token) | 文本的最小处理单位,官方用它定义记录长度门槛(150/500) |
| Krippendorff alpha | 衡量多标注者一致性的统计量,对类别不均衡较稳健 |
| Cohen kappa | 衡量两标注者一致性的统计量,剔除随机一致的影响 |
| 双标注与裁决 | 两人独立标注同一样本再合议,是标注质量的标准流程 |
| PHI(受保护健康信息) | 美国隐私法界定的可识别个人健康信息,禁止随意外传 |
| 去标识化 | 按 HIPAA 安全港等方法移除或替换可识别信息 |
| Credentialed Access | PhysioNet 的实名凭证化访问层级,须培训与签协议 |
| CITI 培训 | 人体研究保护通用培训,本资源要求 Data or Specimens Only Research 课程 |
| DUA(数据使用协议) | 数据使用合同,本资源对应 PhysioNet 凭证化协议 1.5.0 |
| SUBJECT_ID | MIMIC-III 的患者标识,对应主文件的 patient_id |
| ROW_ID / NOTEEVENTS | MIMIC-III 病程记录表及其行标识,对应主文件的 note_id |
| syntok | 官方使用的分句器,另按项目符号「•」二次拆句 |
| medSpaCy | 临床文本处理库,官方用其定制分节器筛选记录节 |
| 数据增广 | 用合成样本扩充稀有类训练数据的技术 |
| RRID | 研究资源标识符,本资源为 SCR_007345 |
附录 A:核心数字核对表
| 数字 | 出处 |
|---|---|
| 主标注文件 5,329 行句子 | 官方页面数据描述段 |
| 200 份 MIMIC-III 病程记录 | 官方页面数据描述段与方法段 |
| 183 名患者(MIMIC-III 语料) | 官方页面方法段 |
| 开发语料 800 份记录 / 770 名患者 | 官方页面方法段 |
| 免疫治疗语料 200 份记录 / 170 名患者 | 官方页面方法段 |
| 双标注 300 份,占开发语料 37.5% | 官方页面摘要与方法段 |
| 任意 SDoH 一致性:alpha 0.86、kappa 0.86 | 官方页面摘要与方法段 |
| 不利 SDoH 一致性:alpha 0.76、kappa 0.76 | 官方页面摘要与方法段 |
| 合成语料两轮,各 901 句 | 官方页面数据描述段 |
| 每类每轮生成 100 句 | 官方页面方法段(数据增广节) |
| 人工核验合成句 480 句 | 官方页面方法段与数据描述段 |
| 记录长度下限 150 词元、单节上限 500 词元 | 官方页面方法段(筛选规则) |
| 六类因素、属性级 0/1 标注 | 官方页面方法段(任务定义) |
| 生成参数:temperature 0.3、frequency penalty 1.9、presence penalty 0.9、max tokens 4000 | 官方页面方法段 |
| 首次发布 2023 年 11 月 24 日(v1.0.0) | 官方页面版本区 |
| 当前版本 1.0.1,2024 年 1 月 24 日 | 官方页面版本区 |
| 母库 MIMIC-III Clinical Database v1.4(Beth Israel Deaconess,2001–2008) | 官方页面母库声明与引用 |
| DOI(v1.0.1)10.13026/zsgv-8w31 | 官方页面引文信息 |
| 许可 PhysioNet Credentialed Health Data License 1.5.0 | 官方页面访问政策段 |
编辑说明
本文的核验时间为 2026 年 10 月 28 日,方式为直接访问 PhysioNet 项目页(版本 1.0.1),逐段核对摘要、背景、方法、数据描述、使用说明、发布说明、伦理与访问政策各节;论文侧仅核对 PhysioNet 给出的引文信息与论文页摘要,未读全文。官方文件目录页对匿名访问返回 403,五个文件的名称、规模与字段均以官方数据描述段为准,未做逐文件下载核验,这一点连同 1.0.1 相对 1.0.0 的改动说明、属性列的完整清单,一并记入未核验内容。官方页面把两个合成语料文件都写成 SyntheticSentences_Round1.csv,按上下文第二个应为第二轮文件,本文按官方口径「两个文件、各 901 句」陈述并保留笔误记录。全文只收规模、结构、边界三类数字,未做任何来自自行统计的分布性描述。
相关数据集导航
以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:
- ecrin-mdr — 共享标签:医疗NLP / 电子健康记录 / 公共卫生与流行病学
- loinc — 共享标签:医疗NLP / 临床文本 / 电子健康记录
- mimic-iv-ext-22mcts — 共享标签:医疗NLP / 临床文本 / 电子健康记录
- vaers — 共享标签:医疗NLP / 公共卫生与流行病学
- psytar — 共享标签:医疗NLP / 临床文本 / 公共卫生与流行病学
- emergency-complaint-gout — 共享标签:医疗NLP / 临床文本 / 公共卫生与流行病学
- coral — 共享标签:医疗NLP / 临床文本 / 电子健康记录
- gard — 共享标签:医疗NLP / 公共卫生与流行病学
- asclepius — 共享标签:医疗NLP / 临床文本 / 电子健康记录
- radqa — 共享标签:医疗NLP / 临床文本 / 电子健康记录
导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

