信息速览
INFOBOX — MedS-Ins 一屏速览
维度 内容 本质 面向医学的首个全面指令微调数据集(与 MedS-Bench 基准、MMedIns-Llama 3 模型成对发布) 团队 上海交通大学 + 上海人工智能实验室 + 中国移动;8 位作者,一作 Chaoyi Wu,通讯/主导 Weidi Xie 等 论文 arXiv:2408.12547(2024-08-22 v1,cs.CL;期刊版 npj Digital Medicine) 规模(现行口径) 58 个医学生物语料库 · 500 万实例(instances)· 1.9 万条指令(instructions)· 122 项任务 规模(v1 口径) 同 58 语料库 / 122 任务,但「指令×实例组合各计一样本」→ 1350 万 samples 来源域 医学知识库 43% · 临床文本 35% · 学术论文 13% · 考试 7% · 日常对话 2%(token 占比) 姊妹基准 MedS-Bench:11 类高层临床任务、由 39 个数据集衍生、覆盖 52 项具体任务 微调模型 MMedIns-Llama 3(8B,基于 MMed-Llama 3;batch 128、lr 1e-5、5 epochs、32×Ascend910B、383.5 小时) 公开 HuggingFace Henrychur/MedS-Ins约 7.58 GB;GitHubMAGIC-AI4Med/MedS-Ins提供代码与贡献指南许可 仓库 LICENSE 为 CC BY-SA(MAGIC 联盟 2024);论文版权声明 CC BY 4.0(brief 所载 MIT 经核为误) 关键叙事 单轮医学考试的「刷分」能力不等于临床能力——MedS-Ins 让 8B 开源模型在摘要/抽取/NER/诊断等任务上反超 GPT-4 与 Claude-3.5 库内互链 medqa(50) / medmcqa(111) / pubmedqa(49) 评测基线、mednli(648) 判别任务、medcalc-bench(708) 同域基准、disc-med-sft(824) 中文近邻
§0 导读:这个数据集解决什么问题
一句话回答:MedS-Ins 是上海交通大学与上海人工智能实验室联合中国移动构建的、目前公开范围内最成体系的医学指令微调语料库,它把 58 个彼此割裂的生物医学语料库,用统一的指令模板重组为 122 项临床任务,让一个 80 亿参数的开源医学模型在临床报告摘要、信息抽取、命名实体识别、诊断等任务上超过了 GPT-4 与 Claude-3.5。
要理解 MedS-Ins 的价值,先要理解它试图回答的批评。2024 年前后,GPT-4 等大模型在 USMLE 等医学多选题(MCQA)考试上已能取得高分,甚至通过 UMLS 考试。但论文作者尖锐地指出:这些高分与真实临床场景中的可用性之间,存在一条被 MCQ 基准掩盖的鸿沟。模型在解读 ICD 编码、预测临床操作、解析电子病历(EHR)数据时依然频繁出错。也就是说,一个模型能考满分,不等于它能写好一份出院小结,也不等于它能从病历里准确抽出药物实体。
MedS-Bench 就是为了暴露这条鸿沟而设计的。它不同于只考选择题的传统基准,而是覆盖临床报告摘要、治疗建议、诊断、命名实体识别、医学概念解释等 11 类高层临床任务;作者用 few-shot 提示评测了 MEDITRON、Mistral、InternLM 2、Llama 3、GPT-4、Claude-3.5 六个主流模型,结论是即便最先进的模型,在这些复杂任务上也举步维艰。
既然评测暴露了缺口,下一步就是补缺口。论文的思路直接借鉴了 NLP 领域的 Super-NaturalInstructions:与其让每个临床任务各自为战,不如把所有任务统一到一套指令格式上,用海量、多样、带任务定义的指令数据去训练模型。这正是 MedS-Ins(S = Super)名字的由来。它聚拢了 58 个医学生物语料库,横跨考试、临床文本、学术论文、医学知识库、日常对话五大来源,构建出 122 项任务的指令-实例对。用这套数据对轻量开源模型做指令微调,得到的 MMedIns-Llama 3 在几乎所有临床任务上都显著超越了既有模型。
对 AI-Ready 数据集的读者而言,MedS-Ins 的典型意义在于三点:其一,它是「数据工程补齐基座能力缺口」的范式样本——不改架构、不堆参数,仅靠高质量指令数据的规模化组织,就让 8B 模型在特定临床任务上反超顶级闭源模型;其二,它自带一个严格的「数据口径陷阱」——v1 论文的 13.5M samples 与仓库现行的 5M instances + 19K instructions 是同一数据集的两套计数法,不弄清就会在引用中出数量级错误;其三,它与 MedS-Bench、MMedIns-Llama 3 三者成对发布,形成「语料-基准-模型」的完整闭环,是理解当代医学 LLM 研发范式的关键切片。
本条目将沿「身份与谱系 → 数据构成与规格 → 指令生产流水线 → 姊妹基准 MedS-Bench → 评测与模型 → 获取与许可 → 生态与影响 → 方法学启示 → 库内关系 → 避坑清单」的顺序,逐层解剖这份数据集。
0.1 读这份数据集前,先建立三个心智模型
心智模型一:它是"教材",不是"考题",也不是"学生"。 MedS-Ins 是训练语料(教材),MedS-Bench 是评测基准(考题),MMedIns-Llama 3 是训出来的模型(学生)。三者同论文发布,名字相近,是本条目最容易混淆的地方。任何时候看到"MedS 某某",先问自己:这是教材、考题,还是学生?
心智模型二:医学 LLM 的能力是"多轴"的,不是一个分数。 传统认知里,模型能力常用一个总分概括。但 MedS-Ins 的实验清晰显示:"选择题能力"与"临床生成/抽取能力"是两条几乎独立的轴。GPT-4 在一轴领先,MMedIns-Llama 3 在另一轴领先。理解这一点,才能理解为什么作者要费大力气构建一个非选择题的基准。
心智模型三:数据工程是当代模型能力的重要杠杆。 在"堆参数、堆算力"的主流叙事之外,MedS-Ins 提供了一个"用精心组织的指令数据,让 8B 小模型在特定任务上反超顶级大模型"的样本。对资源有限的团队而言,这条路径的启示价值不亚于任何架构创新。
0.2 一句话定位与一个警告
一句话定位:MedS-Ins 是医学领域的 Super-NaturalInstructions——把 58 个割裂的生物医学语料库,统一成 122 项任务的大规模指令语料。
一个警告:本条目在核验中发现,任务头 brief 提供的 arXiv 编号(2410.03742)与许可(MIT)均与事实不符。前者是无关论文,后者实为 CC BY-SA。这提醒所有读者:任何二手摘要都可能出错,一手核验不可省略。本条目所有关键数字均以 arXiv:2408.12547 与 GitHub 仓库一手抓取为准。
§1 数据集速览:十问十答
问 1:MedS-Ins 到底是什么?
它是一份医学领域的指令微调数据集(instruction tuning dataset)。给定一个临床任务(如「把这段放射报告写成结构化摘要」),数据集提供"指令 + 输入 + 期望输出"的配对样本。它不提供模型权重本身,而是提供训练模型用的数据;配套模型 MMedIns-Llama 3 是论文的验证产物,不是数据集的一部分。
问 2:它由谁构建?
由上海交通大学、上海人工智能实验室、中国移动通信集团(含中国移动上海公司)联合构建,署名机构为 MAGIC(Medical Artificial General Intelligence Consortium,医学通用人工智能联盟)。通讯与主导作者为 Weidi Xie、Ya Zhang、Yanfeng Wang,一作 Chaoyi Wu。
问 3:权威出处是哪个?
论文《Towards Evaluating and Building Versatile Large Language Models for Medicine》,arXiv 编号 2408.12547(2024-08-22 v1),后发表于 npj Digital Medicine。
⚠️ 特别提示:市面上有把 MedS-Ins 关联到 arXiv 2410.03742 的说法,该编号实为无关论文《Beyond Scalar Reward Model: Learning Generative Judge from Preference Data》。本条目以一手核验校正为准。
问 4:数据集有多大?
官方现行口径:58 个医学生物语料库、500 万实例(instances)、1.9 万条指令(instructions)、122 项任务。
官方v1 口径:同 58 语料库、同 122 任务,但把「指令与实例的不同组合各计为一个 sample」,因此计为 13.5 million samples(1350 万)。两套数字都对,取决于你用的是哪一版口径。
问 5:为什么会有两套数字?
因为计数方式变了。v1 论文按「组合」计数——同一条指令配不同实例、或同一实例配不同指令,各算一个新样本;现行口径把指令数与实例数分开统计(19K 指令 + 5M 实例),于是总量表述从 13.5M 变为 5M。仓库 README 对这一变更做了明确说明。
问 6:数据从哪来?
五大文本来源,token 占比为:医学知识库 43% > 临床文本 35% > 学术论文 13% > 考试 7% > 日常对话 2%。临床文本占比居次,确保微调数据与真实临床需求对齐;医学知识库占比最高,提供最广的医学事实基底。
问 7:每条样本长什么样?
每个任务对应一个 JSON 文件,字段包括:Contributors、Source、URL、Categories、Reasoning、Definition、Input_language、Output_language、Instruction_language、Domains、Positive Examples、Negative Examples、Instances。其中 Definition 定义任务、Reasoning 承载推理链、Positive/Negative Examples 提供正负示例——这是它区别于普通 QA 数据集的关键。
问 8:它和 MedS-Bench 是什么关系?
MedS-Bench 是评测基准,MedS-Ins 是训练数据,二者由同一篇论文一并提出。MedS-Bench 覆盖 11 类高层临床任务,由 39 个现有数据集衍生,共涉及 52 项具体任务。可以理解为:MedS-Bench 负责"考试命题",MedS-Ins 负责"教材编写"。
问 9:用这套数据训出来的模型强在哪?
MMedIns-Llama 3(8B)在多项任务上反超闭源巨头:文本摘要 BLEU/ROUGE 达 46.82/48.38(GPT-4 仅 24.46/25.66);信息抽取准确率 83.18(GPT-4 77.49);NER 的 F1 达 68.58(GPT-4 仅 44.30);诊断任务 SEER 98、DDXPlus 95。但在 MCQA 选择题上,GPT-4 仍以 75.3 均值领先——这恰好印证了"选择题能力 ≠ 临床能力"的核心论点。
问 10:怎么拿到、能商用吗?
GitHub 仓库 MAGIC-AI4Med/MedS-Ins 与 HuggingFace Henrychur/MedS-Ins(约 7.58 GB)均可获取。许可:仓库 LICENSE 为 CC BY-SA(署名且相同方式共享,含传染性),论文版权声明为 CC BY 4.0。上游 58 个语料库各自许可是另一层过滤,商用前须逐项核查。注意:brief 所载的 MIT 经一手核验为误,请勿据以使用。
1.1 速览表补充:身份、时间与人物
| 维度 | 事实 |
|---|---|
| 官方名 | MedS-Ins(Medical Super-Instructions) |
| 类型 | 医学指令微调数据集(instruction tuning dataset) |
| 论文 | arXiv:2408.12547;期刊 npj Digital Medicine |
| 首发时间 | 2024-08-22(arXiv v1) |
| 作者数 | 8 位;一作 Chaoyi Wu |
| 机构 | 上海交通大学、上海人工智能实验室、中国移动通信集团 |
| 署名主体 | MAGIC(医学通用人工智能联盟) |
| 姊妹资产 | MedS-Bench(评测基准)、MMedIns-Llama 3(模型) |
| 数据规模(现行) | 58 语料库 / 500 万实例 / 1.9 万指令 / 122 任务 |
| 数据规模(v1) | 13.5M samples |
| 许可 | CC BY-SA(仓库)/ CC BY 4.0(论文)/ 上游待核 |
| 获取 | HF Henrychur/MedS-Ins(7.58 GB);GitHub MAGIC-AI4Med/MedS-Ins |
1.2 谁该读这一条
- 医学 LLM 训练者:直接决定是否采用 MedS-Ins 作为指令微调语料;
- 指令数据工程师:借鉴"任务指令化 + 负例 + 推理链"的构建范式;
- 医学 LLM 评测者:了解 MedS-Bench 的任务构成与动态榜单机制;
- 数据集研究者:观察"口径漂移""许可继承"等真实数据治理问题的活案例;
- 医疗 AI 决策者:评估该资源的合规边界与工程接入成本。
1.3 一句话记住它
58 个语料库、122 项任务、500 万实例、1.9 万指令;姊妹基准 MedS-Bench 考 11 类临床任务;8B 模型靠它反超 GPT-4 的生成能力——这就是 MedS-Ins。
1.4 三处最易答错的"常识题"
在正式展开前,先把三个最容易答错的问题定下基调:
题一:MedS-Ins 的样本量是 1350 万还是 500 万?
答:都是,但属两套口径。v1 论文把"指令×实例的不同组合"各计一样本,得 13.5M;现行仓库把指令与实例分开计,得 5M 实例 + 19K 指令。本条目以现行口径为主,13.5M 存照。
题二:MedS-Ins 的许可是 MIT 吗?
答:不是。仓库 LICENSE 为 CC BY-SA,论文版权声明为 CC BY 4.0。任务头 brief 所载 MIT 经一手核验为误。
题三:MedS-Ins 的论文编号是 2410.03742 吗?
答:不是。正确编号为 arXiv:2408.12547(2024-08-22)。2410.03742 是另一篇无关论文的编号。
把这三题记住,就读懂了本条目一半的"校勘价值"——它们分别对应数据工程中三类典型陷阱:口径漂移、许可误传、编号错配。
§2 数据构成与规格
2.1 规模、来源与机构构成
MedS-Ins 的规模骨架可以用一句话概括:58 个医学生物语料库 → 122 项任务 → 500 万实例 + 1.9 万条指令。这个骨架的每一环都值得拆开看。
58 个语料库是它的原料池。这些语料库覆盖了整个生物医学文本的谱系:既有医学考试题库(反映结构化医学知识),也有临床文本(如出院小结、放射报告),既有学术论文(PubMed 类文献),也有医学知识库(结构化的疾病-药物-症状关系),还有日常对话(医患问诊类)。论文明确将这些来源归为五大文本域,并给出了 token 占比:
| 文本来源域 | token 占比 | 定位 |
|---|---|---|
| 医学知识库(Medical knowledge bases) | 43% | 最广的医学事实基底 |
| 临床文本(Clinical texts) | 35% | 与真实临床需求对齐 |
| 学术论文(Academic papers) | 13% | 科研级知识 |
| 考试(Exams) | 7% | 结构化医学知识 |
| 日常对话(Daily conversations) | 2% | 医患互动语感 |
从这张表能读出作者的意图:知识库与临床文本合计占 78%,构成主体,说明数据集的重心在于"医学事实 + 临床可用性",而非应试。考试域仅 7%,日常对话仅 2%,是有意的"配菜"——提供必要但不喧宾夺主的能力补充。
把五个来源域按"能力供给"重新理解,会更清楚它们各自的作用:
- 医学知识库(43%):供给"模型知道什么"——疾病的定义、药物的属性、症状的关联。这是模型回答医学问题的事实底座。
- 临床文本(35%):供给"模型怎么说"——病历、报告的真实表达方式。这是模型输出临床文本时的风格与术语来源。
- 学术论文(13%):供给"深知识"——比教科书更前沿、更细的医学证据,支撑需要专业深度的任务。
- 考试(7%):供给"结构化知识检验"——以问答形式固化知识点,但刻意压低占比以避免应试化。
- 日常对话(2%):供给"互动语感"——真实医患交流的口语化表达,仅在需要对话任务时起补充作用。
这种"按能力供给而非按数据体量"分配占比的思路,是 MedS-Ins 区别于"见到什么数据就堆什么数据"的粗放数据集的关键设计。
机构构成上,这是一个典型的"高校 + 实验室 + 产业方"三方协作:上海交通大学与上海人工智能实验室(Shanghai AI Laboratory)贡献学术与算力,中国移动通信集团及其上海公司提供产业资源。8 位作者中,Chaoyi Wu、Pengcheng Qiu、Ya Zhang、Yanfeng Wang、Weidi Xie 兼顾上交与上海 AI Lab 双重身份,Jinxin Liu、Na Li 属中国移动集团,Hongfei Gu 属中国移动上海公司。署名机构统一为 MAGIC(医学通用人工智能联盟),这一联盟标识也出现在仓库 LICENSE 的版权声明中。
2.2 任务体系:122 项任务如何组织
122 项任务是 MedS-Ins 的组织核心。它不是把 58 个语料库简单堆叠,而是把每个语料库中的原始数据,重新包装成"指令-输入-输出"的任务格式。同一份原始数据,可以因指令不同而被组织成不同的任务;反过来,同一类任务也可以由多个语料库共同支撑。
论文提到数据集涵盖 19 个任务类别(19 task categories)。这 19 类是比 122 更粗的归类,也是比 11(MedS-Bench 的高层临床任务类)更细的层级。三者关系可以这样理解:
- 11 类 = MedS-Bench 评测时的高层临床任务视角(如"诊断"“NER”“摘要”);
- 19 类 = MedS-Ins 数据组织的中层任务类别;
- 122 项 = 最细粒度的具体任务(每项 task 对应一个 JSON 文件)。
这种"粗-中-细"三层结构,使得数据既能按大任务聚合评测,也能按具体任务精细训练。
2.3 单任务 JSON 规格详解
理解 MedS-Ins 的规格,最直接的方式是读懂它的单任务 JSON schema。每个任务一个 JSON 文件,结构如下(字段语义按仓库 README 原文解读):
{
"Contributors": [""],
"Source": [""],
"URL": [""],
"Categories": [""],
"Reasoning": [""],
"Definition": [""],
"Input_language": [""],
"Output_language": [""],
"Instruction_language": [""],
"Domains": [""],
"Positive Examples": [ {"input": "", "output": "", "explanation": ""} ],
"Negative Examples": [ {"input": "", "output": "", "explanation": ""} ],
"Instances": [ {"id": "", "input": "", "output": [""]} ]
}
逐字段说明:
| 字段 | 语义 | 价值点 |
|---|---|---|
| Contributors | 贡献者姓名 | 支持社区贡献与署名 |
| Source | 语料来源名称 | 溯源到 58 个语料库中的哪一个 |
| URL | 数据源链接 | 可回查原始数据 |
| Categories | 高层 NLP 任务类(如 QA、summarization) | 粗粒度分类 |
| Reasoning | 推理链说明(可空白) | 指令的"思维过程"提示 |
| Definition | 任务的详细定义 | 让模型理解任务边界 |
| Input_language / Output_language / Instruction_language | 输入/输出/指令语言(中、英等) | 多语言支持 |
| Domains | 医学子域(药物、诊断等)或内容类型 | 域标签,供筛选训练 |
| Positive Examples | 典型正例(含 explanation) | few-shot 示范 |
| Negative Examples | 典型错例(explanation 必需,本身可空) | 负例学习 |
| Instances | 主实例集(id + input + output) | 训练样本主体 |
这张表揭示了 MedS-Ins 与传统 QA 数据集的本质区别:它不止给"问答对",还给"任务定义 + 推理链 + 正负示例"。这四者共同构成了一个"教会模型怎么做这类任务"的完整指令包,而非仅仅喂给它答案。这也正是 Super-NaturalInstructions 范式"任务指令化"的精髓。
2.4 与 Super-NaturalInstructions 的范式关系
论文自述 MedS-Ins 的构建"受 Super-NaturalInstructions 的启发"。Super-NaturalInstructions 是 NLP 领域一个里程碑式的指令数据集,它把 1600+ 个 NLP 任务用统一模板格式组织,证明大规模、多样化的任务指令能显著提升模型的零样本泛化。
MedS-Ins 把这个思路搬到医学域,做了三个适配:
- 任务来源医学化——不是收集通用 NLP 任务,而是从 58 个生物医学语料库中提炼 122 项临床任务;
- 引入负例与推理链——加了 Super-NaturalInstructions 所没有的 Negative Examples 与 Reasoning 字段,强化临床场景下的纠错与可解释性;
- 多语言化——显式标注 Instruction/Input/Output 三种语言,支持中英等跨语言训练。
这三点适配,回答了"为什么不能直接用 Super-NaturalInstructions 训医学模型"——通用指令集缺乏医学任务定义、缺乏临床负例、缺乏医学域标签,直接迁移无法对齐临床需求。
2.5 规模数字的三层含义
面对"58 / 122 / 500 万+1.9 万 / 13.5M"这一串数字,建议按三层理解,避免混淆:
第一层:原料层(58)。 58 是"语料库"数量,衡量的是数据来源的多样性。它回答"这份数据见过多少种原始文本"。
第二层:任务层(122)。 122 是"任务"数量,衡量的是指令覆盖的广度。它回答"这份数据能教模型做多少种事"。
第三层:样本层(500 万实例 + 1.9 万指令,或 13.5M samples)。 这是"样本"数量,衡量的是训练信号的绝对体量,也是最容易因计数口径而生歧义的一层。
三层不能互相替代:语料库多不等于任务多(一个语料库可派生多个任务),任务多不等于样本多(有的任务实例很少)。引用时务必指明是哪一层。
2.6 数据质量的两条观察线索
由于 MedS-Ins 未提供逐任务的实例分布统计,评估其数据质量需要借助两条间接线索:
其一,来源域的 token 占比是团队自报的加权结果——43% 知识库 + 35% 临床文本的配比,暗示团队在采样时做了刻意的域平衡,而非"哪个语料库大就多放"。这种"按目标能力配比"而非"按原始体量配比"的做法,通常是更高质量的指令数据集的特征。
其二,任务定义的完整度——从 JSON schema 看,每个任务都被要求填写 Definition 与 Reasoning,这意味着即便原始语料本身不含任务说明,团队也为其补齐了"任务说明书"。这提高了数据集的"自解释性",也提高了人工投入。
2.7 任务的粒度设计:为什么是 122 而不是 20 或 1000
一个设计问题:任务数为何定在 122?太少(如 20 类)会导致任务过于宽泛、指令边界模糊;太多(如 1000+)会导致每个任务的实例过少、训练信号稀释。122 这个量级,配合 500 万实例,意味着平均每个任务约有数万条实例(500 万 / 122 ≈ 4 万),足以支撑稳定训练,又不至于任务碎片化。
这与 Super-NaturalInstructions 的 1600+ 任务形成有趣的对照:后者任务极多但每任务实例较少,偏向"任务多样性的泛化";MedS-Ins 任务相对少但实例更厚,偏向"每个临床任务的深度适配"。任务粒度是数据集设计的一个隐性超参数,MedS-Ins 选择了"中等粒度、充足实例"的中间路线。
2.8 从"语料库"到"任务"的映射非一一对应
一个容易被误解的点:58 个语料库与 122 项任务不是一一对应的关系。一个语料库可以派生多项任务(如一个临床文本语料库既可做摘要、也可做 NER);反过来,一项任务也可能由多个语料库共同支撑(如"NER"任务可能聚合了多个标注语料的实体)。这种多对多映射,正是"任务指令化"的价值所在——它打破了原始语料库的边界,按"任务"重新组织数据,从而让训练者可以面向能力(而非面向来源)来组织训练。
这也解释了为什么语料库数(58)远少于任务数(122):任务化过程中产生了"一对多"的放大,同一份原始文本被不同指令"激活"出不同的训练用途。
2.9 与"数据集版本"相关的引用建议
鉴于 MedS-Ins 存在口径漂移与持续更新,给出四条引用建议,供论文与文档写作者参考:
- 引用论文时用 arXiv:2408.12547(或 npj Digital Medicine 版),不要引用 2410.03742(无关论文);
- 报告规模时同时给出两套口径,或明确标注"现行口径",例如:“58 语料库、122 任务,现行计 500 万实例 + 1.9 万指令(v1 论文计 13.5M samples)”;
- 报告评测分数时注明 MedS-Bench 的测试集版本与访问日期;
- 记获取时间:在方法节或数据可用性声明里写明"数据获取于 YYYY-MM",因为仓库与 HF 会持续更新。
这四条看似琐碎,却能让你的工作在他人的复现中"站得住"——在数据集持续演化的时代,版本意识就是可复现性。
§3 指令生产流水线:从 58 个语料库到 122 项任务
3.1 三步转化:原始语料 → 指令包
MedS-Ins 的生产流水线可以抽象为三步:
第一步:语料归集。从 58 个公开的医学生物语料库中,按五大文本域筛选并汇总原始数据。这一步的产出是大量异构的原始文本(考试题、病历、论文段落、知识库三元组、对话)。
第二步:任务定义与指令化。对每类原始数据,人工/半人工地撰写 Definition(任务定义)、Reasoning(推理链)、Positive/Negative Examples(正负例),并把原始数据包装成 Instances。这一步把"数据"变成"任务"。
第三步:多语言与域标注。为每项任务标注 Input/Output/Instruction 语言与 Domains 子域,形成可筛选、可跨语言的训练集合。
这条流水线的关键设计在于任务定义先行:先把"这个任务要模型怎么做"讲清楚(Definition + Reasoning),再配套示例(Positive/Negative)与实例(Instances)。这与"先有数据、再凑指令"的粗放做法形成对比。
3.2 正负例设计:临床纠错的刻意安排
Negative Examples 字段是 MedS-Ins 相对多数指令数据集的差异化设计。仓库 README 明确:负例的 explanation 是必需的,但该字段本身可以完全为空。这条看似矛盾的规则透露了一个取舍——作者鼓励提供负例,但不强制每个任务都有:当某个任务难以构造典型错例时,允许留空,而不是硬凑。
对于临床任务,负例的价值尤其大。例如在命名实体识别中,"把非药物词误标为药物"是典型错误;在诊断任务中,“忽略了关键鉴别诊断"是典型错误。给出这些负例让模型学会"什么不该做”,在医疗这种错误代价极高的场景下,比单纯的正例训练更关键。
3.3 token 预算视角:来源域配比即训练策略
回到 2.1 的 token 占比表,可以看到来源域配比本身就是一种训练策略的表达。医学知识库占 43%,意味着近一半的训练信号用于"记忆与检索医学事实";临床文本占 35%,用于"对齐临床表达";两者合计 78%,是刻意为之的"临床可用性优先"。
反观考试域(7%)与日常对话(2%)的低占比,则是在刻意避免"应试化"——如果考试数据占比过高,模型会学会"刷选择题"而非"解决临床问题",这恰恰是论文批评传统基准的痛点。数据的配比,就是作者对"医学 LLM 该往哪个方向训"的态度宣言。
3.4 与 MedS-Bench 的"训测分离"设计
一个值得注意的工程细节:MedS-Bench(评测)与 MedS-Ins(训练)是分离的。论文提到 MedS-Bench 由 39 个现有数据集衍生,且作者设置了动态排行榜、计划定期更新测试集。这种"训测分离 + 测试集滚动更新"的设计,是为了防止模型在固定测试集上过拟合——这是从通用 NLP 领域引入的重要工程纪律,也是 MedS-Ins 生态比一次性发布的静态数据集更可持续的原因。
3.5 社区贡献机制:DATA_Contributor
MedS-Ins 并非封闭数据集。仓库专门设有 DATA_Contributor 目录,内含贡献指南(Create Data_Uploading_Guideline.md),明确邀请社区提交新任务数据,并承诺在论文下一版中署名致谢每一位贡献者。贡献者需按 2.3 的 JSON schema 提交,带上 Source/URL/Definition 等溯源信息。
这套机制的意图很清楚:让 MedS-Ins 从"一个团队的数据集"演化为"一个社区的语料生态",通过众包持续扩大任务覆盖面。对使用者而言,这意味着数据集会持续增长,引用时务必记录版本或获取时间。
3.5.1 贡献与使用的对称性
DATA_Contributor 机制还有一层值得注意的对称性:贡献者被要求提供的字段(Contributors/Source/URL/Definition 等),恰恰也是使用者追溯数据来源所需的字段。这种"贡献即溯源"的设计,让数据集在扩张的同时不失去血统记录——每新增一个任务,就自带一段完整的来源说明。对一个会不断长大的数据集而言,这种设计是维持长期可信度的基础设施。
3.6 数据准备脚本:data_preparing 目录
仓库的 data_preparing 目录提供了数据准备的代码,这是理解"原始数据如何变成 MedS-Ins 格式"的另一条线索。使用者若想复现构建流程或把自己的数据并入 MedS-Ins 体系,应从这里入手。虽然 README 未逐一列出每个脚本的功能,但从目录名与仓库整体结构可以推断:它承担的是"清洗—对齐—模板套用—校验"的预处理职责,把异构的原始语料统一到 2.3 节的 JSON schema 上。
3.7 评测脚本与打分实现
与数据准备相对的是评测侧。仓库 Metrics 目录按任务类型拆分了打分实现,已确认存在的文件包括 NamedEntityRecognition.py、Diagnosis.py、TreatmentPlanning.py 等。这说明 MedS-Bench 的评测不是笼统的一个指标,而是按临床任务类型分别设计度量:NER 用 token 级 F1(社区 fork 明确提到 token F1),分类类任务用 accuracy,生成类任务用 BLEU/ROUGE。Evaluation 目录下的 eval.py 是原始的 HuggingFace 评测脚本,EvalDataset.py 是数据集加载器。
值得注意的一个社区现象:出现了第三方 fork(如 shaafsalman/MedS-Ins)为仓库增加了 eval_vllm.py——一个统一的 vLLM 评测脚本,用 OpenAI 兼容 API 客户端替代原本的 HuggingFace 模型加载,支持 vLLM、SGLang 或任何 OpenAI 兼容服务端,并加入并行推理(ThreadPoolExecutor)、任务感知打分、逐样本预测/期望日志等工程增强。这从一个侧面印证了 MedS-Ins/MedS-Bench 在实际使用中有真实需求,也提示读者:评测时可能需要超出官方原始脚本的工程改造。
3.8 数据格式的迁移成本
MedS-Ins 的 JSON schema 虽清晰,但并非所有训练框架都能直接吃下。字段中 Instances 是对象数组、Positive/Negative Examples 又是嵌套对象数组,且 output 在不同任务里可能是字符串或数组(schema 中写作 "output": [""],暗示可为列表)。使用者若要把 MedS-Ins 喂给标准的 Alpaca/ShareGPT 格式训练管线,通常需要编写一层转换:把 Instances 展平成一行行"指令-输入-输出",把 Definition 与 Reasoning 拼进 system prompt 或 instruction 前缀。这个迁移成本不大但不可忽略,是"开箱即用程度"的一个实际折损点。
§4 姊妹基准 MedS-Bench:训测分离的另一半
4.1 为什么需要 MedS-Bench
MedS-Ins 是训练数据,但它诞生的动机来自一个评测结论:传统医学基准过度依赖多选题(MCQA)。论文开篇即指出,GPT-4 等模型在 MedQA 等考试基准上分数很高,但这些分数"不能充分反映 LLM 在真实临床情景中的应用"。于是在提出 MedS-Ins 之前,作者先构建了 MedS-Bench——一个跳出选择题的临床评测基准。
MedS-Bench 的三个核心数字:
- 11 类高层临床任务(clinical report summarization、treatment recommendations、diagnosis、NER、medical concept explanation 等);
- 由 39 个现有数据集衍生;
- 共涉及 52 项具体任务。
11 类任务覆盖了临床工作的主要文本形态:从"读懂"(概念解释、NER)到"写出"(摘要、治疗建议)到"判断"(诊断)。
4.2 六个被测模型的"翻车"画像
作者用 few-shot 提示评测了六个主流模型:MEDITRON、Mistral、InternLM 2、Llama 3、GPT-4、Claude-3.5。核心发现是:即便最先进的模型,在这些复杂临床任务上也表现挣扎。
这个结论的价值在于它打破了"刷榜幻觉":一个模型可能在 MedQA 上拿到 85.8 的高分,但在临床报告摘要、信息抽取等任务上表现平平。MedS-Bench 的作用,就是把这种"高分低能"的落差量化出来,为 MedS-Ins 的构建提供了动机。
4.3 动态排行榜机制
MedS-Bench 配有动态排行榜(https://henrychur.github.io/MedS-Bench/)。论文明确其定位是"动态"的——**作者计划定期更新测试集**,以跟踪进展并促进通用 LLM 对医学域的适配。这种滚动更新机制对评测基准的公信力至关重要:它防止了模型团队针对固定测试集做数据污染式优化。
4.4 MedS-Bench 与 MedS-Ins 的闭环
两者构成一个完整的研发闭环:
MedS-Bench(评测)→ 暴露能力缺口 → MedS-Ins(训练)→ 微调 MMedIns-Llama 3(模型)
↑ │
└────────────────── 回到 MedS-Bench 复测 ←───────────────────────┘
这个闭环是理解该项目的关键:它不是孤立发布一个数据集,而是"发现问题(基准)→ 解决问题(数据)→ 验证解决(模型)→ 回归评测(基准)"的完整科研链条。对使用者而言,MedS-Bench 提供了"用 MedS-Ins 训完模型后该拿什么测"的标准答案。
4.5 MedS-Bench 与前代医学基准的差异
要理解 MedS-Bench 的设计取向,最好的方式是把它与它批评的"传统基准"对照:
| 维度 | 传统医学基准(如 MedQA 类) | MedS-Bench |
|---|---|---|
| 题面形式 | 多选题(MCQA) | 生成 / 抽取 / 分类 / 判别多形态 |
| 考察能力 | 知识记忆与判别 | 知识 + 生成 + 抽取 + 推理 |
| 任务类数 | 通常单一(问答) | 11 类高层临床任务 |
| 数据集来源 | 常为单一考试题库 | 39 个数据集的综合 |
| 评分方式 | 准确率(对/错) | 依任务而定(F1/accuracy/BLEU/ROUGE) |
| 更新机制 | 多为静态 | 动态滚动更新测试集 |
这张表揭示 MedS-Bench 的两个核心进步:其一,从"单一题型"走向"多任务形态",更贴近临床工作的真实多样性;其二,从"静态榜单"走向"动态更新",缓解数据污染导致的分数虚高。
4.6 11 类任务覆盖的临床工作流
把 MedS-Bench 的 11 类任务放回临床工作流里看,会更有体感。临床文本处理大致遵循这样一条链:
非结构化临床文本 → [理解] → [抽取关键信息] → [推理判断] → [生成结构化输出]
- 理解环节:医学概念解释(把术语讲清楚);
- 抽取环节:命名实体识别、信息抽取(从文本里捞药物/疾病/指标);
- 推理环节:诊断、治疗建议、结局预测(做出临床判断);
- 生成环节:报告摘要、合理化论证(产出可交付文本);
- 核查环节:事实核查、NLI(验证声明的可靠性)。
MedS-Bench 的 11 类任务几乎覆盖了这条全链条,这正是它比"只考选择题"的基准更贴近临床的原因。
4.7 榜单机制的治理意义
MedS-Bench 的动态排行榜不仅是排名工具,更是一种评测治理机制。在医学 LLM 领域,若测试集固定不变,模型团队可能通过"把测试集内容混入训练"来刷高分数,这会严重污染评测的可信度。作者承诺"定期更新测试集",本质上是在用测试集的流动性对抗训练数据的渗漏。对使用该基准的研究者而言,这意味着两件事:(a)引用分数必须锁定版本;(b)没有永恒的 SOTA,榜单会持续洗牌。
4.8 如何自己跑一遍 MedS-Bench(操作路径)
给想实操的读者一条最短路径(依仓库 README 与社区 fork 整理):
- 取测试集:从 HF
Henrychur/MedS-Bench下载所需任务的数据(如 NER、Diagnosis、Treatment_planning 等子目录); - 准备服务端:用 vLLM/SGLang 起一个 OpenAI 兼容 API 服务(社区 fork 的
eval_vllm.py支持这种方式),或直接用官方eval.py加载 HuggingFace 模型; - 选任务与打分器:按任务类型选择打分逻辑——NER 用 token F1、分类用 accuracy、生成用 BLEU/ROUGE(
Metrics目录下有对应实现); - 跑评测并记录:记录模型名、版本、任务、样本数、温度等超参,便于复现;
- 对照榜单:把结果与官方排行榜(henrychur.github.io/MedS-Bench/)对照,但务必核对榜单的测试集版本与你所用的是否一致。
这条路径的关键提醒是:评测的可复现性取决于"数据版本 + 模型版本 + 打分脚本"三者齐全的记录,缺一不可。
4.9 MedS-Bench 的局限与争议
任何基准都不是完美的,MedS-Bench 也有其边界:
- 指标与临床价值的落差:BLEU/ROUGE 类指标衡量文本相似度,与"医生是否认可这份摘要"存在落差;F1/accuracy 类指标相对客观,但也无法涵盖临床推理的深度。
- 任务覆盖仍有限:11 类任务虽比纯 MCQA 广,但临床实践中的大量任务(如影像判读、手术规划、用药交互检查)并未纳入——它是"文本临床任务"的基准,不是"全临床"的基准。
- 对照条件的不对称:微调模型 vs 提示模型,是范式差异而非纯能力差异,解读时须谨慎(详见 §5.6)。
- 版本流动性带来的比较困难:动态更新虽利于防污染,却也让"跨时间比较分数"变得不可靠。
指出这些局限,不是否定 MedS-Bench 的价值,而是帮助读者把它放在正确的解读位置上:它是一个"比纯选择题更贴近临床"的进步,但仍是一个文本任务的、指标驱动的、版本流动的基准,需要与人工评估、真实场景验证结合使用。
§5 评测与模型:MMedIns-Llama 3 的能力解剖
5.1 模型训练配置
MedS-Ins 的验证模型是 MMedIns-Llama 3,它是一个 80 亿参数(8B)的轻量开源医学模型,基座是作者此前工作开发的 MMed-Llama 3(多语言医学模型)。训练配置如下:
| 项目 | 配置 |
|---|---|
| 参数量 | 8B |
| 基座 | MMed-Llama 3 |
| 全局 batch size | 128 |
| 学习率 | 1e-5 |
| 训练轮数 | 5 epochs |
| 硬件 | 32 × Ascend910B |
| 耗时 | 383.5 小时 |
论文声称,这是首次通过指令微调,让开源医学 LLM 在广泛临床任务上超越 GPT-4、Claude-3.5 等领先闭源模型。以下评测除 MCQA 用 zero-shot 外,其余为 3-shot。
5.2 全面对比:MMedIns-Llama 3 vs 基线
(1)多语言多选题 MCQA(Accuracy)
| 模型 | MedQA | MedMCQA | PubMedQA | 平均 |
|---|---|---|---|---|
| GPT-4 | 85.8 | 72.3 | 70.0 | 75.3 |
| Llama 3 | 60.9 | 50.7 | 73.0 | 62.2 |
| MMedIns-Llama 3 | 63.6 | 57.1 | 78.2 | 63.9 |
⚠️ 关键观察:在纯选择题上,MMedIns-Llama 3(63.9)虽超过 Llama 3(62.2)并"显著超过 GPT-3.5",但仍不及 GPT-4(75.3)。这个"不完美"恰恰是数据集的叙事支点——它证明了"选择题强 ≠ 临床能力强"。
(2)文本摘要(BLEU/ROUGE 平均)
| 模型 | BLEU / ROUGE |
|---|---|
| GPT-4 | 24.46 / 25.66 |
| Claude-3.5 | 26.29 / 27.36 |
| Mistral | 24.48 / 24.90 |
| Llama 3 | 22.20 / 23.08 |
| MMedIns-Llama 3 | 46.82 / 48.38 |
在摘要任务上,MMedIns-Llama 3 的分数近乎 GPT-4 与 Claude-3.5 的两倍——这是数据集最亮眼的战果。
(3)信息抽取(Accuracy)
| 模型 | Accuracy |
|---|---|
| InternLM 2 | 81.58 |
| Claude-3.5 | 78.86 |
| GPT-4 | 77.49 |
| MMedIns-Llama 3 | 83.18 |
MMedIns-Llama 3 比最强的 InternLM 2 高 1.6 分;在 PICO 的 Participant Extraction 子任务上得 83.72,超出第二名 9.3 分。
(4)概念解释(BLEU/ROUGE)
| 模型 | BLEU / ROUGE |
|---|---|
| GPT-4 | 19.18 / 21.33 |
| Llama 3 | 21.14 / 23.33 |
| MMedIns-Llama 3 | 33.89 / 37.68 |
(5)命名实体识别 NER(F1)
| 模型 | F1 |
|---|---|
| GPT-4 | 44.30 |
| InternLM 2 | 40.81 |
| MMedIns-Llama 3 | 68.58 |
子任务:BC4Chem 78.62、BC5Chem 89.71、BC5Disease 51.97、Species800 54.02。F1 高出 GPT-4 逾 24 分,是差距最大的一项。
(6)诊断 / 治疗规划 / 临床结局预测(Accuracy)
| 模型 | SEER | DDXPlus |
|---|---|---|
| Claude-3.5 | 90 | 48 |
| GPT-4 | 78 | 52 |
| MMedIns-Llama 3 | 98 | 95 |
在 DDXPlus 诊断任务上,MMedIns-Llama 3 的 95 分对 GPT-4 的 52 分几乎是碾压;MIMIC4ED 三项平均 86.67。
(7)文本分类 HoC(Precision/Recall/F1)
| 模型 | F1 |
|---|---|
| GPT-4 | 60.38 |
| Claude-3.5 | 63.32 |
| MMedIns-Llama 3 | 87.37(P=91.29, R=85.57) |
(8)事实核查与 NLI
- PubMedQA Answer Verification:MMedIns-Llama 3 与 InternLM 2 并列最高 98;
- HealthFact Verification:92(与 InternLM 2 并列最高);
- MedNLI 判别任务:84;生成任务 BLEU/ROUGE 37.56/32.17。
(9)薄弱环节:EBMS Justification
在循证医学声明(EBMS)的论证解释任务上,MMedIns-Llama 3 得 11.99/12.90,略低于 GPT-4 的 16.36/16.33。论文将其列为未来改进方向,未作掩盖。
5.3 结果解读:三条可迁移的结论
结论一:指令数据能显著改变模型的能力结构。 MMedIns-Llama 3 在摘要、抽取、NER、诊断等"生成/判断型"任务上大幅领先,说明 MedS-Ins 的指令-负例-推理链设计,精准补上了这些能力。
结论二:选择题能力与临床能力是两条独立的轴。 GPT-4 在 MCQA 上仍最高,却在摘要、NER、诊断上被 8B 模型反超。这验证了论文的核心论点,也提醒评测者不要用 MCQA 分数代表临床能力。
结论三:小模型 + 好数据可以挑战大模型 + 通用数据。 8B 参数、32 卡、383.5 小时的训练成本,换来多项任务反超 GPT-4,这是"数据工程杠杆"的强有力证明——对资源受限的医疗 AI 团队尤其有借鉴意义。
5.4 评测的可信度边界
作为严谨的百科条目,需要指出几点解读边界:
- 对比不完全对等:闭源模型(GPT-4、Claude-3.5)多为 zero-shot 或 few-shot 提示,而 MMedIns-Llama 3 是经过针对性微调的,任务适配度天然更高;这不削弱结论,但提示"反超"的语境是"该数据集内的任务"。
- 指标差异:摘要/概念解释用 BLEU/ROUGE,这类指标与"临床可用性"之间并非线性关系,高分不等于临床医生认可。
- 测试集更新:MedS-Bench 计划滚动更新测试集,历史分数可能随版本变动,引用时须注明评测版本与日期。
5.5 为什么 8B 模型能在生成任务上反超 GPT-4
一个自然的疑问:为什么一个 80 亿参数的模型,能在摘要、NER、诊断这些任务上大幅反超 GPT-4?答案藏在"任务适配度"里。
GPT-4 是一个通用模型,评测时靠 few-shot 提示去"猜"临床任务的格式与期望。而 MMedIns-Llama 3 是在 122 项同类任务的指令数据上专门微调过的——它见过成千上万条"报告摘要"“实体标注”"诊断推理"的样本,学会了这些任务的输出范式。在生成/抽取/分类这类格式敏感的任务上,"见过大量同类样本"带来的优势,足以抵消参数量上两个数量级的差距。
反过来说,在 MCQA 选择题上,任务本质是"知识检索 + 选项判别",这恰恰是 GPT-4 凭借庞大参数量与海量通用预训练数据最强的地方,因此 MMedIns-Llama 3 在这里仍落后。这一升一降的对比,精确地界定了"数据工程"的效力边界:它能显著提升任务适配度,但不能凭空补足基座的知识广度。
5.6 与基线模型的公平性再审视
论文评测的六个基线是 MEDITRON、Mistral、InternLM 2、Llama 3、GPT-4、Claude-3.5。其中 MEDITRON 与 InternLM 2 本身是医学/中英双语模型,是"同为医学模型"的对照组;GPT-4 与 Claude-3.5 是"顶级闭源通用模型"对照;Llama 3、Mistral 是"开源通用模型"对照。这种分层对照的设计,使得结论可以同时说明两件事:(a)医学专用微调优于通用模型(看 MMedIns vs GPT-4 在生成任务),(b)MedS-Ins 的微调优于既有医学模型(看 MMedIns vs MEDITRON/InternLM 2)。
需要客观指出,MedS-Bench 的 11 类任务对 MMedIns-Llama 3 而言是"训练同源的近似任务",而对闭源模型是"仅靠提示的陌生任务"——这个不对称是"数据 vs 提示"范式的固有差异,不应被简化为"8B 打败 GPT-4"的口号,但作为"指令数据有效性"的证据仍然是充分的。
5.7 结果表格的阅读守则
读 MedS-Ins 的评测结果,建议遵循四条守则,避免误读:
- 看任务类型:生成/抽取类(摘要、NER、抽取)MMedIns 优势最大;选择题类(MCQA)GPT-4 仍领先。不要用一个平均数概括全部。
- 看指标性质:BLEU/ROUGE 衡量的是 n-gram 重叠,与临床有用性非线性相关,高 BLEU 不等于医生满意。
- 看对照强度:与 GPT-4、Claude-3.5 的对比是题设内对比(few-shot),强于无对照的"我们模型很好"式宣称,但弱于同条件微调对比。
- 看版本:MedS-Bench 测试集计划滚动更新,报告分数时必须锁定版本与日期,否则跨论文不可比。
5.8 一个可复现性提醒
论文给出的评测数字虽详尽,但完整复现面临两个现实门槛:其一,闭源模型(GPT-4、Claude-3.5)的分数会随服务端模型版本静默变化,今天的 GPT-4 未必等于论文评测时的 GPT-4;其二,MedS-Bench 测试集滚动更新,即便用同一脚本,不同时间跑出的分数也可能不同。因此,把论文数字当作"历史时点的横截面快照"来理解,比当作"永恒基准"更准确。若要自建可复现的对比,建议:(a) 固定 MedS-Bench 的某个版本;(b) 记录所有对照模型的版本与访问日期;© 优先关注"同批次内"的相对排序,而非绝对分数。
5.9 结果对下游选型的启示
对正在选医学 LLM 方案的团队,MedS-Ins 的结果传递了一个实用信号:如果你的应用是"生成/抽取密集型"(如自动写病历摘要、从报告中抽实体),一个用 MedS-Ins 微调的小模型可能性价比远高于调用昂贵的通用大模型;反之,如果应用是"知识问答型"(如回答医学知识问题),通用大模型的知识广度仍是优势。按任务类型选模型,比按"模型大小"选模型更明智。
5.10 MedS-Bench 与 MedS-Ins 的"数据集卫生"
最后回到一个数据集工程的原则性观察:MedS-Ins/MedS-Bench 的组合,示范了一种"数据集卫生"——训练数据与评测数据虽同源,但物理分离、且评测集保持更新。在越来越多的模型因"见过测试集"而分数虚高的当下,这种纪律的价值正在上升。它提醒每一个构建评测基准的团队:基准的公信力不来自分数有多高,而来自它的测试集有没有被污染、会不会被泄漏。MedS-Bench 的动态更新承诺,正是对这一公信力的制度化保障。
5.11 MMedIns-Llama 3 的名字怎么念
最后一个实用细节:模型名的读法与含义。MMedIns-Llama 3 可拆为 M-Meds-Ins-Llama 3——首字母 M 呼应基座 MMed-Llama 3,中段 MedS-Ins 是所用数据集,结尾 Llama 3 指明基座家族。仓库中模型目录名为 MMedS-Llama3-8B(M-Meds-Llama3-8B),与论文的 MMedIns-Llama 3 指同一模型,只是写法略有出入——这是又一个"同一对象多个写法"的实例,与本条目反复强调的"别名/口径意识"一脉相承。
5.12 一个常被追问的问题:数据能直接商用推理吗
需要区分"用数据训练模型"与"发布训练后的模型":
- 自用/研究:训练一个内部使用的模型,基本无合规障碍;
- 对外发布模型:若你的模型是用 CC BY-SA 数据训的,发布时可能需考虑"衍生作品相同方式共享"的传染性(观点有争议,见下方提示);
- 对外发布训练数据集本身(含 MedS-Ins 内容):须保留署名并按相同许可发布;
- ⚠️ 重要提示:CC BY-SA 对"模型权重是否算衍生作品"并无明确法律定论,各国司法实践不同。任何商用决策前请咨询法务,本条目不构成法律意见。
§6 获取与许可:两层异构的门怎么进
6.1 三处资产、三种入口
MedS-Ins 项目对外提供三类资产,入口各异:
| 资产 | 入口 | 内容 |
|---|---|---|
| 数据集 | HuggingFace Henrychur/MedS-Ins |
约 7.58 GB,指令微调语料 |
| 代码仓库 | GitHub MAGIC-AI4Med/MedS-Ins |
Evaluation / Metrics / Inference / data_preparing / DATA_Contributor / examples / assets |
| 评测基准 | HuggingFace Henrychur/MedS-Bench + 排行榜 |
测试集与动态排行榜 |
GitHub 仓库的目录结构透露了它的完整能力链:Evaluation(评测脚本)、Metrics(按任务的打分实现,如 NamedEntityRecognition.py、Diagnosis.py、TreatmentPlanning.py)、Inference(推理工具)、data_preparing(数据准备代码)、DATA_Contributor(贡献指南)、examples(示例评测结果 CSV)、assets(README 图)。
6.2 许可的双层结构(必读)
MedS-Ins 的许可不是单一图层,而是两层,且 brief 所载的 MIT 不成立:
第一层:项目自身许可
- GitHub 仓库 LICENSE:经一手抓取
raw.githubusercontent.com/MAGIC-AI4Med/MedS-Ins/main/LICENSE,内容为 CC BY-SA,版权行Copyright (c) 2024 MAGIC: Medical Artificial General Intelligence Consortium。 - 论文版权声明:arXiv/期刊论文标注 CC BY 4.0。
即:代码/仓库标 CC BY-SA(署名 + 相同方式共享,具传染性);论文标 CC BY 4.0(署名)。两者都是开放许可,但约束强度不同——CC BY-SA 要求衍生作品也以相同许可发布,这对"想把 MedS-Ins 衍生物闭源"的使用者是实质限制。
第二层:上游 58 个语料库的许可
MedS-Ins 由 58 个已公开的医学生物语料库重组而成。仓库未逐项继承声明每个上游语料库的许可。这意味着:即便 MedS-Ins 自身是 CC BY-SA,使用者仍需回溯到每一个 Source/URL 去核查其再分发与商用条件。某些上游数据可能限定研究用途、禁止商用,或要求额外署名。
⚠️ 对 brief 的校正:任务头称许可为 MIT。经一手核验,仓库 LICENSE 与论文版权声明均非 MIT,全文按 CC BY-SA(仓库)+ CC BY 4.0(论文)+ 上游待核 的三层口径成稿。任何依据 MIT 做出的"宽松商用"假设都不成立。
6.3 获取实操要点
- HF 直取:
Henrychur/MedS-Ins可在 HuggingFace 直接下载(约 7.58 GB),沙箱环境可走 hf-mirror.com 镜像。 - 不用等审核:与许多需申请制的医学数据集不同,MedS-Ins 是开放直取的,无需邮件申请、无需签署 DUA。
- 版本记录:仓库与 HF 会持续更新(README 最后更新 2025-05),引用时务必记录获取时间或 commit,因为"口径从 13.5M 到 5M"的变更本身就说明数字会变。
- 贡献路径:若有新任务数据,可按
DATA_Contributor指南提交,作者承诺署名致谢。
6.3.1 接入前的三个自检问题
在把 MedS-Ins 纳入你的训练管线前,先问自己三个问题:
- 我的任务和 122 项任务重叠吗? 若你的目标能力(如"从出院小结抽药物")已在 MedS-Ins 的任务体系内,直接用它的对应子集可能比自建数据更高效;若无重叠,MedS-Ins 只能作为泛化预训练,仍需自建任务数据。
- 我要的语言在数据里吗? 通过 Instruction/Input/Output 语言字段确认中英文覆盖率,避免训完才发现目标语言样本过少。
- 我的合规边界允许吗? 若为商用闭源,务必先完成上游 58 语料库的许可核查(见 §6.5、附录 P)。
这三个问题能把"看到一个开放数据集就下载"的盲目接入,转化为有意识的选型决策。
6.4 AI-Ready 可获得性评估
从 AI-Ready 数据集的角度看,MedS-Ins 的门槛属于中低:
- ✅ 数据开放直取,无审核门槛;
- ✅ 格式规范(每任务一个 JSON,schema 清晰);
- ✅ 有配套代码(评测/推理/打分实现齐全);
- ⚠️ 上游许可需自行逐项核查,构成合规成本;
- ⚠️ 口径漂移(13.5M vs 5M)要求使用者有版本意识。
6.5 为什么"上游许可继承"是最容易被忽略的坑
假设一个团队看到 MedS-Ins 仓库标着 CC BY-SA,认为"开放许可、可以商用",直接把整个数据集拿去训练商用产品——这就踩了最隐蔽的坑:CC BY-SA 只覆盖 MedS-Ins 团队自己创作的部分(如任务定义、指令模板、聚合结构),但它聚合的 58 个上游语料库各有各的许可。
举例说明问题的严重性:若某个上游语料库是"仅限研究用途(research only)“,那么把它并入的 MedS-Ins 子集,在商用场景下就存在授权瑕疵;若某个上游要求"禁止再分发原始文本”,那么 MedS-Ins 的传播本身可能触及该限制。CC BY-SA 不能自动"洗白"上游的限制——这正是 MedS-Ins 未逐项声明上游许可所带来的合规成本。
务实的做法是:若要商用,先按每个任务 JSON 的 Source/URL 字段,把 58 个上游语料库列出来,逐一核查其许可,建立一张"来源-许可-可商用"对照表,再做决策。这比事后补救便宜得多。
6.6 论文版权与数据集许可的关系
一个常见困惑:论文标 CC BY 4.0、仓库标 CC BY-SA,到底哪个管数据集?答案是——它们管不同的对象:
- 论文版权(CC BY 4.0) 管的是那篇论文文本本身(引用、转载论文内容);
- 仓库 LICENSE(CC BY-SA) 管的是仓库里的代码与数据集资产。
因此,引用论文应遵循 CC BY 4.0(署名即可);使用数据集应遵循 CC BY-SA(署名 + 相同方式共享)。把两者混为一谈——比如以为"论文是 CC BY 4.0 所以数据集也能宽松用"——是另一个隐蔽的概念错误。
6.7 一句话合规结论
MedS-Ins 是开放许可但非公有领域:仓库 CC BY-SA 的"相同方式共享"条款,决定了它的衍生作品不能被闭源独占;上游 58 语料库的许可又叠加了一层不确定性。研究用途基本无忧,商用需逐项核查——这是所有潜在使用者应先建立的合规基线。
§7 生态与影响:一个"语料-基准-模型"三角
7.1 前作与谱系
MedS-Ins 的谱系有两条:方法谱系上,它受 NLP 领域 Super-NaturalInstructions 启发,把"任务指令化"范式迁移到医学域;模型谱系上,MMedIns-Llama 3 的基座 MMed-Llama 3 来自同一团队的先前工作(MMed 系列),是一个多语言医学基座。因此 MedS-Ins 不是孤立的语料,而是团队"医学 LLM 全栈"的一环。
7.2 三方协作的产业意义
上海交大 + 上海 AI Lab + 中国移动的组合值得单独一提。它代表了**“学术机构提供方法与数据、国家实验室提供算力、产业方提供资源与场景”**的协作范式。中国移动的参与,暗示了该数据集可能指向运营商侧的医疗健康应用(如远程医疗、健康管理)。这与纯学术团队的数据集在应用取向上有所不同。
7.3 在医学 LLM 数据集景观中的位置
MedS-Ins 在医学 LLM 数据版图中占据了**“指令微调语料”**这一生态位。它与几类邻居形成对照:
- 与传统医学 QA 数据集(MedQA、MedMCQA、PubMedQA):后者是评测基准,MedS-Ins 是训练数据,且 MedS-Ins 的 Instances 部分可能引用/重组了这类 QA 数据;
- 与中文医学指令数据集(如 DISC-Med-SFT):后者聚焦中文对话式问诊,MedS-Ins 覆盖 58 语料库、122 任务,域更广、更偏"任务多样性";
- 与多任务医学基准(MultiMedBench、XMedBench):后者是评测导向,MedS-Ins 的姊妹 MedS-Bench 与之同类,而 MedS-Ins 本身是训练导向。
简言之,MedS-Ins 填补的是"医学领域缺一个 Super-NaturalInstructions 式的大规模指令语料"这一空白。
7.4 影响与传播
- arXiv 2024-08-22 发布后,中文科技媒体(如 ScienceAI)迅速报道,强调了"58 个数据集、1350 万样本、122 任务"(当时采用 v1 口径);
- 论文发表于 npj Digital Medicine,获得更高的学术可见度;
- GitHub 仓库获关注(star 数在数十量级),并出现第三方 fork(如为 vLLM 推理添加评测脚本的社区分支);
- HF 数据集近一月下载约 489 次,属"小众但活跃"的使用强度。
7.5 引用与传播中的口径漂移现象
值得记录的一个传播学现象:MedS-Ins 在中文媒体报道中,几乎一致采用 13.5M(1350 万)这一 v1 口径数字,而仓库现行口径已改为 5M instances + 19K instructions。这意味着网络上流传的"1350 万"是一个"冻结在 v1 的数字",与现实仓库不一致。这不是媒体的错——他们引用了当时最新的论文;但对接续的研究者而言,这构成了一个真实的"引用陷阱":如果只读二手报道而不回查一手仓库,就会长期使用过时数字。本条目的价值之一,正是把这个漂移显式地陈列出来。
7.6 与同代医学指令数据集的横向对照
把 MedS-Ins 放到 2024 年前后的医学指令数据集序列中,可以看到几种不同的路线:
| 路线 | 代表 | 特点 |
|---|---|---|
| 任务指令化 + 大规模聚合 | MedS-Ins | 58 语料库、122 任务、Super-NaturalInstructions 式 |
| 对话式问诊重构 | DISC-Med-SFT(824) | 中文医患对话、LLM-in-the-loop 重构 |
| 影像域指令化 | radvlm-instruction-dataset(624) | 放射领域、多模态指令 |
| 基准 + 榜单驱动 | MultiMedBench(129)/XMedBench(727) | 评测导向、多任务覆盖 |
MedS-Ins 的独特性在于"宽度":它不聚焦单一模态或语言,而是试图用 122 项任务覆盖医学文本的全谱系。代价是每一项任务的深度可能不及专注型数据集,但换来的是指令微调时"任务多样性"带来的泛化能力。这是一个典型的"宽 vs 深"权衡。
7.7 对国内医学 AI 生态的启示
作为国内团队(上海交大 + 上海 AI Lab + 中国移动)主导的项目,MedS-Ins 对国内医学 AI 生态有几点特殊意义:
其一,它证明了国内团队有能力构建国际水准的医学大模型基础设施——58 个语料库的聚合、122 项任务的指令化、配套基准与模型的闭环,需要相当规模的工程与学术投入。
其二,它展示了"产学研"协作的可行路径——高校出方法与数据、实验室出算力、产业方出场景与资源,这种组合对需要大规模算力与真实场景的医学 AI 项目尤为关键。
其三,它的多语言设计为中文医学 LLM 提供了可直接利用的语料——虽非纯中文数据集,但含中文子集,可作为中文医学指令微调的来源之一(须注意与 disc-med-sft 等纯中文数据集的差异化定位)。
值得补充的一点是,MedS-Ins 的训练硬件全部使用 32×Ascend910B——这是国产 AI 芯片。这一选择本身也传递了信号:在国产算力上也能完成大规模医学 LLM 的指令微调,对受算力限制的国内团队具有现实参考意义(尽管在复现时仍需按可用硬件调整)。
7.8 与通用领域 Super-NaturalInstructions 生态的对照
MedS-Ins 自述受 Super-NaturalInstructions 启发,但两者在生态上差异明显:
| 维度 | Super-NaturalInstructions | MedS-Ins |
|---|---|---|
| 领域 | 通用 NLP | 医学专用 |
| 任务数 | 1600+ | 122 |
| 来源 | 众包 + 现有数据集聚合 | 58 个医学生物语料库聚合 |
| 特色字段 | 任务定义 + 示例 | 任务定义 + 推理链 + 正负例 |
| 配套基准 | 多个通用评测集 | 自建 MedS-Bench |
| 配套模型 | 无官方模型 | MMedIns-Llama 3 |
关键差异在于"闭环程度":Super-NaturalInstructions 主要贡献数据与范式;MedS-Ins 则贡献了数据 + 基准 + 模型的完整闭环。后者更适合作为"某个垂直领域如何自建 LLM 基础设施"的参考模板。
§8 方法学启示:四条可迁移的经验
8.1 "先评测暴露缺口,再构建数据补缺口"的闭环
MedS-Ins 最有价值的方法论,是它不是凭空造数据集,而是从评测结论出发:先做 MedS-Bench 证明"现有模型在临床任务上不行",再针对性构建 MedS-Ins 补上。这种"评测驱动数据构建"的思路,比"我们收集了很多数据"更有说服力,也更易验证有效性。
8.2 任务指令化:把"数据"升级为"任务"
把原始语料包装成"Definition + Reasoning + 正负例 + Instances"的完整指令包,是 MedS-Ins 超越普通 QA 数据集的关键。给模型答案,不如给模型"如何做这类任务"的完整说明书——这个范式对所有领域的数据集构建都有借鉴价值。
8.3 负例与推理链是临床场景的刚需
医疗错误的代价极高,因此 Negative Examples 与 Reasoning 字段的设计尤其重要。让模型"知道什么不该做"(负例)和"知道为什么这么做"(推理链),比单纯的正例训练更能提升可靠性。这一点对任何高风险领域的指令数据集都适用。
8.4 数据配比即策略,且需警惕口径陷阱
MedS-Ins 用 43% 知识库 + 35% 临床文本的配比,明确表达"临床可用性优先、避免应试化"的取向。同时,v1 的 13.5M 与现行的 5M 口径差异,也提醒所有数据工作者:计数方式会影响数量级表达,发布与引用时必须锁定口径。
8.5 "训测同源但分离"的评测纪律
MedS-Ins 与 MedS-Bench 同源(同一论文、同一团队、相近任务体系),却刻意分离为训练集与测试集,且测试集滚动更新。这条纪律值得所有自建数据集的团队学习:如果训练集与测试集来自同一批数据的随机切分,模型很容易过拟合;而若是"训测同源但物理分离、且测试集动态更新",就能在保持任务一致性的同时维持评测的公信力。 MedS-Ins 的做法站在了后者。
8.6 多语言与多域标注的复用价值
MedS-Ins 在字段里显式标注 Instruction/Input/Output 三种语言与 Domains 子域,这看似繁琐,却为下游带来实际的复用价值:训练者可以按语言筛选(只训中文子集)、按域筛选(只训诊断子域)、或跨语言对齐训练(同一任务的多语言版本对照)。“把元数据做到字段级”,是把一份数据集从"能用"提升到"可精细化复用"的关键一步。
8.7 从 MedS-Ins 看"数据集即产品"的形态
MedS-Ins 的发布形态值得单独观察:它不是"论文里附一个数据链接"的传统学术数据集,而是数据 + 基准 + 模型 + 榜单 + 贡献机制的完整产品包。这种形态的特征是:
- 有入口:GitHub 仓库 + HF 数据集 + 官网榜单,三处可达;
- 有闭环:训练数据、评测基准、验证模型三者配套;
- 有治理:动态榜单防止刷分,社区贡献机制保证持续增长;
- 有工程:评测脚本、打分实现、数据准备代码齐备。
“数据集即产品"的趋势,反映了当代 AI 数据集已从"静态资源"演化为"需要持续运营的生态”。MedS-Ins 是这个趋势下医学领域的一个样本。对使用者而言,这意味着接入它不只是"下载一个文件",而是要理解它的一整套使用规范与版本节奏。
8.8 对自建医学指令数据集的五条实操建议
站在 MedS-Ins 的肩膀上,若团队要自建医学指令数据集,可提炼五条建议:
- 先定义任务,再整理数据——像 MedS-Ins 那样为每个任务写 Definition 与 Reasoning,而不是先堆数据再凑指令;
- 配比反映目标,而非体量——按"希望模型获得什么能力"来定来源占比,而非按原始语料大小;
- 正负例并重——尤其在医疗这种高错误代价场景,负例的纠错价值极高;
- 训测分离 + 滚动更新——不要用训练集切分当测试集,且保持测试集的流动性;
- 许可逐项声明——MedS-Ins 未做此事,恰是它被诟病之处;自建时应把上游许可列清楚,降低使用者的合规成本。
§9 与库内条目的关系
9.1 家族图谱
MedS-Ins 在千方病案医数集库内,与以下条目构成"医学问答/指令/评测"谱系:
| 库内条目 | rid | 与 MedS-Ins 的关系 |
|---|---|---|
| medqa | 50 | MedS-Bench 评测基线之一(MCQA) |
| medmcqa | 111 | MedS-Bench 评测基线之一(MCQA) |
| pubmedqa | 49 | 语料来源域之一 + Answer Verification 任务 |
| mednli | 648 | MedNLI 判别/生成任务来源 |
| medcalc-bench | 708 | 医学计算类基准,同域 LLM 评测姊妹 |
| disc-med-sft | 824 | 中文医学指令微调语料,形态近邻(域不同,勿合并) |
| medagentbench | 1064 | 医学 LLM 智能体评测基准,评测谱系邻居 |
| multimedbench | 129 | 谷歌医学多任务多模态基准,评测谱系对照 |
| xmedbench | 727 | 跨语言医学基准,多语言维度对照 |
| radvlm-instruction-dataset | 624 | 放射领域指令数据集,任务指令化同型(域不同,勿合并) |
| mimic-iv-note | 47 | 临床文本来源域代表 |
| mimic-cxr | 16 | 临床影像来源域代表 |
9.2 检索路径建议
- 若关注医学选择题基准 → medqa(50) / medmcqa(111) / pubmedqa(49)
- 若关注医学指令微调数据 → 本条 meds-ins + disc-med-sft(824) + radvlm-instruction-dataset(624)
- 若关注医学 LLM 评测基准 → medcalc-bench(708) / medagentbench(1064) / multimedbench(129) / xmedbench(727)
- 若关注临床文本语料 → mimic-iv-note(47) / pubmedqa(49)
9.3 消歧声明(正文口径,不进 frontmatter)
- MedS-Ins ≠ MedS-Bench:前者是训练语料,后者是评测基准,二者同论文发布但角色不同,检索时严禁混指。
- MedS-Ins ≠ MMedIns-Llama 3:前者是数据,后者是模型。
- meds-ins(本条)≠ medsam2-dataset(rid 952):后者是医学图像分割数据集(MedSAM2),名称前缀相近但领域(影像 vs 文本)与实体完全不同,严禁合并。
- meds-ins ≠ disc-med-sft(824) / radvlm-instruction-dataset(624):同为指令数据集但来源团队、语言、领域均不同。
9.4 与库内"医学问答与基准"标签簇的关系
MedS-Ins 的 category_tags 含"医学问答与基准"“评测基准”"医学考试"三项,这使它在库内的互链算法中,会与一批同样带这些标签的条目产生关联。为避免"标签近但实体远"的误链,这里明确边界:
- 与 medqa(50)/medmcqa(111)/pubmedqa(49):三者是评测基准且以选择题为主;MedS-Ins 是训练语料,但其 Instances 中可能重组了这类 QA 数据。关系是"数据来源 ↔ 指令化训练集",非同一实体。
- 与 medcalc-bench(708):同属"医学 LLM 评测基准"簇,但 medcalc-bench 聚焦数值计算(医学计算题),MedS-Ins/MedS-Bench 聚焦文本生成与抽取,任务形态不同。
- 与 medagentbench(1064):medagentbench 评测智能体在虚拟 EHR 环境中的操作(如下达医嘱),MedS-Ins 是静态文本指令语料,交互性维度不同。
- 与 multimedbench(129)/xmedbench(727):前者偏多模态、后者偏跨语言,MedS-Ins 是纯文本 + 多语言,三者是同一评测谱系上的不同坐标。
9.5 检索者的一句话指引
如果你是因为论文提到 MedS-Ins 而来查这份数据,最可能想确认三件事:(1)它是训练数据还是评测基准(答:训练数据,评测是姊妹 MedS-Bench);(2)它多大(答:现行 500 万实例 + 1.9 万指令,见双口径);(3)能不能用/怎么取(答:HF 开放直取,许可 CC BY-SA + 上游待核)。这三问对应 §1、§2.1、§6 三节,可直接跳读。
§10 避坑清单:十一个已踩过的坑
下面 11 个坑,是本条目在核验与写作过程中实际遇到或识别出的典型陷阱。它们中既有"任务头 brief 本身出错"引发的(坑 1、坑 3、坑 4),也有数据治理层面固有的(坑 2、坑 7),还有解读层面的(坑 5、坑 6、坑 8、坑 9、坑 10、坑 11)。建议按序读完,因为它们共同勾勒出一份"医学指令数据集的使用者自查表"。
坑 1:把 arXiv 2410.03742 当成 MedS-Ins 论文。
这是本条目核验过程中遇到的最大陷阱。任务头 brief 提供的 arXiv 编号 2410.03742,经抓取实为完全无关的论文《Beyond Scalar Reward Model: Learning Generative Judge from Preference Data》(Con-J,研究偏好数据的生成式评判),与 MedS-Ins 毫无关系。MedS-Ins 的正确编号是 arXiv:2408.12547。避坑:任何引用前必须核验标题与作者,编号可能被误配。
坑 2:把 13.5M 与 5M 当成两个不同的数据集。
它们是同一数据集的两套计数口径。v1 论文把"指令×实例的不同组合各计一样本",得 13.5M samples;现行仓库把指令(19K)与实例(5M)分开计,得 5M instances + 19K instructions。避坑:引用数字必须注明是"v1 口径"还是"现行口径",混用会造成数量级误导。
坑 3:把许可当成 MIT。
任务头 brief 称许可为 MIT,经抓取 GitHub LICENSE 实为 CC BY-SA(版权归 MAGIC 联盟),论文版权声明为 CC BY 4.0。没有 MIT。避坑:CC BY-SA 具传染性,衍生作品须以相同许可发布,不能想当然认为可宽松闭源商用。
坑 4:把 GitHub 组织名记成 AI4HealthUOL。
github.com/AI4HealthUOL/MedS-Ins 返回 404。正确仓库是 MAGIC-AI4Med/MedS-Ins。避坑:仓库可能被迁移或记错,务必以论文中给出的链接为准。
坑 5:把 MedS-Ins 与 MedS-Bench 混为一谈。
两者同论文发布,名字只差一个词,但角色完全不同:MedS-Ins 是训练语料(58 语料库/122 任务),MedS-Bench 是评测基准(11 类任务/39 数据集衍生/52 具体任务)。避坑:说"MedS-Ins 有多少评测任务"是概念混淆。
坑 6:以为训练数据里自带官方 test split。
MedS-Ins 是训练语料,评测集在 MedS-Bench。避坑:要做评测须另取 MedS-Bench,不要期望从 MedS-Ins 里切出标准测试集。
坑 7:忽略 58 个上游语料库的许可继承。
MedS-Ins 仓库未逐项声明 58 个上游语料库的许可。避坑:使用者须按每个任务的 Source/URL 回溯核查其再分发与商用条件,某些上游可能限定研究用途。
坑 8:用 MCQA 分数代表模型临床能力。
MedS-Ins 的核心论点是"选择题强 ≠ 临床能力强"。MMedIns-Llama 3 在 MCQA 上不及 GPT-4,却在摘要、NER、诊断上反超。避坑:评测医学 LLM 时应覆盖生成/抽取类任务,不能只看选择题。
坑 9:以为 MedS-Ins 是"数据集"就必然含"患者数据"。
不是。MedS-Ins 的 Instances 是指令-实例对的文本,不是患者级队列记录。它可能从临床文本语料中重组内容,但本身不提供患者标识、随访、结局等队列数据。避坑:需要患者级数据分析的场景,应改道 MIMIC 类 EMR 数据集。
坑 10:忽视 MedS-Ins 与 MedS-Bench 的"同源任务"带来的泄漏风险。
若 MedS-Bench 的某些任务与 MedS-Ins 的某些任务源自同一批上游数据,理论上存在训练/测试重叠。论文通过训测分离设计缓解,但使用者若自建评测,须自行核查是否有实例级重叠。避坑:自建评测集时做一次文本去重比对。
坑 11:把 HF 上的 Henrychur/MedS-Ins 当成官方组织账号。
HF 数据集托管在用户空间 Henrychur/(疑似作者之一),而非某个机构账号。这不影响数据真实性,但找一个"官方"入口时容易迷惑。避坑:以论文与 GitHub 为权威入口,HF 作为数据下载端。
§11 总结
11.1 三句话总结
- MedS-Ins 是医学领域首个全面的指令微调数据集,由上海交大 + 上海 AI Lab + 中国移动构建,整合 58 个语料库、122 项任务,现行口径 500 万实例 + 1.9 万条指令(v1 计 13.5M)。
- 它与 MedS-Bench 评测基准、MMedIns-Llama 3 模型成对发布,构成"评测暴露缺口 → 数据补缺口 → 模型验证 → 回归评测"的完整科研闭环。
- 它证明了数据工程的杠杆:8B 小模型靠高质量指令数据,在摘要、抽取、NER、诊断等任务上反超 GPT-4 与 Claude-3.5,同时揭示了"选择题能力与临床能力是两条独立的轴"。
11.2 适合谁
- 训练医学 LLM、需要大规模指令微调语料的团队;
- 构建领域指令数据、想借鉴 Super-NaturalInstructions 医学化范式的方法研究者;
- 评测医学 LLM、需要跳出 MCQA 的临床任务基准的研究者;
- 研究"数据规模/配比如何影响模型能力结构"的实验者。
11.3 不适合谁
- 需要患者级真实临床队列数据的分析者(MedS-Ins 是指令语料,非队列数据);
- 需要医学影像/信号等非文本模态的使用者(MedS-Ins 是纯文本数据集);
- 期望一键商用且不愿核查上游许可的团队(CC BY-SA + 上游继承要求合规核查)。
11.4 30 秒决策卡
| 如果你要… | 结论 |
|---|---|
| 训医学 LLM 的指令微调 | ✅ 直取 HF Henrychur/MedS-Ins |
| 评测医学 LLM 的临床能力 | ✅ 用姊妹基准 MedS-Bench |
| 找医学选择题基准 | ❌ 应看 medqa/medmcqa,非本法 |
| 商用且想闭源衍生 | ⚠️ CC BY-SA 传染性 + 上游许可待核,谨慎 |
| 引用规模数字 | ⚠️ 必须注明 v1 口径 13.5M 或现行 5M |
11.5 交叉验证建议:与哪些库内条目对照阅读
- 想理解选择题基准的生态 → 对照 medqa(50)、medmcqa(111)、pubmedqa(49);
- 想理解中文医学指令数据 → 对照 disc-med-sft(824);
- 想理解医学 LLM 评测基准谱系 → 对照 medcalc-bench(708)、medagentbench(1064)、multimedbench(129)、xmedbench(727);
- 想理解临床文本来源 → 对照 mimic-iv-note(47)、pubmedqa(49)。
11.6 一句话记住它的方法学
MedS-Ins 的真正贡献不是"58 个语料库",而是一套可复制的方法:用严格评测定位能力缺口,用统一任务指令补缺口,用训测分离守住评测公信力。
11.7 若只能记住五条
- 身份:MedS-Ins 是医学指令微调数据集,论文 arXiv:2408.12547,上海交大 + 上海 AI Lab + 中国移动。
- 规模:58 语料库 / 122 任务;现行 500 万实例 + 1.9 万指令,v1 计 13.5M samples(两套口径)。
- 闭环:与 MedS-Bench(评测)和 MMedIns-Llama 3(模型)成对发布。
- 成果:8B 模型在生成/抽取/NER/诊断上反超 GPT-4,但 MCQA 仍不及,印证"选择题 ≠ 临床能力"。
- 合规:仓库 CC BY-SA、论文 CC BY 4.0、上游许可待核;MIT 之说为误。
FAQ(高频问答 40 问)
A. 基础认知
Q1:MedS-Ins 的官方全称是什么?
MedS-Ins(Medical Super-Instructions)。它是一个面向医学的指令微调数据集。
Q2:它和 MMedIns-Llama 3 是一回事吗?
不是。MedS-Ins 是数据集,MMedIns-Llama 3 是用它微调出的验证模型(8B)。
Q3:谁做的?
上海交通大学、上海人工智能实验室、中国移动通信集团三方,署名 MAGIC 联盟。8 位作者,一作 Chaoyi Wu。
Q4:论文发在哪?
arXiv:2408.12547(2024-08-22 v1),期刊版 npj Digital Medicine。
Q5:MedS-Ins 和 MedS-Bench 什么关系?
同论文发布的两类资产:MedS-Ins 是训练数据,MedS-Bench 是评测基准。
Q6:官方口径到底多大?
现行:58 语料库 / 500 万实例 / 1.9 万指令 / 122 任务。v1:同语料库与任务数,但计 13.5M samples。
B. 数据与获取
Q7:数据在哪下载?
HuggingFace Henrychur/MedS-Ins(约 7.58 GB);代码在 GitHub MAGIC-AI4Med/MedS-Ins。
Q8:需要申请吗?
不需要。开放直取,无需 DUA 或邮件申请。
Q9:许可是什么?
仓库 LICENSE 为 CC BY-SA(MAGIC 联盟 2024);论文为 CC BY 4.0;上游 58 语料库许可需自行核查。非 MIT。
Q10:数据格式?
每任务一个 JSON,字段含 Definition / Reasoning / Positive Examples / Negative Examples / Instances 等。
Q11:支持中文吗?
支持。字段显式区分 Instruction/Input/Output 三种语言,含中英等。
Q12:能商用吗?
须谨慎:CC BY-SA 要求相同方式共享,且上游语料库许可未逐项声明,需逐项核查。
C. 数据构成
Q13:58 个语料库都是什么?
覆盖五大文本域:医学知识库、临床文本、学术论文、考试、日常对话。
Q14:各来源占比?
token 占比:医学知识库 43%、临床文本 35%、学术论文 13%、考试 7%、日常对话 2%。
Q15:为什么知识库占比最高?
提供最广的医学事实基底;临床文本居次,确保临床对齐。
Q16:122 项任务和 19 个类别什么关系?
19 类是中层归类,122 是最细粒度的具体任务(每项一个 JSON)。
Q17:Negative Examples 必须有吗?
负例的 explanation 必需,但整个负例字段可为空——鼓励但不强制。
Q18:Instances 里每条是什么?
id + input + output 三元组,是训练样本主体。
D. 评测与模型
Q19:MMedIns-Llama 3 有多强?
8B 模型,在摘要(BLEU/ROUGE 46.82/48.38)、NER(F1 68.58)、诊断(DDXPlus 95)等任务反超 GPT-4。
Q20:它在 MCQA 上强吗?
不强于 GPT-4(63.9 vs 75.3),这正是"选择题 ≠ 临床能力"的证据。
Q21:训练成本?
8B 参数,batch 128,lr 1e-5,5 epochs,32×Ascend910B,383.5 小时。
Q22:MedS-Bench 有几类任务?
11 类高层临床任务,由 39 个数据集衍生,涉及 52 项具体任务。
E. 工程与库内
Q23:能直接微调吗?
可以,但需注意 JSON schema 与多语言字段的解析;建议参考仓库 data_preparing 代码。
Q24:库内有相关条目吗?
有:medqa(50)、medmcqa(111)、pubmedqa(49)、mednli(648)、medcalc-bench(708)、disc-med-sft(824)、medagentbench(1064) 等。
F. 深入与边界
Q25:为什么叫 MedS-Ins,"S"是什么意思?
S 指 Super,取意于 Super-NaturalInstructions 范式,强调"超级规模的任务指令集"。
Q26:数据集里的 Reasoning 字段怎么用?
它承载任务的推理链说明,可拼入 prompt 教模型"如何思考",是区别于普通 QA 对的关键字段。
Q27:58 个语料库具体是哪些?
README 未在正文逐一点名,但它们按五大文本域归类,可通过每个任务 JSON 的 Source/URL 字段回溯。
Q28:能只用中文部分吗?
可以,通过 Instruction/Input/Output 语言字段筛选中文子集。
Q29:数据集有数据泄漏风险吗?
理论上需注意:MedS-Bench 的部分任务源自与 MedS-Ins 相同的 39 个上游数据集时,须确保训测不重叠;论文通过"训测分离"设计缓解,但使用者自建评测时应自行核查重叠。
Q30:为什么会有第三方 fork?
因官方原始评测脚本基于 HuggingFace 模型加载,部分用户需要 vLLM/SGLang 等高性能推理后端的支持,社区 fork 补齐了这一工程需求。
Q31:MedS-Ins 和 Super-NaturalInstructions 有什么不同?
Super-NaturalInstructions 是通用 NLP 任务指令集,MedS-Ins 做了医学化、加负例、加多语言三处适配。
Q32:MMedIns-Llama 3 是 MMed-Llama 3 的升级版吗?
可以这么理解:MMed-Llama 3 是基座(多语言医学模型),MMedIns-Llama 3 是在其基础上用 MedS-Ins 做指令微调后的版本。
Q33:论文里 GPT-4 的 MCQA 分数为何比 MMedIns 高?
因为 MCQA 是知识检索 + 选项判别,GPT-4 参数量与预训练知识的优势在此最能发挥;而生成类任务更依赖任务适配度,MMedIns 占优。
Q34:BLEU/ROUGE 高分是否代表临床可用?
不代表。BLEU/ROUGE 衡量 n-gram 重叠,与临床有用性非线性相关,需人工评估补充。
Q35:数据集会不会持续更新?
会。有 DATA_Contributor 社区贡献机制,且 MedS-Bench 测试集计划滚动更新。
Q36:能用于商业医疗产品吗?
须谨慎评估:CC BY-SA 的相同方式共享要求 + 上游许可未逐项声明,建议法务逐项核查后再决定。
Q37:MedS-Bench 排行榜在哪?
https://henrychur.github.io/MedS-Bench/。
Q38:如果我想复现论文的 MMedIns-Llama 3,需要什么资源?
论文配置为 8B 基座 + 32×Ascend910B + 383.5 小时;资源不足可考虑更小基座或 LoRA 微调,但复现精度会下降。
Q39:MedS-Ins 与 MedSAM2(medsam2-dataset, rid 952)有关吗?
无关。前者是医学文本指令语料,后者是医学图像分割数据集,仅名称前缀近似。
Q40:引用 MedS-Ins 时应引什么?
引 arXiv:2408.12547(或 npj Digital Medicine 版),并在数字处注明是 v1 口径还是现行口径。
事实清单(硬事实 40 条)
- 官方名:MedS-Ins(Medical Super-Instructions)。来源:arXiv:2408.12547。
- 类型:医学指令微调数据集。来源:论文摘要。
- 论文标题:Towards Evaluating and Building Versatile Large Language Models for Medicine。来源:arXiv HTML。
- arXiv 编号:2408.12547。来源:arXiv HTML。
- ⚠️ 2410.03742 为无关论文(Con-J),非 MedS-Ins。来源:arXiv 实抓核验。
- arXiv v1 日期:2024-08-22。来源:arXiv。
- 期刊:npj Digital Medicine。来源:GitHub README。
- 作者数:8。来源:arXiv HTML。
- 一作:Chaoyi Wu。来源:arXiv HTML。
- 机构:上海交大 + 上海 AI Lab + 中国移动。来源:arXiv HTML affiliation。
- 版权主体:MAGIC 联盟。来源:GitHub LICENSE。
- 语料库数:58。来源:论文 + README。
- 任务数:122。来源:论文 + README。
- 现行实例数:5M instances。来源:README。
- 现行指令数:19K instructions。来源:README。
- v1 样本数:13.5M samples。来源:论文 v1。
- 文本来源域:5 个。来源:论文。
- 任务类别数:19。来源:论文。
- 知识库 token 占比:43%。来源:论文。
- 临床文本 token 占比:35%。来源:论文。
- 学术论文 token 占比:13%。来源:论文。
- 考试 token 占比:7%。来源:论文。
- 日常对话 token 占比:2%。来源:论文。
- MedS-Bench 任务类:11 类。来源:论文。
- MedS-Bench 衍生数据集:39 个。来源:论文。
- MedS-Bench 具体任务:52 项。来源:论文。
- 微调模型:MMedIns-Llama 3(8B,基于 MMed-Llama 3)。来源:论文。
- 训练硬件:32×Ascend910B,383.5 小时。来源:论文。
- 仓库 LICENSE:CC BY-SA。来源:raw.githubusercontent LICENSE。
- HF 数据集体积:约 7.58 GB。来源:HF 数据卡。
- HF 近一月下载:约 489。来源:HF 数据卡。
- 论文版权声明:CC BY 4.0。来源:arXiv HTML。
- 基座模型:MMed-Llama 3。来源:论文。
- 训练 batch size:128。来源:论文。
- 训练学习率:1e-5。来源:论文。
- 训练轮数:5 epochs。来源:论文。
- 仓库组织:MAGIC-AI4Med。来源:GitHub。
- HF 托管账号:Henrychur。来源:HF。
- 榜单地址:henrychur.github.io/MedS-Bench/。来源:论文 + README。
- 数据格式灵感:Super-NaturalInstructions。来源:论文自述。
术语表(24 条)
| 术语 | 英文 | 释义 |
|---|---|---|
| 指令微调 | Instruction Tuning | 用「指令-输入-输出」配对数据训练模型遵循指令的过程 |
| 指令 | Instruction | 描述任务要求的自然语言文本 |
| 实例 | Instance | 一个具体样本(输入 + 期望输出) |
| 语料库 | Corpus | 一类原始文本数据的集合 |
| 任务指令化 | Task Instructionization | 把原始数据包装成带定义与示例的指令任务 |
| MedS-Bench | — | 同论文提出的医学评测基准 |
| MedS-Ins | — | 本条目主体,医学指令微调数据集 |
| MMedIns-Llama 3 | — | 用 MedS-Ins 微调得到的 8B 验证模型 |
| MCQA | Multiple-Choice QA | 多选题问答 |
| NER | Named Entity Recognition | 命名实体识别 |
| BLEU | Bilingual Evaluation Understudy | 文本生成质量指标 |
| ROUGE | Recall-Oriented Understudy for Gisting Evaluation | 摘要质量指标 |
| F1 | F1 Score | 精确率与召回率的调和平均 |
| 正例 | Positive Example | 任务典型正确样例 |
| 负例 | Negative Example | 任务典型错误样例 |
| 推理链 | Reasoning | 完成任务所需的推理步骤说明 |
| 定义 | Definition | 任务的详细界定 |
| Super-NaturalInstructions | — | NLP 领域大规模任务指令数据集,本数据集的灵感来源 |
| 事实核查 | Fact Verification | 判断声明是否被证据支持 |
| NLI | Natural Language Inference | 自然语言推理 |
| PICO | Population/Intervention/Comparison/Outcome | 循证医学问题结构化框架 |
| EBMS | Evidence-Based Medicine Statement | 循证医学声明 |
| CC BY-SA | — | Creative Commons 署名-相同方式共享许可 |
| CC BY 4.0 | — | Creative Commons 署名许可 |
附录
附录 A:条目信息速查卡
| 项目 | 值 |
|---|---|
| slug | meds-ins |
| 官方名 | MedS-Ins |
| 类型 | 医学指令微调数据集 |
| 论文 | arXiv:2408.12547 |
| 规模(现行) | 58 语料库 / 500 万实例 / 1.9 万指令 / 122 任务 |
| 规模(v1) | 13.5M samples |
| 姊妹基准 | MedS-Bench(11 类 / 39 数据集 / 52 任务) |
| 微调模型 | MMedIns-Llama 3(8B) |
| 许可 | CC BY-SA(仓库)/ CC BY 4.0(论文)/ 上游待核 |
| 获取 | HF Henrychur/MedS-Ins(7.58 GB)/ GitHub MAGIC-AI4Med/MedS-Ins |
| 库内互链 | medqa(50) medmcqa(111) pubmedqa(49) mednli(648) medcalc-bench(708) disc-med-sft(824) |
附录 B:DAIMS 评估全表
| 维度 | 评分(1-10) | 依据 |
|---|---|---|
| D 可发现性 | 8 | 论文开放获取 + GitHub/HF 双入口 + 动态排行榜;npj 期刊版提升学术可见度;名称 MedS-Ins/MedS-Bench 易混是轻微减分 |
| A 可获取性 | 8 | HF 开放直取、无需 DUA、约 7.58 GB;缺点是上游 58 语料库许可未逐项声明,构成合规核查成本 |
| I 可互操作 | 8 | 每任务一个 JSON、schema 清晰含 Definition/Reasoning/正负例;提供 data_preparing 与 Metrics 脚本;无官方标准转换到通用指令格式 |
| M 元数据质量 | 7 | 任务级字段丰富(语言/域/推理链);但 13.5M↔5M 双口径、samples/instances/instructions 三词混用是显著漂移,须读者自行消解 |
| S 可持续性 | 7 | 依托 GitHub + HF 平台稳定;有 DATA_Contributor 社区贡献机制与滚动测试集;但仓库更新节奏减缓(README 最后 2025-05) |
| 综合评级 | 7.6/10(良好) | 可发现性与可获取性突出,元数据因口径漂移略降;开放协作机制加分 |
附录 C:逐项证据链自证
| 关键数字 | 来源 | 位置 |
|---|---|---|
| 58 语料库 / 122 任务 | 论文 v1 + GitHub README 双方一致 | arXiv HTML / README |
| 5M instances + 19K instructions | GitHub README 现行口径 | README 正文 |
| 13.5M samples | 论文 v1 | arXiv HTML 摘要 |
| 11 类 / 39 数据集 / 52 任务(MedS-Bench) | 论文 | arXiv HTML |
| 43%/35%/13%/7%/2% token 占比 | 论文 | arXiv HTML 表格 |
| 8 作者与机构 | 论文 | arXiv HTML affiliation |
| 8B / batch 128 / lr 1e-5 / 5 epochs / 32×Ascend910B / 383.5h | 论文 | arXiv HTML 训练节 |
| 摘要 46.82/48.38、NER 68.58、DDXPlus 95 | 论文 | arXiv HTML 结果表 |
| CC BY-SA + MAGIC 版权 | GitHub LICENSE | raw.githubusercontent |
| 约 7.58 GB | HF 数据卡 | HF Henrychur/MedS-Ins |
附录 D:数据获取决策树
需要医学 LLM 指令微调数据?
├─ 是 → 要训练语料还是评测基准?
│ ├─ 训练语料 → MedS-Ins(本条)→ HF Henrychur/MedS-Ins 直取
│ └─ 评测基准 → MedS-Bench → HF Henrychur/MedS-Bench + 排行榜
├─ 需要医学选择题基准? → medqa(50)/medmcqa(111)/pubmedqa(49)
├─ 需要中文医学对话微调? → disc-med-sft(824)
├─ 需要医学智能体评测? → medagentbench(1064)
└─ 需要医学影像/信号(非文本)? → 本数据集不适用,改道影像/信号条目
附录 E:许可核查清单(三层)
| 层 | 对象 | 许可 | 要求 |
|---|---|---|---|
| 1 | MedS-Ins 仓库/代码 | CC BY-SA | 署名 + 衍生作品相同方式共享 |
| 2 | 论文 | CC BY 4.0 | 署名 |
| 3 | 58 个上游语料库 | 各自不同(未逐项声明) | 逐项回溯 Source/URL 核查 |
| ⚠️ | brief 所载 MIT | 不成立 | 经一手核验为 CC BY-SA,勿据 MIT 使用 |
附录 F:双口径对照表(引用必查)
| 口径 | 来源 | 语料库 | 任务 | 总量表述 |
|---|---|---|---|---|
| v1 论文 | arXiv:2408.12547 v1 | 58 | 122 | 13.5 million samples |
| 现行仓库 | GitHub README | 58 | 122 | 5M instances + 19K instructions |
| 官方解释 | README | — | — | v1 按「指令×实例组合」计数,现行分离计数 |
附录 G:五大来源域与能力取向
| 来源域 | token 占比 | 能力取向 |
|---|---|---|
| 医学知识库 | 43% | 医学事实记忆与检索 |
| 临床文本 | 35% | 临床表达对齐 |
| 学术论文 | 13% | 科研级知识理解 |
| 考试 | 7% | 结构化医学知识 |
| 日常对话 | 2% | 医患互动语感 |
附录 H:MMedIns-Llama 3 评测结果总表
| 任务 | 指标 | MMedIns-Llama 3 | 最强者对照组 |
|---|---|---|---|
| MCQA | Accuracy 均值 | 63.9 | GPT-4 75.3 |
| 文本摘要 | BLEU/ROUGE | 46.82/48.38 | Claude-3.5 26.29/27.36 |
| 信息抽取 | Accuracy | 83.18 | InternLM 2 81.58 |
| 概念解释 | BLEU/ROUGE | 33.89/37.68 | GPT-4 19.18/21.33 |
| NER | F1 | 68.58 | GPT-4 44.30 |
| 诊断 SEER | Accuracy | 98 | Claude-3.5 90 |
| 诊断 DDXPlus | Accuracy | 95 | GPT-4 52 |
| HoC 分类 | F1 | 87.37 | Claude-3.5 63.32 |
| EBMS 论证 | BLEU/ROUGE | 11.99/12.90 | GPT-4 16.36/16.33(本模型偏弱) |
附录 I:坑点档案(与 §10 对照)
| 坑 | 一句话 | 后果 |
|---|---|---|
| 坑 1 | arXiv 编号误配 2410.03742 | 引用错误论文 |
| 坑 2 | 13.5M/5M 当成两个数据集 | 数量级误导 |
| 坑 3 | 许可误当 MIT | 合规风险 |
| 坑 4 | 仓库组织名记错 | 404 无法获取 |
| 坑 5 | MedS-Ins 与 MedS-Bench 混淆 | 概念错误 |
| 坑 6 | 以为自带 test split | 评测无从下手 |
| 坑 7 | 忽略上游许可继承 | 侵权风险 |
| 坑 8 | 用 MCQA 代表临床能力 | 评测失真 |
附录 J:检索决策树
检索「医学指令微调」→ meds-ins(本条)
检索「医学评测基准」→ meds-ins 姊妹 MedS-Bench;库内 medcalc-bench(708)/medagentbench(1064)
检索「MedS-Bench」→ 指向本条,勿另建条目(同一论文资产)
检索「meds」→ 注意区分 meds-ins 与 medsam2-dataset(952,影像分割)
检索「医学选择题」→ medqa(50)/medmcqa(111)/pubmedqa(49)
附录 K:条目信息(frontmatter 明细)
- title / subtitle / description / category_tags 见 frontmatter;
- category_tags 取自受控词表:医疗NLP、医学问答与基准、临床文本、医学考试、评测基准;
- data_tags:指令微调、文本语料、知识库;
- 数据来源明细见 §2.1 与附录 G(此处不重复 frontmatter 的 data_source 逐条清单)。
附录 L:任务类型示例(依 MedS-Bench 11 类展开)
MedS-Bench 的 11 类高层临床任务,可归纳为若干能力轴。下表为便于理解的示例映射(具体任务名以仓库与论文为准):
| 能力轴 | 代表任务类 | 典型输入 → 输出 |
|---|---|---|
| 理解与解释 | 医学概念解释 | 术语 → 通俗/专业释义 |
| 信息抽取 | 命名实体识别(NER) | 文本 → 实体及边界标签 |
| 结构化抽取 | PICO 抽取 | 论文摘要 → P/I/C/O 四要素 |
| 文本生成 | 临床报告摘要 | 完整报告 → 结构化摘要 |
| 决策建议 | 治疗建议 | 病例 → 治疗推荐 |
| 判断推理 | 诊断 | 症状/检查 → 诊断候选 |
| 事实核查 | 声明验证 | 声明 + 证据 → 支持/反驳 |
| 推理判别 | 自然语言推理(NLI) | 前提 + 假设 → 蕴含/矛盾/中立 |
| 分类 | 文本分类(HoC) | 文本 → 类别 |
| 结局预测 | 临床结局预测 | 特征 → 结局概率 |
| 循证论证 | EBMS 论证 | 声明 → 证据论证说明 |
这张映射表说明:MedS-Ins/MedS-Bench 覆盖的不是"一种题",而是从理解到生成、从抽取到推理的完整临床文本能力谱。
附录 M:与库内 Disc-Med-SFT 的对照要点
| 维度 | MedS-Ins(本条) | DISC-Med-SFT(824) |
|---|---|---|
| 语言 | 多语言(中/英等) | 中文为主 |
| 规模口径 | 58 语料库 / 122 任务 | MedDialog 重构 40 万 + CMeKG-QA 5 万等 |
| 数据来源 | 五大文本域(知识库/临床/论文/考试/对话) | 医患对话重构 + 知识图谱转 QA |
| 构造方法 | 任务指令化(Super-NaturalInstructions 式) | LLM-in-the-loop 重构 |
| 许可 | CC BY-SA(仓库)/ 上游待核 | apache-2.0(公开子集) |
| 定位 | 通用医学指令语料 | 中文对话式 SFT |
| 是否可合并 | ❌ 不同实体 | ❌ 不同实体 |
附录 N:口径漂移时间线
| 时间 | 事件 | 口径 |
|---|---|---|
| 2024-08-22 | arXiv v1 发布 | 13.5M samples(1350 万) |
| 2024-09-05 | 论文更新,修正统计值 | 仍表 13.5M samples |
| 2024 年内 | GitHub README 更新计数方式 | 5M instances + 19K instructions |
| 2025-05 | README 最后更新 | 维持 5M / 19K 口径 |
| 2026-10-16 | 本条核验 | 以现行 5M / 19K 为主口径,13.5M 存照 |
附录 O:给数据工程师的接入 SOP 骨架
# 1. 获取数据(沙箱可走 hf-mirror.com 镜像)
# HF: Henrychur/MedS-Ins (约 7.58 GB)
# 2. 解析每个任务的 JSON
# 读 Definition / Reasoning → 拼入 system prompt
# 读 Positive/Negative Examples → 构造 few-shot 或对比样本
# 读 Instances → 展平为训练行(instruction + input + output)
# 3. 按 Instruction_language / Domains 字段筛选目标子集
# 4. 转换到目标训练格式(Alpaca / ShareGPT 等)
# 5. 微调后 → 用 MedS-Bench(Henrychur/MedS-Bench)评测
# 6. 核查每个任务 Source/URL 的上游许可
附录 P:许可风险自评表
| 使用场景 | 仓库 CC BY-SA 下是否可行 | 注意事项 |
|---|---|---|
| 学术研究复现 | ✅ 可行 | 署名 + 相同方式共享 |
| 训练后开源模型 | ✅ 可行 | 衍生作品按 CC BY-SA 发布 |
| 训练后闭源商用 | ⚠️ 受限 | CC BY-SA 传染性 + 上游许可待核 |
| 直接再分发数据集 | ✅ 可行 | 保留署名,相同许可 |
| 摘取子集闭源 | ⚠️ 受限 | 需核查上游各语料库条件 |
附录 Q:本条目核验来源清单
| 来源 | 类型 | 用途 |
|---|---|---|
| arXiv:2408.12547(HTML 全文) | 一手论文 | 机构/规模/占比/评测 |
| github.com/MAGIC-AI4Med/MedS-Ins | 一手仓库 | README 现行口径/目录结构 |
| raw.githubusercontent LICENSE | 一手许可 | CC BY-SA 确认 |
| hf.co / hf-mirror Henrychur/MedS-Ins | 一手数据卡 | 体积/下载量 |
| henrychur.github.io/MedS-Bench | 官方榜单 | 排行榜地址 |
| arXiv:2410.03742 实抓 | 反证 | 证伪 brief 编号误配 |
附录 R:给不同读者的深度阅读路线
路线一:只想快速判断能不能用(10 分钟)
读 §0 导读 → §1 速览表 → §6.2 许可 → §11.4 决策卡。结论:能用/不能用、怎么用、合规边界。
路线二:数据工程/训练向(40 分钟)
读 §2(数据构成与规格)→ §3(生产流水线)→ §5(评测与模型)→ 附录 O(接入 SOP)→ 附录 P(许可风险)。
路线三:评测/研究向(40 分钟)
读 §4(MedS-Bench)→ §5.5-5.10(能力解读与边界)→ 附录 L(任务类型映射)→ §8(方法学启示)。
路线四:合规/法务向(20 分钟)
读 §6(获取与许可)全文 → §6.5-6.6 → 附录 E、附录 P。核心结论:CC BY-SA 传染性 + 上游 58 语料库许可需逐项核查,MIT 不成立。
路线五:决策/管理向(15 分钟)
读 §0.1(三个心智模型)→ §7(生态与影响)→ §11(总结)→ §11.5(交叉验证建议)。
附录 S:本条目写作声明
- 本条目所有关键数字均来自 arXiv:2408.12547、GitHub
MAGIC-AI4Med/MedS-Ins、HFHenrychur/MedS-Ins三个一手来源; - 任务头 brief 所载的 arXiv 编号(2410.03742)与许可(MIT)经核验与事实不符,已在正文 §10 坑 1、坑 3 及附录 F、附录 E 中显式记录并校正;
- 双口径(13.5M vs 5M)在 §2.1、§10 坑 2、附录 F 中逐条存照,主口径取现行仓库口径;
- 库内互链 rid 均为核验时 DB 实测值,入库时若 rid 有变以 DB 为准。
相关数据集导航
以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:
- mtcmb — 共享标签:医疗NLP / 医学问答与基准 / 临床文本 / 医学考试 / 评测基准
- blue-benchmark — 共享标签:医疗NLP / 医学问答与基准 / 临床文本 / 评测基准
- care-bench — 共享标签:医疗NLP / 医学问答与基准 / 临床文本 / 评测基准
- persona-patientsim — 共享标签:医疗NLP / 医学问答与基准 / 医学考试 / 评测基准
- cohortx — 共享标签:医疗NLP / 医学问答与基准 / 临床文本 / 评测基准
- cats-58 — 共享标签:医学问答与基准 / 临床文本 / 医学考试 / 评测基准
- medqa — 共享标签:医疗NLP / 医学问答与基准 / 医学考试 / 评测基准
- medmcqa — 共享标签:医疗NLP / 医学问答与基准 / 医学考试 / 评测基准
- cmb-cmexam — 共享标签:医疗NLP / 医学问答与基准 / 医学考试 / 评测基准
- mednli — 共享标签:医疗NLP / 医学问答与基准 / 临床文本 / 评测基准
导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

