信息速览
GIAB 是 NIST 自 2011 年起主持的公私学术联合体产物,做的事只有一件:为若干个具体的人的全基因组写出一份能被第三方复核的「标准答案」——哪些位点确实变了、变成了什么、哪些区段暂时没有答案。它不生产关于测序原理的新知识,生产的是判定测序对错的尺子。
尺子的刻度是七个样本:一个来自 HapMap 的先导样本 NA12878,加两组亲子三联体(阿什肯纳兹犹太裔、中国汉族),共七人、六条亲子关系。截至 2026 年,主力版本 v4.2.1 覆盖七个样本的 GRCh37 与 GRCh38;HG002 另有基于端粒到端粒组装的 v5.0q 草案,把真值从「比对得上才敢说」推进到「组装出来就能说」。
这份资源的价值不在数据量,而在边界写得清楚:哪一部分基因组它不表态、哪些变异类型它不管、哪一版已经作废。使用它之前先读 BED 而不是先读 VCF,是这类资源唯一正确的打开方式。一屏速览见下表。
| 维度 | 内容 |
|---|---|
| 全称 | Genome in a Bottle Consortium,简称 GIAB |
| 主持机构 | 美国国家标准与技术研究院(NIST),材料科学工程实验室 |
| 起始年份 | 2011 年启动会议,2012 年正式成组 |
| 样本数 | 7 人(HG001–HG007) |
| 家系结构 | 两组父子母三联体(HG002/003/004;HG005/006/007)加一个先导样本 HG001 |
| 祖源 | 先导样本为 HapMap 的 CEU 家系成员;两组三联体分别为阿什肯纳兹犹太裔、中国汉族 |
| 参考基因组 | GRCh37、GRCh38,以及 T2T-CHM13v2.0(仅 v5.0q) |
| 主力版本 | v4.2.1(2020 年发布,2021 年补齐七样本与 GRCh37) |
| HG002 新版 | v5.0q(2025 年生成、2026 年更新),小变异与结构变异各一套 |
| 真值文件形式 | VCF(位点)与 BED(可评测区间)成对发布 |
| 覆盖比例 | v4.2.1 约覆盖常染色体 92%,上一代 v3.3.2 为 85% |
| 变异类型 | 小变异、结构变异、串联重复、性染色体、嵌合变异;拷贝数与甲基化无同级别真值 |
| 托管位置 | NCBI FTP 的 ReferenceSamples/giab,AWS 开放数据桶 s3://giab,BioProject PRJNA200694 |
| 参考材料 | NIST 标准参考物质 8391、8392、8393、8398,对应 HG002、HG003、HG004、HG005 |
| 许可 | NIST 数据使用政策,美国境内无版权,无发表禁运期 |
| 一句话定位 | 变异检测流程的计量基准,不是变异数据库 |
§1 它要解决的具体麻烦
1.1 测序仪说读到了,GIAB 说这一步读错了
任何一条全基因组测序流程,最后都会输出一份 VCF:几百万个位点,每个位点标注「这里与参考基因组不同」。问题在于,这份 VCF 的对错无法自证。参考基因组只是一个模板,不是标准答案;同一批读数换一个比对工具、换一个变异调用器,结果就会不同,而差异往往集中在最要命的地方——临床基因的外显子、片段重复区、串联合成重复。
没有外部标准答案时,验证只能靠三种替代品:一是拿已知阳性样本做对照,但阳性样本通常只有几个位点;二是拿两个流程互相比对,但两者错在同一处时比对结果毫无意义;三是人工看 IGV 截图,成本高且不可批量。GIAB 提供的正是第四种:一份对某个人全基因组逐位点判定过的答案,加上一份说明「这些判定在哪些区段成立」的区间文件。
这个组合的关键在于区间文件。真值只在被划定的区间内有效,区间之外官方不表态。这就把「我的流程准确率 99.9%」这种笼统说法,变成「在可评测的这部分里、针对这类变异、我的召回是多少」,可比较、可复现、可追责。
1.2 三条常见的错误期待
第一条期待是把它当变异数据库用。有人打开 HG002 的真值 VCF,检索某个基因的致病变异,发现没有,就判断该变异不存在。实际上这份 VCF 记录的是「这个健康人的生殖系变异」,它不是人群数据库,没有频率信息,也没有临床注释,一个位点不在这里出现,只说明它不在这个人的基因组里。
第二条期待是把它当质量评分器。把自家流程的 VCF 丢进去跑一遍,得到一个 F1 分数,就认为流程水平被量化了。分数本身依赖于区间、分层、比较引擎、规范化参数四件事,四个变量里换任何一个,分数都会变化。同一份结果用不同比较引擎可以差出几个百分点,在难区分层里差得更多。
第三条期待是认为新版一定更好。v5.0q 的区间比 v4.2.1 小,覆盖比例从九成出头降到不足九成,因为组装法把倒位内部等难以判定的区段整段剔除了。新版换来的是变异表示更完整、复杂结构变异不再被人为拆开,代价是可比面积缩小。选哪一版取决于你要回答的问题,不取决于版本号大小。
1.3 它能给到的与给不到的
| 你的需求 | 它给的 | 够不够 |
|---|---|---|
| 验证生殖系小变异流程的召回与精确率 | 七个样本的 VCF 加 BED,含分层区间 | 够,这是它的主业 |
| 验证结构变异流程 | HG002 的 v5.0q 结构变异集,以及已弃用的 v0.6 | 基本够,但只有一个样本 |
| 验证拷贝数变异流程 | 无。v4.2.1 明确把拷贝数变异区排除在真值外 | 不够,需另找体细胞或 CNV 专项参考 |
| 验证甲基化调用 | 无官方真值 VCF,只有原始读数和探索性工作 | 不够 |
| 训练变异调用模型 | 七个人的原始读数、比对文件、真值标签 | 够用,但样本量决定了只能做验证集 |
| 估计某变异在人群中的频率 | 无频率信息 | 完全不够,应改用人群聚合数据库 |
| 判断某个变异是否致病 | 无临床注释 | 完全不够,应改用临床变异数据库 |
| 评估肿瘤体细胞流程 | 仅有 HG008-T 胰腺癌细胞系的草案级公开数据 | 不够,且官方标注为草案 |
1.4 你的处境与它能帮到的事
| 你的处境 | 它能帮你什么 | 下一步该做什么 |
|---|---|---|
| 刚接手一套临床全外显子流程,要出验证报告 | 提供可引用的真值区间与位点,支撑分析验证章节 | 用 v4.2.1 的 HG002 起步,按目标区域裁剪后计算召回与精确率 |
| 自研变异调用器,需要证明比现有工具好 | 提供跨平台、跨版本的一致基准,结果可被同行复现 | 固定参考、区间、比较引擎与规范化参数,四个变量一起写进方法学 |
| 训练深度学习变异过滤器,缺可靠标签 | 七个人的真值标签可直接做弱监督或验证集 | 用六个样本训练、留一个样本验证,避免同源泄漏 |
| 做长读组装流程,短读基准不够用 | v5.0q 提供组装法真值与二倍体分型输出 | 注意它是草案,且只覆盖 HG002 |
| 需要向监管方说明检测限 | 分层 BED 可把难易区分开报告 | 报告里同时给出总体与分层两套指标 |
| 只想要一份能跑通的示例数据 | 单个样本的 VCF 加 BED 体积在百兆量级 | 从 HG002 的 GRCh38 目录开始,不必下载全量 |
1.5 一句话判断
如果你的问题里包含「我这个流程准不准」,GIAB 是目前唯一能给出可复核答案的公开资源;如果你的问题里包含「这个变异是什么意思」,它一个字都答不了。
1.6 不适合谁:四条边界
第一条边界是人群遗传学。七个样本、两种祖源,任何以它为分母的频率推断都会失真。它不是千人基因组计划,也不是人群参考面板,用它讨论「东亚人某等位基因频率」在方法上不成立。
第二条边界是临床解释。真值 VCF 里没有致病性判定、没有 ACMG 分级、没有表型关联。样本本身是健康供者,选样时刻意避开了疾病表型,所以也不能用来研究「某变异导致什么病」。
第三条边界是体细胞与肿瘤。七个样本都是生殖系,一条肿瘤流程的灵敏度、特异性、变异等位基因频率下限,都不能用这套基准评估。肿瘤方向只有 HG008-T 胰腺癌细胞系的公开草案数据,官方措辞是草案。
第四条边界是新型变异类型。甲基化、染色质构象、单细胞层面的变异,GIAB 没有同级别的真值。若研究问题落在这些类型上,需要另找专项参考,把它当通用真值会得出没有依据的结论。
§2 数据构成与规格
2.1 七个瓶子与两个三联体
「瓶子」是这套资源的物理载体:NIST 与 Coriell 合作扩增细胞、提取 DNA、混匀后分装成数千支安瓿,按标准参考物质体系发放。每支瓶子里是同一个人的 DNA,瓶外编号对应一份数字真值。七个样本的编号体系有两套并行:GIAB 内部用 HG00x,细胞库沿用 Coriell 的 NA 编号。
| 样本 | Coriell 编号 | 家系角色 | 祖源 | 是否有 NIST 参考物质 |
|---|---|---|---|---|
| HG001 | NA12878 | 先导样本,无父母数据 | HapMap 的 CEU 家系,北欧与西欧裔美国居民 | 无,仅 Coriell 供细胞 |
| HG002 | NA24385 | 儿子(先证者) | 阿什肯纳兹犹太裔 | 有,标准参考物质 8391 |
| HG003 | NA24149 | 父亲 | 阿什肯纳兹犹太裔 | 有,标准参考物质 8392 |
| HG004 | NA24143 | 母亲 | 阿什肯纳兹犹太裔 | 有,标准参考物质 8393 |
| HG005 | NA24631 | 儿子(先证者) | 中国汉族 | 有,标准参考物质 8398 |
| HG006 | NA24694 | 父亲 | 中国汉族 | 无,仅 Coriell 供细胞 |
| HG007 | NA24695 | 母亲 | 中国汉族 | 无,仅 Coriell 供细胞 |
这张表里有两个容易被忽略的结构事实。第一,参考物质只有四支,覆盖 HG002 到 HG005,先导样本和汉族三联体的父母都没有对应的 NIST 瓶装材料,只能从细胞库取细胞自行提取。第二,HG001 与其余六个样本的知情同意范围不同:六个 PGP 样本经广泛同意,允许商业再分发与诱导多能干细胞衍生;HG001 来自更早的 HapMap 体系,没有这层授权。这一差异直接决定了近十年新基准为什么都先在 HG002 上做。
2.2 字段与记录的完整字典
真值以两类文件成对发布,外加若干辅助文件。把它们放在一起看,才构成一条完整记录。
| 文件或字段 | 类型 | 含义 | 使用时必须注意 |
|---|---|---|---|
| VCF 的 CHROM | 字符串 | 染色体名,与参考基因组的命名一致 | GRCh37 用 1、2,GRCh38 用 chr1、chr2,混用会导致全部位点错配 |
| VCF 的 POS | 整数 | 变异起始位置,从 1 开始计数 | BED 从 0 开始计数,两者差一位,交叉时须换算 |
| VCF 的 REF | 字符串 | 参考基因组上的碱基 | 必须与所用参考完全一致,参考版本换错则整份失效 |
| VCF 的 ALT | 字符串 | 观测到的替代碱基或序列 | 多等位位点需先拆分再比较,否则比较引擎判定不一致 |
| VCF 的 QUAL | 浮点 | 该位点的调用质量 | 真值文件里保留但不应作为筛选依据,真值本身不带置信度梯度 |
| VCF 的 FILTER | 字符串 | 过滤标记 | 真值集的 PASS 表示「已判定为真」,不表示「高覆盖」 |
| VCF 的 INFO | 键值集合 | 支持证据与注释 | 常见键包括等位基因计数、深度、比对质量与支持调用集标识,键集合随版本有增删 |
| VCF 的 FORMAT/GT | 基因型 | 0/1、1/1 等二倍体基因型 | 性染色体与男性样本需显式指定性别,否则比较引擎按二倍体处理 |
| BED 三列 | 制表符分隔 | 染色体、起始、终止 | 只有三列,没有第四列标签,区间含义完全由文件名承载 |
| 分层 BED | BED 加标签 | 按基因组语境切分的子区间 | 与主 BED 取交集后使用,不能单独作为评测范围 |
| 校验文件 | 文本 | 逐文件 MD5 | 下载后必须先校验,FTP 大文件截断不易察觉 |
| 说明文件 | Markdown | 版本、方法、限制、引用方式 | 官方把使用限制写在这里,比主页更细 |
2.3 一条记录的完整解剖
下面这条记录是结构示意,不是真实位点,用来说明各字段如何咬合。
#-- VCF 一条记录(制表符分隔,此处按列展开便于阅读)
CHROM POS ID REF ALT QUAL FILTER INFO FORMAT SAMPLE
chr1 100001 . T C 50 PASS AC=1;AF=0.5;AN=2;DP=31;MQ=60;SOR=0.8 GT 0/1
拆开看:染色体与位置定位到一个碱基;参考碱基是 T,观测到 C,说明这是一个杂合单核苷酸替换;基因型 0/1 表示两条同源染色体上一条与参考一致、一条不同;INFO 里的等位基因计数与深度是支持证据的残留,说明这个判定建立在多少条读数之上。真正让这条记录可用的是配套 BED 里的那一行:
#-- 配套 BED(0 基起点,半开区间)
chr1 99900 100600
这一行说的是:从 99900 到 100600 这段区间内,官方对该样本的变异判定成立,可以拿来评测。VCF 里的位点落在区间内才参与统计;落在区间外的位点,官方在说明文件里给出了保留原因——复杂变异可能跨越区间边界,若把跨界部分裁掉,比较引擎会把同一个变异的两种正确表示判成错误。所以 VCF 会比 BED 多出一些位点,这是设计,不是缺陷。
同一条记录在不同版本里的形态也不同。v4.2.1 的结构变异被拆成规范化的小变异表示;v5.0q 的结构变异单独出一个 VCF,并把多等位与已注释的结构变异进一步分解。同一段缺失,在两个版本里可能对应不同数量的记录行,这是跨版本比较必须先对齐的原因。
2.4 版本谱系与覆盖
版本号不是线性的功能累加,而是「换一次方法、重做一遍」的产物。把主要版本排在一起,能看清方法论的三次转折。
| 版本 | 年份 | 覆盖样本 | 参考 | 主要内容 | 当前状态 |
|---|---|---|---|---|---|
| v2.19 | 2014 | HG001 | GRCh37 | 先导样本的小变异真值 | 已弃用 |
| v3.3.2 | 2017 | 七个 | GRCh37、GRCh38 | 常规难度的常染色体小变异 | 已弃用,被 v4.2.1 取代 |
| v4.1 | 2020 | HG002 | GRCh38 | 加入长读证据的过渡版本 | 已弃用 |
| v4.2.1 | 2020 生成、2021 补齐 | 七个 | GRCh37、GRCh38 | 难比对区、片段重复、临床基因 | 主力版本 |
| v0.6 结构变异 | 2020 | HG002 | GRCh38 | 结构变异,只覆盖部分区段 | 已弃用 |
| CMRG v1.00 | 2021 | HG002 | GRCh38 | 医学相关难分型基因专项 | 已弃用 |
| 串联重复 v1.0 | 2023 | HG002 | GRCh38 | 短串联重复区的小变异与结构变异 | 已弃用 |
| 性染色体 v1.0 | 2023 | HG002 | GRCh38 | X、Y 染色体小变异 | 已弃用 |
| 嵌合 v1.00 与 v1.10 | 2024 | HG002 | GRCh38 | 嵌合单核苷酸变异 | 有效 |
| v5.0q | 2025 生成、2026 更新 | HG002 | GRCh37、GRCh38、CHM13v2.0 | 组装法小变异与结构变异 | 草案,官方要求谨慎解读 |
覆盖比例是另一条线索。官方论文摘要给出两个口径:v4.2.1 覆盖常染色体的 92%,上一代 v3.3.2 覆盖 85%;两者相差七个百分点,对应新增三十余万个单核苷酸变异与五万余个插入缺失,外显子区变异增加一成六,其中包括此前被排除的临床基因。这里的百分比分母是常染色体,不含性染色体,与「占全基因组多少」不是同一个分母,引用时必须连同分母一起写。
v5.0q 的区间反而更小。对官方发布的 GRCh38 小变异区间文件求和,得到 2,739,407,815 个碱基、两万八千余段区间,约当 GRCh38 全长的 88.7%。下降的原因写在说明文件里:倒位内部、组装断裂两侧的大段重复、以及受结构变异影响的区段被整段剔除。而换来的是每个区段内部判定的确定性更高,复杂变异的表示更完整。
| 指标 | v3.3.2 | v4.2.1 | v5.0q |
|---|---|---|---|
| 覆盖样本数 | 7 | 7 | 1 |
| 覆盖参考 | 2 | 2 | 3 |
| 常染色体覆盖比例 | 85% | 92% | 未以同一分母给出 |
| 区间形态 | 多段小区间 | 多段小区间 | 少数大区间 |
| 结构变异 | 不含 | 不含 | 含,独立文件 |
| 方法学 | 多平台整合 | 多平台整合加长读 | 二倍体组装直接比对 |
| 官方状态 | 弃用 | 主力 | 草案 |
2.5 与同类资源的字段差异
真值资源不止 GIAB 一家,但结构差异明显。把字段层面摊开看,最容易判断哪种资源适配哪种任务。
| 资源 | 记录单位 | 是否给区间文件 | 是否给原始读数 | 是否给物理材料 | 适用判断 |
|---|---|---|---|---|---|
| GIAB | 位点加区间 | 给,且是核心 | 给,索引在 GitHub | 给,四支标准参考物质 | 流程验证的首选 |
| 人群频率聚合库 | 位点 | 不给 | 不给 | 不给 | 频率查询,不能验证流程 |
| 临床变异注释库 | 位点加解释 | 不给 | 不给 | 不给 | 解释变异,不能验证流程 |
| 挑战赛数据集 | 位点加评分脚本 | 通常给 | 视赛事而定 | 不给 | 一次性排名,长期复现性弱 |
| 单中心自建真值 | 位点 | 常缺 | 常缺 | 不给 | 不可跨机构比较 |
差别最实质的一列是「是否给区间文件」。没有区间,使用者只能假定全基因组都可评测,于是把参考基因组的空白、重复区、组装错误都算进分母,指标看起来更差,且不同人算出的结果互不可比。GIAB 把「哪里可以评测」做成独立文件,是把不确定性显式化的做法,也是它被写进各类最佳实践的根本原因。
§3 身份层:一只瓶子里装的到底是什么
3.1 瓶子里是 DNA,文件只是它的说明书
先厘清一个常见的语义混淆。GIAB 这个名字里的「瓶子」指实体标准参考物质:一支安瓿,里面是某个人的基因组 DNA 冻干粉或溶液,浓度已知、批次可追。数字文件是这批材料的表征结果,不是材料本身。两者绑定发放,但用途不同:材料用于跑湿实验、做平台间对照、校准仪器;文件用于跑干实验、算指标。
这个区分在实践中有直接影响。如果你要做的是「同一文库在两个测序平台上的一致性」,你需要的是材料,文件帮不上;如果你要做的是「我的比对加调用流程在这段基因组上错了几个位点」,你需要文件,材料不必买。价格的差别也在这里:NIST 的定价包含质量体系与表征成本,比细胞库的同源细胞贵,而细胞只能从细胞库取。
3.2 四个编号与三个只有细胞的样本
标准参考物质的编号是四位数字,与 HG 编号的映射并不直观,容易在引用时写错。
| 参考物质编号 | 对应样本 | 家系角色 | 典型用途 |
|---|---|---|---|
| 8391 | HG002 | 阿什肯纳兹犹太裔儿子 | 新基准首发样本,商业产品最多 |
| 8392 | HG003 | 阿什肯纳兹犹太裔父亲 | 三联体孟德尔一致性检查 |
| 8393 | HG004 | 阿什肯纳兹犹太裔母亲 | 三联体孟德尔一致性检查 |
| 8398 | HG005 | 中国汉族儿子 | 跨祖源泛化检查 |
HG001、HG006、HG007 没有对应的参考物质编号,只能经细胞库获取细胞。这个不对称有一个现实后果:需要做「三人联合定相」的研究,用 HG003 与 HG004 的材料可以配齐,用 HG006 与 HG007 就只能自己从细胞养起。也正因为材料易得,HG002 成了事实上的公共试验台,围绕它的商业产品、流程配置、社区讨论都远多于其余六个。
3.3 标准答案的三个组成部分
一份能用的真值不是一个文件,而是三层叠加。缺任何一层,评测都会走偏。
| 层 | 文件 | 回答的问题 | 缺失后的后果 |
|---|---|---|---|
| 位点层 | VCF | 这个人的基因组与参考差在哪些位置 | 无法计算召回 |
| 区间层 | BED | 这些判定在哪些区段成立 | 分母被污染,指标不可比 |
| 语境层 | 分层 BED | 这些区段分别属于什么难度类型 | 只能报总体分,无法定位薄弱环节 |
分层这一层最容易被跳过。官方的分层体系把基因组切成同聚物、串联重复、片段重复、低比对质量区、基因外显子等若干语境,用途是把一个笼统的总体召回拆成若干可解释的分项。一个流程总体召回九成九、在片段重复区只有七成,这个信息比总体分有用得多,因为后者告诉你「该修哪里」。分层文件独立发版,与主基准的版本号不同步,引用时两个版本号都要写。
3.4 覆盖的变异类型
官方发布以生殖系变异为主,不同变异类型的成熟度差别很大,混为一谈会误判。
| 变异类型 | 是否官方真值 | 承载文件 | 覆盖样本 | 成熟度 |
|---|---|---|---|---|
| 单核苷酸变异 | 是 | 小变异 VCF | 七个 | 成熟,v4.2.1 为主力 |
| 小插入缺失 | 是 | 小变异 VCF | 七个 | 成熟 |
| 结构变异 | 是 | 结构变异 VCF | HG002 | v5.0q 草案,旧版已弃用 |
| 短串联重复扩增 | 曾发布 | 串联重复 VCF | HG002 | 已弃用,官方建议改用新版 |
| 性染色体变异 | 曾发布 | 性染色体 VCF | HG002 | 已弃用,并入 v5.0q |
| 嵌合变异 | 是 | 嵌合 VCF | HG002 | 2024 年新增,覆盖度有限 |
| 拷贝数变异 | 否 | 无 | 无 | v4.2.1 明确排除该类区域 |
| 甲基化 | 否 | 无真值 | 无 | 仅有原始数据与探索性工作 |
| 单倍型定相 | 部分 | 组装比对输出 | HG002 | v5.0q 附带两套单倍型比对文件 |
这张表要读出的结论是:能用它评估的变异类型,比多数人预期的窄。凡是涉及拷贝数、甲基化、染色质构象的任务,都要在方法学里明确写「本项未使用 GIAB 真值」,而不是含糊地说「参照 GIAB」。
§4 质量层:一份真值是怎么被造出来的
4.1 多平台整合的基本逻辑
v4.2.1 及更早版本的真值,走的都是整合路线:同一批 DNA 送到多个平台测序,各平台独立调用变异,再按证据强度合并。合并规则的核心是「至少两类独立技术一致」,而不是「票数多者胜」。原因很直接:同一化学原理的两次运行不是独立证据,两套短读流程同时错在片段重复区的概率很高,把它们算成两票会系统性放大错误。
整合路线的固有短板是「只能覆盖比对得上的地方」。读段比对不到参考,就没有位点可调,那段基因组就无从判定。这个短板在 2020 年前后变得刺眼:长读平台已经能读出着丝粒与大片段的完整序列,而真值却在那些地方留白。这正是 v5.0q 转向组装法的动因。
4.2 案例:PMS2 上的一个假阴性
PMS2 是错配修复基因,临床 panel 必检。它的问题在于紧邻一个高度相似的假基因,短读段无法唯一归位,传统流程在这个基因的部分外显子上要么漏检、要么把假基因的序列误判成真基因的变异。在 v3.3.2 里,这段区域整体落在真值区间之外,因此任何流程在这里出错都不会被记为错误——真值不表态,评测就沉默。
v4.2.1 改变的不只是位点数量,而是把这类区域纳入了判定范围。做法是用 linked-read 与长读提供的分子级连线性,把原本无法归位的读段锚定到正确位置,再要求至少两类技术在该位点给出一致结论;仍无法判定的极小片段才排除。结果是:这段区域第一次有了真值,短读流程在此处的假阴性也从「看不见」变成「看得见」。
这个案例的方法学含义超出 PMS2 本身。它说明真值版本的升级,主要价值不是「多了几十万个位点」,而是「把原先沉默的区域变成会说话的」。一个流程在新版基准上分数下降,很可能不是因为流程变差,而是因为旧版没有考察它最薄弱的地方。判断这一点的方法,是看分数下降是否集中在新增的分层区间——若是,则属于暴露而非退化。
同一个机制在别处也成立:片段重复区、假基因区、临床基因的旁系同源区,都属于「旧版沉默、新版开口」的类型。把 v3.3.2 与 v4.2.1 的分数放在一起比较时,必须同时报告两者区间不同,否则比较没有意义。
4.3 版本升级的量化增量
| 增量项 | 数值 | 口径 |
|---|---|---|
| 常染色体覆盖 | 85% 升至 92% | 官方论文摘要 |
| 新增单核苷酸变异 | 三十余万个 | 官方论文摘要,跨七样本合计 |
| 新增插入缺失 | 五万余个 | 同上 |
| 外显子区变异增幅 | 一成六 | 同上 |
| 新增难区类型 | 难比对区、片段重复、部分临床基因 | 同上,摘要点名 PMS2 |
需要提醒的是,这些数字是七个样本的合计,不是单样本增量。把它当成「HG002 多了三十万位点」会高估一个数量级。官方在摘要里写的是跨样本总量,转引时保留「七样本合计」这个限定词。
三成增幅里有一部分来自「把沉默区变成开口区」,而不是「在同一些区段里找到更多位点」。§4.2 的案例就是这类增量的典型形态:位点数量增加只是一个侧面,真正的变化是那段区域第一次进入评测范围。因此看增量数字时,应同时看区间文件的变化,两相对照才能判断新增位点是「补查」还是「换算法重判」。
4.4 v5.0q 的转向:从比对到组装
v5.0q 的方法链条与前几代不同,理解它才能理解为什么区间变小。
| 环节 | 做法 | 后果 |
|---|---|---|
| 输入 | HG002 的二倍体组装,版本为 T2T 项目的 v1.1 | 不再依赖读段比对,直接有两条单倍型序列 |
| 比对 | 用 minimap2 把两套单倍型比对到参考,并调大结构变异附近的对齐带宽 | 结构变异附近不再断裂 |
| 调用 | 用 dipcall 从比对结果直接生成变异与二倍体覆盖区 | 变异与区间同源,天然配套 |
| 精修 | 用自建的流水线做排除:组装断裂、大段卫星与串联重复、倒位内部、已知调用缺陷 | 区间缩小,区间内确定性提高 |
| 产出 | 小变异与结构变异各一套 VCF 加 BED,覆盖三个参考 | 跨参考可比 |
| 状态 | 草案,官方要求对结果谨慎解读 | 不宜作为合规唯一依据 |
这套流程的关键副作用是「倒位内部被整段剔除」。倒位区域在参考坐标系里方向相反,组装比对上去会出现大片不一致,工具无法区分「组装错」与「参考方向不同」,于是只能排除。前几代用读段整合时,倒位内部的短片段仍可能被逐个位点判定,因此 v5.0q 在这一点上确实比 v4.2.1 少。官方在说明文件里明确写了这一取舍,属于已知设计,不是缺陷。
4.5 分层体系为什么重要
分层文件把「一个分数」拆成「一组分数」,作用有三。
第一,定位。总体召回九成九、在低比对质量区七成,说明问题在比对而非调用。没有分层,只能看到总体分,无从下手。
第二,可比。不同流程在同一分层上的差异,比总体差异更稳定,因为总体分受区间构成影响大,分层分受区间构成影响小。
第三,可解释。向评审或监管说明「本流程在简单区达到多少、在难区达到多少」,比报一个总体数字更接近分析验证报告的要求。
官方分层体系已经迭代到第三代,新增了对端粒到端粒组装参考的支持,这意味着同一套分层可以同时服务线性参考与完整组装参考的评测。分层文件与主基准分开版本管理,两个版本号都要在方法学里写清。
4.6 已知的错误与已撤回的基准
一个可信的基准,其可信度很大程度体现在「撤回了什么」上。官方的发布目录里保留着大量标注为弃用的版本,这不是管理混乱,而是可追溯。
| 已弃用的产物 | 撤回原因 | 现在该用什么 |
|---|---|---|
| MHC 区专项基准 | 被更大范围的组装法基准覆盖 | v5.0q |
| 医学相关难分型基因专项 | 同上,且基因集合已并入常规区间 | v4.2.1 与 v5.0q |
| 串联重复基准 v1.0 | 方法学被组装法取代 | v5.0q |
| 性染色体基准 v1.0 | 已并入全基因组基准 | v5.0q |
| 结构变异 v0.6 | 只覆盖部分区段,且无法评估特异性 | v5.0q 结构变异 |
| v3.3.2 及更早 | 区间偏窄,漏掉难区 | v4.2.1 |
撤回这件事本身值得单独说。多数数据集只发布增量,旧版留在原地不作标记,使用者拿到的可能是三年前已被推翻的结论。GIAB 的做法是在主页显式列出「已弃用」,并在发布目录里保留原文件与说明。对使用者而言,这意味着任何一份引用 GIAB 的方法学,都必须写清版本号与发布年份,否则无法判断结论是否建立在已撤回的基础上。
4.7 外部证据
真值的可信度不能只靠自证。外部证据主要有四类:独立挑战赛的排名结果、第三方流程在公开评测中的表现、社区报错通道积累的修正记录、以及与独立组装的交叉比对。
| 证据类型 | 具体形式 | 能证明什么 | 不能证明什么 |
|---|---|---|---|
| 公开挑战赛 | 社区用同一套真值排名,结果公开 | 同一区间上不同流程可区分 | 真值本身无错 |
| 第三方评测 | 工具厂商与实验室的独立复现 | 结果可被外部重现 | 覆盖全部变异类型 |
| 社区报错 | 官方表单收集位点级错误 | 错误可被定位与修正 | 错误率有界 |
| 组装交叉比对 | 与 T2T 独立组装逐段比对 | 区间内判定与独立证据一致 | 区间外的情况 |
这四类证据合起来支持一个有限结论:在已发布的区间内,真值的错误率低到可以用作评测基准;在区间外,官方不表态,任何推断都缺乏依据。把这句话写进方法学,比笼统地说「使用 GIAB 真值」要诚实得多。
§5 取数层:怎么把真值拿到手
5.1 三条入口
| 入口 | 地址形态 | 适合谁 | 特点 |
|---|---|---|---|
| NCBI FTP | 目录树,按样本与版本分层 | 需要脚本化下载的工程环境 | 全量、稳定、无鉴权 |
| AWS 开放数据桶 | 对象存储,桶名短 | 在云上跑分析的用户 | 同区域传输不计费 |
| 网页浏览器 | 目录浏览界面 | 想先看文件清单的人 | 只适合浏览,不适合批量取 |
三条入口的内容同源,差别在传输路径与工具链。工程上建议固定用一条,避免混用导致版本不一致。若在云上,从对象存储取数可以省掉跨区流量;若在本地机房,FTP 更直接。无论走哪条,落盘后第一件事都是核验校验文件。
5.2 目录结构与命名规则
命名规则是这套资源最值得先记住的东西,读懂文件名就不必逐个打开目录。
release/
+-- AshkenazimTrio/
| +-- HG002_NA24385_son/
| | +-- NISTv4.2.1/GRCh38/ 主基准,按参考分目录
| | +-- v5.0q/ 组装法草案,平铺三个参考
| | +-- mosaic_v1.10/ 嵌合变异
| | +-- TandemRepeats_v1.0/ 已弃用
| +-- HG003_NA24149_father/
| +-- HG004_NA24143_mother/
+-- ChineseTrio/
| +-- HG005_NA24631_son/
| +-- HG006_NA24694_father/
| +-- HG007_NA24695_mother/
+-- NA12878_HG001/
+-- genome-stratifications/ 分层区间,独立版本号
+-- references/ 官方整理的参考基因组
文件名里的信息密度很高:样本编号、参考版本、变异类型、版本号、文件角色依次出现。例如以 smvar 结尾的是小变异,以 stvar 结尾的是结构变异,以 benchmark.bed 结尾的是可评测区间,以 exclusion_stats.txt 结尾的是排除碱基数统计。掌握这套规则后,可以只凭文件名决定下不下。
5.3 最小下载清单
不需要全量。做一次单样本评测,只需要四个文件。
#-- 设定版本与参考,改这两行即可切换
BASE="https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release"
SAMPLE="AshkenazimTrio/HG002_NA24385_son/NISTv4.2.1/GRCh38"
#-- 真值位点、区间、索引,加校验清单
curl -O "$BASE/$SAMPLE/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz"
curl -O "$BASE/$SAMPLE/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz.tbi"
curl -O "$BASE/$SAMPLE/HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed"
#-- 下载后先校验,再解压使用
gzip -t HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz
三个文件的关系是:VCF 给位点,TBI 给随机访问能力,BED 给评测范围。少了 BED,后面所有指标都不成立;少了 TBI,工具仍能跑,但要全文件扫描,速度慢一个量级。校验这一步不要省,跨洋下载的大文件被截断时,解压可能成功而内容不完整。
5.4 跑一次标准评测
评测的规范做法是交给社区工具,不要自己写比较逻辑。比较引擎的选择会显著影响结果,官方推荐基于单倍型比对的引擎。
#-- 参考基因组、真值、待测、区间四个输入缺一不可
REF=GRCh38_full_analysis_set.fa
TRUTH=HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz
QUERY=my_pipeline_output.vcf.gz
BED=HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed
#-- 男性样本必须显式指定性别,否则性染色体按二倍体处理
hap.py "$TRUTH" "$QUERY" \
-f "$BED" \
-r "$REF" \
-o result/hg002_eval \
--engine vcfeval \
--threads 16
输出里的三个数字要分开看:召回率的分母是区间内的真值位点,精确率的分母是待测位点中落在区间内的部分,F1 是两者的调和平均。三个数字必须同时报,只报 F1 会掩盖「召回高、精确低」这类结构性问题。另外,输出目录里会有按变异类型与按长度分档的细分结果,这部分比总体分有用。
5.5 用分层把分数拆开
#-- 取分层定义文件,与主基准取交集后再评测
STRAT="$BASE/genome-stratifications/v3.6/GRCh38"
#-- 只保留片段重复类的分层,评估难区表现
bcftools view -R "$STRAT/GRCh38_AllSegDups.bed" \
-Oz -o result/hg002_segdup.vcf.gz "$QUERY"
tabix -p vcf result/hg002_segdup.vcf.gz
#-- 用同一段区间裁剪真值,保证两边分母一致
bcftools view -R "$STRAT/GRCh38_AllSegDups.bed" \
-Oz -o result/truth_segdup.vcf.gz "$TRUTH"
关键在「两边同时裁剪」。只裁待测不裁真值,分母里会混入区间外的位点,算出的召回偏低且无法解释。分层的价值就在于把这类比较变成可批量执行的常规操作。
5.6 用脚本读区间做交集
#-- 读 BED 与 VCF,统计真值位点落在区间内的比例
import gzip
import pysam
bed_path = "HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed"
vcf_path = "HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz"
regions = {}
with open(bed_path) as fh:
for line in fh:
chrom, start, end = line.rstrip("\n").split("\t")[:3]
regions.setdefault(chrom, []).append((int(start), int(end)))
def inside(chrom, pos):
#-- BED 是 0 基半开区间,VCF 是 1 基,比较时减一
p = pos - 1
for s, e in regions.get(chrom, []):
if s <= p < e:
return True
return False
total = hit = 0
with pysam.VariantFile(vcf_path) as vf:
for rec in vf:
total += 1
if inside(rec.chrom, rec.pos):
hit += 1
print(f"位点总数 {total},区间内 {hit},区间外 {total - hit}")
这段代码的输出通常显示有一小部分位点落在区间外,属于官方说明中提到的跨边界复杂变异。看到这个结果不要以为是数据错误,它是设计的一部分;评测时由工具按区间裁剪,不需要手工删除。
5.7 版本锁定与校验
#-- 记录三个版本号,写进方法学
echo "benchmark=v4.2.1" > provenance.txt
echo "stratification=v3.6" >> provenance.txt
echo "reference=GRCh38_full_analysis_set" >> provenance.txt
#-- 记录校验值,保证他人复现时拿到同一份文件
md5sum HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz >> provenance.txt
md5sum HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed >> provenance.txt
真值资源最容易出的复现事故,不是算法不同,而是版本不同。主基准、分层、参考基因组三者各有版本,任一处变动都会改变指标。把三者与校验值一起写进方法学,是让结果可被第三方复现的最低要求。
§6 与库内记录的关系
6.1 关系图谱
库里与基因组沾边的记录超过百条,但绝大多数与 GIAB 不在同一个层面上。判断方法很简单:问一句「它回答的是『变异是什么』还是『我的流程对不对』」。GIAB 只回答后者,凡是回答前者的,都是邻居而不是同类。
| 层次 | 库里对应记录 | 回答的问题 | 与 GIAB 的关系 |
|---|---|---|---|
| 人群频率 | gnomAD 基因组聚合数据库 | 这个变异在人群里多常见 | 上下游:GIAB 判对错,gnomAD 判常见罕见 |
| 临床解释 | ClinVar | 这个变异是否致病 | 上下游:GIAB 给位点,ClinVar 给解释 |
| 肿瘤真实世界 | AACR GENIE | 泛癌临床测序里出现了什么 | 平行:人群与场景不同,不能互为真值 |
| 模式生物 | Alliance of Genome Resources | 九个模式物种的基因与表型 | 平行:物种不同,基准不可移植 |
| 耐药基因组 | ARKbase 抗菌耐药知识库 | 哪些基因导致耐药 | 下游:真值逻辑类似,但对象是微生物 |
| 变异打分 | AlphaMissense 错义变异致病性预测 | 这个错义变异有多可能致病 | 下游:可用 GIAB 位点做打分器校准 |
| 三维构象 | 3D Genome Browser | 两位点是否空间相邻 | 无关:同一批基因组,不同问题 |
| 文本语料 | BC2GM、BC5CDR | 文献里的基因与疾病提及 | 无关:对象是文本不是序列 |
6.2 检索路径
碰到具体问题时,先定位问题类型,再决定打开哪一条记录。
| 你要做的事 | 先看哪条记录 | 再补什么 |
|---|---|---|
| 验证自家流程的召回与精确率 | 本篇 | 分层区间与比较引擎文档 |
| 查某变异在人群中的频率 | gnomAD 记录 | 祖源分层与版本说明 |
| 查某变异的临床意义 | ClinVar 记录 | 证据等级与提交者 |
| 训练变异致病性预测模型 | AlphaMissense 记录与本篇 | 用 GIAB 位点做外部验证集 |
| 研究肿瘤体细胞变异 | AACR GENIE 记录 | 本篇仅 HG008-T 草案可用 |
| 研究微生物耐药 | ARKbase 记录 | 物种与药物覆盖范围 |
| 研究染色质三维结构 | 3D Genome Browser 记录 | 细胞类型与分辨率 |
6.3 与库内基因组类词条的区隔
库内基因组方向的记录已经形成四个群落,彼此的分工需要在选型时先说清,否则容易把「参考」当「真值」,或把「真值」当「注释」。
| 群落 | 代表记录 | 数据形态 | 核心用途 | 与 GIAB 的界 |
|---|---|---|---|---|
| 真值基准 | 本篇 | VCF 加 BED,成对 | 判定流程对错 | 唯一给「可评测区间」的群落 |
| 人群聚合 | gnomAD | 位点加频率 | 判断常见与罕见 | 不含个体基因型,不能做流程验证 |
| 临床注释 | ClinVar | 位点加解释 | 判断致病性 | 不含真值区间,不能算召回 |
| 疾病队列 | AACR GENIE 等 | 样本加临床变量 | 找关联、做分层 | 无逐位点真值,只能做发现 |
| 模式生物与微生物 | Alliance、ARKbase | 物种基因组加注释 | 跨物种比较 | 物种不同,基准不可迁移 |
一条实用的判断口诀:有 BED 的才是基准,没有 BED 的只是目录。按这条口诀筛一遍,库内真正同层的记录寥寥,绝大多数是提供注释或频率的目录型资源,它们的价值在于解释变异,而不是检验流程。
§7 质量评估与局限性
7.0 阅读本节前的一个前置校正
多数人看基准资源,习惯按「数据量、覆盖度、更新频率」三项打分,这套标准用在 GIAB 上会得出错误排序。原因在于它的产品不是数据,是判定。一个基准的质量取决于三件事:判定在哪些地方成立、不成立的地方有没有说清、说清之后有没有人复核。数据量只是这三件事的副产品。
由此产生两个常见误判。第一,把「覆盖比例下降」当成质量退步——v5.0q 从九成出头降到不足九成,实际是判定范围收紧、区间内确定性提高。第二,把「版本多」当成混乱——目录里大量弃用版本恰恰是可追溯性的证据,真正危险的是只有最新版、旧版无声消失的资源。
本节的所有评分都建立在这个校正之上:评价的是「判定的可信边界」,不是「文件的多少」。
7.1 五维评分
沿用 DAIMS 的五个维度,逐项给出分值。DAIMS 在此处的含义是数据资产的可获得、可理解、可互操作、可复用与可审计五件事,每项满分五分。
| 维度 | 分值 | 依据 | 扣分点 |
|---|---|---|---|
| 可获得性 | 5 | 三条公开入口,无鉴权,无禁运期,含物理材料 | 无 |
| 可理解性 | 4 | 每个数据集配说明文件,写清方法与限制 | 主页与说明文件偶有口径差异,需交叉核对 |
| 可互操作 | 5 | 标准 VCF 与 BED,参考基因组命名规范,工具链成熟 | 跨参考版本需自行转换坐标 |
| 可复用 | 4 | 许可宽松,允许商业再分发与演绎 | HG001 不在广泛同意范围内 |
| 可审计 | 5 | 版本完整保留,弃用显式标注,有社区报错通道 | 报错处理进度不对外公开 |
| 合计 | 23 / 25 | 同层资源中处于上限区 | 主要短板在文档口径一致性 |
7.2 分数的含义与不该做的推论
二十三分不是「接近完美」的意思,它只说明这套资源在「可用」这件事上几乎没有硬伤。五分项集中在可获得与可审计,这两项恰好是多数生物医学数据集最弱的地方;四分项集中在文档与许可,也是行业普遍问题。
不该做的推论有三个。其一,不能由此推断真值本身没有错误——错误存在,且有官方收集渠道,只是密度低到不影响评测结论。其二,不能推断它适合所有变异类型——拷贝数与甲基化明确缺席。其三,不能推断它对所有人群都公平——只有两种祖源,七个个体。
7.3 已知的、可枚举的偏差
| 偏差 | 具体表现 | 影响 | 缓解方式 |
|---|---|---|---|
| 祖源偏窄 | 仅欧洲与东亚两种背景 | 对其他祖源的流程性能估计有系统误差 | 明确声明适用范围,不外推 |
| 样本量极小 | 七个个体 | 个体特异的难区无法代表总体 | 报置信区间,不报点估计 |
| 细胞系来源 | 全部为淋巴细胞系 | 存在传代获得性变异,与新鲜组织不同 | 与组织样本对照时说明差异 |
| 男性偏多 | 两个先证者均为男性 | 性染色体为单拷贝,二倍体逻辑不适用 | 评测时显式指定性别 |
| 区间系统偏难 | 排除着丝粒、核糖体 DNA、大段卫星 | 指标看起来偏低,跨资源不可比 | 报告时标注区间版本 |
| 参考偏倚 | 线性参考下非参考等位基因易被低估 | 与参考差异大的样本吃亏 | 用组装法基准交叉验证 |
| 平台偏倚 | 新版真值以长读与组装为主 | 短读流程在难区被系统性暴露 | 分层报告,不只看总体 |
| 版本碎片化 | 主基准、分层、专项各自发版 | 组合不当会得出矛盾结论 | 三个版本号一起锁定 |
表里最隐蔽的一项是「区间系统偏难」。它不体现在任何单个文件上,而是体现在区间生成规则里:凡是无法稳定判定的区段都被剔出去,剩下的自然偏简单。这个偏差会让指标看起来偏好,与「区间外无法评测」造成的偏坏方向相反,两者叠加后总体分的方向不确定。要判断自己落在哪一侧,办法是看新增区间上的表现——§4.2 的案例说明,新版区间往往集中了旧版回避的难点,若分数在新增区间上明显低于旧区间,说明偏差落在「偏简单」这一侧。
7.4 外部验证矩阵
| 验证来源 | 独立性 | 覆盖范围 | 结论强度 |
|---|---|---|---|
| 公开挑战赛的跨团队结果 | 高 | 主基准区间 | 强,可区分流程优劣 |
| 工具厂商的独立复现 | 中 | 部分区间与变异类型 | 中,可能存在选择偏倚 |
| 社区位点级报错 | 高 | 零散位点 | 强,用于修正而非评估 |
| 与独立组装的交叉比对 | 高 | 全基因组 | 强,支持区间内判定 |
| 监管或认可体系的引用 | 中 | 视文件而定 | 中,属背书不属验证 |
7.5 它为何能持续:把「不确定」变成可交付的资产
多数基准资源死于两件事:一是宣称自己全对,被证伪后信用崩塌;二是只增不改,旧错一直留在库里。GIAB 避开的办法是把不确定性本身产品化——用 BED 划出「这里我表态」的边界,用弃用标记划出「这里我收回」的时间线,用社区报错通道承接「这里我可能错了」的入口。三者合起来,使它的信用不依赖于「永不犯错」,而依赖于「错了能被发现并修正」。这套机制一旦跑通,参与者的沉没成本就转化为持续投入的动力,资源因此能活过十五年以上。
§8 生态位与历史
8.1 历史沿革
| 年份 | 事件 | 意义 |
|---|---|---|
| 2011 | 系列启动会议召开 | 把「基因组标准物质」从倡议变成项目 |
| 2012 | 联合体正式成组,官方页面建立 | 形成公私学术三方参与的结构 |
| 2014 | 先导样本小变异真值发布 | 第一次给出可复核的全基因组答案 |
| 2015 | 首批标准参考物质发放 | 湿实验侧有了可购买的实物 |
| 2016 | 数据总览论文发表 | 确立数据组织方式与引用规范 |
| 2017 | 七样本常规难度基准发布 | 从一个人扩展到两组三联体 |
| 2018 | 「高置信」改称「基准」 | 术语转向,强调用途而非确定性 |
| 2019 | 社区最佳实践论文发表 | 评测流程标准化,工具链成型 |
| 2020 | 难区基准与结构变异基准发布,公开挑战赛举办 | 覆盖范围首次大幅扩展 |
| 2021 | 七样本两参考统一版本发布 | 版本收敛,成为事实标准 |
| 2022 | 难区扩展的方法学论文发表 | 覆盖比例从八成五到九成二的依据 |
| 2023 | 串联重复与性染色体专项发布 | 难区细分,后被组装法取代 |
| 2024 | 分层体系第三代发布,嵌合基准发布 | 分层支持完整组装参考 |
| 2025 | 组装法草案发布,肿瘤项目启动 | 方法论第三次转折 |
| 2026 | 草案更新,肿瘤细胞系数据公开 | 从生殖系扩展到体细胞 |
8.2 与相邻项目的分工
| 项目或组织 | 角色 | 与 GIAB 的接口 |
|---|---|---|
| 参考基因组联盟 | 维护 GRCh37 与 GRCh38 | GIAB 在其基础上做掩蔽与诱饵序列补充 |
| 端粒到端粒联盟 | 生产完整组装参考与 HG002 组装 | 提供 v5.0q 的组装输入 |
| 人类泛基因组联盟 | 构建多人群图参考 | 用 GIAB 基准评估组装法调用 |
| 全球基因组学与健康联盟 | 制定评测最佳实践与工具标准 | GIAB 是其推荐的真值来源 |
| 细胞库 | 扩增与分发细胞 | 与 NIST 的瓶装材料同源不同批 |
| 云服务商开放数据计划 | 镜像托管 | 提供同区域免费传输 |
这张表说明一件事:GIAB 处在一个链条的中段。上游是参考基因组与组装技术,下游是评测工具与临床验证,它自己负责把「序列层面的正确」翻译成「流程层面的可评测」。链条上任何一环变化,它的版本就要跟着变,这也是版本多的根本原因。
8.3 商业化与镜像
围绕 HG002 已经形成一个小生态:超过五十种商业产品基于该细胞系开发,覆盖建库试剂、比对软件、变异调用服务、质量评估报告。云端的开放数据镜像则把取数成本压到接近零。
| 生态角色 | 提供什么 | 对使用者的意义 |
|---|---|---|
| 参考材料供应商 | 瓶装 DNA 与细胞 | 湿实验对照可用同一批材料 |
| 试剂与建库厂商 | 基于该细胞系验证的产品 | 选型时有第三方数据可查 |
| 软件与服务商 | 内置该基准的评测流程 | 开箱可用,但需核对版本 |
| 云端镜像 | 对象存储与目录浏览 | 取数快,成本低 |
| 社区邮件组 | 公告与分析方法讨论 | 版本变更的第一信息源 |
8.4 未来的两个方向
官方在主页写明两条延伸线。第一条是增加祖源多样性:现有七个样本只覆盖两种背景,要扩展到更多人群,前提是找到同意广泛再分发的供者,这一步比技术更难。第二条是肿瘤:胰腺癌细胞系与配对正常组织的公开数据已经发布,包含多种测序平台与单细胞数据,但官方措辞仍是草案级,体细胞真值的难度远高于生殖系,因为肿瘤内部异质性与克隆演化使「唯一正确答案」这个概念本身需要重新定义。
第三条隐线是转录组。官方提到正在探索 RNA 测序,现有数据包含部分细胞系的短读与长读转录组,但没有同级别的表达真值。这条线若走通,评估对象会从「变异对不对」扩展到「表达定量准不准」,方法学的迁移成本不小。
§9 使用指引
9.1 三种角色的路径
| 角色 | 核心诉求 | 建议起点 | 必须避开 |
|---|---|---|---|
| 临床实验室验证员 | 出一份能过评审的分析验证报告 | HG002 的 v4.2.1,按目标区域裁剪 | 用总体分代替分层分 |
| 生信工具开发者 | 证明新工具在同等条件下更优 | 七个样本轮流做留一验证 | 只在一个样本上调参 |
| 模型研究者 | 拿到可靠标签做训练或评测 | 六个样本训练、一个验证 | 同源样本跨集合泄漏 |
三类角色的共同误区是把基准当成排行榜。基准的作用是排除「明显不对」,不是评选「最好」。一个工具在基准上高两个百分点,若这两个百分点全部来自简单区,临床价值可能为零;反之,在片段重复区高两个百分点,价值可能很大。分层报告是唯一能区分这两种情况的做法。
另一个共同误区是拿旧版结论套新版数据。§4.2 的案例已经说明,同一段基因组在两代基准里的地位可以完全不同:上一代沉默、这一代表态。跨版本比较时,若不同时声明区间版本,分数差异无法归因于流程改进。
9.2 一条最短的可用流程
从零到拿到第一个可信指标,下面这条链路足够,不需要下载全量数据。
#-- 1 建目录,锁定版本
mkdir -p giab_eval && cd giab_eval
BASE="https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release"
S="AshkenazimTrio/HG002_NA24385_son/NISTv4.2.1/GRCh38"
#-- 2 取真值三件套
curl -O "$BASE/$S/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz"
curl -O "$BASE/$S/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz.tbi"
curl -O "$BASE/$S/HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed"
#-- 3 取官方整理的参考基因组,避免自制版本引入差异
curl -O "$BASE/references/GRCh38_full_analysis_set.fa"
#-- 4 用待测结果跑一次评测,显式指定男性样本
hap.py HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz my_calls.vcf.gz \
-f HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed \
-r GRCh38_full_analysis_set.fa \
-o out/hg002 --engine vcfeval
#-- 5 只报总体分不够,按难区分层再跑一次
ls out/hg002.*.summary.csv
第五步的汇总表里会按变异类型与长度分档列出结果。方法学里至少应报告三行:总体、单核苷酸变异、插入缺失;若研究涉及难区,再加一行片段重复。
9.3 引用方式
引用要分三层写,缺一层都会被视为不规范:数据本身引用数据总览论文,评测方法引用社区最佳实践论文,具体基准引用对应版本的说明文件与配套论文。三层之外,还要写清版本号、参考基因组版本、分层版本与访问日期。官方明确说明数据无发表禁运,但要求按各数据集说明文件里的建议引用。
§10 AI 使用声明
| 项目 | 说明 |
|---|---|
| 数据性质 | 人类生殖系变异真值,来源于公开知情同意的健康供者 |
| 是否含个人身份信息 | 否。样本以编号流通,无姓名、无出生日期、无联系方式 |
| 是否含临床表型 | 否。供者为健康个体,选样时避开了疾病表型 |
| 再识别风险 | 低但非零。全基因组序列本身具有个体可识别性,公开数据集已通过广泛同意覆盖这一风险 |
| 用于模型训练 | 允许。许可允许演绎与商业使用,但须标注来源与修改 |
| 用于临床决策 | 不可单独使用。真值用于验证流程,不构成任何诊断结论 |
| 生成式模型输出约束 | 不得据本数据生成个体层面的健康预测或身份推断 |
| 建议声明措辞 | 「使用 GIAB v4.2.1(访问日期)作为生殖系小变异检测流程的基准真值」 |
常见误读
| 常见说法 | 实际 | 证据 |
|---|---|---|
| GIAB 是一个变异数据库 | 它是评测基准,不含频率与临床解释 | 官方页面只描述基准与区间,无注释字段 |
| 七个样本代表全人类 | 只覆盖欧洲与东亚两种祖源 | 官方页面列明两组三联体的祖源 |
| BED 之外的假阳性是流程错误 | 区间外官方不表态,没有真值 | 官方说明文件明确区间含义 |
| 新版覆盖一定更广 | v5.0q 区间小于 v4.2.1 | 官方说明文件列出倒位等排除项 |
| 有 HG002 就够了 | 单样本无法评估跨祖源泛化 | 官方建议使用全部七个样本 |
| 真值 VCF 可以直接当训练标签而不裁剪 | 必须与 BED 配对,否则标签含不确定位点 | VCF 与 BED 成对发布的设计 |
| 结构变异可以用旧版 v0.6 | 该版本已弃用 | 官方页面标注为已弃用 |
| GIAB 能评估拷贝数变异流程 | v4.2.1 明确排除拷贝数变异区 | 官方论文摘要写明排除理由 |
| HG005 与另一个汉族三联体是同一批人 | 是两组不同的汉族三联体 | 官方常见问题第 11 条明确否认 |
| 引用时写 GIAB 即可 | 必须写版本、参考、分层三个版本号 | 各版本区间与位点均不同 |
FAQ
Q1:GIAB 一共有几个样本?
七个。HG001 是先导样本,来自更早的人群遗传学项目;另有阿什肯纳兹犹太裔与中国汉族两组父子母三联体,共六人。七个样本中只有四个有瓶装标准参考物质。
Q2:v4.2.1 和 v5.0q 有什么本质区别?
v4.2.1 由多平台读数比对后整合而成,覆盖七个样本、两个参考;v5.0q 由二倍体组装直接比对生成,只覆盖 HG002,覆盖三个参考,且官方标注为草案。前者是主力,后者是方向。
Q3:为什么 BED 之外的变异不能算假阳性?
因为那里没有真值。官方只对区间内的位点表态,区间外的位点既可能是错的,也可能是对的,把它计入分母会让指标失去意义。评测工具默认按区间裁剪,就是为了避免这一点。
Q4:能用 GIAB 评估肿瘤体细胞变异流程吗?
不能直接用。七个样本都是健康供者的生殖系,体细胞变异有等位基因频率低、克隆异质性、配对正常样本对照等额外维度,这些在生殖系真值里都不存在。肿瘤方向目前只有草案级公开数据。
Q5:数据可以商用吗?
可以。除先导样本外的六个样本经广泛知情同意,允许商业再分发与衍生;NIST 的作品在美国不受版权保护,境外授予非独占免费许可。使用时应标注来源与是否修改。
Q6:为什么真值 VCF 里有位点落在 BED 之外?
因为复杂变异可能跨越区间边界,若把跨界部分裁掉,同一个变异的两种正确表示会被比较引擎判成错误。官方选择保留完整变异,由工具在比较时按区间处理。
Q7:一个样本的真值文件有多大?
以 HG002 的 GRCh38 小变异为例,压缩后的位点文件约一百五十兆,区间文件约十一兆,索引约一点六兆。新版草案的结构变异与小变异各约四十兆上下,总体量在同一量级。
Q8:为什么评测必须指定性别?
比较引擎默认把性染色体按二倍体处理,男性样本的 X 与 Y 是单拷贝,若按二倍体计算,杂合判定会系统出错。官方在说明文件里明确要求对男性样本加性别参数。
Q9:分层区间和主区间是什么关系?
分层区间是主区间的子集切分,按基因组语境分类。使用时先与主区间取交集,再分别评测。分层文件独立发版,版本号与主基准不同步,两者都要在方法学里写明。
Q10:能不能只用真值 VCF 做训练标签?
可以,但必须与区间文件配对。区间外的位点没有真值保证,直接当负样本会把正确调用标成错误。稳妥做法是先按区间裁剪,再按变异类型与难度分层采样。
Q11:旧版本还需要保留吗?
需要。跨时间比较必须固定同一版本,否则分数变化无法归因。官方保留全部旧版并显式标注弃用,正是为了让历史结论可追溯。
Q12:这套资源会不会被完整组装参考取代?
短期内不会完全取代。组装法基准覆盖更好、表示更完整,但目前只覆盖一个样本,且为草案;多参考、多祖源、稳定版本的组合,仍是线性参考基准的优势所在。
术语表
| 术语 | 英文 | 含义 |
|---|---|---|
| 基准真值 | benchmark truth | 经多方法确认、可用于判定流程对错的位点集合 |
| 可评测区间 | benchmark region | 真值判定成立的基因组区段,以 BED 表示 |
| 高置信 | high confidence | 2018 年前的旧称,后统一改为基准 |
| 三联体 | trio | 父、母、子三人,用于验证孟德尔遗传一致性 |
| 先导样本 | pilot genome | 项目早期使用的单个样本,即 HG001 |
| 标准参考物质 | standard reference material | 经计量体系认证、可溯源的实物材料 |
| 整合流程 | integration pipeline | 多平台独立调用后按证据合并的方法 |
| 组装法基准 | assembly-based benchmark | 由二倍体组装直接比对生成的基准 |
| 二倍体组装 | diploid assembly | 分别重建两条同源染色体序列的组装 |
| 单倍型 | haplotype | 一条同源染色体上的连锁等位基因组合 |
| 分型 | phasing | 判定两个等位基因分别位于哪条同源染色体 |
| 结构变异 | structural variant | 通常指长度五十碱基以上的变异 |
| 拷贝数变异 | copy number variant | 片段重复或缺失导致的拷贝数改变 |
| 串联重复 | tandem repeat | 短序列首尾相连重复形成的区段 |
| 片段重复 | segmental duplication | 基因组内高度相似的长片段重复 |
| 同聚物 | homopolymer | 同一碱基连续出现形成的串 |
| 嵌合变异 | mosaic variant | 仅部分细胞携带的变异 |
| 比对 | alignment | 把读段定位到参考基因组的过程 |
| 读段 | read | 测序仪产出的一段连续序列 |
| 长读 | long read | 长度达数千至数万碱基的单分子测序读段 |
| 连锁读 | linked read | 带分子条形码的短读,可推断远距离连线性 |
| 召回率 | recall | 真值位点中被流程检出的比例 |
| 精确率 | precision | 流程报告的位点中判定为正确的比例 |
| 分层 | stratification | 按基因组语境把区间切成子集分别评测 |
| 参考偏倚 | reference bias | 与参考差异大的等位基因被系统性低估 |
| 弃用 | deprecated | 官方标记为不再推荐使用的旧版本 |
附录 A:核心数字核对表
| 项 | 值 | 来源 | 来源层级 |
|---|---|---|---|
| 样本数 | 7 | 官方主页与发布目录 | 官方页面 |
| 三联体数 | 2 | 官方主页 | 官方页面 |
| 参考物质支数 | 4 | 官方主页关联产品栏 | 官方页面 |
| v4.2.1 常染色体覆盖 | 92% | 方法学论文摘要 | 论文摘要 |
| v3.3.2 常染色体覆盖 | 85% | 同一摘要 | 论文摘要 |
| 新增单核苷酸变异 | 三十余万 | 同一摘要 | 论文摘要 |
| 新增插入缺失 | 五万余 | 同一摘要 | 论文摘要 |
| 外显子变异增幅 | 16% | 同一摘要 | 论文摘要 |
| v5.0q 小变异区间碱基数 | 2,739,407,815 | 官方 BED 区间求和 | 官方文件推导 |
| v5.0q 区间段数 | 28,797 | 同上 | 官方文件推导 |
| v5.0q 覆盖比例 | 约 88.7% | 以上两项除以 GRCh38 全长 | 官方文件推导 |
| HG002 小变异位点文件体积 | 约 149 MB | 发布目录清单 | 官方页面 |
| HG002 区间文件体积 | 约 11 MB | 发布目录清单 | 官方页面 |
| v5.0q 小变异位点文件体积 | 约 40 MB | 发布目录清单 | 官方页面 |
| v5.0q 结构变异位点文件体积 | 约 46 MB | 发布目录清单 | 官方页面 |
| 覆盖的参考基因组版本数 | 3 | v5.0q 目录清单 | 官方页面 |
| 分层体系版本 | 3.6 | 主页与发布目录 | 官方页面 |
附录 B:数字的来源分层
第一层:官方页面。 样本数、家系角色、祖源、参考物质编号、版本清单、文件体积、托管地址、许可条款,均来自官方主页、常见问题页与发布目录清单。这一层可以直接引用,无需换算。
第二层:论文摘要。 覆盖比例、新增变异数、外显子增幅,来自方法学论文摘要。注意摘要给的是七个样本合计口径,且百分比分母是常染色体,转引时必须保留这两个限定。
第三层:官方文件推导。 v5.0q 的区间碱基数、区间段数与覆盖比例,由官方发布的 BED 区间求和得到,分母取 GRCh38 全长。这一层不是官方直接给出的数字,属于对官方文件的算术加工;报告时应写明推导方式,不应表述为「官方称」。
未核实项。 甲基化真值的官方状态、各样本真值位点的精确总数、社区报错通道的累计处理量,均未见官方页面给出明确数字,本篇不作估计。若后续需要,应以官方说明文件为准。
附录 C:完整参考文献
| 编号 | 文献或页面 | 用途 |
|---|---|---|
| 1 | NIST 官方项目主页 | 样本、版本、托管、许可 |
| 2 | NIST 官方常见问题页 | 材料差异、样本选择、术语变更、汉族三联体辨析 |
| 3 | GIAB 发布目录与各数据集说明文件 | 文件清单、方法、限制、引用方式 |
| 4 | 2016 年数据总览论文 | 数据组织方式的历史依据 |
| 5 | 2019 年社区最佳实践论文 | 评测流程与工具标准 |
| 6 | 2022 年难区扩展论文 | 覆盖比例与增量的量化依据 |
| 7 | 2024 年分层体系论文 | 分层方法与第三代更新 |
| 8 | 2025 年组装法预印本 | v5.0q 的方法与组装质量 |
| 9 | 2025 年肿瘤细胞系数据论文 | 体细胞方向的现状 |
| 10 | 官方 GitHub 组织 | 数据索引、分层代码、工具链 |
附录 D:任务代码
按任务类型给出最短命令,均为可直接执行的形态。
#-- 任务一 只想看清单,不下载
curl -s "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/" | grep -o 'href="[^"]*/"'
#-- 任务二 取先导样本的旧版基准做历史对照
curl -O "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/NA12878_HG001/latest/GRCh38/HG001_GRCh38_GIAB_highconf_CG-IllFB-IllGATKHC-Ion-10X-SOLID_CHROM1-X_v.3.3.2_highconf_PGandRTGphasetransfer.vcf.gz"
#-- 任务三 取分层体系,先看有哪些子集
curl -s "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/genome-stratifications/v3.6/GRCh38/" | grep -o 'href="[^"]*bed[^"]*"'
#-- 任务四 取 v5.0q 草案的三套参考区间
for R in GRCh37 GRCh38 CHM13v2.0; do
curl -O "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/AshkenazimTrio/HG002_NA24385_son/v5.0q/HG002_${R}_v5.0q_smvar.benchmark.bed"
done
#-- 任务五 统计任意一版区间的碱基数与段数,换算覆盖比例
def bed_stats(path, genome_size):
total = 0
segments = 0
with open(path) as fh:
for line in fh:
cols = line.rstrip("\n").split("\t")
if len(cols) < 3 or cols[0].startswith(("#", "track")):
continue
total += int(cols[2]) - int(cols[1])
segments += 1
return segments, total, 100.0 * total / genome_size
print(bed_stats("HG002_GRCh38_v5.0q_smvar.benchmark.bed", 3088286401))
附录 E:如果只记五件事
第一,七个样本、两组三联体、一个先导样本,祖源只有欧洲与东亚。
第二,真值是 VCF 加 BED 的一对,缺 BED 就没有评测范围,指标全部作废。
第三,v4.2.1 是当前主力,覆盖七样本两参考;v5.0q 是组装法草案,只覆盖 HG002,区间更小但表示更完整。
第四,能评估的是生殖系小变异与结构变异;拷贝数、甲基化、体细胞都不在范围内。
第五,引用必须带版本号,主基准、分层、参考基因组三者各自的版本都要写。
编辑说明
本篇的核对时间为 2026 年 10 月 28 日。核对方式为直接访问 NIST 项目主页与常见问题页、NCBI 发布目录的层级清单、以及 HG002 v5.0q 的官方说明文件;覆盖比例与新增变异数取自方法学论文摘要。v5.0q 的区间碱基数与段数由官方 BED 文件求和得出,分母取 GRCh38 全长,属推导值,已在附录 A 与附录 B 中标明层级。未覆盖内容包括:各样本真值位点的精确总数、社区报错通道的累计处理量、甲基化真值的官方状态。若官方后续更新版本,以发布目录的说明文件为准。
相关数据集导航
以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:
- dbsnp — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- ensembl — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- biosamples — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- dgva — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- refseq — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- ddbj — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- glof-missense — 共享标签:基因组学与多组学 / 变异与注释 / 评测基准
- cami2 — 共享标签:基因组学与多组学 / 测序数据 / 评测基准
- clingen — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
- cspec — 共享标签:基因组学与多组学 / 变异与注释 / 评测基准
导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

