七个基因组的标准答案 — GIAB 真值基准

七个样本 / 两族三联体 / 组装法新基准

来源 https://www.nist.gov/programs-projects/genome-bottle发布时间: 2026-10-29最后更新: 2026-10-29 阅读 11
七个基因组的标准答案 — GIAB 真值基准

信息速览

数据集名称七个基因组的标准答案 — GIAB 真值基准
数据类型原始数据链接,元数据,多组学
规模7 名供者(HG001–HG007,两组三联体加一个先导样本)
接入方式https://www.nist.gov/programs-projects/genome-bottle
AI 就绪度

GIAB 是 NIST 自 2011 年起主持的公私学术联合体产物,做的事只有一件:为若干个具体的人的全基因组写出一份能被第三方复核的「标准答案」——哪些位点确实变了、变成了什么、哪些区段暂时没有答案。它不生产关于测序原理的新知识,生产的是判定测序对错的尺子。

尺子的刻度是七个样本:一个来自 HapMap 的先导样本 NA12878,加两组亲子三联体(阿什肯纳兹犹太裔、中国汉族),共七人、六条亲子关系。截至 2026 年,主力版本 v4.2.1 覆盖七个样本的 GRCh37 与 GRCh38;HG002 另有基于端粒到端粒组装的 v5.0q 草案,把真值从「比对得上才敢说」推进到「组装出来就能说」。

这份资源的价值不在数据量,而在边界写得清楚:哪一部分基因组它不表态、哪些变异类型它不管、哪一版已经作废。使用它之前先读 BED 而不是先读 VCF,是这类资源唯一正确的打开方式。一屏速览见下表。

维度 内容
全称 Genome in a Bottle Consortium,简称 GIAB
主持机构 美国国家标准与技术研究院(NIST),材料科学工程实验室
起始年份 2011 年启动会议,2012 年正式成组
样本数 7 人(HG001–HG007)
家系结构 两组父子母三联体(HG002/003/004;HG005/006/007)加一个先导样本 HG001
祖源 先导样本为 HapMap 的 CEU 家系成员;两组三联体分别为阿什肯纳兹犹太裔、中国汉族
参考基因组 GRCh37、GRCh38,以及 T2T-CHM13v2.0(仅 v5.0q)
主力版本 v4.2.1(2020 年发布,2021 年补齐七样本与 GRCh37)
HG002 新版 v5.0q(2025 年生成、2026 年更新),小变异与结构变异各一套
真值文件形式 VCF(位点)与 BED(可评测区间)成对发布
覆盖比例 v4.2.1 约覆盖常染色体 92%,上一代 v3.3.2 为 85%
变异类型 小变异、结构变异、串联重复、性染色体、嵌合变异;拷贝数与甲基化无同级别真值
托管位置 NCBI FTP 的 ReferenceSamples/giab,AWS 开放数据桶 s3://giab,BioProject PRJNA200694
参考材料 NIST 标准参考物质 8391、8392、8393、8398,对应 HG002、HG003、HG004、HG005
许可 NIST 数据使用政策,美国境内无版权,无发表禁运期
一句话定位 变异检测流程的计量基准,不是变异数据库

§1 它要解决的具体麻烦

1.1 测序仪说读到了,GIAB 说这一步读错了

任何一条全基因组测序流程,最后都会输出一份 VCF:几百万个位点,每个位点标注「这里与参考基因组不同」。问题在于,这份 VCF 的对错无法自证。参考基因组只是一个模板,不是标准答案;同一批读数换一个比对工具、换一个变异调用器,结果就会不同,而差异往往集中在最要命的地方——临床基因的外显子、片段重复区、串联合成重复。

没有外部标准答案时,验证只能靠三种替代品:一是拿已知阳性样本做对照,但阳性样本通常只有几个位点;二是拿两个流程互相比对,但两者错在同一处时比对结果毫无意义;三是人工看 IGV 截图,成本高且不可批量。GIAB 提供的正是第四种:一份对某个人全基因组逐位点判定过的答案,加上一份说明「这些判定在哪些区段成立」的区间文件。

这个组合的关键在于区间文件。真值只在被划定的区间内有效,区间之外官方不表态。这就把「我的流程准确率 99.9%」这种笼统说法,变成「在可评测的这部分里、针对这类变异、我的召回是多少」,可比较、可复现、可追责。

1.2 三条常见的错误期待

第一条期待是把它当变异数据库用。有人打开 HG002 的真值 VCF,检索某个基因的致病变异,发现没有,就判断该变异不存在。实际上这份 VCF 记录的是「这个健康人的生殖系变异」,它不是人群数据库,没有频率信息,也没有临床注释,一个位点不在这里出现,只说明它不在这个人的基因组里。

第二条期待是把它当质量评分器。把自家流程的 VCF 丢进去跑一遍,得到一个 F1 分数,就认为流程水平被量化了。分数本身依赖于区间、分层、比较引擎、规范化参数四件事,四个变量里换任何一个,分数都会变化。同一份结果用不同比较引擎可以差出几个百分点,在难区分层里差得更多。

第三条期待是认为新版一定更好。v5.0q 的区间比 v4.2.1 小,覆盖比例从九成出头降到不足九成,因为组装法把倒位内部等难以判定的区段整段剔除了。新版换来的是变异表示更完整、复杂结构变异不再被人为拆开,代价是可比面积缩小。选哪一版取决于你要回答的问题,不取决于版本号大小。

1.3 它能给到的与给不到的

你的需求 它给的 够不够
验证生殖系小变异流程的召回与精确率 七个样本的 VCF 加 BED,含分层区间 够,这是它的主业
验证结构变异流程 HG002 的 v5.0q 结构变异集,以及已弃用的 v0.6 基本够,但只有一个样本
验证拷贝数变异流程 无。v4.2.1 明确把拷贝数变异区排除在真值外 不够,需另找体细胞或 CNV 专项参考
验证甲基化调用 无官方真值 VCF,只有原始读数和探索性工作 不够
训练变异调用模型 七个人的原始读数、比对文件、真值标签 够用,但样本量决定了只能做验证集
估计某变异在人群中的频率 无频率信息 完全不够,应改用人群聚合数据库
判断某个变异是否致病 无临床注释 完全不够,应改用临床变异数据库
评估肿瘤体细胞流程 仅有 HG008-T 胰腺癌细胞系的草案级公开数据 不够,且官方标注为草案

1.4 你的处境与它能帮到的事

你的处境 它能帮你什么 下一步该做什么
刚接手一套临床全外显子流程,要出验证报告 提供可引用的真值区间与位点,支撑分析验证章节 用 v4.2.1 的 HG002 起步,按目标区域裁剪后计算召回与精确率
自研变异调用器,需要证明比现有工具好 提供跨平台、跨版本的一致基准,结果可被同行复现 固定参考、区间、比较引擎与规范化参数,四个变量一起写进方法学
训练深度学习变异过滤器,缺可靠标签 七个人的真值标签可直接做弱监督或验证集 用六个样本训练、留一个样本验证,避免同源泄漏
做长读组装流程,短读基准不够用 v5.0q 提供组装法真值与二倍体分型输出 注意它是草案,且只覆盖 HG002
需要向监管方说明检测限 分层 BED 可把难易区分开报告 报告里同时给出总体与分层两套指标
只想要一份能跑通的示例数据 单个样本的 VCF 加 BED 体积在百兆量级 从 HG002 的 GRCh38 目录开始,不必下载全量

1.5 一句话判断

如果你的问题里包含「我这个流程准不准」,GIAB 是目前唯一能给出可复核答案的公开资源;如果你的问题里包含「这个变异是什么意思」,它一个字都答不了。

1.6 不适合谁:四条边界

第一条边界是人群遗传学。七个样本、两种祖源,任何以它为分母的频率推断都会失真。它不是千人基因组计划,也不是人群参考面板,用它讨论「东亚人某等位基因频率」在方法上不成立。

第二条边界是临床解释。真值 VCF 里没有致病性判定、没有 ACMG 分级、没有表型关联。样本本身是健康供者,选样时刻意避开了疾病表型,所以也不能用来研究「某变异导致什么病」。

第三条边界是体细胞与肿瘤。七个样本都是生殖系,一条肿瘤流程的灵敏度、特异性、变异等位基因频率下限,都不能用这套基准评估。肿瘤方向只有 HG008-T 胰腺癌细胞系的公开草案数据,官方措辞是草案。

第四条边界是新型变异类型。甲基化、染色质构象、单细胞层面的变异,GIAB 没有同级别的真值。若研究问题落在这些类型上,需要另找专项参考,把它当通用真值会得出没有依据的结论。

§2 数据构成与规格

2.1 七个瓶子与两个三联体

「瓶子」是这套资源的物理载体:NIST 与 Coriell 合作扩增细胞、提取 DNA、混匀后分装成数千支安瓿,按标准参考物质体系发放。每支瓶子里是同一个人的 DNA,瓶外编号对应一份数字真值。七个样本的编号体系有两套并行:GIAB 内部用 HG00x,细胞库沿用 Coriell 的 NA 编号。

样本 Coriell 编号 家系角色 祖源 是否有 NIST 参考物质
HG001 NA12878 先导样本,无父母数据 HapMap 的 CEU 家系,北欧与西欧裔美国居民 无,仅 Coriell 供细胞
HG002 NA24385 儿子(先证者) 阿什肯纳兹犹太裔 有,标准参考物质 8391
HG003 NA24149 父亲 阿什肯纳兹犹太裔 有,标准参考物质 8392
HG004 NA24143 母亲 阿什肯纳兹犹太裔 有,标准参考物质 8393
HG005 NA24631 儿子(先证者) 中国汉族 有,标准参考物质 8398
HG006 NA24694 父亲 中国汉族 无,仅 Coriell 供细胞
HG007 NA24695 母亲 中国汉族 无,仅 Coriell 供细胞

这张表里有两个容易被忽略的结构事实。第一,参考物质只有四支,覆盖 HG002 到 HG005,先导样本和汉族三联体的父母都没有对应的 NIST 瓶装材料,只能从细胞库取细胞自行提取。第二,HG001 与其余六个样本的知情同意范围不同:六个 PGP 样本经广泛同意,允许商业再分发与诱导多能干细胞衍生;HG001 来自更早的 HapMap 体系,没有这层授权。这一差异直接决定了近十年新基准为什么都先在 HG002 上做。

2.2 字段与记录的完整字典

真值以两类文件成对发布,外加若干辅助文件。把它们放在一起看,才构成一条完整记录。

文件或字段 类型 含义 使用时必须注意
VCF 的 CHROM 字符串 染色体名,与参考基因组的命名一致 GRCh37 用 1、2,GRCh38 用 chr1、chr2,混用会导致全部位点错配
VCF 的 POS 整数 变异起始位置,从 1 开始计数 BED 从 0 开始计数,两者差一位,交叉时须换算
VCF 的 REF 字符串 参考基因组上的碱基 必须与所用参考完全一致,参考版本换错则整份失效
VCF 的 ALT 字符串 观测到的替代碱基或序列 多等位位点需先拆分再比较,否则比较引擎判定不一致
VCF 的 QUAL 浮点 该位点的调用质量 真值文件里保留但不应作为筛选依据,真值本身不带置信度梯度
VCF 的 FILTER 字符串 过滤标记 真值集的 PASS 表示「已判定为真」,不表示「高覆盖」
VCF 的 INFO 键值集合 支持证据与注释 常见键包括等位基因计数、深度、比对质量与支持调用集标识,键集合随版本有增删
VCF 的 FORMAT/GT 基因型 0/1、1/1 等二倍体基因型 性染色体与男性样本需显式指定性别,否则比较引擎按二倍体处理
BED 三列 制表符分隔 染色体、起始、终止 只有三列,没有第四列标签,区间含义完全由文件名承载
分层 BED BED 加标签 按基因组语境切分的子区间 与主 BED 取交集后使用,不能单独作为评测范围
校验文件 文本 逐文件 MD5 下载后必须先校验,FTP 大文件截断不易察觉
说明文件 Markdown 版本、方法、限制、引用方式 官方把使用限制写在这里,比主页更细

2.3 一条记录的完整解剖

下面这条记录是结构示意,不是真实位点,用来说明各字段如何咬合。

#-- VCF 一条记录(制表符分隔,此处按列展开便于阅读)
CHROM  POS      ID  REF  ALT  QUAL  FILTER  INFO                                    FORMAT  SAMPLE
chr1   100001   .   T    C    50    PASS    AC=1;AF=0.5;AN=2;DP=31;MQ=60;SOR=0.8  GT      0/1

拆开看:染色体与位置定位到一个碱基;参考碱基是 T,观测到 C,说明这是一个杂合单核苷酸替换;基因型 0/1 表示两条同源染色体上一条与参考一致、一条不同;INFO 里的等位基因计数与深度是支持证据的残留,说明这个判定建立在多少条读数之上。真正让这条记录可用的是配套 BED 里的那一行:

#-- 配套 BED(0 基起点,半开区间)
chr1   99900   100600

这一行说的是:从 99900 到 100600 这段区间内,官方对该样本的变异判定成立,可以拿来评测。VCF 里的位点落在区间内才参与统计;落在区间外的位点,官方在说明文件里给出了保留原因——复杂变异可能跨越区间边界,若把跨界部分裁掉,比较引擎会把同一个变异的两种正确表示判成错误。所以 VCF 会比 BED 多出一些位点,这是设计,不是缺陷。

同一条记录在不同版本里的形态也不同。v4.2.1 的结构变异被拆成规范化的小变异表示;v5.0q 的结构变异单独出一个 VCF,并把多等位与已注释的结构变异进一步分解。同一段缺失,在两个版本里可能对应不同数量的记录行,这是跨版本比较必须先对齐的原因。

2.4 版本谱系与覆盖

版本号不是线性的功能累加,而是「换一次方法、重做一遍」的产物。把主要版本排在一起,能看清方法论的三次转折。

版本 年份 覆盖样本 参考 主要内容 当前状态
v2.19 2014 HG001 GRCh37 先导样本的小变异真值 已弃用
v3.3.2 2017 七个 GRCh37、GRCh38 常规难度的常染色体小变异 已弃用,被 v4.2.1 取代
v4.1 2020 HG002 GRCh38 加入长读证据的过渡版本 已弃用
v4.2.1 2020 生成、2021 补齐 七个 GRCh37、GRCh38 难比对区、片段重复、临床基因 主力版本
v0.6 结构变异 2020 HG002 GRCh38 结构变异,只覆盖部分区段 已弃用
CMRG v1.00 2021 HG002 GRCh38 医学相关难分型基因专项 已弃用
串联重复 v1.0 2023 HG002 GRCh38 短串联重复区的小变异与结构变异 已弃用
性染色体 v1.0 2023 HG002 GRCh38 X、Y 染色体小变异 已弃用
嵌合 v1.00 与 v1.10 2024 HG002 GRCh38 嵌合单核苷酸变异 有效
v5.0q 2025 生成、2026 更新 HG002 GRCh37、GRCh38、CHM13v2.0 组装法小变异与结构变异 草案,官方要求谨慎解读

覆盖比例是另一条线索。官方论文摘要给出两个口径:v4.2.1 覆盖常染色体的 92%,上一代 v3.3.2 覆盖 85%;两者相差七个百分点,对应新增三十余万个单核苷酸变异与五万余个插入缺失,外显子区变异增加一成六,其中包括此前被排除的临床基因。这里的百分比分母是常染色体,不含性染色体,与「占全基因组多少」不是同一个分母,引用时必须连同分母一起写。

v5.0q 的区间反而更小。对官方发布的 GRCh38 小变异区间文件求和,得到 2,739,407,815 个碱基、两万八千余段区间,约当 GRCh38 全长的 88.7%。下降的原因写在说明文件里:倒位内部、组装断裂两侧的大段重复、以及受结构变异影响的区段被整段剔除。而换来的是每个区段内部判定的确定性更高,复杂变异的表示更完整。

指标 v3.3.2 v4.2.1 v5.0q
覆盖样本数 7 7 1
覆盖参考 2 2 3
常染色体覆盖比例 85% 92% 未以同一分母给出
区间形态 多段小区间 多段小区间 少数大区间
结构变异 不含 不含 含,独立文件
方法学 多平台整合 多平台整合加长读 二倍体组装直接比对
官方状态 弃用 主力 草案

2.5 与同类资源的字段差异

真值资源不止 GIAB 一家,但结构差异明显。把字段层面摊开看,最容易判断哪种资源适配哪种任务。

资源 记录单位 是否给区间文件 是否给原始读数 是否给物理材料 适用判断
GIAB 位点加区间 给,且是核心 给,索引在 GitHub 给,四支标准参考物质 流程验证的首选
人群频率聚合库 位点 不给 不给 不给 频率查询,不能验证流程
临床变异注释库 位点加解释 不给 不给 不给 解释变异,不能验证流程
挑战赛数据集 位点加评分脚本 通常给 视赛事而定 不给 一次性排名,长期复现性弱
单中心自建真值 位点 常缺 常缺 不给 不可跨机构比较

差别最实质的一列是「是否给区间文件」。没有区间,使用者只能假定全基因组都可评测,于是把参考基因组的空白、重复区、组装错误都算进分母,指标看起来更差,且不同人算出的结果互不可比。GIAB 把「哪里可以评测」做成独立文件,是把不确定性显式化的做法,也是它被写进各类最佳实践的根本原因。

§3 身份层:一只瓶子里装的到底是什么

3.1 瓶子里是 DNA,文件只是它的说明书

先厘清一个常见的语义混淆。GIAB 这个名字里的「瓶子」指实体标准参考物质:一支安瓿,里面是某个人的基因组 DNA 冻干粉或溶液,浓度已知、批次可追。数字文件是这批材料的表征结果,不是材料本身。两者绑定发放,但用途不同:材料用于跑湿实验、做平台间对照、校准仪器;文件用于跑干实验、算指标。

这个区分在实践中有直接影响。如果你要做的是「同一文库在两个测序平台上的一致性」,你需要的是材料,文件帮不上;如果你要做的是「我的比对加调用流程在这段基因组上错了几个位点」,你需要文件,材料不必买。价格的差别也在这里:NIST 的定价包含质量体系与表征成本,比细胞库的同源细胞贵,而细胞只能从细胞库取。

3.2 四个编号与三个只有细胞的样本

标准参考物质的编号是四位数字,与 HG 编号的映射并不直观,容易在引用时写错。

参考物质编号 对应样本 家系角色 典型用途
8391 HG002 阿什肯纳兹犹太裔儿子 新基准首发样本,商业产品最多
8392 HG003 阿什肯纳兹犹太裔父亲 三联体孟德尔一致性检查
8393 HG004 阿什肯纳兹犹太裔母亲 三联体孟德尔一致性检查
8398 HG005 中国汉族儿子 跨祖源泛化检查

HG001、HG006、HG007 没有对应的参考物质编号,只能经细胞库获取细胞。这个不对称有一个现实后果:需要做「三人联合定相」的研究,用 HG003 与 HG004 的材料可以配齐,用 HG006 与 HG007 就只能自己从细胞养起。也正因为材料易得,HG002 成了事实上的公共试验台,围绕它的商业产品、流程配置、社区讨论都远多于其余六个。

3.3 标准答案的三个组成部分

一份能用的真值不是一个文件,而是三层叠加。缺任何一层,评测都会走偏。

层 文件 回答的问题 缺失后的后果
位点层 VCF 这个人的基因组与参考差在哪些位置 无法计算召回
区间层 BED 这些判定在哪些区段成立 分母被污染,指标不可比
语境层 分层 BED 这些区段分别属于什么难度类型 只能报总体分,无法定位薄弱环节

分层这一层最容易被跳过。官方的分层体系把基因组切成同聚物、串联重复、片段重复、低比对质量区、基因外显子等若干语境,用途是把一个笼统的总体召回拆成若干可解释的分项。一个流程总体召回九成九、在片段重复区只有七成,这个信息比总体分有用得多,因为后者告诉你「该修哪里」。分层文件独立发版,与主基准的版本号不同步,引用时两个版本号都要写。

3.4 覆盖的变异类型

官方发布以生殖系变异为主,不同变异类型的成熟度差别很大,混为一谈会误判。

变异类型 是否官方真值 承载文件 覆盖样本 成熟度
单核苷酸变异 是 小变异 VCF 七个 成熟,v4.2.1 为主力
小插入缺失 是 小变异 VCF 七个 成熟
结构变异 是 结构变异 VCF HG002 v5.0q 草案,旧版已弃用
短串联重复扩增 曾发布 串联重复 VCF HG002 已弃用,官方建议改用新版
性染色体变异 曾发布 性染色体 VCF HG002 已弃用,并入 v5.0q
嵌合变异 是 嵌合 VCF HG002 2024 年新增,覆盖度有限
拷贝数变异 否 无 无 v4.2.1 明确排除该类区域
甲基化 否 无真值 无 仅有原始数据与探索性工作
单倍型定相 部分 组装比对输出 HG002 v5.0q 附带两套单倍型比对文件

这张表要读出的结论是:能用它评估的变异类型,比多数人预期的窄。凡是涉及拷贝数、甲基化、染色质构象的任务,都要在方法学里明确写「本项未使用 GIAB 真值」,而不是含糊地说「参照 GIAB」。

§4 质量层:一份真值是怎么被造出来的

4.1 多平台整合的基本逻辑

v4.2.1 及更早版本的真值,走的都是整合路线:同一批 DNA 送到多个平台测序,各平台独立调用变异,再按证据强度合并。合并规则的核心是「至少两类独立技术一致」,而不是「票数多者胜」。原因很直接:同一化学原理的两次运行不是独立证据,两套短读流程同时错在片段重复区的概率很高,把它们算成两票会系统性放大错误。

整合路线的固有短板是「只能覆盖比对得上的地方」。读段比对不到参考,就没有位点可调,那段基因组就无从判定。这个短板在 2020 年前后变得刺眼:长读平台已经能读出着丝粒与大片段的完整序列,而真值却在那些地方留白。这正是 v5.0q 转向组装法的动因。

4.2 案例:PMS2 上的一个假阴性

PMS2 是错配修复基因,临床 panel 必检。它的问题在于紧邻一个高度相似的假基因,短读段无法唯一归位,传统流程在这个基因的部分外显子上要么漏检、要么把假基因的序列误判成真基因的变异。在 v3.3.2 里,这段区域整体落在真值区间之外,因此任何流程在这里出错都不会被记为错误——真值不表态,评测就沉默。

v4.2.1 改变的不只是位点数量,而是把这类区域纳入了判定范围。做法是用 linked-read 与长读提供的分子级连线性,把原本无法归位的读段锚定到正确位置,再要求至少两类技术在该位点给出一致结论;仍无法判定的极小片段才排除。结果是:这段区域第一次有了真值,短读流程在此处的假阴性也从「看不见」变成「看得见」。

这个案例的方法学含义超出 PMS2 本身。它说明真值版本的升级,主要价值不是「多了几十万个位点」,而是「把原先沉默的区域变成会说话的」。一个流程在新版基准上分数下降,很可能不是因为流程变差,而是因为旧版没有考察它最薄弱的地方。判断这一点的方法,是看分数下降是否集中在新增的分层区间——若是,则属于暴露而非退化。

同一个机制在别处也成立:片段重复区、假基因区、临床基因的旁系同源区,都属于「旧版沉默、新版开口」的类型。把 v3.3.2 与 v4.2.1 的分数放在一起比较时,必须同时报告两者区间不同,否则比较没有意义。

4.3 版本升级的量化增量

增量项 数值 口径
常染色体覆盖 85% 升至 92% 官方论文摘要
新增单核苷酸变异 三十余万个 官方论文摘要,跨七样本合计
新增插入缺失 五万余个 同上
外显子区变异增幅 一成六 同上
新增难区类型 难比对区、片段重复、部分临床基因 同上,摘要点名 PMS2

需要提醒的是,这些数字是七个样本的合计,不是单样本增量。把它当成「HG002 多了三十万位点」会高估一个数量级。官方在摘要里写的是跨样本总量,转引时保留「七样本合计」这个限定词。

三成增幅里有一部分来自「把沉默区变成开口区」,而不是「在同一些区段里找到更多位点」。§4.2 的案例就是这类增量的典型形态:位点数量增加只是一个侧面,真正的变化是那段区域第一次进入评测范围。因此看增量数字时,应同时看区间文件的变化,两相对照才能判断新增位点是「补查」还是「换算法重判」。

4.4 v5.0q 的转向:从比对到组装

v5.0q 的方法链条与前几代不同,理解它才能理解为什么区间变小。

环节 做法 后果
输入 HG002 的二倍体组装,版本为 T2T 项目的 v1.1 不再依赖读段比对,直接有两条单倍型序列
比对 用 minimap2 把两套单倍型比对到参考,并调大结构变异附近的对齐带宽 结构变异附近不再断裂
调用 用 dipcall 从比对结果直接生成变异与二倍体覆盖区 变异与区间同源,天然配套
精修 用自建的流水线做排除:组装断裂、大段卫星与串联重复、倒位内部、已知调用缺陷 区间缩小,区间内确定性提高
产出 小变异与结构变异各一套 VCF 加 BED,覆盖三个参考 跨参考可比
状态 草案,官方要求对结果谨慎解读 不宜作为合规唯一依据

这套流程的关键副作用是「倒位内部被整段剔除」。倒位区域在参考坐标系里方向相反,组装比对上去会出现大片不一致,工具无法区分「组装错」与「参考方向不同」,于是只能排除。前几代用读段整合时,倒位内部的短片段仍可能被逐个位点判定,因此 v5.0q 在这一点上确实比 v4.2.1 少。官方在说明文件里明确写了这一取舍,属于已知设计,不是缺陷。

4.5 分层体系为什么重要

分层文件把「一个分数」拆成「一组分数」,作用有三。

第一,定位。总体召回九成九、在低比对质量区七成,说明问题在比对而非调用。没有分层,只能看到总体分,无从下手。

第二,可比。不同流程在同一分层上的差异,比总体差异更稳定,因为总体分受区间构成影响大,分层分受区间构成影响小。

第三,可解释。向评审或监管说明「本流程在简单区达到多少、在难区达到多少」,比报一个总体数字更接近分析验证报告的要求。

官方分层体系已经迭代到第三代,新增了对端粒到端粒组装参考的支持,这意味着同一套分层可以同时服务线性参考与完整组装参考的评测。分层文件与主基准分开版本管理,两个版本号都要在方法学里写清。

4.6 已知的错误与已撤回的基准

一个可信的基准,其可信度很大程度体现在「撤回了什么」上。官方的发布目录里保留着大量标注为弃用的版本,这不是管理混乱,而是可追溯。

已弃用的产物 撤回原因 现在该用什么
MHC 区专项基准 被更大范围的组装法基准覆盖 v5.0q
医学相关难分型基因专项 同上,且基因集合已并入常规区间 v4.2.1 与 v5.0q
串联重复基准 v1.0 方法学被组装法取代 v5.0q
性染色体基准 v1.0 已并入全基因组基准 v5.0q
结构变异 v0.6 只覆盖部分区段,且无法评估特异性 v5.0q 结构变异
v3.3.2 及更早 区间偏窄,漏掉难区 v4.2.1

撤回这件事本身值得单独说。多数数据集只发布增量,旧版留在原地不作标记,使用者拿到的可能是三年前已被推翻的结论。GIAB 的做法是在主页显式列出「已弃用」,并在发布目录里保留原文件与说明。对使用者而言,这意味着任何一份引用 GIAB 的方法学,都必须写清版本号与发布年份,否则无法判断结论是否建立在已撤回的基础上。

4.7 外部证据

真值的可信度不能只靠自证。外部证据主要有四类:独立挑战赛的排名结果、第三方流程在公开评测中的表现、社区报错通道积累的修正记录、以及与独立组装的交叉比对。

证据类型 具体形式 能证明什么 不能证明什么
公开挑战赛 社区用同一套真值排名,结果公开 同一区间上不同流程可区分 真值本身无错
第三方评测 工具厂商与实验室的独立复现 结果可被外部重现 覆盖全部变异类型
社区报错 官方表单收集位点级错误 错误可被定位与修正 错误率有界
组装交叉比对 与 T2T 独立组装逐段比对 区间内判定与独立证据一致 区间外的情况

这四类证据合起来支持一个有限结论:在已发布的区间内,真值的错误率低到可以用作评测基准;在区间外,官方不表态,任何推断都缺乏依据。把这句话写进方法学,比笼统地说「使用 GIAB 真值」要诚实得多。

§5 取数层:怎么把真值拿到手

5.1 三条入口

入口 地址形态 适合谁 特点
NCBI FTP 目录树,按样本与版本分层 需要脚本化下载的工程环境 全量、稳定、无鉴权
AWS 开放数据桶 对象存储,桶名短 在云上跑分析的用户 同区域传输不计费
网页浏览器 目录浏览界面 想先看文件清单的人 只适合浏览,不适合批量取

三条入口的内容同源,差别在传输路径与工具链。工程上建议固定用一条,避免混用导致版本不一致。若在云上,从对象存储取数可以省掉跨区流量;若在本地机房,FTP 更直接。无论走哪条,落盘后第一件事都是核验校验文件。

5.2 目录结构与命名规则

命名规则是这套资源最值得先记住的东西,读懂文件名就不必逐个打开目录。

release/
+-- AshkenazimTrio/
|   +-- HG002_NA24385_son/
|   |   +-- NISTv4.2.1/GRCh38/        主基准,按参考分目录
|   |   +-- v5.0q/                    组装法草案,平铺三个参考
|   |   +-- mosaic_v1.10/             嵌合变异
|   |   +-- TandemRepeats_v1.0/       已弃用
|   +-- HG003_NA24149_father/
|   +-- HG004_NA24143_mother/
+-- ChineseTrio/
|   +-- HG005_NA24631_son/
|   +-- HG006_NA24694_father/
|   +-- HG007_NA24695_mother/
+-- NA12878_HG001/
+-- genome-stratifications/          分层区间,独立版本号
+-- references/                       官方整理的参考基因组

文件名里的信息密度很高:样本编号、参考版本、变异类型、版本号、文件角色依次出现。例如以 smvar 结尾的是小变异,以 stvar 结尾的是结构变异,以 benchmark.bed 结尾的是可评测区间,以 exclusion_stats.txt 结尾的是排除碱基数统计。掌握这套规则后,可以只凭文件名决定下不下。

5.3 最小下载清单

不需要全量。做一次单样本评测,只需要四个文件。

#-- 设定版本与参考,改这两行即可切换
BASE="https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release"
SAMPLE="AshkenazimTrio/HG002_NA24385_son/NISTv4.2.1/GRCh38"

#-- 真值位点、区间、索引,加校验清单
curl -O "$BASE/$SAMPLE/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz"
curl -O "$BASE/$SAMPLE/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz.tbi"
curl -O "$BASE/$SAMPLE/HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed"

#-- 下载后先校验,再解压使用
gzip -t HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz

三个文件的关系是:VCF 给位点,TBI 给随机访问能力,BED 给评测范围。少了 BED,后面所有指标都不成立;少了 TBI,工具仍能跑,但要全文件扫描,速度慢一个量级。校验这一步不要省,跨洋下载的大文件被截断时,解压可能成功而内容不完整。

5.4 跑一次标准评测

评测的规范做法是交给社区工具,不要自己写比较逻辑。比较引擎的选择会显著影响结果,官方推荐基于单倍型比对的引擎。

#-- 参考基因组、真值、待测、区间四个输入缺一不可
REF=GRCh38_full_analysis_set.fa
TRUTH=HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz
QUERY=my_pipeline_output.vcf.gz
BED=HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed

#-- 男性样本必须显式指定性别,否则性染色体按二倍体处理
hap.py "$TRUTH" "$QUERY" \
    -f "$BED" \
    -r "$REF" \
    -o result/hg002_eval \
    --engine vcfeval \
    --threads 16

输出里的三个数字要分开看:召回率的分母是区间内的真值位点,精确率的分母是待测位点中落在区间内的部分,F1 是两者的调和平均。三个数字必须同时报,只报 F1 会掩盖「召回高、精确低」这类结构性问题。另外,输出目录里会有按变异类型与按长度分档的细分结果,这部分比总体分有用。

5.5 用分层把分数拆开

#-- 取分层定义文件,与主基准取交集后再评测
STRAT="$BASE/genome-stratifications/v3.6/GRCh38"

#-- 只保留片段重复类的分层,评估难区表现
bcftools view -R "$STRAT/GRCh38_AllSegDups.bed" \
    -Oz -o result/hg002_segdup.vcf.gz "$QUERY"
tabix -p vcf result/hg002_segdup.vcf.gz

#-- 用同一段区间裁剪真值,保证两边分母一致
bcftools view -R "$STRAT/GRCh38_AllSegDups.bed" \
    -Oz -o result/truth_segdup.vcf.gz "$TRUTH"

关键在「两边同时裁剪」。只裁待测不裁真值,分母里会混入区间外的位点,算出的召回偏低且无法解释。分层的价值就在于把这类比较变成可批量执行的常规操作。

5.6 用脚本读区间做交集

#-- 读 BED 与 VCF,统计真值位点落在区间内的比例
import gzip
import pysam

bed_path = "HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed"
vcf_path = "HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz"

regions = {}
with open(bed_path) as fh:
    for line in fh:
        chrom, start, end = line.rstrip("\n").split("\t")[:3]
        regions.setdefault(chrom, []).append((int(start), int(end)))

def inside(chrom, pos):
    #-- BED 是 0 基半开区间,VCF 是 1 基,比较时减一
    p = pos - 1
    for s, e in regions.get(chrom, []):
        if s <= p < e:
            return True
    return False

total = hit = 0
with pysam.VariantFile(vcf_path) as vf:
    for rec in vf:
        total += 1
        if inside(rec.chrom, rec.pos):
            hit += 1

print(f"位点总数 {total},区间内 {hit},区间外 {total - hit}")

这段代码的输出通常显示有一小部分位点落在区间外,属于官方说明中提到的跨边界复杂变异。看到这个结果不要以为是数据错误,它是设计的一部分;评测时由工具按区间裁剪,不需要手工删除。

5.7 版本锁定与校验

#-- 记录三个版本号,写进方法学
echo "benchmark=v4.2.1" > provenance.txt
echo "stratification=v3.6" >> provenance.txt
echo "reference=GRCh38_full_analysis_set" >> provenance.txt

#-- 记录校验值,保证他人复现时拿到同一份文件
md5sum HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz >> provenance.txt
md5sum HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed >> provenance.txt

真值资源最容易出的复现事故,不是算法不同,而是版本不同。主基准、分层、参考基因组三者各有版本,任一处变动都会改变指标。把三者与校验值一起写进方法学,是让结果可被第三方复现的最低要求。

§6 与库内记录的关系

6.1 关系图谱

库里与基因组沾边的记录超过百条,但绝大多数与 GIAB 不在同一个层面上。判断方法很简单:问一句「它回答的是『变异是什么』还是『我的流程对不对』」。GIAB 只回答后者,凡是回答前者的,都是邻居而不是同类。

层次 库里对应记录 回答的问题 与 GIAB 的关系
人群频率 gnomAD 基因组聚合数据库 这个变异在人群里多常见 上下游:GIAB 判对错,gnomAD 判常见罕见
临床解释 ClinVar 这个变异是否致病 上下游:GIAB 给位点,ClinVar 给解释
肿瘤真实世界 AACR GENIE 泛癌临床测序里出现了什么 平行:人群与场景不同,不能互为真值
模式生物 Alliance of Genome Resources 九个模式物种的基因与表型 平行:物种不同,基准不可移植
耐药基因组 ARKbase 抗菌耐药知识库 哪些基因导致耐药 下游:真值逻辑类似,但对象是微生物
变异打分 AlphaMissense 错义变异致病性预测 这个错义变异有多可能致病 下游:可用 GIAB 位点做打分器校准
三维构象 3D Genome Browser 两位点是否空间相邻 无关:同一批基因组,不同问题
文本语料 BC2GM、BC5CDR 文献里的基因与疾病提及 无关:对象是文本不是序列

6.2 检索路径

碰到具体问题时,先定位问题类型,再决定打开哪一条记录。

你要做的事 先看哪条记录 再补什么
验证自家流程的召回与精确率 本篇 分层区间与比较引擎文档
查某变异在人群中的频率 gnomAD 记录 祖源分层与版本说明
查某变异的临床意义 ClinVar 记录 证据等级与提交者
训练变异致病性预测模型 AlphaMissense 记录与本篇 用 GIAB 位点做外部验证集
研究肿瘤体细胞变异 AACR GENIE 记录 本篇仅 HG008-T 草案可用
研究微生物耐药 ARKbase 记录 物种与药物覆盖范围
研究染色质三维结构 3D Genome Browser 记录 细胞类型与分辨率

6.3 与库内基因组类词条的区隔

库内基因组方向的记录已经形成四个群落,彼此的分工需要在选型时先说清,否则容易把「参考」当「真值」,或把「真值」当「注释」。

群落 代表记录 数据形态 核心用途 与 GIAB 的界
真值基准 本篇 VCF 加 BED,成对 判定流程对错 唯一给「可评测区间」的群落
人群聚合 gnomAD 位点加频率 判断常见与罕见 不含个体基因型,不能做流程验证
临床注释 ClinVar 位点加解释 判断致病性 不含真值区间,不能算召回
疾病队列 AACR GENIE 等 样本加临床变量 找关联、做分层 无逐位点真值,只能做发现
模式生物与微生物 Alliance、ARKbase 物种基因组加注释 跨物种比较 物种不同,基准不可迁移

一条实用的判断口诀:有 BED 的才是基准,没有 BED 的只是目录。按这条口诀筛一遍,库内真正同层的记录寥寥,绝大多数是提供注释或频率的目录型资源,它们的价值在于解释变异,而不是检验流程。

§7 质量评估与局限性

7.0 阅读本节前的一个前置校正

多数人看基准资源,习惯按「数据量、覆盖度、更新频率」三项打分,这套标准用在 GIAB 上会得出错误排序。原因在于它的产品不是数据,是判定。一个基准的质量取决于三件事:判定在哪些地方成立、不成立的地方有没有说清、说清之后有没有人复核。数据量只是这三件事的副产品。

由此产生两个常见误判。第一,把「覆盖比例下降」当成质量退步——v5.0q 从九成出头降到不足九成,实际是判定范围收紧、区间内确定性提高。第二,把「版本多」当成混乱——目录里大量弃用版本恰恰是可追溯性的证据,真正危险的是只有最新版、旧版无声消失的资源。

本节的所有评分都建立在这个校正之上:评价的是「判定的可信边界」,不是「文件的多少」。

7.1 五维评分

沿用 DAIMS 的五个维度,逐项给出分值。DAIMS 在此处的含义是数据资产的可获得、可理解、可互操作、可复用与可审计五件事,每项满分五分。

维度 分值 依据 扣分点
可获得性 5 三条公开入口,无鉴权,无禁运期,含物理材料 无
可理解性 4 每个数据集配说明文件,写清方法与限制 主页与说明文件偶有口径差异,需交叉核对
可互操作 5 标准 VCF 与 BED,参考基因组命名规范,工具链成熟 跨参考版本需自行转换坐标
可复用 4 许可宽松,允许商业再分发与演绎 HG001 不在广泛同意范围内
可审计 5 版本完整保留,弃用显式标注,有社区报错通道 报错处理进度不对外公开
合计 23 / 25 同层资源中处于上限区 主要短板在文档口径一致性

7.2 分数的含义与不该做的推论

二十三分不是「接近完美」的意思,它只说明这套资源在「可用」这件事上几乎没有硬伤。五分项集中在可获得与可审计,这两项恰好是多数生物医学数据集最弱的地方;四分项集中在文档与许可,也是行业普遍问题。

不该做的推论有三个。其一,不能由此推断真值本身没有错误——错误存在,且有官方收集渠道,只是密度低到不影响评测结论。其二,不能推断它适合所有变异类型——拷贝数与甲基化明确缺席。其三,不能推断它对所有人群都公平——只有两种祖源,七个个体。

7.3 已知的、可枚举的偏差

偏差 具体表现 影响 缓解方式
祖源偏窄 仅欧洲与东亚两种背景 对其他祖源的流程性能估计有系统误差 明确声明适用范围,不外推
样本量极小 七个个体 个体特异的难区无法代表总体 报置信区间,不报点估计
细胞系来源 全部为淋巴细胞系 存在传代获得性变异,与新鲜组织不同 与组织样本对照时说明差异
男性偏多 两个先证者均为男性 性染色体为单拷贝,二倍体逻辑不适用 评测时显式指定性别
区间系统偏难 排除着丝粒、核糖体 DNA、大段卫星 指标看起来偏低,跨资源不可比 报告时标注区间版本
参考偏倚 线性参考下非参考等位基因易被低估 与参考差异大的样本吃亏 用组装法基准交叉验证
平台偏倚 新版真值以长读与组装为主 短读流程在难区被系统性暴露 分层报告,不只看总体
版本碎片化 主基准、分层、专项各自发版 组合不当会得出矛盾结论 三个版本号一起锁定

表里最隐蔽的一项是「区间系统偏难」。它不体现在任何单个文件上,而是体现在区间生成规则里:凡是无法稳定判定的区段都被剔出去,剩下的自然偏简单。这个偏差会让指标看起来偏好,与「区间外无法评测」造成的偏坏方向相反,两者叠加后总体分的方向不确定。要判断自己落在哪一侧,办法是看新增区间上的表现——§4.2 的案例说明,新版区间往往集中了旧版回避的难点,若分数在新增区间上明显低于旧区间,说明偏差落在「偏简单」这一侧。

7.4 外部验证矩阵

验证来源 独立性 覆盖范围 结论强度
公开挑战赛的跨团队结果 高 主基准区间 强,可区分流程优劣
工具厂商的独立复现 中 部分区间与变异类型 中,可能存在选择偏倚
社区位点级报错 高 零散位点 强,用于修正而非评估
与独立组装的交叉比对 高 全基因组 强,支持区间内判定
监管或认可体系的引用 中 视文件而定 中,属背书不属验证

7.5 它为何能持续:把「不确定」变成可交付的资产

多数基准资源死于两件事:一是宣称自己全对,被证伪后信用崩塌;二是只增不改,旧错一直留在库里。GIAB 避开的办法是把不确定性本身产品化——用 BED 划出「这里我表态」的边界,用弃用标记划出「这里我收回」的时间线,用社区报错通道承接「这里我可能错了」的入口。三者合起来,使它的信用不依赖于「永不犯错」,而依赖于「错了能被发现并修正」。这套机制一旦跑通,参与者的沉没成本就转化为持续投入的动力,资源因此能活过十五年以上。

§8 生态位与历史

8.1 历史沿革

年份 事件 意义
2011 系列启动会议召开 把「基因组标准物质」从倡议变成项目
2012 联合体正式成组,官方页面建立 形成公私学术三方参与的结构
2014 先导样本小变异真值发布 第一次给出可复核的全基因组答案
2015 首批标准参考物质发放 湿实验侧有了可购买的实物
2016 数据总览论文发表 确立数据组织方式与引用规范
2017 七样本常规难度基准发布 从一个人扩展到两组三联体
2018 「高置信」改称「基准」 术语转向,强调用途而非确定性
2019 社区最佳实践论文发表 评测流程标准化,工具链成型
2020 难区基准与结构变异基准发布,公开挑战赛举办 覆盖范围首次大幅扩展
2021 七样本两参考统一版本发布 版本收敛,成为事实标准
2022 难区扩展的方法学论文发表 覆盖比例从八成五到九成二的依据
2023 串联重复与性染色体专项发布 难区细分,后被组装法取代
2024 分层体系第三代发布,嵌合基准发布 分层支持完整组装参考
2025 组装法草案发布,肿瘤项目启动 方法论第三次转折
2026 草案更新,肿瘤细胞系数据公开 从生殖系扩展到体细胞

8.2 与相邻项目的分工

项目或组织 角色 与 GIAB 的接口
参考基因组联盟 维护 GRCh37 与 GRCh38 GIAB 在其基础上做掩蔽与诱饵序列补充
端粒到端粒联盟 生产完整组装参考与 HG002 组装 提供 v5.0q 的组装输入
人类泛基因组联盟 构建多人群图参考 用 GIAB 基准评估组装法调用
全球基因组学与健康联盟 制定评测最佳实践与工具标准 GIAB 是其推荐的真值来源
细胞库 扩增与分发细胞 与 NIST 的瓶装材料同源不同批
云服务商开放数据计划 镜像托管 提供同区域免费传输

这张表说明一件事:GIAB 处在一个链条的中段。上游是参考基因组与组装技术,下游是评测工具与临床验证,它自己负责把「序列层面的正确」翻译成「流程层面的可评测」。链条上任何一环变化,它的版本就要跟着变,这也是版本多的根本原因。

8.3 商业化与镜像

围绕 HG002 已经形成一个小生态:超过五十种商业产品基于该细胞系开发,覆盖建库试剂、比对软件、变异调用服务、质量评估报告。云端的开放数据镜像则把取数成本压到接近零。

生态角色 提供什么 对使用者的意义
参考材料供应商 瓶装 DNA 与细胞 湿实验对照可用同一批材料
试剂与建库厂商 基于该细胞系验证的产品 选型时有第三方数据可查
软件与服务商 内置该基准的评测流程 开箱可用,但需核对版本
云端镜像 对象存储与目录浏览 取数快,成本低
社区邮件组 公告与分析方法讨论 版本变更的第一信息源

8.4 未来的两个方向

官方在主页写明两条延伸线。第一条是增加祖源多样性:现有七个样本只覆盖两种背景,要扩展到更多人群,前提是找到同意广泛再分发的供者,这一步比技术更难。第二条是肿瘤:胰腺癌细胞系与配对正常组织的公开数据已经发布,包含多种测序平台与单细胞数据,但官方措辞仍是草案级,体细胞真值的难度远高于生殖系,因为肿瘤内部异质性与克隆演化使「唯一正确答案」这个概念本身需要重新定义。

第三条隐线是转录组。官方提到正在探索 RNA 测序,现有数据包含部分细胞系的短读与长读转录组,但没有同级别的表达真值。这条线若走通,评估对象会从「变异对不对」扩展到「表达定量准不准」,方法学的迁移成本不小。

§9 使用指引

9.1 三种角色的路径

角色 核心诉求 建议起点 必须避开
临床实验室验证员 出一份能过评审的分析验证报告 HG002 的 v4.2.1,按目标区域裁剪 用总体分代替分层分
生信工具开发者 证明新工具在同等条件下更优 七个样本轮流做留一验证 只在一个样本上调参
模型研究者 拿到可靠标签做训练或评测 六个样本训练、一个验证 同源样本跨集合泄漏

三类角色的共同误区是把基准当成排行榜。基准的作用是排除「明显不对」,不是评选「最好」。一个工具在基准上高两个百分点,若这两个百分点全部来自简单区,临床价值可能为零;反之,在片段重复区高两个百分点,价值可能很大。分层报告是唯一能区分这两种情况的做法。

另一个共同误区是拿旧版结论套新版数据。§4.2 的案例已经说明,同一段基因组在两代基准里的地位可以完全不同:上一代沉默、这一代表态。跨版本比较时,若不同时声明区间版本,分数差异无法归因于流程改进。

9.2 一条最短的可用流程

从零到拿到第一个可信指标,下面这条链路足够,不需要下载全量数据。

#-- 1 建目录,锁定版本
mkdir -p giab_eval && cd giab_eval
BASE="https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release"
S="AshkenazimTrio/HG002_NA24385_son/NISTv4.2.1/GRCh38"

#-- 2 取真值三件套
curl -O "$BASE/$S/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz"
curl -O "$BASE/$S/HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz.tbi"
curl -O "$BASE/$S/HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed"

#-- 3 取官方整理的参考基因组,避免自制版本引入差异
curl -O "$BASE/references/GRCh38_full_analysis_set.fa"

#-- 4 用待测结果跑一次评测,显式指定男性样本
hap.py HG002_GRCh38_1_22_v4.2.1_benchmark.vcf.gz my_calls.vcf.gz \
    -f HG002_GRCh38_1_22_v4.2.1_benchmark_noinconsistent.bed \
    -r GRCh38_full_analysis_set.fa \
    -o out/hg002 --engine vcfeval

#-- 5 只报总体分不够,按难区分层再跑一次
ls out/hg002.*.summary.csv

第五步的汇总表里会按变异类型与长度分档列出结果。方法学里至少应报告三行:总体、单核苷酸变异、插入缺失;若研究涉及难区,再加一行片段重复。

9.3 引用方式

引用要分三层写,缺一层都会被视为不规范:数据本身引用数据总览论文,评测方法引用社区最佳实践论文,具体基准引用对应版本的说明文件与配套论文。三层之外,还要写清版本号、参考基因组版本、分层版本与访问日期。官方明确说明数据无发表禁运,但要求按各数据集说明文件里的建议引用。

§10 AI 使用声明

项目 说明
数据性质 人类生殖系变异真值,来源于公开知情同意的健康供者
是否含个人身份信息 否。样本以编号流通,无姓名、无出生日期、无联系方式
是否含临床表型 否。供者为健康个体,选样时避开了疾病表型
再识别风险 低但非零。全基因组序列本身具有个体可识别性,公开数据集已通过广泛同意覆盖这一风险
用于模型训练 允许。许可允许演绎与商业使用,但须标注来源与修改
用于临床决策 不可单独使用。真值用于验证流程,不构成任何诊断结论
生成式模型输出约束 不得据本数据生成个体层面的健康预测或身份推断
建议声明措辞 「使用 GIAB v4.2.1(访问日期)作为生殖系小变异检测流程的基准真值」

常见误读

常见说法 实际 证据
GIAB 是一个变异数据库 它是评测基准,不含频率与临床解释 官方页面只描述基准与区间,无注释字段
七个样本代表全人类 只覆盖欧洲与东亚两种祖源 官方页面列明两组三联体的祖源
BED 之外的假阳性是流程错误 区间外官方不表态,没有真值 官方说明文件明确区间含义
新版覆盖一定更广 v5.0q 区间小于 v4.2.1 官方说明文件列出倒位等排除项
有 HG002 就够了 单样本无法评估跨祖源泛化 官方建议使用全部七个样本
真值 VCF 可以直接当训练标签而不裁剪 必须与 BED 配对,否则标签含不确定位点 VCF 与 BED 成对发布的设计
结构变异可以用旧版 v0.6 该版本已弃用 官方页面标注为已弃用
GIAB 能评估拷贝数变异流程 v4.2.1 明确排除拷贝数变异区 官方论文摘要写明排除理由
HG005 与另一个汉族三联体是同一批人 是两组不同的汉族三联体 官方常见问题第 11 条明确否认
引用时写 GIAB 即可 必须写版本、参考、分层三个版本号 各版本区间与位点均不同

FAQ

Q1:GIAB 一共有几个样本?
七个。HG001 是先导样本,来自更早的人群遗传学项目;另有阿什肯纳兹犹太裔与中国汉族两组父子母三联体,共六人。七个样本中只有四个有瓶装标准参考物质。

Q2:v4.2.1 和 v5.0q 有什么本质区别?
v4.2.1 由多平台读数比对后整合而成,覆盖七个样本、两个参考;v5.0q 由二倍体组装直接比对生成,只覆盖 HG002,覆盖三个参考,且官方标注为草案。前者是主力,后者是方向。

Q3:为什么 BED 之外的变异不能算假阳性?
因为那里没有真值。官方只对区间内的位点表态,区间外的位点既可能是错的,也可能是对的,把它计入分母会让指标失去意义。评测工具默认按区间裁剪,就是为了避免这一点。

Q4:能用 GIAB 评估肿瘤体细胞变异流程吗?
不能直接用。七个样本都是健康供者的生殖系,体细胞变异有等位基因频率低、克隆异质性、配对正常样本对照等额外维度,这些在生殖系真值里都不存在。肿瘤方向目前只有草案级公开数据。

Q5:数据可以商用吗?
可以。除先导样本外的六个样本经广泛知情同意,允许商业再分发与衍生;NIST 的作品在美国不受版权保护,境外授予非独占免费许可。使用时应标注来源与是否修改。

Q6:为什么真值 VCF 里有位点落在 BED 之外?
因为复杂变异可能跨越区间边界,若把跨界部分裁掉,同一个变异的两种正确表示会被比较引擎判成错误。官方选择保留完整变异,由工具在比较时按区间处理。

Q7:一个样本的真值文件有多大?
以 HG002 的 GRCh38 小变异为例,压缩后的位点文件约一百五十兆,区间文件约十一兆,索引约一点六兆。新版草案的结构变异与小变异各约四十兆上下,总体量在同一量级。

Q8:为什么评测必须指定性别?
比较引擎默认把性染色体按二倍体处理,男性样本的 X 与 Y 是单拷贝,若按二倍体计算,杂合判定会系统出错。官方在说明文件里明确要求对男性样本加性别参数。

Q9:分层区间和主区间是什么关系?
分层区间是主区间的子集切分,按基因组语境分类。使用时先与主区间取交集,再分别评测。分层文件独立发版,版本号与主基准不同步,两者都要在方法学里写明。

Q10:能不能只用真值 VCF 做训练标签?
可以,但必须与区间文件配对。区间外的位点没有真值保证,直接当负样本会把正确调用标成错误。稳妥做法是先按区间裁剪,再按变异类型与难度分层采样。

Q11:旧版本还需要保留吗?
需要。跨时间比较必须固定同一版本,否则分数变化无法归因。官方保留全部旧版并显式标注弃用,正是为了让历史结论可追溯。

Q12:这套资源会不会被完整组装参考取代?
短期内不会完全取代。组装法基准覆盖更好、表示更完整,但目前只覆盖一个样本,且为草案;多参考、多祖源、稳定版本的组合,仍是线性参考基准的优势所在。

术语表

术语 英文 含义
基准真值 benchmark truth 经多方法确认、可用于判定流程对错的位点集合
可评测区间 benchmark region 真值判定成立的基因组区段,以 BED 表示
高置信 high confidence 2018 年前的旧称,后统一改为基准
三联体 trio 父、母、子三人,用于验证孟德尔遗传一致性
先导样本 pilot genome 项目早期使用的单个样本,即 HG001
标准参考物质 standard reference material 经计量体系认证、可溯源的实物材料
整合流程 integration pipeline 多平台独立调用后按证据合并的方法
组装法基准 assembly-based benchmark 由二倍体组装直接比对生成的基准
二倍体组装 diploid assembly 分别重建两条同源染色体序列的组装
单倍型 haplotype 一条同源染色体上的连锁等位基因组合
分型 phasing 判定两个等位基因分别位于哪条同源染色体
结构变异 structural variant 通常指长度五十碱基以上的变异
拷贝数变异 copy number variant 片段重复或缺失导致的拷贝数改变
串联重复 tandem repeat 短序列首尾相连重复形成的区段
片段重复 segmental duplication 基因组内高度相似的长片段重复
同聚物 homopolymer 同一碱基连续出现形成的串
嵌合变异 mosaic variant 仅部分细胞携带的变异
比对 alignment 把读段定位到参考基因组的过程
读段 read 测序仪产出的一段连续序列
长读 long read 长度达数千至数万碱基的单分子测序读段
连锁读 linked read 带分子条形码的短读,可推断远距离连线性
召回率 recall 真值位点中被流程检出的比例
精确率 precision 流程报告的位点中判定为正确的比例
分层 stratification 按基因组语境把区间切成子集分别评测
参考偏倚 reference bias 与参考差异大的等位基因被系统性低估
弃用 deprecated 官方标记为不再推荐使用的旧版本

附录 A:核心数字核对表

项 值 来源 来源层级
样本数 7 官方主页与发布目录 官方页面
三联体数 2 官方主页 官方页面
参考物质支数 4 官方主页关联产品栏 官方页面
v4.2.1 常染色体覆盖 92% 方法学论文摘要 论文摘要
v3.3.2 常染色体覆盖 85% 同一摘要 论文摘要
新增单核苷酸变异 三十余万 同一摘要 论文摘要
新增插入缺失 五万余 同一摘要 论文摘要
外显子变异增幅 16% 同一摘要 论文摘要
v5.0q 小变异区间碱基数 2,739,407,815 官方 BED 区间求和 官方文件推导
v5.0q 区间段数 28,797 同上 官方文件推导
v5.0q 覆盖比例 约 88.7% 以上两项除以 GRCh38 全长 官方文件推导
HG002 小变异位点文件体积 约 149 MB 发布目录清单 官方页面
HG002 区间文件体积 约 11 MB 发布目录清单 官方页面
v5.0q 小变异位点文件体积 约 40 MB 发布目录清单 官方页面
v5.0q 结构变异位点文件体积 约 46 MB 发布目录清单 官方页面
覆盖的参考基因组版本数 3 v5.0q 目录清单 官方页面
分层体系版本 3.6 主页与发布目录 官方页面

附录 B:数字的来源分层

第一层:官方页面。 样本数、家系角色、祖源、参考物质编号、版本清单、文件体积、托管地址、许可条款,均来自官方主页、常见问题页与发布目录清单。这一层可以直接引用,无需换算。

第二层:论文摘要。 覆盖比例、新增变异数、外显子增幅,来自方法学论文摘要。注意摘要给的是七个样本合计口径,且百分比分母是常染色体,转引时必须保留这两个限定。

第三层:官方文件推导。 v5.0q 的区间碱基数、区间段数与覆盖比例,由官方发布的 BED 区间求和得到,分母取 GRCh38 全长。这一层不是官方直接给出的数字,属于对官方文件的算术加工;报告时应写明推导方式,不应表述为「官方称」。

未核实项。 甲基化真值的官方状态、各样本真值位点的精确总数、社区报错通道的累计处理量,均未见官方页面给出明确数字,本篇不作估计。若后续需要,应以官方说明文件为准。

附录 C:完整参考文献

编号 文献或页面 用途
1 NIST 官方项目主页 样本、版本、托管、许可
2 NIST 官方常见问题页 材料差异、样本选择、术语变更、汉族三联体辨析
3 GIAB 发布目录与各数据集说明文件 文件清单、方法、限制、引用方式
4 2016 年数据总览论文 数据组织方式的历史依据
5 2019 年社区最佳实践论文 评测流程与工具标准
6 2022 年难区扩展论文 覆盖比例与增量的量化依据
7 2024 年分层体系论文 分层方法与第三代更新
8 2025 年组装法预印本 v5.0q 的方法与组装质量
9 2025 年肿瘤细胞系数据论文 体细胞方向的现状
10 官方 GitHub 组织 数据索引、分层代码、工具链

附录 D:任务代码

按任务类型给出最短命令,均为可直接执行的形态。

#-- 任务一 只想看清单,不下载
curl -s "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/" | grep -o 'href="[^"]*/"'

#-- 任务二 取先导样本的旧版基准做历史对照
curl -O "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/NA12878_HG001/latest/GRCh38/HG001_GRCh38_GIAB_highconf_CG-IllFB-IllGATKHC-Ion-10X-SOLID_CHROM1-X_v.3.3.2_highconf_PGandRTGphasetransfer.vcf.gz"

#-- 任务三 取分层体系,先看有哪些子集
curl -s "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/genome-stratifications/v3.6/GRCh38/" | grep -o 'href="[^"]*bed[^"]*"'

#-- 任务四 取 v5.0q 草案的三套参考区间
for R in GRCh37 GRCh38 CHM13v2.0; do
  curl -O "https://ftp-trace.ncbi.nlm.nih.gov/ReferenceSamples/giab/release/AshkenazimTrio/HG002_NA24385_son/v5.0q/HG002_${R}_v5.0q_smvar.benchmark.bed"
done
#-- 任务五 统计任意一版区间的碱基数与段数,换算覆盖比例
def bed_stats(path, genome_size):
    total = 0
    segments = 0
    with open(path) as fh:
        for line in fh:
            cols = line.rstrip("\n").split("\t")
            if len(cols) < 3 or cols[0].startswith(("#", "track")):
                continue
            total += int(cols[2]) - int(cols[1])
            segments += 1
    return segments, total, 100.0 * total / genome_size

print(bed_stats("HG002_GRCh38_v5.0q_smvar.benchmark.bed", 3088286401))

附录 E:如果只记五件事

第一,七个样本、两组三联体、一个先导样本,祖源只有欧洲与东亚。

第二,真值是 VCF 加 BED 的一对,缺 BED 就没有评测范围,指标全部作废。

第三,v4.2.1 是当前主力,覆盖七样本两参考;v5.0q 是组装法草案,只覆盖 HG002,区间更小但表示更完整。

第四,能评估的是生殖系小变异与结构变异;拷贝数、甲基化、体细胞都不在范围内。

第五,引用必须带版本号,主基准、分层、参考基因组三者各自的版本都要写。

编辑说明

本篇的核对时间为 2026 年 10 月 28 日。核对方式为直接访问 NIST 项目主页与常见问题页、NCBI 发布目录的层级清单、以及 HG002 v5.0q 的官方说明文件;覆盖比例与新增变异数取自方法学论文摘要。v5.0q 的区间碱基数与段数由官方 BED 文件求和得出,分母取 GRCh38 全长,属推导值,已在附录 A 与附录 B 中标明层级。未覆盖内容包括:各样本真值位点的精确总数、社区报错通道的累计处理量、甲基化真值的官方状态。若官方后续更新版本,以发布目录的说明文件为准。


相关数据集导航

以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:

  • dbsnp — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • ensembl — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • biosamples — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • dgva — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • refseq — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • ddbj — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • glof-missense — 共享标签:基因组学与多组学 / 变异与注释 / 评测基准
  • cami2 — 共享标签:基因组学与多组学 / 测序数据 / 评测基准
  • clingen — 共享标签:基因组学与多组学 / 测序数据 / 变异与注释
  • cspec — 共享标签:基因组学与多组学 / 变异与注释 / 评测基准

导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

返回 AI-Ready 数据集