PLUMBER — 蛋白-配体未见靶点匹配基准,180 万条序列基结合活性数据

Bioptic 出品的序列基蛋白-配体结合预测基准:整合 ChEMBL+BindingDB+BioLip2 三源、经 PAINS 过滤与标准化得约 180 万条活性值,采用 PLINDER 未见靶点 split 做泛化压力测试,CC-BY-4.0 发布于 Polaris Hub

来源 ChEMBL + BindingDB + BioLip2 三源蛋白-配体活性数据经再加工:仅取单体数据、ChEMBL Structure Pipeline 标准化 SMILES、BindingDB 优先、PAINS 过滤、val/test 二值化去重(Ki/Kd < 1 μM 判 active),按 PLINDER 蛋白 split 分配未见靶点发布时间: 2026-10-16最后更新: 2026-10-20 阅读 23
PLUMBER — 蛋白-配体未见靶点匹配基准,180 万条序列基结合活性数据

信息速览

数据集名称PLUMBER — 蛋白-配体未见靶点匹配基准,180 万条序列基结合活性数据
数据类型公开数据,人工标注,文本数据
规模不适用(蛋白-配体配对数据,非患者级;约 180 万条活性值,train/val/test 各集精确行数官方未披露)
接入方式ChEMBL + BindingDB + BioLip2 三源蛋白-配体活性数据经再加工:仅取单体数据、ChEMBL Structure Pipeline 标准化 SMILES、BindingDB 优先、PAINS 过滤、val/test 二值化去重(Ki/Kd < 1 μM 判 active),按 PLINDER 蛋白 split 分配未见靶点
AI 就绪度

INFOBOX — PLUMBER 一屏速览

维度 内容
全称 PLUMBER = Protein–Ligand Unseen Matching Benchmark for Evaluating Robustness
本质 序列基蛋白-配体结合预测基准(curated benchmark,非新采集实验数据)
出品方 Bioptic(创建者 Vlad Vinogradov);经 Valence Labs 的 Polaris Hub 发布
发布日 2024-11-15(官方博客 + Polaris 页面双源一致)
规模 约 180 万条(~1.8M)活性值,四源互证
源数据 ChEMBL + BindingDB + BioLip2 三源再加工
任务 结合事件分类(is_active,Ki/Kd < 1 μM)+ 亲和力回归(Ki/Kd/IC50/EC50 + 符号)
split 策略 PLINDER 蛋白 split——测集靶点对训练集未见(unseen),压力测试泛化
预处理 仅单体 → ChEMBL 标准化 SMILES → BindingDB 优先 → PAINS 过滤 → val/test 二值化去重
许可 CC-BY-4.0
获取 Polaris Hub(polaris 包,immutable V2)|GitHub 仓库(含预处理 notebooks)
认证 Polaris 标 Uncertified(官方自曝未经认证评审)
亮点 完全序列驱动,不依赖 3D 蛋白结构;训练集保留连续值 + 不等号符号
关联模型 Bioptic BiPELL(protein-agnostic language model)用其做鲁棒性验证
库内近邻 bindingdb(rid=91)|pdbbind(rid=134)|binding-moad(rid=174)——均结构基/实验库,非别名

§0 导读:这个数据集解决什么问题

药物发现领域的机器学习,长期被困在一个「结构依赖」的死结里:想预测一个小分子能不能和某个蛋白结合,主流方法是拿蛋白的三维结构(3D structure)去算。问题是,蛋白质这个群体本身很「乱」——有些蛋白极难结晶,有些天生就是无序蛋白(intrinsically disordered protein),有些在体外不稳定。对这些拿不到可靠 3D 结构的靶点,结构基方法直接失效。

PLUMBER 的出发点就是绕开这个死结:它把问题重构成「只给氨基酸序列(amino acid sequence)+ 小分子结构,预测结合」。序列是一级结构,任何蛋白只要有基因序列就能拿到,不受结晶难度制约。这条「序列优先」(sequence-first)的技术路线,正是 Bioptic 这家公司押注的方向。

但光有任务定义还不够。要评估一个序列基模型到底有没有用,需要一个能真正暴露弱点的测试集。当时的通用做法——时间切分(time-split)、随机切分(random-split)——有个致命缺陷:随机切分会让测试集里混进大量与训练集高度相似的蛋白,模型只要「记住」相似的靶点就能拿高分,刷出的是记忆能力而不是泛化能力。PLUMBER 想测的是后者。

于是 PLUMBER 的核心设计是:测集靶点必须是训练集没见过的(unseen)。它借用了 PLINDER(当时最先进的结构基分子基准)的复合相似度切分,把蛋白按相似度分到不同 split,让测集蛋白在序列/结构/口袋多个层面都与训练集拉开距离。再加上从 ChEMBL、BindingDB、BioLip2 三个公开库聚合来的约 180 万条活性记录,以及一整套激进的清洗(PAINS 过滤、SMILES 标准化、去重),PLUMBER 就成了「多靶点泛化压力测试集」——正如官方原文那句总结:It’s not just a dataset — it’s a stress test for AI(这不只是一个数据集,它是给 AI 的压力测试)。

一句话:PLUMBER 是给「不看结构、只看序列」的结合预测模型准备的、专测跨靶点泛化的规模化评测场。

§1 数据集速览:十问十答

Q1:PLUMBER 是什么的缩写?
Protein–Ligand Unseen Matching Benchmark for Evaluating Robustness(蛋白-配体未见靶点匹配基准——用于评估泛化鲁棒性)。官方 README 用注记形式给出,全称含尾缀 for Evaluating Robustness,检索时勿遗漏。

Q2:它和普通的「蛋白-配体活性数据集」有什么本质区别?
普通活性库(如 BindingDB、ChEMBL)是原始事实的汇总;PLUMBER 是为评测而设计的基准——它的价值不在「有多少条」,而在「测集怎么切分」。它把 PLINDER 的未见靶点 split 嫁接到序列基数据上,让「泛化」这个抽象目标变成可量化的分数。

Q3:数据从哪来?
三个公开库的聚合:ChEMBL(最大的生物活性化合物库)、BindingDB(专注实验测定的结合亲和力)、BioLip2(生物配体-蛋白复合物库)。三源合并后再做统一清洗。

Q4:到底多少条数据?
官方口径 约 180 万条(~1.8M)。这个数字在 Polaris 数据集页、Bioptic 博客、官方 LinkedIn 帖、以及 2026 年 MDPI 综述四处一致,是目前最可信的总量数字。

Q5:能干什么任务?
两类:(a) 结合事件分类——判断一个分子对某个靶点是 active 还是 inactive(val/test 集提供 is_active 二值标签);(b) 结合亲和力回归——预测 Ki/Kd/IC50/EC50 的连续数值(train 集提供,并附 =/>/< 符号)。

Q6:为什么强调「序列基」?
因为它的蛋白侧只给氨基酸序列,不给 3D 结构。这让模型可以直接吃序列——不受结晶/无序蛋白限制,也让 PLUMBER 成为评估「蛋白语言模型」类方法的天然考场。

Q7:和 PLINDER 什么关系?
血统关系:PLUMBER 基于 PLINDER,借用其蛋白 split 分配,但把数据侧从「结构基」换成「序列基」,数据量也大得多。两者可配对使用(PLINDER 官方希望未来能做序列基 vs 结构基的对比)。

Q8:许可能商用吗?
CC-BY-4.0——允许商用、允许再分发,条件是署名(引用 GitHub 仓库/Polaris 条目)。这是相当宽松的开放许可。

Q9:去哪里下载?
两条路:(a) Polaris Hub(polarishub.io,用官方 polaris Python 包拉取,数据集 immutable 版本锁定);(b) GitHub 仓库(github.com/optic-inc/plumber,最关键是它附带全套预处理源码,可自行复现)。

Q10:有什么坑要先知道?
三个:① Polaris 标注 Uncertified(官方自曝未经认证评审,可能含质量问题);② 只有蛋白 split,没有配体 split(官方自曝),测集小分子可能与训练集相似;③ 没有正式论文,引用只能走仓库/数据页。详见 §10 避坑清单。

§2 数据构成与规格

2.1 规模、来源与机构构成

PLUMBER 的规模由官方口径锁定在 约 180 万条蛋白-配体活性值。这个数字的可靠性来自四源互证:

  • Polaris Hub 数据集页:“Number of datapoints: ~1.8M”
  • Bioptic 官方博客:“the largest multi-target benchmark of its kind, with 1.8 million data points spanning small molecules and amino acid sequences”
  • 官方 LinkedIn 帖:“With 1.8M high-quality activity values curated from public datasets”
  • MDPI 2026 综述(Artificial Intelligence Across the Drug Development Lifecycle):“1.8 million binding affinity points”

四个独立来源给出同一量级数字,是本条目最硬的规模事实。需要提醒的是:~180 万是全数据集(train+val+test)的总量口径,官方从未公开三个子集各自的行数——这是检索者常踩的坑(见 §10 坑点 3)。

数据构成方面,PLUMBER 的每一「条」是一个蛋白-配体配对(protein-ligand pair):

  • 配体侧:一个小分子的标准化 SMILES 字符串(simplified molecular-input line-entry system,简化分子线性输入规范)
  • 蛋白侧:一个单体靶蛋白的氨基酸序列,附 UniProt ID
  • 来源标记:source 字段标明该条来自 chembl / bdb / biolip 三者之一

机构构成上,PLUMBER 由 Bioptic 出品,创建者为团队成员 Vlad Vinogradov,经由 Valence Labs 主导的 Polaris Hub 平台发布。这里有一处易混点需要廓清:GitHub 仓库挂在 optic-inc 这个组织名下,而公司品牌名为 Bioptic ——「Optic」是关联实体名,仓库归属与公司名不完全字面一致,检索时注意(见 §10 坑点 2)。

2.2 字段 schema:train 与 val/test 的分野

PLUMBER 最见设计巧思的地方,是训练集与验证/测试集用两套字段。这不是随意为之,而是服务于「回归 vs 分类」两种任务的分工。

val / test 集字段(用于评测):

字段 含义
SMILES 标准化后的分子 SMILES 表征
sequence 单体靶蛋白的氨基酸序列
uniprot_id 该蛋白的 UniProt ID
source 来源标记,取值 chembl / bdb / biolip
split 恒为 "test"
is_active 二值标签:分子对靶点的 Ki/Kd 是否 < 1 μM

train 集字段(用于训练):

字段 含义
ki / kd / ic50 / ec50 四种活性类型的连续数值
ki_sign / kd_sign / ic50_sign / ec50_sign 对应数值的关系符号,取值 =(等于)/ >(大于)/ <(小于)

关键差异有二:

第一,train 集没有 is_active。它不预先把数据二值化,而是把「连续值 + 不等号符号」原样交给用户,让建模者有充分的自由度——官方原文说明:“You can choose to use only Ki/Kd equality data, but alternative strategies can incorporate the other activity types as well”(你可以只用 Ki/Kd 的等值数据,也可以用其他活性类型)。这种「保留信息、不替用户做决定」的做法,比直接给一个二值标签要克制得多。

第二,val/test 集把 is_active 定死在 Ki/Kd < 1 μM。这是为了给不同模型一个统一的可比口径——官方原话是 “to have unified benchmark to compare models on”。把阈值锁死,是为了让所有人在同一条线上比。

2.3 三种活性类型的语义与取舍

PLUMBER 训练集同时携带 Ki、Kd、IC50、EC50 四种活性量,这在活性数据集里是相当完整的一套。理解它们的差别,是用好这个数据集的前提:

  • Ki(inhibition constant,抑制常数):平衡解离常数,衡量抑制剂与酶的亲和力,是最「干净」的亲和力度量,不依赖底物浓度。
  • Kd(dissociation constant,解离常数):直接的结合亲和力度量,最接近「结合强度」的本质。
  • IC50(half maximal inhibitory concentration,半数抑制浓度):抑制 50% 活性所需浓度,依赖实验条件(底物浓度等),跨实验可比性弱于 Ki/Kd。
  • EC50(half maximal effective concentration,半数有效浓度):产生 50% 最大效应所需浓度,多用于功能实验,与亲和力的距离最远。

正因为 Ki/Kd 是更纯粹的亲和力度量,PLUMBER 才把 val/test 的二值阈值限定在 Ki/Kd 上(而非 IC50/EC50)。训练集则保留全部四种,把「用哪种、怎么加权」的选择权交给建模者。这是「测集求统一、训练集求灵活」的典型分工。

2.4 数据集层面的规模定位

在「蛋白-配体结合预测」这个赛道上,PLUMBER 的规模宣称是 largest multi-target benchmark of its kind(同类中最大的多靶点基准,官方博客语)。支撑这个宣称的,不只是 180 万这个绝对数字,更是「多靶点 + 未见切分 + 序列基」这个组合——规模大且切分严的序列基基准,在当时确实稀缺。这一点也是它区别于库内既有结构基资源(见 §9)的核心身份标识。

2.5 与上游 PLINDER 的关系边界

必须反复厘清:PLUMBER ≠ PLINDER。两者定位相反:

  • PLINDER(Protein–Ligand INteractions Dataset and Evaluation Resource)是结构基的蛋白-配体相互作用基准,覆盖数十万蛋白-配体复合物,附带口袋/配体/蛋白多层面的丰富注释与相似度感知切分,是结构预测与对接领域的评测资源。
  • PLUMBER 是序列基的结合预测基准,它借用 PLINDER 的蛋白 split 分配,把切分方法学搬过来,但数据侧完全换成序列-配体对。

换句话说,PLINDER 贡献的是「怎么切才算公平」的方法学,PLUMBER 贡献的是「用序列怎么测」的数据与任务。PLINDER 官方在 2024 年终更新里明确了两者的互补关系:PLUMBER 因完全序列基而纳入更多数据点,但沿用 PLINDER 的 split,这为未来「序列基 vs 结构基亲和力预测器」的直接对照留下了接口。

2.6 与「三大源库」的血缘与差异

要真正理解 PLUMBER 的数据成分,需要看清它与三个来源库各自的继承关系与转化:

来自 ChEMBL 的部分:ChEMBL 是欧洲生物信息研究所(EMBL-EBI)维护的生物活性化合物库,收录海量化合物对靶点的活性测量(IC50/Ki/EC50 等),来源多为文献提取。PLUMBER 从 ChEMBL 取活性记录,并用 ChEMBL 自己的结构标准化工具清洗(这也解释了为何选它——源头与工具同属一家,兼容性最好)。

来自 BindingDB 的部分:BindingDB 是专注实验测定结合亲和力的数据库,收录 Ki/Kd/IC50/EC50 等,且溯源清晰。PLUMBER 不仅从它取数据,还把它设为多源冲突时的仲裁源(prioritized data from BindingDB)——这是 BindingDB 在 PLUMBER 里的双重角色。

来自 BioLip2 的部分:BioLip 是生物配体-蛋白复合物库,BioLip2 是其后续版本,提供配体-蛋白的复合物级信息。它补充了 ChEMBL/BindingDB 可能未覆盖的结合实例。

转化的三步:① 筛选(仅单体、剔除不可用记录);② 规范化(SMILES 标准化 + 清洗);③ 去重裁决(PAINS 过滤 + 冲突取 BindingDB + 二值化去重)。三步之后,三源异构记录被压成统一 schema 的蛋白-配体配对——这也是「数据集」而非「数据库集合」的关键:PLUMBER 输出的是一张口径统一的大表。

这里有个使用上的现实提醒:因为三源覆盖的靶点与测量类型各不相同,PLUMBER 的靶点覆盖分布是三源叠加的结果,并非均匀——某些在 ChEMBL 里数据丰富的靶点,可能在合并后占比更高;反之亦然。若你的任务关心特定靶点族(如某类激酶)的代表性,务必先统计 uniprot_id/sequence 的分布,别默认它「对每个靶点都均衡」。

2.7 配体侧与靶点侧的空间特征

PLUMBER 的两侧输入各有其信息特征,理解它们有助于预判建模难点:

配体侧(小分子 SMILES):SMILES 是一维字符串,直接编码原子与键的连接关系。用它做输入意味着模型必须从图结构/字符串中学习化学性质,而非从 3D 构象。这对图神经网络(GNN)、分子语言模型是天然的输入格式,但也意味着构象柔性、立体化学等信息需要模型自己推断或编码。

靶点侧(氨基酸序列):氨基酸序列同样是一维字符串(20 种氨基酸字母表),长度因蛋白而异。序列决定了 3D 折叠,但从序列到功能是间接的——这是序列基方法的根本难点,也是蛋白语言模型(如 ESM 系列)试图攻克的方向。PLUMBER 把靶点侧限定为单体(见 §3.1),保证了「一条序列 = 一个功能单元」的干净对应。

配对的不对称性:一个值得注意的结构特征是——靶点数量远少于配体数量。同一靶点会与大量分子配对,形成「多对一」的数据形态。这意味着:模型学到的可能更多是「某类分子偏好某种口袋」的规律,而非「某个分子专属某个靶点」。理解这一点,对设计评估(尤其在未见靶点场景)很重要——测集靶点虽新,但其口袋的化学特征可能落在训练集靶点的分布内。

2.8 规模宣称的解读边界

「约 180 万条」这个数字要被正确解读,需注意三条边界:

第一,它是「配对」而非「独立分子」或「独立靶点」。 180 万是蛋白-配体配对数,同一个分子可能出现在多条记录(与不同靶点配对),同一个靶点也会出现多次。独立分子数与独立靶点数都远少于 180 万——官方未分别披露这两个数(遗留疑点)。

第二,它是「清洗后」的数字,不是源库总量。 三源原始数据经单体筛选、PAINS 过滤、去重后缩水到 180 万。这意味着 PLUMBER 用「数据规范度」换掉了「数据总量」,是一种质量优先的取舍。

第三,它是「全数据集」口径。 180 万含 train/val/test 全部,不是单指训练集。若你的实验需要「训练集有多大」,官方未披露——需自行下载统计(见坑点 3)。

正确理解这三条,就能避免最常见的误读:把「180 万配对数」误当成「180 万个分子」或「180 万个训练样本」。


§3 预处理流水线:六步换来一份「敢用」的数据

数据集的公信力很大程度上不在「有多少」,而在「清得干不干净」。PLUMBER 的 README 列出六步预处理,每一步都对应一类已知的数据污染风险。逐条拆解如下。

3.1 步骤一:仅保留单体数据(monomer only)

第一步就把多聚体蛋白(multimeric protein)剔除。理由很实际:PLUMBER 的核心输入是单条氨基酸序列,而多聚体蛋白的功能依赖多条链的组装——用单链序列去代表一个多聚体靶点,语义是错的。这一步保证了「一条记录 = 一条序列 = 一个单体靶点」的干净对应。

3.2 步骤二:SMILES 标准化(ChEMBL Structure Pipeline)

原始库里的分子结构写法五花八门——同一分子可能有多种 SMILES 写法、盐型、电荷状态、互变异构体。PLUMBER 用 ChEMBL Structure Pipeline(ChEMBL 官方开源的结构标准化工具)统一处理。这一步的价值在于让「同一个分子」在数据里只有一个面孔,否则去重和相似度计算都会失真。

3.3 步骤三:SMILES 清洗(cleaning)

标准化之后还要「清洗」——剔除那些无法被 chemoinformatics 工具正确解析的畸形 SMILES。这是把「能读」和「读得对」分开的两步:标准化管「统一」,清洗管「有效」。

3.4 步骤四:BindingDB 优先(prioritized data from BindingDB)

当 ChEMBL、BindingDB、BioLip2 三源对同一个蛋白-配体配对给出不同活性值时,PLUMBER 选择以 BindingDB 为准。这是一个明确的来源优先级决策:BindingDB 专注实验测定的结合亲和力、数据溯源清晰,故被设为仲裁源。这一步消解了多源合并必然带来的冲突值问题。

但要注意——这是一个有偏决策。优先 BindingDB 意味着 ChEMBL/BioLip2 独有的测量在冲突时被覆盖,可能对某些靶点引入来源选择偏倚。这不是错误,而是需要在引用时知晓的取舍(见 §10 坑点 5)。

3.5 步骤五:PAINS 过滤(Pan-Assay Interference Compounds)

PAINS(Pan-Assay Interference Compounds,泛测定干扰化合物)是药物发现里的著名「数据污染源」——这类分子(如某些醌类、儿茶酚、Michael 受体等)会在多种不同测定中频繁「命中」,但它们的作用机制往往是化学干扰(聚集、荧光、反应性),而非真正的靶点结合。

如果不滤掉 PAINS,模型会学到「这些分子总是 active」的伪规律,在真实筛选中产生大量假阳性。PLUMBER 用 PAINS 过滤器剔除这类分子,是提升数据信噪比的关键一步——它让数据里的「活性」更可能是真的靶点结合。

3.6 步骤六:val/test 二值化 + 去重 + 一致性检查

最后一步专门针对 val/test 集:二值化(按 Ki/Kd < 1 μM 判 active)之后去重,并做一致性检查(inconsistency check)。去重针对的是「同一蛋白-配体配对在合并后出现多次」,一致性检查针对的则是「同一配对出现相互矛盾的活性值」——这类矛盾若不清理,测集会自相矛盾,评测就失去意义。

值得强调:这一步的二值化与去重只对 val/test 做,不对 train 做——train 保留连续值与符号,是刻意的设计(见 §2.2)。

3.7 预处理源码全部开源:可复现性的诚意

PLUMBER 一个被低估的优点:整套预处理源码都放在 GitHub 仓库的 notebooks/ 目录,任何人可自行复现。目录结构为:

  • 01_chembl.ipynb —— 预处理 ChEMBL 库
  • 02_bindingdb.ipynb —— 预处理 BindingDB
  • 03_biolip.ipynb —— 预处理 BioLip2
  • 04_merge.ipynb —— 三源聚合
  • filter_pains.py —— PAINS 过滤函数(在 04_merge 中作为中间步骤调用)
  • standardize.py —— 分子标准化源码(同上)
  • publish_to_polaris.py —— 发布到 Polaris 平台的脚本

复现路径也已写清:conda create -n plumber -y python=3.11 → conda install -c conda-forge polaris=0.9.1(官方强调必须先装 polaris 再装其他依赖)→ pip install -r requirements.txt → 跑 notebooks。

对一个没有正式论文的基准来说,可运行的复现源码就是它的方法学凭证——它用「你能自己跑一遍」替代了「你信我论文写的」。这是 PLUMBER 在透明性上做得最好的一环。

3.8 六步清洗的「得」与「失」

把这六步放在一起看,可以读出 PLUMBER 的清洗哲学:宁可激进,也要保证「活性」信号的真实性。PAINS 过滤、去重、一致性检查,都是宁可损失数据量也要提升信噪比的选择。这套哲学的收益是:

  • 假阳性更少:PAINS 过滤剔除了化学干扰型「假活性」,让 is_active 更可能反映真实结合;
  • 可比性更好:SMILES 标准化 + 统一二值阈值,让跨模型的分数更可比;
  • 冲突更少:BindingDB 优先 + 一致性检查,消解了多源合并的矛盾值。

但每一刀都有代价,必须如实记下「失」:

  • 数据量损失:PAINS 过滤、去重、单体限定都减了数据,这也是为什么「约 180 万条」是清洗后的数字,而非三源原始总量(原始量更大);
  • 来源偏倚:BindingDB 优先是一个有偏决策,ChEMBL/BioLip2 独有的测量在冲突时被覆盖;
  • 信息损失:val/test 二值化丢掉了连续值的梯度信息(train 侧保留了,算是补偿);
  • 覆盖不均:三源叠加的靶点分布天然不均,「大靶点更大、小靶点更小」的马太效应可能存在。

一句话:PLUMBER 的清洗是「为测量真实性付出数据量代价」的选择。对追求数据规模的场景,这个代价可能偏高;对追求评估可信度的场景,这个代价是值得的。

3.9 与「不清洗」的对照:为什么清洗决定基准成败

为了理解这六步的分量,不妨设想一份不做这些清洗的数据会长什么样:

  • 不清单体 → 多聚体靶点用单链序列表示,标签语义错乱;
  • 不标准化 SMILES → 同一分子多种写法,去重失效、相似度失真;
  • 不清洗 SMILES → 畸形分子结构进入训练,模型学到噪声;
  • 不做 PAINS 过滤 → 泛干扰化合物被当作「广谱活性」,模型学到假规律;
  • 不做去重/一致性检查 → 测集自相矛盾,评估失去意义。

这五类污染,任何一类都足以让基准的结论崩塌。PLUMBER 的价值,一半在「未见切分」,另一半就在这六步清洗——前者保证「测得准」,后者保证「数据净」。两份合起来,才让「约 180 万条」这个数字有了意义:重要的不是它有多少条,而是这 180 万条有多干净、切得多严。



§4 泛化设计:为什么「未见靶点」是这份数据的灵魂

4.1 记忆 vs 泛化:一个被随机切分掩盖的真相

要理解 PLUMBER 的价值,必须先理解它针对的那个「病灶」。机器学习评估依赖切分(split)——把数据分成训练/测试,用测集表现来估计模型在新数据上的能力。问题在于:切分方式直接决定了你在测什么能力。

  • 随机切分(random split):随机把配对分到训练/测集。缺陷是——如果同一靶点的一批分子被随机分到两边,模型在测集遇到的是训练时见过的靶点,它只要学会「这个靶点喜欢什么样的分子」就能得分。这测的是记忆。
  • 时间切分(time-split):按数据公开时间切。缺陷是同一靶点的新旧数据仍可能被切开,靶点相似度不受控。
  • PLINDER 复合相似度切分:不按单个维度,而是按系统级复合相似度(综合口袋、配体、蛋白多层面的相似度)来分。这让测集靶点在多个层面都与训练集拉开距离。

PLUMBER 官方对随机/时间切分的批评相当直白:标准技术 “often result in test sets containing many very similar proteins, which limits the ability to measure generalizability”(常常让测集含大量非常相似的蛋白,限制了测量泛化的能力)。这正是它选择 PLINDER split 的原因——测集靶点必须是「未见」(unseen)的,这样模型的高分才可能是真的泛化,而非记忆的回声。

4.2 未见靶点的实际含义

「Unseen」在 PLUMBER 里的准确语义是:测集蛋白与训练集蛋白在 PLINDER 的相似度度量下不重叠。这意味着——

  • 模型在测集面对的靶点,训练时从未直接见过;
  • 模型必须把学到的「结合规律」迁移到新靶点上,才能得分;
  • 这正是药物发现最关心的能力:面对一个全新靶点(如一个全新激酶、一个新发现的受体),能不能先算一算哪些分子可能有效。

在真实药物发现中,绝大多数项目面对的就是「未见靶点」——如果基准只测「已知靶点的新分子」,那评测结果和实际需求严重脱节。PLUMBER 把测试条件对齐到了真实场景。

4.3 BIOPTIC 官方的自我定位:把数据集当压力测试

Bioptic 官方对 PLUMBER 的定位,从来不满足于「数据集」三个字。博客原文那句总结值得完整引用:It’s not just a dataset — it’s a stress test for AI(它不只是一个数据集,它是给 AI 的压力测试)。这个措辞透露了设计哲学:PLUMBER 不是用来「跑出漂亮分数」的,而是用来暴露模型弱点的。一个理想的评测集,应该让不够鲁棒的模型明显掉分——这正是「未见靶点切分」要达到的效果。

4.4 PLINDER 侧的背书:跨路线的接口

PLINDER 官方在 2024 年终更新里,专门提到了 PLUMBER,并给出了一句相当有价值的背书:

PLUMBER incorporates a lot more data points due to being entirely sequence-based, but still follows the PLINDER split, potentially allowing future comparisons between sequence-based and structure-based affinity predictors.

翻译:PLUMBER 因完全序列基而纳入更多数据点,但沿用 PLINDER 的 split,这为未来序列基 vs 结构基亲和力预测器的对比留下了可能。

这句话的分量在于——它来自 PLINDER 团队(第三方,非 Bioptic 自吹),且点出了 PLUMBER 的结构性价值:因为共享切分,两个原本平行的技术路线(看结构 vs 看序列)第一次有了同一把尺子。这对整个领域的方法学比较是有意义的。

4.5 自曝的局限:只有蛋白 split,没有配体 split

PLUMBER 在透明性上做得最好的一点,是主动说出自己的不足。README 在介绍 PLINDER split 时明确写道:

While it is not perfect (as we lack ligand split information), it should yield more challenging splits compared to standard techniques.

翻译:虽然它不完美(因为我们缺少配体 split 信息),但它应该能给出比标准技术更有挑战性的切分。

这个自曝很关键——它意味着 PLUMBER 的「未见」只在蛋白侧成立,在配体侧不成立。测集靶点虽新,但测集小分子仍可能与训练集分子高度相似。因此 PLUMBER 检验的是**「新靶点 + 可能已知的化学空间」,而不是「新靶点 + 全新化学空间」**。严格的「配体-未见」评估,PLUMBER 并不提供。检索者若需要完全的化学空间外推评估,必须自行补充配体相似度切分(见 §10 坑点 4)。

4.6 数据泄漏:一个普遍存在的隐性问题

PLUMBER 对切分的重视,指向了一个在机器学习评测中普遍存在却常被忽视的问题:数据泄漏(data leakage)。

数据泄漏指的是「训练信息以非预期方式渗入测集」,让测集分数虚高、无法反映真实泛化能力。在分子/蛋白领域,泄漏的常见形态有:

  • 相似分子泄漏:测集分子与训练集分子结构高度相似(同一骨架、同一系列),模型靠「见过类似的」得分;
  • 相似靶点泄漏:测集靶点与训练集靶点同源(同蛋白家族、高序列相似度),模型靠「见过类似口袋的」得分;
  • 时间泄漏(time leakage):测集样本实际早于训练集被测定,违背「预测未来」的设定;
  • 重复泄漏:同一实验记录以不同形式同时出现在训练与测集。

PLUMBER 通过 PLINDER 的复合相似度切分主要缓解了「相似靶点泄漏」——这是它的设计重心。但对于「相似分子泄漏」,因缺乏配体 split(官方自曝),缓解力度有限。理解这一点,能帮助使用者准确界定 PLUMBER 评估的适用范围:它是一个靶点泛化的严格测试,但不是化学空间外推的严格测试。

4.7 三条切分策略的横向对比

为把 PLUMBER 的切分选择讲透,这里横向对比三种策略在「蛋白-配体」任务上的表现:

切分策略 测什么能力 优点 缺点 适合场景
随机切分 记忆 + 弱泛化 实现简单、数据利用率高 测集混入相似靶点/分子,分数虚高 快速原型、基线开发
时间切分 对未来数据的泛化 贴近「预测未来」的现实设定 同靶点新旧数据仍可能重叠,泄漏不彻底 时序性强、数据随时间增长的任务
未见靶点切分(PLINDER) 对全新靶点的泛化 直击药物发现核心难点,泄漏控制好 切分复杂、测集更难、分数普遍偏低 泛化能力评测、新靶点预测

PLUMBER 选第三条,代价是分数会更「难看」——但「难看」恰恰是价值所在:一个在随机切分下 0.95、在未见切分下 0.70 的模型,其真实泛化能力更接近后者。用更难的切分测出更真的能力,是 PLUMBER 的方法学主张。


§5 评测怎么用:从任务定义到模型落地

5.1 两个任务的标准用法

任务一:结合事件分类(binding event classification)
在 train 集上训练模型学习「分子-靶点对是否结合」,在 val/test 集上用 is_active 评估。模型输出的通常是一个结合概率,评估指标为二分类指标(AUC、PR-AUC、MCC 等)。这是 PLUMBER 最直接的用法——把它当成一个「跨靶点二分类压力测试」。

任务二:结合亲和力回归(binding affinity regression)
用 train 集的 ki/kd/ic50/ec50 连续值训练回归模型,预测分子对靶点的亲和力数值。由于 train 集还带 _sign(=/>/<)符号,建模者可以选择:只用等值数据(=,最干净)、把不等号作为约束或软标签、或把数据当作排序任务。评估指标为回归指标(RMSE、MAE、Spearman 相关等)。

5.2 一个实操建议:先定「用哪些活性类型」

因为 train 集同时含 Ki/Kd/IC50/EC50 四种量,建模前必须先明确用哪些。经验上:

  • 追求亲和力预测的纯度:只用 Ki/Kd 的等值数据(=),牺牲数据量换测量可靠性;
  • 追求数据量:纳入 IC50/EC50,但要意识到它们受实验条件影响、跨实验可比性弱;
  • 排序/虚拟筛选场景:可以把 . > / . < 的不等号数据当弱监督或排序约束用。

官方对此的态度是开放的(“alternative strategies can incorporate the other activity types”),没有强推单一方案——这既是自由,也意味着评鉴的方式必须自己定义。

5.3 官方未提供基线榜:一把双刃剑

必须明确指出:PLUMBER 官方没有发布基线模型榜单(leaderboard)。既没有 SOTA 数字表,也没有官方基线 AUC/RMSE。这与 Polaris 平台上一些带完整评测指标的基准不同。

这把「双刃剑」的两面是:

  • 好处:没有榜单锚定,研究者可以自由定义任务口径与指标,适合开放式探索;
  • 代价:跨报告不可直接比较——两个人说「我在 PLUMBER 上做了 X」,若任务定义(用哪些活性类型)、切分使用(用 val 还是 test)、指标口径不同,分数根本不可比。若要横向比较,必须自行建立基线并在论文中明确口径。

5.4 应用实证:BiPELL 与「digital employees」

PLUMBER 已经在实际研发中被使用。Bioptic 官方明确:PLUMBER 已在驱动其下一代模型开发,包括其 BiPELL(protein-agnostic language model,蛋白无关语言模型)——用 PLUMBER 来测跨靶点鲁棒性、验证泛化、加速预测改进。

2026 年一篇 MDPI 综述(Artificial Intelligence Across the Drug Development Lifecycle)把 PLUMBER 描述为 Bioptic「数字员工」(digital employees)科学准确性的锚点,用 180 万条结合亲和力点来「确保其操作达到可与人类科学家比肩的科学准确性」(原文意)。这说明 PLUMBER 不只是纸面基准,而是已进入真实研发闭环的评测工具。

5.5 一个具体的使用场景走查

为了把「怎么用」讲实,这里走查一个典型场景:你要评估一个自研的序列基结合预测模型,想知道它在全新靶点上到底行不行。

第一步,下载与拆分。从 Polaris 用 polaris 包拉取 V2 数据,按官方 split 拿到 train/val/test——注意不要自行重新切分,否则就丢掉了 PLUMBER 最核心的价值(未见靶点设计)。

第二步,确定任务口径。三选一:(a) 只做二分类——用 train 集(把 Ki/Kd < 1 μM 也二值化)训练,val 调参,test 报 AUC;(b) 做回归——用 train 的连续值训练,在 test 上算 RMSE/Spearman(但 test 是二值标签,回归评估需自己在 train 里另划验证或改用 test 的 is_active 做排序评估);© 混合——用连续值 + 符号做软监督。口径一旦选定,必须在报告中写明,因为 PLUMBER 无官方基线,口径不定则分数无意义。

第三步,对照与诊断。因为测集靶点未见,模型在 test 上的分数就是它的跨靶点泛化能力。若分数远低于在随机切分下的表现,说明模型主要靠「记忆相似靶点」,泛化能力不足——这正是 PLUMBER 要暴露的问题。

第四步,归因分析。按 source 分组看表现(在 chembl/bdb/biolip 三源上是否一致)、按靶点族分组看(是否对某类蛋白尤其差)、按配体性质看(是否对大分子/高疏水分子失灵)。PLUMBER 的字段设计支持这些切片分析。

第五步,报告。由于无 leaderboard,你的报告需自建基线(如用简单的 ECFP+随机森林、或用公开序列模型),并明确任务口径、切分使用、指标定义——让结果可被他人复现比较。

这个走查揭示了 PLUMBER 的正确打开方式:它不是「下载即刷分」的玩具,而是「需要你自己定义口径、自己做基线」的严肃考场。对愿意投入定义成本的研究者,它给出的是最接近真实药物发现场景的泛化评估。

5.6 与「结构基评估」的互补使用

如果你的研究同时涉及结构基与序列基方法,PLUMBER 提供了一个难得的同尺对照机会:因 PLUMBER 沿用 PLINDER 的 split,理论上可以在同一批未见靶点上比较两条路线的表现。操作要点是:确保结构基方法在 PLINDER 侧、序列基方法在 PLUMBER 侧使用的是同一套蛋白 split,然后对比二者在重叠靶点上的表现差异。

这个对照的价值在于:它回答「不看结构到底损失多少精度」这个关键问题。若序列基方法在未见靶点上只比结构基低一点点,那对大量拿不到结构的靶点,序列基路线就是可行的现实方案——这正是 Bioptic 押注序列优先路线的底气所在。

5.7 指标选择:分类与回归各自的注意点

PLUMBER 无官方指标,故使用者需自选。给两个任务各一份指标建议:

结合事件分类(分类任务):

  • AUC-ROC:最常用的排序指标,但对类别不平衡不敏感(PLUMBER 的 active/inactive 比例未知,可能失衡);
  • PR-AUC(AUPRC):对类别不平衡更稳健,当 active 是少数类时优先用(药物筛选中真活性通常稀少);
  • MCC(Matthews correlation coefficient):综合四格表,适合不平衡数据;
  • 注意阈值影响:PLUMBER 的标签由 Ki/Kd < 1 μM 定义,模型输出概率时需说明用什么阈值算二分类——阈值不同,F1/精确率/召回率都不同。

结合亲和力回归(回归任务):

  • RMSE / MAE:绝对误差度量,注意活性值常取对数(pKi/pKd),跨研究比 RMSE 前需确认是否同尺度;
  • Spearman / Pearson 相关:排序相关性,药物筛选更关心「相对排序对不对」;
  • R²:需谨慎,对分布外测集容易失真。

通用提醒:因 PLUMBER 无基线,任何指标数字都应在报告里配套说明任务口径(用哪些活性类型)、切分使用(val 还是 test)、预处理(是否对数变换)。缺了这些说明的分数,无法被复核。

5.8 一个诚实的能力边界声明

使用 PLUMBER 时应清楚它的评估能说什么、不能说什么:

  • 能说:模型在「未见靶点 + 已知化学空间」条件下的结合预测能力;
  • 不能说:模型在「全新化学空间」的外推能力(缺配体 split);
  • 能说:模型跨靶点的相对排序能力;
  • 不能说:模型在真实湿实验中的命中率(回顾性基准,非前瞻验证);
  • 能说:与同样使用 PLUMBER 口径的其他方法做相对比较(需口径一致);
  • 不能说:绝对意义上的「SOTA」(无官方基线,无 leaderboard)。

把这份边界声明写进实验报告,能显著提升研究结论的可信度与可复现性——这也是严肃使用基准的应有态度。


§6 获取与许可:CC-BY-4.0 下的两条路

6.1 许可:宽松但要求署名

PLUMBER 的许可是 CC-BY-4.0(Creative Commons Attribution 4.0 International)。这是 Creative Commons 家族里相当宽松的一档:

权利 CC-BY-4.0
商用 ✅ 允许
再分发 ✅ 允许
修改/再加工 ✅ 允许
署名 ⚠️ 必须(Attribution)
相同方式共享 ❌ 不要求
非商用限制 ❌ 无

许可的确认来自两源:Polaris 数据集页明确标注 “License: CC-BY-4.0” 并链向 creativecommons.org/licenses/by/4.0/;Bioptic 官方博客写 “public accessibility under CC-BY-4.0”。两源一致,可放心使用,只要按要求署名。

署名义务的具体指向是 GitHub 仓库(github.com/optic-inc/plumber)和/或 Polaris 数据集条目。由于没有正式论文,署名时应引用这两者而非虚构论文引用(见 §10 坑点 6)。

6.2 获取路径一:Polaris Hub(推荐,保证版本一致)

Polaris Hub 是 Valence Labs / Recursion 主导的 MLDD 基准平台,其设计哲学是「单一可信来源」(single source of truth)——数据集上传后即 immutable(不可变),任何人任何时刻下载到的都是逐字节相同的版本。这一设计直接针对药物发现 ML 的老问题:不同团队声称用了「同一个数据集」,实际过滤、版本、切分各不相同,导致结果不可比。

Polaris 上 PLUMBER 的入口是 polarishub.io/datasets/optic/plumber,当前版本标 V2。官方指定的获取姿势是用 polaris Python 包(conda install -c conda-forge polaris=0.9.1),通过 API 拉取——Polaris 把各格式统一为 Zarr 存储,API 返回「下载即可训练」的 ML-ready 表征,无需自行解析格式。

优点:版本锁定、口径统一、跨团队可比。
注意:Polaris 的数据集不可直接在平台上改——若你想改预处理,必须拿源数据重上传为新版本。这是刻意的设计,用来堵住「静默改数据」的漏洞。

6.3 获取路径二:GitHub 仓库(要复现走这条)

github.com/optic-inc/plumber 是 PLUMBER 的官方仓库。它未必托管完整数据集本身(数据主战场在 Polaris),核心价值在于全套预处理源码(notebooks/ 目录,见 §3.7)。

如果你要:

  • 复现 PLUMBER 的构建过程 → 走 GitHub(跑 notebooks);
  • 核验 预处理每一步到底做了什么 → 走 GitHub(读源码,这是最硬的凭证);
  • 扩展/改造 PLUMBER → 走 GitHub(改造 notebook 后重传 Polaris 新版本)。

仓库提交历史显示主要活动集中在 2024-11 月发布前后(Init 2024-11-11、发布 2024-11-15、README 修订至 2024-11-19),此后无公开大更新。这说明 PLUMBER 是一个相对稳定的发布版,而非持续滚动更新的数据集。

6.4 认证状态:Uncertified 的事实

一个必须如实记录的事实:Polaris 页面将 PLUMBER 标注为 Uncertified(未认证)。平台原话大意是:该数据集尚未经认证评审员认证,可能包含与数据质量相关的问题。

这与 PLUMBER 自我宣传的「high-quality、aggressive filtering」存在张力——「高质量」是作者的自评,而平台层面的认证评审尚未完成。检索者应当把这一点纳入考量:PLUMBER 的清洗步骤有源码可查(可信度高),但未经过独立的第三方认证评审(可信度未加冕)。这不是说数据有问题,而是说「质量保证」的来源是作者自证 + 源码可复现,而非平台认证。

6.5 一句话获取决策

  • 想快速用数据做实验 → Polaris(polaris 包,V2)
  • 想搞懂/复现预处理 → GitHub(notebooks/)
  • 想署名合规 → 引用 GitHub 仓库 + Polaris 条目,注明 CC-BY-4.0
  • 想独立验证质量 → 自己跑一遍 notebooks,别只信「high-quality」的自我描述

6.6 许可与「源数据许可」的区分

一个常被忽略的合规细节:PLUMBER 的 CC-BY-4.0,管的是 PLUMBER 这个加工产物本身,而它仰赖的三源原始库各有自己的许可(ChEMBL、BindingDB、BioLip2 各有条款)。这意味着——

  • 用 PLUMBER(加工数据)→ 遵循 CC-BY-4.0,署名即可;
  • 若你要回到三源原始数据做别的加工 → 需另行核对各源许可;
  • PLUMBER 的一次性许可,不自动等同于三源的许可。

所幸 PLUMBER 的加工深度较大(标准化、过滤、去重、重切分),产物已是「新数据集」,按 CC-BY-4.0 使用其产物是清晰的。但若你的下游用途对原始测量溯源有硬要求(如监管申报),请务必回溯到源库核对许可与出处。

6.7 数据可引性的现实提醒

由于 PLUMBER 无正式论文,它的「可引性」弱于有论文的基准——没有统一的 citation 字符串,不同人会写出不同的引用格式。这在实际学术写作中会造成小麻烦:审稿人或读者可能难以核对「你引的 PLUMBER 是不是我理解的 PLUMBER」。

缓解办法有三:① 引用时同时给出 GitHub URL 与 Polaris URL(两条路径都写上,最大化可定位性);② 注明版本(V2)与发布日(2024-11-15),锁定确定性;③ 若期刊允许,在方法部分简要描述其来源与切分(一两句话),让审稿人无需外链也能理解。这三点能显著提升一个「无论文基准」的引用清晰度。



§7 生态与影响:一个「无论文基准」如何立住

7.1 没有论文,靠什么建立信誉

PLUMBER 最反常规的一点:它没有正式论文,也不是 arXiv 预印本。在一个「数据集通常靠论文发家」的领域,这是个不小的短板——没有同行评议、没有标准 BibTeX、没有期刊 DOI。截至 2026-10 多轮检索,未见 PLUMBER 期刊论文或预印本。

那么它靠什么立住?靠三件「可验证的实物」:

  1. 可运行的预处理源码(GitHub notebooks/)——方法学可复现,比一篇写得再漂亮的论文更硬;
  2. 平台化的分发(Polaris Hub)——借成熟平台的版本锁定与 API,保证「大家用的是同一份数据」;
  3. 官方与第三方的引用背书——Bioptic 自己的模型开发在用,PLINDER 官方博客正面提及,2026 年 MDPI 综述引用。

这种「代码 + 平台 + 实际使用」的组合,是「无论文基准」的一条可行信誉路径。但它也有代价:缺乏同行评议的独立审视,且引用时没有统一格式(见 §10 坑点 6)。检索者应当明白:PLUMBER 的可信度建立在「可复现 + 被使用」上,而非「经过评议」。

7.2 出品方 Bioptic 与它的模型谱系

PLUMBER 不是孤立的产物,它是 Bioptic 整个技术栈的一环。Bioptic 是一家走「序列优先」路线的药物发现 AI 公司,官方产品叙事围绕「数字员工」(digital employees)展开——用 AI 智能体做靶点发现、分子设计、ADMET 预测等药物发现工作。

PLUMBER 在其中的角色是**「考卷」**:

  • 它是 Bioptic 验证自身模型泛化能力的内部标准;
  • 它被用于驱动 BiPELL(protein-agnostic language model)的开发与鲁棒性测试;
  • 它作为公开基准发布,让社区也能用同样的考卷。

从「公司自建内部基准 → 公开发布 → 成为社区资源」这条路径看,PLUMBER 是一个企业开源基准的典型案例——公司用公开数据+公开方法做了一个自用工具,顺手开源出去,既是回馈也是品牌。

7.3 Polaris Hub:定位与分化

PLUMBER 选择的发布平台 Polaris Hub 本身值得了解,因为它决定了 PLUMBER 的几个关键属性(版本锁定、API 分发、认证体系)。

Polaris 由 Valence Labs / Recursion 主导,联合 Chan Zuckerberg Initiative 及多家药企,针对的正是旧基准(MoleculeNet、TDC)积累的质量问题:重复记录、切分泄漏、在不该用随机切分的地方用随机切分、工业相关性不足等。Polaris 强调时间切分、匹配分子对分析、工业伙伴捐赠数据,并设计为通过 polaris-lib 消费。

Polaris 上有两类数据:普通数据集与认证数据集(certified datasets,经平台与领域专家联合审核,确保无重复/无效/歧义数据)。PLUMBER 属于前者(Uncertified)——它上线了,但没过认证关。理解这一点,才能准确评价 PLUMBER 的质量水位(见 §6.4)。

7.4 在「蛋白-配体基准」版图中的位置

把 PLUMBER 放进领域坐标系,它与几个相邻资源的关系如下:

  • PLINDER(plinder.sh):结构基蛋白-配体相互作用基准,PLUMBER 的方法学上游(提供 split)。两者互补而非替代——一个测结构,一个测序列。
  • MoleculeNet / TDC:通用分子性质预测基准套件。PLUMBER 的序列基结合预测是更垂直的场景,且其未见靶点切分比 MoleculeNet 的 scaffold split 更针对泛化。
  • PoseBusters:聚焦 3D 对接位姿物理有效性的基准,与 PLUMBER 任务不同(一个管「位姿对不对」,一个管「结合不结合」)。
  • 库内 bindingdb(91)/pdbbind(134)/binding-moad(174):见 §9 详述。

PLUMBER 的差异化定位可以概括为一句:「完全序列驱动 + 未见靶点切分 + 大规模多靶点」的泛化压力测试集。

7.5 「序列优先」路线的行业意义

把视野拉高一层:PLUMBER 背后是**「序列优先」vs「结构优先」两条技术路线的分野**。

结构优先路线(主流)依赖 3D 结构,优势是信息丰富(能算结合位姿、相互作用几何),劣势是受结构可得性制约——据经验,相当比例的潜在药靶缺乏可靠实验结构。序列优先路线(Bioptic 押注)只用一级序列,优势是几乎不受靶点结构可得性限制(只要有基因序列),劣势是信息量少于 3D 结构。

PLUMBER 在这条分野中的角色是**「序列优先路线的体检仪」:它证明序列优先方法可以在大规模、跨靶点的严格切分下被公平评估。若评估显示序列基方法在未见靶点上足够强,那对结构难获得的靶点**(无序蛋白、难结晶蛋白),序列优先就是唯一的可行路线——这正是 Bioptic 博客「unlocks new territory for AI in drug discovery」的行业含义。

换句话说,PLUMBER 不只是一个数据集,它是**「不看结构能走多远」这个问题的一个可量化答案的载体**。

7.6 生态位小结:被三种人需要

综合来看,PLUMBER 在生态中同时服务三类角色:

  • 模型开发者:需要一个严格、大规模、可复现的跨靶点考场来检验泛化;
  • 方法论研究者:需要研究「切分方式如何影响评估结论」的样本;
  • 应用团队:需要一个低成本、可商用的大规模蛋白-配体训练数据源。

它的独特之处在于同时满足这三者——这也是一个「企业开源基准」能立住的原因:它既服务发布方自己的研发(第一类),又以开放许可回馈社区(第二、三类)。

7.7 与通用分子基准(MoleculeNet / TDC)的定位差异

把 PLUMBER 与更广为人知的分子基准对照,能更清楚它的独特价值:

维度 MoleculeNet / TDC PLUMBER
任务类型 通用分子性质预测(ADMET、毒性、溶解度等) 聚焦蛋白-配体结合(分类 + 亲和力回归)
输入 多为「单分子」性质 蛋白-配体配对(序列 + SMILES)
切分 随机/scaffold split 为主,泄漏问题被广泛记录 未见靶点切分(PLINDER),泄漏控制更严
规模 数十数据集各数千至数十万 单一大表约 180 万条
数据来源 多源历史数据 ChEMBL/BindingDB/BioLip2 三源 + 激进清洗

差异的核心在任务垂直度与切分严格度:MoleculeNet/TDC 覆盖面广但偏「单分子性质」,且其部分数据集(如 HIV、BACE)的切分泄漏问题已被文献记录;PLUMBER 则只做蛋白-配体结合这一件事,但把切分做到未见靶点级。

对使用者的启示:若任务是「分子本身的性质」(如某化合物的水溶性),用 TDC;若任务是「分子能否结合某靶点、尤其是全新靶点」,PLUMBER 更对口。两者不是替代关系,而是覆盖不同问题面。

7.8 一个「企业开源基准」的样本意义

PLUMBER 的存在方式本身有案例价值:它展示了一条企业如何使用开源策略的路径——

  1. 自建:为满足自身研发需求(验证 BiPELL 泛化)而构建内部基准;
  2. 开源:以宽松许可(CC-BY-4.0)公开发布,附带完整源码;
  3. 平台化:借 Polaris 做版本锁定与分发,保证可比性;
  4. 品牌化:通过发布基准,展示公司在「序列优先」路线上的技术判断与数据能力。

这套组合,让一个本可能只存在于公司内部的评测工具,变成了社区可用、可引用、可对标的公共资源。对其他拥有内部数据资产的企业,这是一个可借鉴的范式——开源基准既是回馈,也是一种技术品牌建设。


§8 方法学启示:三条可迁移的经验

8.1 切分方式就是评测的「隐藏定义」

PLUMBER 最大的方法学贡献,不是数据本身,而是它把「切分」摆到了台面上。同一个数据集,随机切分和未见靶点切分,测出来的是两种能力。「我用了数据集 X」远不如「我用了数据集 X 的什么切分」重要。

可迁移经验:任何涉及泛化评估的任务(不限于药物发现),都必须明确测集相对训练集的「新」在哪里——是新样本?新类别?新分布?切分定义含糊的评测,其结论不可信。

8.2 「保留信息、不替用户决定」的接口设计

PLUMBER 训练集保留连续值与不等号符号、只对 val/test 二值化,是一种克制的接口设计:把「归一化/二值化」这类下游决策留给使用者,而非在上游一刀切。这提升了数据集的复用弹性——同一份数据可支持回归、排序、分类多种任务。

可迁移经验:设计数据集时,把「不该由数据提供方替用户做的决定」保留下来,用带符号的原始值替代拍脑袋的二值标签,往往能显著扩大数据的适用面。

8.3 透明地暴露自身局限,反而是可信度的来源

PLUMBER 两处自曝——「lack ligand split information」和平台标注的「Uncertified」——表面上是减分项,实质上增加了可信度:它让使用者准确知道边界在哪,避免误用。相比之下,一个宣称「完美」却不公开局限的基准,风险更高。

可迁移经验:评估数据集的「质量」,不只看它宣称多干净,更要看它是否说清了自己的不干净之处。有源码、有自曝局限的基准,通常比只有漂亮描述的更值得信赖。

8.4 无论文基准的存续之道

PLUMBER 证明了一条路径:当方法学可以用代码完整复现时,「论文」不是数据集被采信的唯一凭证。GitHub + 平台 + 实际使用,可以构成一套替代性的信誉机制。但这条路径要求极高的透明度(源码全开、步骤写清),因为缺少了同行评议这道外部审视,透明就是唯一的信任来源。

8.5 平台化分发对「可复现性」的贡献

PLUMBER 的另一个可迁移点,是它借助平台实现版本不可变。传统数据集的发布方式是「挂个下载链接」,风一吹链接就变、文件就换成新版,后来者再也拿不到「当时那份数据」。Polaris 的 immutable 设计堵住了这个漏洞:数据集一旦上传即锁定,任何人都拿得到逐字节相同的版本。

这对基准评测尤其关键——评测的前提是「大家在比同一份卷子」。若卷子本身会变,分数就永远无法公平比较。PLUMBER 选择 Polaris 而非简单挂载,正是看中了这一点。

可迁移经验:如果一个数据集要被用于长期、跨团队的评测,务必让它的版本不可变(内容寻址、平台锁定、或至少发布带哈希的快照)。可变的「最新版链接」是评测公平性的隐形杀手。


§9 与库内条目的关系

9.1 家族图谱:三类「蛋白-配体」资源的定位分野

千方病案医数集库内已有的蛋白-配体相关条目,与 PLUMBER 同域但定位各异:

条目 rid 本质 数据形态 与 PLUMBER 的关系
bindingdb 91 BindingDB 实验结合亲和力库 结构基/实验测量,含具体靶点与化合物 PLUMBER 的源数据之一(README 明列 BindingDB 为三源之一)
pdbbind 134 PDBbind 蛋白-配体复合物亲和力集 结构基(含 3D 复合物),金标准对接/打分数据集 同域互补:PdbBind 结构基,PLUMBER 序列基
binding-moad 174 Binding MOAD 蛋白-配体结合库 结构基,从 PDB 提取的复合物 同域互补,结构与序列两条路线

关键区分(务必写入检索认知):PLUMBER 与上述三者不是别名、不是版本、不是合并视图,而是方法论上的平行路线:

  • bindingdb/pdbbind/binding-moad 都是结构基(依赖 3D 复合物结构);
  • PLUMBER 是序列基(只需氨基酸序列 + 小分子 SMILES);
  • 更关键的是,PLUMBER 含评测切分设计(未见靶点 split),而上述三库主要是数据集合而非评测基准。

因此 PLUMBER 在库内是独一份的「序列基 + 泛化基准」身份,与既有结构基资源互补共存,不构成撞库(已在 §1 查重环节确认 url_name ILIKE '%plumb%' 命中 0)。

9.2 检索路径建议

  • 想要大规模、序列驱动、跨靶点泛化的结合预测训练/评测数据 → PLUMBER(本条)
  • 想要结构基的复合物 3D 信息做对接/打分 → pdbbind(134) / binding-moad(174)
  • 想要原始实验结合亲和力事实库(含 IC50 等原始测量) → bindingdb(91)
  • 想要结构基的多层面相似度切分基准(PLUMBER 的上游方法学) → PLINDER(库内若未收录,为潜在补充方向)

9.3 建议互链点(供主会话入库后回填 rid)

  • bindingdb(rid=91):PLUMBER 的源数据之一,最直接的血缘关系,建议双向互链
  • pdbbind(rid=134):结构基 vs 序列基的同域对照,建议互链
  • binding-moad(rid=174):同域互补,建议互链
  • 注:本条目自身 rid 待入库后确定;正文互链一律以实际 rid 为准,避免按「预计 rid」填写(R018 教训)

9.4 库内「药物发现与化学」域的整体图景

PLUMBER 的入库,填补了库内「序列基 + 泛化基准」这一生态位。综合看,千方病案医数集在「药物发现与化学」域已聚集起一组互补资源:

  • PLUMBER(本条):序列基、多靶点、未见切分、约 180 万活性值——泛化基准 + 大规模训练数据;
  • bindingdb(91):实验结合亲和力事实库——原始测量来源;
  • pdbbind(134):结构基复合物亲和力集——对接/打分金标准;
  • binding-moad(174):PDB 提取的复合物库——结构基数据补充。

这四条构成一条完整的「事实 → 结构 → 序列 → 基准」链条:BindingDB 提供原始事实,PdbBind/Binding MOAD 提供结构,PLUMBER 提供序列基的大规模评测。对做药物发现 ML 的检索者,这组资源基本覆盖了从数据到评测的主要需求面。

PLUMBER 在其中是不可替代的一环——因为它是唯一一个「以真实泛化为目标设计切分」的条目。其余三者本质是数据集合,而 PLUMBER 是带评测设计的基准。这个差异,是它在库内最清晰的身份标识。


§10 避坑清单:十六个已踩过的坑

以下坑点编号为「坑 1」至「坑 16」,均为检索与使用 PLUMBER 时的高频误区,逐条给出症状与对策。

坑 1:把 PLUMBER 当成「原始实验数据库」。
症状:以为 PLUMBER 里的每条活性值都是 Bioptic 亲自测的。
对策:PLUMBER 是再加工数据——它整合 ChEMBL/BindingDB/BioLip2 三家公开数据,价值在「清洗 + 切分」,不在「新测量」。要原始事实库请用 bindingdb(91)。

坑 2:GitHub 组织名写成 bioptic/plumber。
症状:访问 github.com/bioptic/plumber 报 404。
对策:官方仓库的 org 是 optic-inc,正确地址为 github.com/optic-inc/plumber。「Optic」是公司关联实体名,与品牌名 Bioptic 不完全一致——curl/WebFetch 时地址写错会误判为「仓库不存在」。

坑 3:以为能查到 train/val/test 的精确行数。
症状:翻遍 README 与 Polaris 页都找不到三个子集各自多少条。
对策:官方只公开总量约 180 万条,各集精确行数与 split 索引从未披露。需要精确比例时只能自己下载数据后 value_counts 统计——不要从文档臆测数字。

坑 4:以为 PLUMBER 提供了「完全未见」的评估。
症状:默认测集在蛋白和配体两个维度都与训练集不相交。
对策:PLUMBER 只有蛋白 split,没有配体 split(官方自曝)。测集小分子仍可能与训练集相似。若任务要求「配体-未见」评估,必须自行补做配体相似度切分。

坑 5:忽略多源合并的来源优先级偏倚。
症状:跨 ChEMBL/BioLip2 独有的靶点评估时结果异常。
对策:PLUMBER 在多源冲突时优先 BindingDB。若你的研究对象是 ChEMBL/BioLip2 独有测量覆盖的靶点,需意识到存在来源选择偏倚,必要时回到原始库核对。

坑 6:引用时虚构论文 DOI 或 BibTeX。
症状:引用格式里写了一个不存在的期刊 DOI。
对策:PLUMBER 没有正式论文(截至 2026-10)。署名应引用 GitHub 仓库 + Polaris 数据集条目,或按 Polaris 平台生成引用——切勿编造论文引用。

坑 7:以为数据「high-quality」是第三方认证的结论。
症状:把官方自我描述的「high-quality」当作客观认证。
对策:Polaris 明确标注 PLUMBER 为 Uncertified。质量保证来源是「作者自证 + 源码可复现」,非平台认证。要用得安心,就自己跑一遍 notebooks 验证。

坑 8:下载时用错工具/版本导致数据不一致。
症状:不同人下载的 PLUMBER 版本不同、结果无法对齐。
对策:官方指定用 polaris 包(conda-forge,示例版本 0.9.1) 从 Polaris 拉取,且必须先装 polaris 再装其他依赖。Polaris 数据集 immutable(版本锁定),这才是「大家用同一份数据」的保证。

坑 9:把二值化阈值当成普适定义。
症状:把 PLUMBER 的 is_active(Ki/Kd < 1 μM)当成领域通用的「活性」定义。
对策:1 μM 是 PLUMBER 为统一口径而选定的阈值,并非领域标准。不同场景的「活性」阈值不同(有些场景用 10 μM,有些用 100 nM)。跨研究比较时务必核对阈值。

坑 10:混淆 PLUMBER 与 PLINDER。
症状:把两者的数据规模、任务、许可混为一谈。
对策:PLINDER 是结构基基准(数十万复合物),PLUMBER 是序列基基准(约 180 万活性值);PLUMBER 借用 PLINDER 的 split 方法学。两者的数据、任务、规模、发布方都不同——它们互补,不可互换。

坑 11:把「180 万条」当成「180 万个分子」或「180 万训练样本」。
症状:按 180 万估算训练集规模或分子多样性,结果偏差巨大。
对策:180 万是蛋白-配体「配对数」,同一分子/同一靶点会重复出现。独立分子数与独立靶点数官方未披露,且远小于 180 万;train 集具体行数也未公开。做规模估计前必须下载后实际统计。

坑 12:用 PLUMBER 的分数直接宣称「超越 SOTA」。
症状:在论文中写「本方法在 PLUMBER 上达到 SOTA」。
对策:PLUMBER 无官方 leaderboard、无基线分数,「SOTA」无从定义。正确表述是「在统一口径下优于我们所建的基线」——并公开你的任务口径(用哪些活性类型)、切分(val 还是 test)、指标定义,让结论可复核。

坑 13:忽略 PAINS 过滤对「特定化学类」的剔除。
症状:研究某类含特定官能团的分子(如醌类、儿茶酚)时,发现数据里样本异常稀少。
对策:PLUMBER 经 PAINS 过滤,会剔除泛测定干扰化合物——若你的研究对象恰属 PAINS 类,数据将系统性缺失。这不是数据缺陷,而是清洗的有意选择。需要这类分子时,请回到未经 PAINS 过滤的源库(如 BindingDB)。

坑 14:假设 val 与 test 可互换使用。
症状:随意用 val 或 test 报分,未说明用了哪个。
对策:PLUMBER 的 val 与 test 字段相同、均为未见靶点,但它们对应不同的靶点 split。报告中必须明确用的是 val 还是 test,且调参应用 val、最终报分用 test——若在 test 上调参,即为泄漏。官方未公开两集大小,使用前应确认自身流程未跨集泄漏。

坑 15:把「Uncertified」等同于「数据有问题」。
症状:因看到 Uncertified 就断定数据不可用。
对策:Uncertified ≠ 质量差,它只表示「未经平台认证评审」。PLUMBER 的清洗步骤有完整源码可查,质量是作者自证 + 可复现。正确态度是:把它当作「需自行验证」的信号,跑一遍 notebooks 确认,而非直接否定或直接采信。

坑 16:忽视「多对一」配对结构对评估的影响。
症状:在未见靶点评估中,因测集某靶点配对数很多而被其主导整体指标。
对策:PLUMBER 是「一个靶点对多个配体」的多对一结构。若按记录数做宏平均,配对数多的靶点会主导结果。建议同时报按靶点分组的指标(per-target 平均),以看清模型在不同靶点上的真实表现。

§11 总结

11.1 三句话总结

  1. PLUMBER 是 Bioptic 出品、在 Polaris Hub 发布的「序列基蛋白-配体结合预测基准」——整合 ChEMBL/BindingDB/BioLip2 三源,经单体筛选、SMILES 标准化、PAINS 过滤、去重等六步清洗,得约 180 万条活性值。
  2. 它的灵魂是「未见靶点切分」——借用 PLINDER 的复合相似度 split,让测集蛋白对训练集未见,把评测从「测记忆」转向「测泛化」,故官方称其为「给 AI 的压力测试」。
  3. 它的身世是「无论文基准」——没有 arXiv/期刊论文,靠可复现源码 + 平台分发 + 实际使用立信誉;许可宽松(CC-BY-4.0),但平台标注 Uncertified,且只有蛋白 split、无配体 split。

11.2 适合谁

  • 序列基结合预测模型的开发者:需要一个严苛的跨靶点泛化考场;
  • 蛋白语言模型 / 分子表征学习研究者:PLUMBER 的序列-配体任务是天然下游评测;
  • 虚拟筛选团队:想测「面对全新靶点能否优先筛出真活性分子」;
  • 基准方法学研究者:PLUMBER 的「未见切分」设计是可研究、可对标的样本;
  • 想以低成本获得大尺度蛋白-配体训练数据的人:CC-BY-4.0 + 约 180 万条,门槛低。

11.3 不适合谁

  • 需要原始实验测量事实的人:请用 BindingDB(91) 等原始库;
  • 需要 3D 结构做对接/打分的人:PLUMBER 不给结构,请用 PdbBind(134)/Binding MOAD(174);
  • 需要「配体-未见」严格外推评估的人:PLUMBER 缺配体 split,需自建;
  • 需要官方基线分数以直接攀比的人:PLUMBER 无 leaderboard,跨报告不可比;
  • 需要权威认证背书以便合规审计的人:Polaris 标 Uncertified,认证背书缺位。

11.4 30 秒决策卡

  • 我要做什么? → 判断是否需要「序列基 + 跨靶点泛化」的结合预测数据
  • 规模够吗? → 约 180 万条,同类多靶点基准里最大级
  • 许可能用吗? → CC-BY-4.0,商用可,须署名
  • 怎么下载? → Polaris(polaris 包,V2)或 GitHub(notebooks/)
  • 最大的坑? → 只有蛋白 split、无配体 split;Uncertified;无论文
  • 一句话 → 要测「不看结构、只看序列」的模型在全新靶点上行不行,就用 PLUMBER。

11.5 一页纸速记(给赶时间的人)

  • 是什么:Bioptic 的序列基蛋白-配体结合预测基准,180 万条,CC-BY-4.0
  • 在哪:Polaris Hub(polarishub.io,V2)|GitHub(optic-inc/plumber)
  • 关键词:序列驱动、未见靶点 split、PLINDER 血统、PAINS 过滤、Ki/Kd < 1 μM
  • 三个硬事实:四源互证 180 万|双源确认 CC-BY-4.0|双源确认 2024-11-15 发布
  • 三个必须知道的局限:无配体 split|Uncertified|无正式论文
  • 和谁像:像 PLINDER 的序列版(共享 split,不同数据模态)
  • 和谁不一样:不同于 bindingdb/pdbbind/binding-moad(它们是结构基数据集合,它是序列基基准)

11.6 写这条目的方法与可核验性

本条目所有硬数字均遵循「三源互证」原则,核心事实来源与性质如下:

事实 来源 性质
约 180 万条 Polaris 页 / Bioptic 博客 / 官方 LinkedIn / MDPI 综述 四源一致
CC-BY-4.0 Polaris 页 / Bioptic 博客 双源一致
2024-11-15 发布 Bioptic 博客 / Polaris 页 双源一致
全称含 for Evaluating Robustness GitHub README / Polaris 页 双源一致
六步预处理 GitHub README / Polaris 页 双源一致(原文照录)
字段 schema GitHub README / Polaris 页 双源一致
缺 ligand split 自曝 GitHub README 单源(官方一手)
Uncertified Polaris 页 单源(平台一手)
发布日 2024-11-15 官方博客 + Polaris 双源

未核实项(遗留疑点):train/val/test 各集精确行数、作者完整名单、V1→V2 变更内容、官方基线分数——这些官方从未公开,本条目如实标注为「未披露」,未做任何推测性填充。凡本文出现「约」「未披露」「自曝」等字样处,均为严谨表述,非含糊其辞。

核验时点:2026-10-16。网络来源随时间可能变动,若需引用请以官方现页为准。

11.7 版本与更新历史

PLUMBER 的版本线索梳理如下(供需要锁定版本的检索者参考):

时点 事件 来源
2024-11-11 GitHub 仓库 Init(首次提交) GitHub 提交历史
2024-11-15 正式发布(博客 + Polaris 创建) Bioptic 博客 / Polaris 页
2024-11-18 README 更新 overview 图、EDA notebook 整理 GitHub 提交历史
2024-11-19 README 修正数据格式说明 GitHub 提交历史
2025-02-20 (PLINDER 侧)数据集更新的计划,非 PLUMBER 迭代 PLINDER 博客
当前 Polaris 标 V2 Polaris 页

关键提醒:Polaris 显示 V2,但V1→V2 的具体变更内容未公开(无 changelog)——这是遗留疑点。若你的研究对版本敏感,建议在报告中明确标注「PLUMBER V2,2026-10 抓取」,避免未来版本变动导致比对困难。

11.8 互链决策说明(供主会话参考)

本条目在库内的互链建议及理由(rid 待入库后按 DB 实际值回填,勿按预计填写):

  • bindingdb(rid=91) —— 强互链。BindingDB 是 PLUMBER 的三源之一,且是冲突仲裁源,血缘最直接。读者从 BindingDB 条目应能跳到「由此派生的序列基基准 PLUMBER」,反之亦然。
  • pdbbind(rid=134) —— 中互链。同为蛋白-配体亲和力资源,但 pdbbind 是结构基。互链的价值在于呈现「结构基 vs 序列基」的路线对照。
  • binding-moad(rid=174) —— 中互链。同域结构基资源,与 pdbbind 类似,作为「同域谱系」罗列。
  • PLINDER(若库内收录) —— 强互链(若存在)。PLUMBER 的方法学上游,最应互链的对象。若库内暂无 PLINDER 条目,可记为「潜在补充方向」。

消歧说明(写入正文,不进 frontmatter):PLUMBER 与上述三者非别名、非版本、非合并视图——它是序列基 + 评测基准的独立身份,与三者互补共存。此判断已通过 DB url_name ILIKE '%plumb%' 查重(命中 0)与逐一内容比对确认。


§12 数据字典(字段速查)

为便于工程使用,此处汇总 PLUMBER 的字段定义(依据官方 README,原文照录语义):

12.1 val / test 集字段

字段名 类型 含义 备注
SMILES string 标准化 SMILES 表征的分子 经 ChEMBL Structure Pipeline 标准化
sequence string 单体靶蛋白的氨基酸序列 对应一个单体功能单元
uniprot_id string 该蛋白的 UniProt ID 可用于关联外部蛋白注释
source string 来源标记 取值 chembl / bdb / biolip
split string 集标记 恒为 "test"(val 集同结构)
is_active binary 是否活性 分子对靶点 Ki/Kd < 1 μM 判 1

12.2 train 集字段

字段名 类型 含义
SMILES string 标准化 SMILES 表征的分子
sequence string 单体靶蛋白的氨基酸序列
uniprot_id string 该蛋白的 UniProt ID
source string 来源标记(chembl/bdb/biolip)
ki float 抑制常数(Ki)数值
kd float 解离常数(Kd)数值
ic50 float 半数抑制浓度数值
ec50 float 半数有效浓度数值
ki_sign string Ki 的关系符号(=/>/<)
kd_sign string Kd 的关系符号(=/>/<)
ic50_sign string IC50 的关系符号(=/>/<)
ec50_sign string EC50 的关系符号(=/>/<)

注意:train 集无 is_active;val/test 集无 ki/kd/ic50/ec50 及符号(仅二值标签)。两套 schema 是刻意的任务分工(见 §2.2)。

12.3 取数小贴士

  • 想要二分类任务:用 val/test 的 is_active,或自行在 train 上按 Ki/Kd < 1 μM 二值化;
  • 想要回归任务:用 train 的 ki/kd/ic50/ec50,注意结合 *_sign 处理不等号数据;
  • 想要按靶点分组评估:用 uniprot_id 或 sequence 分组(后者的「多对一」结构见坑点 16);
  • 想要按来源做鲁棒性分析:用 source 字段分 chembl/bdb/biolip 三组对比模型表现。

12.4 一个最小的加载示例(示意)

以下为从 Polaris 拉取 PLUMBER 的示意性流程(版本以官方当前为准,此处仅为帮助理解取数方式):

# 示意:从 Polaris Hub 拉取 PLUMBER(具体 API 以 polaris 官方文档为准)
# 环境准备(官方 README 指定):
#   conda create -n plumber -y python=3.11
#   conda activate plumber
#   conda install -c conda-forge polaris=0.9.1   # 必须先于其他依赖安装
#   pip install -r requirements.txt
#
# 拉取后按官方 split 使用 val/test,切勿自行重新切分
# (自行切分会丢失「未见靶点」这一核心设计价值,见 §4)
#
# 字段使用示例(伪代码):
#   train_df  -> 含 ki/kd/ic50/ec50 + *_sign,用于回归或自建分类
#   test_df   -> 含 SMILES/sequence/uniprot_id/source/is_active
#   # 分类任务:用 test_df[['sequence','SMILES']] 预测 is_active
#   # 回归任务:用 train_df 训练,注意结合 *_sign 处理不等号

提醒:上方为示意性伪代码,非可直接运行的完整脚本——实际 API 调用请以 Polaris 官方文档与仓库 notebooks/ 为准(本文不臆造 API 细节,以免误导)。

12.5 与上游表格的对照:一张表看懂 PLUMBER

你关心的 答案
多少条 约 180 万(配对)
什么任务 结合事件分类 + 亲和力回归
输入是什么 氨基酸序列 + 小分子 SMILES
输出/标签 is_active(val/test)或 ki/kd/ic50/ec50 + 符号(train)
怎么切分 PLINDER 未见靶点 split
许可是什么 CC-BY-4.0
哪里下载 Polaris Hub(V2)/ GitHub
有论文吗 无
认证了吗 未认证(Uncertified)
最大局限 无配体 split、无论文、无认证

DAIMS 数据成熟度评估

DAIMS(Data Asset Maturity & Impact Scoring)从数据资产的可获得性、质量、文档、治理、影响力五个维度做成熟度打分(每维 0-5 分,总分 25)。

维度 得分 评据
可获得性(Availability) 5.0 CC-BY-4.0 完全开放;Polaris API 一行拉取(版本锁定);GitHub 源码全开;无 gated、无申请门槛
数据质量(Quality) 3.5 六步激进清洗(PAINS 过滤/标准化/去重/一致性检查)有源码可查;但平台标 Uncertified,缺独立第三方认证;无配体 split 是结构性局限
文档完备(Documentation) 4.0 README 字段说明清晰、预处理六步列全、复现路径完整;扣分项:train/val/test 精确行数未披露、作者名单/版本 changelog 缺失、无正式论文/技术报告
治理与许可(Governance) 4.0 CC-BY-4.0 明确且双源确认;Polaris immutable 保证版本一致性;扣分项:无独立 DOI、无 CITATION.cff、署名格式未标准化
影响力(Impact) 3.5 已驱动 Bioptic 自身模型(BiPELL)开发;PLINDER 官方博客正面背书;2026 MDPI 综述引用;但发布至今无大规模第三方 leaderboard,社区采用度尚在成长
总分 20.0 / 25 等级:成熟(Established) —— 可获得性与治理是强项,数据质量因未认证与配体 split 缺失留有缺口,影响力处于早期上升期

一句话解读:PLUMBER 是一份**「开门极低、质量自证、认证待补」的开放基准——好用、好拿、源码透明,但它的「高质量」目前是作者背书 + 可复现**,而非第三方认证。使用者应把「自己跑一遍 notebooks」作为采纳前的标准动作。


FAQ(高频问答 51 问)

A. 基础认知

A1. PLUMBER 全称是什么?
Protein–Ligand Unseen Matching Benchmark for Evaluating Robustness(蛋白-配体未见靶点匹配基准——用于评估泛化鲁棒性)。

A2. 它是数据集还是基准?
两者都是。数据层面是约 180 万条蛋白-配体活性值;评测层面它提供 val/test 的 is_active 标签与未见靶点 split,构成一个泛化评测基准。

A3. 谁做的?
Bioptic(药物发现 AI 公司),创建者为团队成员 Vlad Vinogradov,经 Valence Labs 的 Polaris Hub 发布。

A4. 什么时候发布的?
2024-11-15(Bioptic 官方博客与 Polaris 页面双源一致)。

A5. 有论文吗?
没有正式期刊论文,也没有 arXiv 预印本。发布载体是 GitHub 仓库 + 官方博客 + Polaris 页。

A6. 数据从哪来?
ChEMBL、BindingDB、BioLip2 三个公开库的整合再加工。

A7. 有多少条数据?
官方口径约 180 万条(~1.8M),四源互证。

A8. 「序列基」是什么意思?
蛋白侧只提供氨基酸序列(一级结构),不提供 3D 结构。模型必须从序列直接预测结合。

B. 数据与字段

B1. val/test 集有哪些字段?
SMILES、sequence、uniprot_id、source、split、is_active。

B2. train 集有哪些字段?
ki/kd/ic50/ec50 连续值 + ki_sign/kd_sign/ic50_sign/ec50_sign 符号(=/</>)。无 is_active。

B3. 为什么 train 不二值化?
为保留信息、给建模者自由——可用连续值做回归、用符号做约束/排序,官方不替用户做归一化决策。

B4. is_active 的判定标准?
Ki/Kd < 1 μM 判为 active。这是为统一分类口径而设的阈值,非领域通用标准。

B5. source 字段有哪些取值?
chembl、bdb、biolip 三种。

B6. 多源冲突时以谁为准?
BindingDB(preprocessing 步骤四:prioritized data from BindingDB)。

C. 切分与泛化

C1. 用什么切分?
PLINDER 的蛋白 split 分配(基于系统级复合相似度)。

C2. 「未见靶点」是什么意思?
测集蛋白与训练集蛋白在 PLINDER 相似度度量下不重叠,模型必须泛化到新靶点。

C3. 为什么要这么做?
随机/时间切分会让测集混入相似蛋白,测的是记忆而非泛化。未见切分才能真测泛化。

C4. 它测的「未见」是全方位的吗?
不是。只有蛋白侧未见,配体侧未见缺失(README 自曝 lack ligand split information)。

C5. 能不能和结构基方法对比?
可以——因沿用 PLINDER 的 split,PLINDER 官方称未来可做序列基 vs 结构基的对照。

D. 预处理与质量

D1. 预处理有几步?
六步:仅单体 → SMILES 标准化 → SMILES 清洗 → BindingDB 优先 → PAINS 过滤 → val/test 二值化去重一致性检查。

D2. PAINS 过滤是干什么的?
剔除泛测定干扰化合物(假阳性来源),提升数据信噪比。

D3. 用的什么标准化工具?
ChEMBL Structure Pipeline。

D4. 预处理源码在哪?
GitHub 仓库 notebooks/ 目录(01-04 notebooks + filter_pains.py + standardize.py + publish_to_polaris.py)。

D5. 数据质量有保证吗?
清洗步骤有源码可查(可信度高),但 Polaris 标注 Uncertified(无独立认证评审)。

E. 获取与许可

E1. 许可是什么?
CC-BY-4.0(可商用、可分发、可修改,须署名)。

E2. 怎么下载?
两条路:Polaris Hub(polaris 包拉取,V2 版本锁定)或 GitHub 仓库(预处理源码)。

E3. Polaris 上的安装要求?
官方指定 polaris=0.9.1(conda-forge),且必须先装 polaris 再装其他依赖。

E4. 需要申请吗?
不需要。无 gated、无申请门槛,直接公开可取。

E5. 引用怎么写?
引用 GitHub 仓库(github.com/optic-inc/plumber)与/或 Polaris 数据集条目——无正式论文引用。

E6. 能改数据吗?
可以(CC-BY-4.0 允许修改)。但 Polaris 上的版本 immutable——要改需拿源数据重上传为新版本。

F. 生态与库内

F1. 和 PLINDER 什么关系?
PLUMBER 基于 PLINDER 的 split 方法学,但数据侧是序列基(PLINDER 是结构基)。两者互补。

F2. 和 BindingDB 什么关系?
BindingDB 是 PLUMBER 的三个源数据之一,且是多源冲突时的优先源。

F3. 库内有同类条目吗?
有:bindingdb(rid=91)、pdbbind(rid=134)、binding-moad(rid=174)——均为结构基/实验库,与 PLUMBER 的序列基+基准身份互补,非撞库。

F4. 为什么说它是「无论文基准」?
因为它没有论文/预印本,靠源码 + 平台 + 实际使用建立信誉。

F5. 有什么已知局限?
只蛋白 split 无配体 split、Uncertified、无正式论文、多源冲突优先 BindingDB 可能引入偏倚、二值阈值固定。

F6. 谁在用?
Bioptic 自己的 BiPELL 模型开发;PLINDER 官方博客背书;2026 MDPI 综述引用。

G. 复现与工程

G1. 复现环境怎么配?
conda create -n plumber python=3.11 → conda install -c conda-forge polaris=0.9.1 → pip install -r requirements.txt。

G2. notebooks 各管什么?
01_chembl 处理 ChEMBL、02_bindingdb 处理 BindingDB、03_biolip 处理 BioLip2、04_merge 聚合。

G3. 能只用 Ki/Kd 等值数据吗?
可以。官方明确支持只用 Ki/Kd equality data,也可纳入其他活性类型。

G4. 有官方基线分数吗?
没有。PLUMBER 无 leaderboard,跨报告比较需自行统一口径。

G5. 数据格式是什么?
Polaris 侧统一为 Zarr 存储,API 返回 ML-ready 表征;GitHub 侧是预处理 notebook 与源码。

H. 进阶与疑难

H1. 我能不能只用 PLUMBER 的 train 集,忽略 val/test?
可以。train 集(连续值 + 符号)本身是一份可用的蛋白-配体训练数据。但若忽略官方 val/test,你就放弃了「未见靶点评估」这个核心价值,测出来的分数无法与他人比较。

H2. train 集的 IC50/EC50 能用吗?
能用,但要知道 IC50/EC50 受实验条件影响、跨实验可比性弱于 Ki/Kd。追求纯度建议只用 Ki/Kd,追求数据量可纳入。

H3. 不等号(>/<)数据怎么用?
三种常见用法:(a) 丢弃,只用等值数据;(b) 当软标签/约束(如 >10 μM 视为弱活性);© 当排序约束(known to be weaker than X)。官方支持这些做法。

H4. 怎么判断我的模型是不是靠「记忆」拿高分?
对比两类评估:随机切分下的分数 vs PLUMBER 未见靶点切分下的分数。若差距巨大,说明模型主要靠记忆相似靶点,泛化不足。

H5. 能用 PLUMBER 做预训练吗?
可以,CC-BY-4.0 允许任何用途(含预训练)。约 180 万条序列-配体配对是不错的预训练语料。注意署名义务。

H6. PLUMBER 的靶点覆盖均衡吗?
不一定。三源叠加的分布天然不均,某些靶点族占比更高。若关心特定靶点族,务必先统计 sequence/uniprot_id 分布。

H7. 官方会更新数据吗?
Polaris 页面显示 V2(已更新过一次),但无公开 changelog。数据集 immutable,故「更新」= 发新版本。未来是否继续迭代未知。

H8. 我能在论文里说「在 PLUMBER 上达到 SOTA」吗?
要谨慎——PLUMBER 无官方 leaderboard,你的「SOTA」需自建基线并明确口径,否则不可验证。建议表述为「在统一口径下,本方法优于我们所建的基线」。

H9. PLUMBER 与 plinder 的库内关系?
PLUMBER 是 PLINDER 的序列基衍生(共享 split)。库内若收录 PLINDER,两者应互链;若未收录,PLINDER 是潜在的补充方向。

H10. 这份数据和「真实药物发现」有多近?
较近——它测的「新靶点泛化」正是真实项目的核心难点。但它仍是回顾性(retrospective)基准,活性值来自历史实验,不能替代前瞻性湿实验验证。评估结果是「提示性」的,落地仍需实验确认。


事实清单(硬事实 50 条)

  1. PLUMBER 全称:Protein–Ligand Unseen Matching Benchmark for Evaluating Robustness。
  2. 出品方:Bioptic。
  3. 创建者:Bioptic 团队成员 Vlad Vinogradov。
  4. 发布平台:Polaris Hub(Valence Labs / Recursion 主导)。
  5. GitHub 仓库:github.com/optic-inc/plumber。
  6. 发布日:2024-11-15。
  7. Polaris 页面标注版本:V2。
  8. 数据规模:约 180 万条(~1.8M)活性值。
  9. 规模四源互证:Polaris 页 / Bioptic 博客 / 官方 LinkedIn / MDPI 2026 综述。
  10. 源数据三库:ChEMBL、BindingDB、BioLip2。
  11. 上游方法学:PLINDER(提供蛋白 split)。
  12. 许可:CC-BY-4.0。
  13. 平台认证状态:Uncertified(未认证)。
  14. 任务类型一:结合事件分类。
  15. 任务类型二:结合亲和力回归。
  16. val/test 二值阈值:Ki/Kd < 1 μM。
  17. val/test 字段:SMILES、sequence、uniprot_id、source、split、is_active。
  18. train 字段:ki/kd/ic50/ec50 + 对应 sign(=/</>)。
  19. train 集无 is_active 字段。
  20. source 取值:chembl、bdb、biolip。
  21. 预处理步骤一:仅选单体数据。
  22. 预处理步骤二:ChEMBL Structure Pipeline 标准化 SMILES。
  23. 预处理步骤三:SMILES 清洗。
  24. 预处理步骤四:BindingDB 优先。
  25. 预处理步骤五:PAINS 过滤。
  26. 预处理步骤六:val/test 二值化 + 去重 + 一致性检查。
  27. 官方自曝局限一:缺 ligand split 信息。
  28. 官方自曝局限二:split「not perfect」。
  29. 官方定位语:It’s not just a dataset — it’s a stress test for AI。
  30. PLINDER 官方背书:PLUMBER 沿用 PLINDER split,未来可做序列基 vs 结构基对照。
  31. 应用模型:BiPELL(protein-agnostic language model)。
  32. 复现要求:conda 环境 python=3.11,polaris=0.9.1(须先装)。
  33. 预处理源码目录:notebooks/(01_chembl、02_bindingdb、03_biolip、04_merge、filter_pains.py、standardize.py、publish_to_polaris.py)。
  34. 无正式论文/预印本(截至 2026-10)。
  35. Polaris 数据集为 immutable(上传后版本锁定)。
  36. Polaris 数据集下载方式:polaris Python 包(API)。
  37. 库内近邻一:bindingdb(rid=91)——PLUMBER 源数据之一。
  38. 库内近邻二:pdbbind(rid=134)——结构基对照。
  39. 库内近邻三:binding-moad(rid=174)——同域互补。
  40. 查重结论:DB url_name ILIKE ‘%plumb%’ 命中 0;与库内既有条目非别名/非版本/非合并视图。
  41. Polaris 平台由 Valence Labs / Recursion 主导,联合 Chan Zuckerberg Initiative 及多家药企。
  42. Polaris 数据集不可变(immutable),上传后版本锁定。
  43. Polaris 分普通数据集与认证数据集两类;PLUMBER 属普通(Uncertified)。
  44. 官方定位:同类中最大的多靶点基准(largest multi-target benchmark of its kind)。
  45. 训练集保留 Ki/Kd/IC50/EC50 连续值,val/test 仅保留 is_active 二值。
  46. 预处理用 ChEMBL Structure Pipeline 做 SMILES 标准化。
  47. 数据集由 Bioptic 团队创建者 Vlad Vinogradov 主导。
  48. BiPELL = Bioptic 的 protein-agnostic language model。
  49. PLINDER 官方博客(2024 年终更新)正面提及 PLUMBER 的 split 兼容性。
  50. MDPI 2026 综述《Artificial Intelligence Across the Drug Development Lifecycle》引用 PLUMBER。

来源清单(可核验 URL)

以下为本条目一手来源,均为写作时(2026-10-16)实抓/实检,供检索者复核。

  1. GitHub 仓库:https://github.com/optic-inc/plumber (README 全文、notebooks 目录、提交历史)
  2. Polaris Hub 数据集页:https://polarishub.io/datasets/optic/plumber (规模 ~1.8M、V2、Uncertified、CC-BY-4.0、创建日 2024-11-15、字段说明)
  3. Bioptic 官方博客:http://bioptic.io/blog/bioptic-releases-plumber-a-new-benchmark-for-ai-driven-binding-prediction (发布日、1.8M、CC-BY-4.0、创建者 Vlad Vinogradov、stress test 定位、BiPELL 应用)
  4. PLINDER 官方博客:https://www.plinder.sh/blog/updates (2024 年终更新,PLUMBER 沿用 PLINDER split 的互补性说明)
  5. MDPI 综述:https://www.mdpi.com/2076-3271/14/2/248/htm (PLUMBER 被引用为 Bioptic 数字员工准确性锚点,1.8M binding affinity points)
  6. 官方 LinkedIn 帖(OPTIC):https://www.linkedin.com/posts/optic-inc_bioptic-shares-ml-benchmark-for-small-molecules-activity-7264385665637740546-d8VN (1.8M high-quality activity values)

核验方式说明:全部核心数字均经≥2 个独立来源比对;规模(180 万)经 4 源比对;许可(CC-BY-4.0)与发布日(2024-11-15)经 2 源比对。未能核实的项已在正文标注「未披露」或「遗留疑点」,未作推测填充。


相关数据集导航

以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:

  • chembl — 共享标签:药物发现与化学 / 化学信息学 / 药物-靶点相互作用 / 分子性质预测 / 虚拟筛选
  • bace — 共享标签:药物发现与化学 / 化学信息学 / 分子性质预测 / 虚拟筛选 / 评测基准
  • csar — 共享标签:药物发现与化学 / 化学信息学 / 药物-靶点相互作用 / 虚拟筛选 / 评测基准
  • chembl — 共享标签:药物发现与化学 / 化学信息学 / 药物-靶点相互作用 / 虚拟筛选
  • aqsoldb — 共享标签:药物发现与化学 / 化学信息学 / 分子性质预测 / 评测基准
  • drugtargetcommons — 共享标签:药物发现与化学 / 化学信息学 / 药物-靶点相互作用 / 虚拟筛选
  • moleculenet — 共享标签:药物发现与化学 / 化学信息学 / 分子性质预测 / 评测基准
  • lit-pcba — 共享标签:药物发现与化学 / 化学信息学 / 虚拟筛选 / 评测基准
  • openadmet-expansionrx — 共享标签:药物发现与化学 / 化学信息学 / 分子性质预测 / 评测基准
  • interactbind — 共享标签:药物发现与化学 / 药物-靶点相互作用 / 虚拟筛选 / 评测基准

导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

返回 AI-Ready 数据集