CholecTrack20 — 腹腔镜 20 段手术视频的手术器械多视角追踪数据集

CAMMA 团队把「器械追踪」从单一定义拆成术中/体内/可见性三视角——20 段胆囊切除视频、35K 帧、65K 器械实例,7 类器械 4 类操作者 8 类视觉挑战标注,SOTA 仅 <45% HOTA,官方声明与 Cholec80/CholecT50 内容重叠

来源 CAMMA(University of Strasbourg / CNRS / INSERM / ICube / IHU Strasbourg)腹腔镜胆囊切除视频,源自与 Cholec80/CholecT50 同源的医学中心视频池;标注含 25 FPS 原始视频(仅测试集)+1 FPS 采样帧 +JSON 标签(工具包围盒/类别/操作者/三视角轨迹 ID/阶段/视觉挑战)发布时间: 2026-10-08最后更新: 2026-10-20 阅读 46
CholecTrack20 — 腹腔镜 20 段手术视频的手术器械多视角追踪数据集

信息速览

数据集名称CholecTrack20 — 腹腔镜 20 段手术视频的手术器械多视角追踪数据集
数据类型人工标注,影像数据,原始数据
规模20 段腹腔镜胆囊切除手术视频(患者级去标识化,病例数即视频数 20)
接入方式CAMMA(University of Strasbourg / CNRS / INSERM / ICube / IHU Strasbourg)腹腔镜胆囊切除视频,源自与 Cholec80/CholecT50 同源的医学中心视频池;标注含 25 FPS 原始视频(仅测试集)+1 FPS 采样帧 +JSON 标签(工具包围盒/类别/操作者/三视角轨迹 ID/阶段/视觉挑战)
AI 就绪度

INFOBOX — CholecTrack20 一屏速览

维度 内容
本质 腹腔镜胆囊切除手术视频的多类多器械多视角追踪数据集(非分割、非三元组识别)
团队 CAMMA(University of Strasbourg / CNRS / INSERM / ICube / IHU Strasbourg)+ University of Basel / Clarunis
论文 CVPR 2025(pp.8942-8952);arXiv:2312.07352 v1 2023-12-12 / v2 2025-03-24
一作 Chinedu Innocent Nwoye;通讯 Nicolas Padoy
数据 20 段全长春囊切除视频;1 FPS 标注;>35K 帧;65K 器械实例
视角 三视角轨迹:术中(intraoperative)/ 体内(intracorporeal)/ 可见性(visibility)
器械 7 类:grasper/bipolar/hook/scissors/clipper/irrigator/specimen bag
操作者 4 类:MSLH / MSRH / ASRH / NULL
划分 train 10 / val 2 / test 8
指标 HOTA、CLEAR MOT、Identity、Count、DetEval AP;TrackEval/DetEval 库
核心结论 SOTA < 45% HOTA,未达临床精度;术中视角最难(最佳 HOTA 17.4)
获取 请求制:DUA → 填表领 accesskey → Synapse.org(表单 2025-03-25 起)
许可 CC-BY-NC-SA 4.0(非商业)
库内互链 CholecT50(rid 223)、Cholec80(rid 78)、CholecSeg8k(rid 233)

CholecTrack20 是一份「把追踪的『追踪』重新定义一遍」的手术视频数据集。它不做分割、不做动作识别,只专注一件事:在腹腔镜视频里把一把器械从它进体一直到出体,认成同一把。难点在于——手术中器械会移出相机视野(OOCV)、会退出患者身体(OOB)、会被另一把器械替班、会被出血和烟雾遮住。传统追踪数据集把「轨迹」定义成「在画面里连续出现的这一段」,于是这些手术特有的中断全部被当成新目标,轨迹碎成渣。

CAMMA 团队的解法是把「一条器械轨迹」拆成三种视角同时标注:只算画面里(可见性)、算到体内但可出画(体内)、算到器械离体为止(术中)。同一段视频因此有三套轨迹 ID,任务难度递增:术中视角要跨出画和离体做重识别,最难,最佳方法 HOTA 只有 17.4;可见性视角只算画面内,最易,最佳 44.7。这个「一个数据集、三种难度、三套标尺」的设计,是它区别于库内 Cholec80(阶段识别)和 CholecT50(三元组识别)的立身之本。

导语读法三则:

  1. 只想下数据:直奔 §6 获取与许可——注意是「DUA + 表单 + Synapse」三步请求制,没有直链,别被 GitHub 仓库的代码仓库假象骗了。
  2. 关心追踪任务本身:直奔 §2 三视角定义与 §5 基准表——先想清楚你要的是哪条轨迹,再读对应的 HOTA 行。
  3. 做手术视频预训练/评测:直奔 §7 与 §10——CholecTrack20 与 Cholec80/CholecT50 视频重叠,跨库使用前必须先做重叠核对。

§0 导读:这个数据集解决什么问题

手术视频 AI 有一条被反复踩的暗沟:数据集的任务定义决定了模型的天花板,而医学数据集的任务定义常常是从通用视觉领域「借」来的。追踪(tracking)就是重灾区。

通用多目标追踪(MOT)的经典定义假定目标是「在画面里连续移动的物体」,进出画即进出轨迹。放到腹腔镜手术里,这个假定处处失效:

  • 器械移出相机视野(Out of Camera View, OOCV):腔镜视野只有几厘米,外科医生的手经常把器械抽出画面去换器械或清理;
  • 器械退出患者身体(Out of Body, OOB):器械经套管(trocar)退出体外,画面上完全看不到;
  • 器械替班:助手把一把抓钳交给主刀,画面里「旧的消失、新的出现」,通用追踪会切成两条轨迹,但临床语义上是「同一个操作位置的一把器械」;
  • 视觉挑战:出血、烟雾、反光、镜头污染、器械拥挤,都会让外观特征失效,基于外观的重识别(re-ID)随之崩溃。

结果是:在通用追踪数据集上训练的方法,一到手术场景就退化,而且退化得很难解释——因为你无法判断是模型不行,还是任务定义本身把问题问错了。

CholecTrack20 的核心主张是:追踪的「轨迹」不该只有一个定义,不同临床任务需要不同的时间跨度(temporal duration):

临床任务 需要的轨迹视角 时间跨度
实时反馈、安全区估计 可见性(visibility) 器械在相机视野内的每一段
工作流分析、阶段识别 体内(intracorporeal) 器械在患者体内的整段(含出画重识别)
技能评估、人机协作 术中(intraoperative) 器械终生轨迹(含出画重识别 + 离体重识别)

这一「一份数据、三套轨迹」的形式化,是 CholecTrack20 对手术视觉领域的头号贡献,也是它区别于所有前作的地方——它不是更大的数据集,而是把问题重新定义过的数据集。

为什么它值得进 AI-Ready 库:它把「数据集任务定义」这一常被忽视的维度做成了一个可评测、可对比、可复用的对象。任何做手术视频追踪的团队,只要用 CholecTrack20,就必须先回答「你追的是哪条轨迹」——这个强制性追问本身,就是它最大的方法学价值。

0.1 追踪问题在手术场景里的特殊性

要理解 CholecTrack20 的必要性,先要理解为什么通用追踪的形式化在手术里会失效。通用多目标追踪(MOT)的经典锚点是「可见性」——目标在画面里就是一条轨迹,出画即结束。这套定义在行人追踪(MOTChallenge)、车辆追踪、舞蹈追踪(DanceTrack)里都够用,因为那些目标永不出画。但腹腔镜手术把这一假定彻底打破:

第一层失效——器械移出相机视野(OOCV)。 腔镜视野只有几平方厘米,外科医生为了换器械、清理器械或调整角度,会频繁把器械抽到画面外。此时器械还在体内,仍在被使用,只是因为角度没拍到而已。通用追踪会在这里断轨,把「一次连续使用」切成两段。

第二层失效——器械退出患者身体(OOB)。 器械经套管(trocar)完全退出体外,画面上彻底消失。它可能过一会儿换一个方向再进来。通用追踪无法把「出去的那把」和「进来的那把」关联起来。

第三层失效——器械替班。 主刀把抓钳交给助手、助手递上剪刀——画面里「旧的消失、新的出现」,但临床语义上这是同一个手术步骤内的器械切换。追踪系统若不能区分「替班」与「同一把的短暂遮挡」,就会产生虚假的轨迹分裂。

第四层失效——外观特征不可靠。 手术场景的视觉挑战(出血、烟雾、反光、镜头污染、器械拥挤)会让基于外观的重识别(re-identification, re-ID)失效。通用追踪依赖的「外观相似度」在这里经常给不出答案。

这四层失效叠加,正是 CholecTrack20 诞生的直接动因:当「轨迹」的定义本身就是问题的一部分时,数据集必须先把这个定义显式化。三视角形式化就是这个显式化的产物。

0.2 「数据集任务定义」作为一等公民

多数数据集的论文把「任务定义」写在方法部分,一笔带过。CholecTrack20 反其道而行——它把「追踪的形式化」本身作为核心贡献的第一条列出(论文 contributions 第 1 条)。这在数据集论文里并不常见。

这一取向的价值在于:它让「任务定义」从隐式假设变成显式对象,从而可讨论、可比较、可复用。当后续研究者说「我的方法在 CholecTrack20 上 HOTA 更高」时,他必须先声明「在哪个视角下」——这避免了大量「鸡同鸭讲」式的比较。对医学 AI 而言,这种「先定义再评测」的严谨性尤为重要,因为临床应用的差异(实时反馈 vs 技能评估)恰恰就落在轨迹定义这一层。

0.3 本文的阅读坐标

为帮助读者建立地图,本条目按「是什么 → 长什么样 → 怎么来的 → 有多难 → 怎么拿 → 和谁有关」展开:

  • §1:速览与横向对照,30 秒建立全局;
  • §2:数据构成、三视角定义、格式与血缘边界;
  • §3:标注体系的工作含义(三视角不是三份标注,而是三种读法);
  • §4–§5:论文、团队、时间线,与检测/追踪基准的完整数字;
  • §6:请求制获取与 CC-BY-NC-SA 许可、DAIMS 评估;
  • §7–§9:CAMMA 手术视频宇宙、库内互链与重叠警示;
  • §10–§11:避坑清单与总结决策卡。

若时间有限,读「INFOBOX + §1.3 四类读者 + §11.4 决策卡」三处即可完成 90% 的判断。

§1 数据集速览:十问十答

Q1:这是什么数据?
20 段腹腔镜胆囊切除手术的全长视频,逐帧(1 FPS)标注了手术器械的包围盒、类别、操作者、三条轨迹 ID、手术阶段和视觉挑战条件。— https://github.com/CAMMA-public/cholectrack20

Q2:谁做的?
CAMMA 研究组(University of Strasbourg / CNRS / INSERM / ICube UMR7357 / IHU Strasbourg)+ University of Basel / Clarunis。一作 Chinedu Innocent Nwoye,通讯 Nicolas Padoy。— https://camma.u-strasbg.fr/datasets/

Q3:发了在哪里?
CVPR 2025(pp.8942-8952);arXiv:2312.07352(v1 2023-12-12,v2 2025-03-24)。— https://arxiv.org/abs/2312.07352

Q4:有多大?
20 段视频、1 FPS 标注、超过 35K 帧、65K 个器械标注实例。原始视频 25 FPS(仅测试集提供)。— arXiv 摘要 / GitHub README

Q5:标了什么?
每个器械实例:空间包围盒、类别(7 类)、操作者(4 类)、三条视角轨迹 ID、所属手术阶段、帧视觉挑战状态。— GitHub README

Q6:三视角是什么?
可见性(画面内)、体内(体内含出画重识别)、术中(终生含出画+离体重识别)。— arXiv 摘要

Q7:怎么划分的?
官方划分 train 10 / val 2 / test 8 视频。— GitHub README

Q8:怎么做基准?
检测用 DetEval(基于 COCO API 的 AP);追踪用 TrackEval 适配版(HOTA / CLEAR MOT / Identity / Count)。— GitHub README

Q9:SOTA 怎么样?
远不够用:当前方法均 < 45% HOTA;术中视角最佳 Bot-SORT 只有 17.4 HOTA。— arXiv 摘要 / GitHub README

Q10:怎么拿、什么许可?
CC-BY-NC-SA 4.0,请求制:读 DUA → 填表领 accesskey → Synapse.org 下载。表单 2025-03-25 起接受响应。— GitHub README

一句话定位:库内 Cholec80 答「现在到哪个阶段」,CholecT50 答「在做什么动作」,CholecTrack20 答「这把器械从哪来到哪去」——三者构成 CAMMA 手术视频理解的三根柱子。

Q11:为什么叫「多视角(multi-perspective)」而不是「多相机(multi-view)」?
这是最容易望文生义的坑。「perspective」在这里不是指多个摄像头视角,而是指对「一条轨迹」这一概念的三种定义方式(可见性/体内/术中)。数据集本身仍是单目腔镜视频,没有多路相机。把它误解为「多相机追踪数据集」会导致检索方向完全跑偏。— arXiv 摘要

Q12:20 段视频的「20」够用吗?
单看视频段数确实不多,但这是全长手术视频(每段是完整的胆囊切除过程,不是片段),且标注极密(65K 实例)。在手术视频领域,由于隐私与标注成本,数据集普遍不大——Cholec80 是 80 段、CholecT50 是 50 段,CholecTrack20 的 20 段虽小,但标注维度最丰富(追踪 ID × 三视角)。规模小是被任务复杂度而非懒惰决定的。

Q13:它和手术机器人(如 da Vinci)的数据有关系吗?
没有直接关系。CholecTrack20 是腹腔镜(laparoscopic)手术,器械经套管手动操作,不是机器人手术(robotic surgery)。数据中的「操作者」标签(MSLH/MSRH/ASRH)是手部/操作通道维度,不是机器人臂。做机器人手术追踪的检索者需另寻数据集。

Q14:这个数据集有「官方挑战赛」吗?
截至本条目核实期,没有为 CholecTrack20 单独举办挑战赛;它提供官方划分与公开排行榜(Papers with Code)作为评测载体。这一点与 CholecT50(有 CholecTriplet2021/2022 挑战赛)不同——检索者不应假定存在「CholecTrack Challenge」。— GitHub README

1.1 与库内 Cholec 系条目横向对照

为帮助检索者一眼分辨,把库内四个 Cholec 系条目并列:

条目 rid 任务 输出粒度 视频数 规模 获取
cholec80 78 阶段识别 帧级阶段 80 阶段标签 请求制
cholect50 223 三元组识别 帧级 <器械,动词,目标> 50 100.9K 帧 / 151K 实例 请求制
cholecseg8k 233 语义分割 像素级 13 类 17 段片段 8,080 帧 Kaggle 公开
cholectrack20 本条目 多视角追踪 器械级三视角轨迹 20 >35K 帧 / 65K 实例 请求制(Synapse)

关键差异一句话:前三个条目回答「画面里发生了什么」(阶段/动作/像素类别),本条目回答「每把器械的时空轨迹是什么」——它是唯一带「身份(identity)」维度的 Cholec 系数据集。

1.2 三条硬数字的来源锚点

硬数字 数值 出处
视频数 20 CAMMA 官方页 + GitHub README + arXiv 三源一致
帧数 >35K arXiv 摘要 + CVPR 摘要
器械实例 65K arXiv 摘要 + CVPR 摘要
轨迹 ID 数 术中 70 / 体内 247 / 可见性 916 GitHub README 基准表
检测框数 29994(三视角恒定) GitHub README 基准表
器械类别 7 GitHub README + arXiv Fig.1
操作者 4 GitHub README
划分 10/2/8 GitHub README

1.3 三类典型读者与推荐入口

读者 A:多目标追踪研究者(想找个新场景刷方法)
直奔 §2.2(三视角定义)与 §5.2(追踪基准表)。你会关心「可见性视角最佳 HOTA 44.7、术中视角仅 17.4」这组数字,以及为什么 IDF1 这么低。别急着下数据,先想清楚你要 claim 的是哪个视角的 SOTA。

读者 B:临床 AI 应用开发者(想做术中提示/技能评估系统)
直奔 §0.2(任务驱动形式化)与 §7.6(下游应用三路径)。你要先回答「系统是实时提示还是离线评估」,据此选视角;再评估请求制获取的时间成本与 NC 许可是否可接受。

读者 C:数据集方法论研究者(关心怎么设计数据集)
直奔 §8(方法学启示)与 §2.5(家族边界重叠)。CholecTrack20 的「同源多任务衍生」范式、三视角形式化、多指标讲故事的设计都值得借鉴;同时它的重叠代价也是反面教材。

读者 D:只想快速判断「要不要用它」的决策者
直奔 §11.4(30 秒决策卡)与 §6.5(可获取性档位)。若你在意「当天能下到」,答案很可能是「否」。

§2 数据构成与规格

2.1 规模、来源与机构构成

CholecTrack20 的数据规模硬数字(三源一致):

维度 数值 来源
视频数 20 段全长腹腔镜胆囊切除视频 CAMMA 页 / GitHub / arXiv 三源一致
标注帧率 1 FPS GitHub README / arXiv 摘要
帧数 超过 35K 帧(“>35K”) arXiv 摘要 / CVPR 摘要
器械实例 65K 个标注实例(“65K”) arXiv 摘要 / CVPR 摘要
原始视频帧率 25 FPS(仅测试集提供 .mp4) GitHub README
官方划分 train 10 / val 2 / test 8 GitHub README

来源链条:原始视频来自 CAMMA 研究组在斯特拉斯堡医学中心采集的腹腔镜胆囊切除视频池——与 Cholec80、CholecT50 同源。CholecTrack20 从中选取 20 段全长视频,在既有标签基础上「继承」部分属性(如手术阶段),并新增追踪专属标注。官方明确说明:数据集与 Cholec80、CholecT50「shares content」,且与同医学中心的其他胆囊切除数据集存在重叠,为便于识别重叠,保留了原始视频编号(VID01、VID02、VID12、VID111 等)。— https://github.com/CAMMA-public/cholectrack20

机构构成:数据采集与标注主体为 CAMMA(ICube UMR7357,University of Strasbourg / CNRS / INSERM),协作方为 IHU Strasbourg;作者中 Joël L. Lavanchy 隶属 University of Basel / Clarunis(瑞士)。这是典型的「法国主导 + 瑞士协作」的欧洲手术 AI 团队结构。

患者级规模:数据集为视频级组织,未披露独立患者数;按腹腔镜胆囊切除常规一例一视频的组织方式,可理解为 20 例手术(但官方未明确「一视频一患者」,检索者不应把 20 当作患者数断言)。本条目 patient_count 字段按「20 段视频」保守表述。

2.2 三视角轨迹:本数据集的核心

这是 CholecTrack20 与其他所有手术视频数据集的分水岭。官方把「一条器械轨迹」按时间跨度的考虑方式拆成三种:

  • 可见性轨迹(visibility):器械出现在相机视野内的那一段。轨迹随器械出画而结束。这是通用 MOT 的默认口径。
  • 体内轨迹(intracorporeal):器械在患者体内的整段轨迹。器械移出相机视野(OOCV)后,若它还在体内,轨迹应延续——即需要跨出画的重识别。
  • 术中轨迹(intraoperative):器械的终生轨迹。不仅重识别出画(OOCV),还维持器械退出身体(OOB)期间的轨迹身份。这是最贴近临床「同一把器械」语义、也最难的一种。

官方定义原文(README):

Intraoperative tracking not only re-identifies tools out of camera view (OOCV) as done in intracorporeal tracking but also maintains their trajectory when out of body (OOB).

OOB(器械离体)的三种判定方式(官方明确):

  1. 视觉上观察到器械退出套管(trocar);
  2. 由另一把器械经同一套管进入来推断(一进一出);
  3. 初始器械在失焦状态下释放了抓持。

这三条判定规则是标注协议里最「外科领域知识密集」的部分——它无法从像素直接读出,必须依赖对手术流程的理解。这也是为什么该数据集标注成本高于通用追踪数据集。

三视角的 groundtruth 计数(README 追踪基准表,@25 FPS):

视角 #Dets(检测框数) #IDs(轨迹数) 平均每轨迹帧数(≈29994/#IDs)
术中 intraoperative 29994 70 ≈428
体内 intracorporeal 29994 247 ≈121
可见性 visibility 29994 916 ≈33

数据读法:检测框数恒定(同一批器械框),但轨迹 ID 数量随视角放宽而暴涨(70 → 247 → 916),平均每条轨迹的长度则从约 428 帧坍缩到约 33 帧。这直观显示了「轨迹碎裂」问题:只按画面可见性看,一条器械平均只能连续追踪约 33 个采样点(33 秒);按术中视角整合,同一条器械能维持约 428 个采样点(约 7 分钟)。视角选择把「有 70 个目标」变成「有 916 个目标」,任务难度与评测口径随之完全改变。

2.3 标注属性与类别体系

器械类别(7 类):grasper(抓钳)、bipolar(双极电凝钳)、hook(L 形钩/电凝钩)、scissors(剪刀)、clipper(夹钳)、irrigator(冲洗器)、specimen bag(标本袋)。— GitHub README / arXiv Fig.1

操作者(4 类):MSLH(Main Surgeon Left Hand,主刀左手)、MSRH(主刀右手)、ASRH(Assistant Surgeon Right Hand,助手右手)、NULL(空/无归属)。— GitHub README

手术阶段(phase):沿用 CAMMA 胆囊切除的阶段体系(Cholec80 的 7 阶段:preparation / calot triangle dissection / clipping and cutting / gallbladder dissection / gallbladder packaging / cleaning and coagulation / gallbladder retraction)。README 未列出完整名单,本条目标为待核。— 依据 Cholec80 体系推断

视觉挑战(visual challenges):论文 Fig.1 附图列出了 bleeding(出血)、blurring(模糊)、crowded(拥挤)、trocar view(套管视野)、reflection(反光)、smoke(烟雾)、occlusion(遮挡)、lens fouling(镜头污染)、blood stain(血迹)等命名。具体最终清单与计数以论文正文为准(本轮 PDF 抓取超时,标为遗留疑点)。

其他属性:官方 README 提到标签还含 spatial coordinates(空间坐标)、track identities、frame visual conditions 等,并在数据记录表中列出「本数据集引入的属性」与「继承自源数据的属性」两类。

2.4 数据格式与目录结构

数据集为单个 zip 文件,含三个 split 子目录,每段视频序列含三项内容:

  1. 原始匿名 .mp4 视频(25 FPS)——仅测试集提供;
  2. 1 FPS 采样帧文件夹——与标签一一对应;
  3. JSON 标签文件——结构为「以帧 ID 为键的字典」,每个键对应的记录数 = 该帧内的器械数;每条记录(属某把器械)以字典属性携带全部标签,例如:
tool_bbox: [120.0, 132.0, 23.0, 65.0]
category: 3
operator: 3
intraoperative_track_id: 7

(字段为示意,取自官方 README 原文示例。)— https://github.com/CAMMA-public/cholectrack20

格式转换工具:官方提供 conversion.py,可将 JSON 标注转为 MOTChallenge、COCO、TAO 等主流格式,以便直接接入对应数据加载器。— GitHub README

JSON 结构的读法示例(官方 README 原文给出示例字段):假设某帧 ID 下有 2 把器械,则该帧对应 2 条记录;每条记录是一个字典,例如:

"frame_id": {
  "0": {"tool_bbox": [120.0, 132.0, 23.0, 65.0], "category": 3, "operator": 3,
        "intraoperative_track_id": 7, "intracorporeal_track_id": 19, "visibility_track_id": 65, ...},
  "1": {...}
}

注意:同一把器械在三条视角下会携带三个不同的轨迹 ID(示例中 7 / 19 / 65)——这正是三视角形式化在数据层面的落地方式。检索者解析 JSON 时必须明确取哪条 track id 字段,取错字段会得到完全不同的「轨迹数」。

2.5 与 Cholec 家族的边界与重叠

这是检索者必须读清楚的一节,也是本条目与库内 Cholec 系条目发生关系的地方。

任务边界:

数据集 任务 输出
Cholec80 手术阶段识别 每帧 7 类阶段标签
CholecT50 手术动作三元组识别 <器械, 动词, 目标> 三元组
CholecSeg8k 语义分割 每像素 13 类
CholecTrack20 多类多器械追踪 每器械包围盒 + 三视角轨迹 ID + 操作者 + 阶段 + 视觉挑战

内容重叠:官方声明 CholecTrack20 与 Cholec80、CholecT50 及其他同医学中心胆囊切除数据集存在内容重叠,并保留 VID 编号以便识别。官方提醒:VID 前缀在其他数据集中可能写作 Video。这是跨库使用的头号风险:若把 Cholec80 用作 CholecTrack20 的预训练数据,可能造成视频级(乃至帧级)数据泄漏,使评测虚高。— https://github.com/CAMMA-public/cholectrack20

CAMMA 另维护 camma_dataset_overlaps 仓库,专门给出跨数据集重叠矩阵与合并建议(这一点在库内 cholec50 条目的 FACTS 中亦有记录)。检索者若做多库联合实验,应以此为权威依据。

2.6 拿到数据后的处理建议

若成功申请到 CholecTrack20,建议的接入顺序:

  1. 先跑 conversion.py,把 JSON 转成你熟悉的格式(MOTChallenge 做追踪评测、COCO 做检测);
  2. 确认你用的视角:明确取 intraoperative_track_id / intracorporeal_track_id / visibility_track_id 中的哪一个——这决定你的「目标数」;
  3. 对齐帧率:训练用 1 FPS 采样帧,评测若要与官方表对齐则需在 25 FPS 上进行;
  4. 先做重叠核对:若同时用 Cholec80/CholecT50,先查 camma_dataset_overlaps;
  5. 分场景评测:利用 visual conditions 标签做 bleeding/smoke/crowded 等子集评测,这比单一总体指标更有信息量。

2.7 从数字推算出的几个直觉

用公开硬数字做几个简单推算,有助于建立对数据集的直觉:

  • 每帧平均器械数:65K 实例 ÷ 35K 帧 ≈ 1.86 把/帧。也就是说画面上平均同时有不到两把器械。这符合腹腔镜胆囊切除的实况——通常主刀一手持抓钳、一手持电凝钩,助手偶有器械。
  • 每段视频平均帧数:35K ÷ 20 = 约 1,750 帧 = 约 1,750 秒 ≈ 29 分钟。胆囊切除手术通常 30-90 分钟,采样后 1,750 帧(约半小时)是合理的量级。
  • 可见性视角下的碎片化:916 条可见性轨迹 ÷ 20 视频 ≈ 每视频 46 条轨迹;而术中视角只有 70 ÷ 20 = 3.5 条/视频。也就是说每段手术里真正被使用的器械只有三四把,但它们在画面里会进出 46 次。这个「3.5 对 46」的对比,是 CholecTrack20 想说清楚的核心矛盾。
  • 检测框数恒定 29994:这是三视角共享的物理标注量,约等于 65K 的一半数量级(65K 含更多属性实例计数口径差异,具体见遗留疑点)。

这些推算是「用已有硬数字建立量感」,不引入新数字,但对理解数据集的实际形态很有帮助。特别提醒:以上除法结果是本条目为帮助理解所做的推算,不是官方数字,引用时请回到原始硬数字。

§3 标注体系与三视角的工作含义

3.1 三视角不是「三份标注」,而是「同一份标注的三种读法」

一个常见的误解是把三视角理解为「团队标了三遍」。实际更接近:标注者标出器械的连续身份,然后在轨迹归并规则上按三种粒度输出三套 track ID。物理标注(包围盒、类别、操作者)是共享的,差异在于「什么时候判定一条轨迹结束、什么时候判定两条轨迹是同一条」。

  • 可见性视角:出画即断。
  • 体内视角:出画但在体内 → 不断;离体 → 断。
  • 术中视角:出画不断、离体不断 → 只有器械真正退役才断。

因此三套轨迹 ID 是同一批包围盒的三种分组方案,#Dets 恒为 29994,而 #IDs 从 916 折叠到 70。

3.2 为什么三视角是必要的:临床任务反推

论文的论证逻辑是「从应用需求反推形式化」,而非「先造数据再想用途」:

  • 实时反馈 / 安全区估计:系统要告诉外科医生「你的钳子现在在哪、离关键结构多近」。这只需要当前画面内信息——可见性视角足够,且计算最省。
  • 工作流分析 / 阶段识别:需要知道「这把器械在体内待了多久、什么时候进来的」。器械出画但仍在体内时必须保持身份——体内视角。
  • 技能评估 / 人机协作:需要完整的手术动作轨迹,「这把器械被使用了几次、每次用多久」。器械离体再入体也应视为同一把的连续使用——术中视角。

同一段手术视频,对三类应用提供三种不同粒度的答案。这种「任务驱动」的数据集设计哲学,是 CholecTrack20 最值得库内其他条目借鉴之处。

3.3 标注难点的外科知识密度

CholecTrack20 的标注难点不在于画框(检测层面 YOLO 系列已能做),而在于身份判定:

  • 器械移出画面后再出现,如何确认是「同一把」而非「助手换了一把」?——需要理解套管位置:同一套管进出的通常是同类器械的同一操作通道。
  • 器械离体的判定:画面里看不清退出动作时,需要从「另一把器械经同一套管进入」反推。
  • 器械拥挤(crowded)时的遮挡归因:哪把器械挡住了哪把,需要外科场景知识。

这些判定规则(前述 OOB 三条)体现了该数据集极高的领域知识密度:标注者不只是画框工人,而是接受过手术流程培训的标注员。论文正文约会有标注员培训与质控的描述,但本轮未抓取到(标为遗留疑点)。

3.4 数据质量与可利用性的现实边界

  • 视觉挑战导致的退化是数据集的「特性」而非「缺陷」:官方把出血、烟雾、反光等作为显式标签给出,正是为了让研究者能分场景评测——这是设计上的优点。
  • 帧率不一致需注意:标注在 1 FPS,评测在 25 FPS(README 追踪表标注 @25 FPS)。做追踪时需明确你用的是采样帧还是原始帧序列。
  • 类别长尾:7 类器械中,specimen bag、bipolar 等出现频率远低于 grasper/hook,检测与追踪指标在稀有类上会明显偏低。

3.5 逐视角的工作量与失败模式

三视角不仅在评测上难度不同,在模型设计的失败模式上也各有侧重:

  • 可见性视角:主要失败来自密集遮挡与外观混淆(crowded、occlusion)。模型需要强检测与短时关联。
  • 体内视角:主要失败来自「出画-入画」的重识别。模型需要能跨帧记忆中段缺失的轨迹,并判「是同一把还是新的一把」。
  • 术中视角:主要失败来自「离体-再入体」的长时间重识别,以及 OOB 判定的歧义。这是身份保持的终极考验。

从基准表可以印证:随视角放宽(ID 从 916 折到 70),IDF1 从 41.4 掉到 10.2。也就是说,越接近临床语义的视角,现有方法的身份保持能力越差——这恰恰是该数据集最想暴露的问题。

3.6 标注的隐藏成本

CholecTrack20 的标注成本远高于「画框 + 分类」的常规检测数据集,原因有三:

  1. 轨迹一致性维护:跨出画、跨离体保持 ID 一致,需要标注员记住整段手术的器械使用历史;
  2. 外科语义判定:OOB 的三条判定规则需要外科流程知识,标注员须经专门培训;
  3. 多视角输出:同一批物理标注要按三种归并规则产出三套轨迹,增加了后处理复杂度。

这也是为什么该数据集只有 20 段却仍有很高价值——标注密度的提升补偿了视频数量的不足。相较之下,纯粹扩大视频数而不提升标注维度的做法,边际价值反而更低。

3.7 三视角的形式化对照表

为便于理解,把三视角在「何时断轨」上的判定整理成一览:

事件 可见性 体内 术中
器械被遮挡(仍在画面) 不断 不断 不断
器械移出相机视野 OOCV 断 不断 不断
器械退出患者身体 OOB 断 断 不断
器械真正退役(不再使用) 断 断 断
器械替班(换一把同类) 断 断 断(不同器械)

读法:从可见性到术中,轨迹的生命周期被逐层「延长」——每放宽一层,就有更多「中断」被判定为「仍属同一轨迹」。这正是 #IDs 从 916(断得最多)降到 70(断得最少)的机制。

一个常见的标注歧义:器械「替班」和器械「出画后重新入画」在像素上可能长得一样(都是旧的消失、新的出现)。三视角形式化的价值之一,就是要求标注者在语义层面区分它们——替班是新轨迹,出画再入画是同轨迹。这种区分对标注员的领域知识要求很高。

3.8 属性清单整理

综合 README 与论文,CholecTrack20 每条器械记录携带的属性可归为五组:

  1. 空间组:tool_bbox(包围盒坐标 [x, y, w, h]);
  2. 分类组:category(7 类器械之一);
  3. 操作者组:operator(MSLH / MSRH / ASRH / NULL);
  4. 身份组:三条轨迹 ID(intraoperative / intracorporeal / visibility);
  5. 场景组:phase(手术阶段)、visual conditions(遮挡/出血/烟雾等)。

这五组属性使单条记录同时成为「检测样本 + 分类样本 + 追踪样本 + 场景上下文」。研究者可以只取其中一组做单一任务,也可以全取做多任务联合建模——灵活度很高。

§4 论文、团队与时间线

4.1 论文档案

  • 正式题名:CholecTrack20: A Multi-Perspective Tracking Dataset for Surgical Tools
  • 发表:Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR) 2025,June 2025,pp.8942-8952
  • 预印本:arXiv:2312.07352(v1 2023-12-12;v2 2025-03-24)
  • 篇幅:11 页,10 图,3 表
  • 学科:Computer Vision and Pattern Recognition (cs.CV);Artificial Intelligence (cs.AI)
  • DOI(arXiv):10.48550/arXiv.2312.07352

标题双口径存照:v1(2023)标题为「CholecTrack20: A Dataset for Multi-Class Multiple Tool Tracking in Laparoscopic Surgery」;v2(2025)与 CVPR 版标题为「CholecTrack20: A Multi-Perspective Tracking Dataset for Surgical Tools」。同一数据集两版标题并存,引用时应以 CVPR 2025 版为准。

4.2 作者与机构

作者 机构
Chinedu Innocent Nwoye(一作) University of Strasbourg, CNRS, INSERM, ICube, UMR7357 / IHU Strasbourg
Kareem Elgohary ICube, University of Strasbourg
Anvita Srinivas ICube, University of Strasbourg
Fauzan Zaid ICube, University of Strasbourg
Joël L. Lavanchy University of Basel, University Digestive Health Care Center, Clarunis(瑞士)
Nicolas Padoy(通讯) ICube, University of Strasbourg / IHU Strasbourg

Nwoye 的谱系意义:Chinedu Innocent Nwoye 同时是 CholecT50 数据集页的维护者、Rendezvous(RDV)三元组识别模型的一作、以及多多篇 CAMMA 手术视频论文的核心作者。他参与 CholecTrack20,意味着该数据集与 CholecT50 在同一批人手里延续——这也解释了为何两者共享 VID 编号与阶段标签体系。

资助:ANR(AI4ORSafety ANR-20-CHIA-0029-01、DeepSurg ANR-16-CE33-0009、IHU Strasbourg ANR-10-IAHU-02);BPI France(CONDOR、5G-OR);Swiss National Science Foundation(Lavanchy:P500PM_206724、P5R5PM_217663)。HPC 由 CAMMA / IHU Strasbourg / Unistra Mesocentre / GENCI-IDRIS(2021-AD011011638R3/R4)支持。

4.3 时间线

日期 事件 来源
2023-12-12 arXiv:2312.07352 v1 提交(标题为 “A Dataset for Multi-Class Multiple Tool Tracking…”) arXiv
2025-02-26 论文被 CVPR 2025 接收 GitHub News
2025-02-28 完整数据集在 Synapse.org 发布 GitHub News
2025-03-15 GitHub 仓库 utils/、DUA.md 初始提交 GitHub commit
2025-03-24 arXiv v2 修订(改为 “A Multi-Perspective Tracking Dataset…”) arXiv
2025-03-25 数据集请求表单开始接受响应 GitHub README
2025-04-03 images/ 上传(示例图) GitHub commit
2025-11-10 DATA_FORMAT.md 创建 GitHub commit
2026-02-21 TrackEval 库加入 CholecTrack20 MOT 评测支持 GitHub News / commit

这条时间线显示:v1 预印(2023 底)→ CVPR 接收与数据发布(2025 初)→ 评测生态接入(2026)的完整链路。注意数据发布晚于论文接收,且请求表单开放又晚于数据发布近一个月,检索者引用「公开时间」时应区分「Synapse 发布(2025-02-28)」与「表单开放(2025-03-25)」两个节点。

4.4 论文贡献的三条主线

按论文自述,主要贡献有三:

  1. 引入 CholecTrack20——一个带丰富标注的「多视角追踪」先驱数据集;
  2. 大量实验分析——验证该数据集在手术器械检测与追踪上的有效性;
  3. 跨视觉挑战的方法性能洞察——揭示每种追踪视角对 AI 驱动手术方案的实用性差异。

第 3 条尤其值得注意:论文不只是「发布数据 + 报个榜」,而是把「每种视角对下游应用有多大用」当作一个科学问题来回答。这呼应了 §0 的「任务驱动」取向——视角不是标注的副产品,而是被研究的主体。

4.5 会议与社区反馈

CVPR 是计算机视觉三大顶会之一,医学影像方向在 CVPR 的接收意味着该数据集被通用 CV 社区而非仅医学影像社区认可。这对数据集的可见度有实质帮助:它进入了 leaderboard(Papers with Code)生态、进入了 TrackEval 支持列表(2026),并被后续方法(SurgiTrack)作为刷榜对象。数据集的「活性」在发布一年后仍在延续。

4.6 论文的实验设计

论文的实验分两大块,对应两个子任务:

检测实验:以主流检测器(Faster-RCNN、YOLO 系、DETR 系等 13 个)在 CholecTrack20 上评测 AP,并按器械类别、按视觉挑战场景分组报告。分组报告的用意是揭示「哪类器械难检、哪类视觉干扰最致命」,而非只给一个总 AP。

追踪实验:以主流追踪方法(SORT、ByteTrack、Bot-SORT 等)在三个视角上分别评测,用 HOTA 及 CLEAR/Identity/Count 系列指标,并按手术阶段、按视觉挑战分组报告。分组揭示「哪个手术阶段最难追、哪种视角最考验方法」。

这种「多维度分组评测」的设计,使论文的结论不止于「谁第一」,而能回答「为什么难」——这是数据集论文里较高的实验标准。

4.7 论文的三个关键发现(据摘要与 README 表)

  1. 性能鸿沟:当前 SOTA < 45% HOTA,未达临床转化精度——这是论文的核心警句;
  2. 视觉挑战是主因:出血、烟雾、反光、遮挡场景下性能显著退化;
  3. 视角价值差异:不同视角对下游 AI 手术方案的价值不同,可见性视角偏实时反馈、术中视角偏技能评估。

这三条共同支撑了论文的立论:手术追踪需要「先进且直觉的算法」,而 CholecTrack20 是开发这类算法的基础。

§5 基准与评测

5.1 检测基准(DetEval / COCO AP 口径)

官方 README 给出 13 个检测模型的基准(AP@0.5 / AP@0.75 / AP@0.5:0.95,及逐类 AP@0.5):

三个阈值下的总体 AP(节选,@0.5 / @0.75 / @0.5:0.95):

模型 AP@0.5 AP@0.75 AP@0.5:0.95
YOLOv7 80.6 62.0 56.1
YOLOv9 80.2 62.6 56.5
YOLOv10 80.1 62.1 55.8
YOLOv8 79.1 62.4 55.6
YOLOX 64.7 48.9 44.2
PAA 64.5 44.9 41.1
Swin-T 62.3 44.3 40.2
SSD 61.9 37.8 36.1
Faster-RCNN 56.0 38.1 34.6
Def-DETR 58.4 42.0 38.3
Cascade-RCNN 51.7 39.0 34.7
CenterNet 53.0 39.5 35.0
FCOS 43.5 31.5 28.1

读法:YOLO 系(v7/v8/v9/v10)明显领先(AP@0.5 约 80),R-CNN 系与 DETR 系落后 15-25 个点。这说明检测层面任务已相对成熟——瓶颈不在「能不能框住器械」,而在追踪身份。

逐类 AP@0.5(节选):irrigator(YOLOv8 96.2)、hook(SSD 91.6)、clipper(YOLOv7 89.3)较高;specimen bag、bipolar 相对较低。类别频率与外观独特性共同决定检测难度。

视觉挑战下的 AP 退化:README 表按 bleeding / blur / smoke / crowded / occluded / reflection / foul / lens / trocar 等场景分列。多数模型在 bleeding、blur、crowded 场景下 AP 显著下降(例如 Faster-RCNN 全场景 AP@0.5=28.9,在 blur 场景降至 31.8、在 foul 场景 35.7,波动明显)。这印证了「视觉挑战是手术追踪的核心难点」这一论文主张。

5.2 追踪基准(TrackEval,三视角分列)

官方 README 给出 6 个追踪方法的基准,按三视角分别评测(@25 FPS)。这是本数据集最关键的一张表:

术中视角(点 #IDs = 70,最难):

模型 HOTA↑ MOTA↑ IDF1↑ MT ML
Bot-SORT 17.4 69.6 10.2 58 1
SMILETrack 15.9 66.4 9.2 55 2
ByteTrack 15.8 67.0 9.5 54 2
OCSORT 14.6 49.2 9.5 24 14
TransTrack 7.4 4.2 4.2 9 25
FairMOT 5.8 5.0 4.3 3 43

体内视角(#IDs = 247,中等):

模型 HOTA↑ MOTA↑ IDF1↑ MT ML
Bot-SORT 27.0 70.0 18.9 188 21
SMILETrack 24.9 66.7 16.9 186 22
ByteTrack 24.7 67.4 16.9 176 23
OCSORT 23.7 47.1 18.1 115 45
TransTrack 13.1 4.6 8.7 80 88
FairMOT 7.5 5.4 6.0 19 168

可见性视角(#IDs = 916,最易):

模型 HOTA↑ MOTA↑ IDF1↑ MT ML
Bot-SORT 44.7 72.0 41.4 638 94
ByteTrack 41.5 69.3 36.8 591 108
SMILETrack 41.3 68.9 36.5 619 105
OCSORT 37.0 50.2 35.9 300 245
TransTrack 19.2 5.8 16.1 224 412
SORT 17.4 21.4 13.4 139 378

三条解读:

  1. 视角越难,HOTA 越低:最易的可见性视角最佳 44.7,最难的术中视角最佳仅 17.4——相差 27 个点。这直观量化了「跨出画 + 跨离体重识别」的难度。
  2. 身份指标(IDF1)普遍惨淡:即便最易视角最佳也仅 41.4,术中视角低至 10.2。说明方法能「跟上目标位置」(MOTA 不低),但认不住身份(IDF1 极低)——正是手术追踪的痛点。
  3. Bot-SORT 在三视角全面领先,ByteTrack / SMILETrack 紧随;TransTrack、FairMOT 全面落后。

5.3 评测指标与工具链

检测侧(DetEval):基于 COCO API 的 AP 指标(AP@0.5 / @0.75 / @0.5:0.95),是标准目标检测口径。

追踪侧(TrackEval):官方采用适配版 TrackEval,涵盖主流追踪指标:

  • CLEAR MOT(MOTA / MOTP)
  • Identity(IDF1 / IDSW / Frag)
  • Count(MT / PT / ML — Mostly Tracked / Partially / Mostly Lost)
  • HOTA(DetA / LocA / AssA 分解)
  • 另有 VACE、Track mAP、J&F、ID Euclidean 等

其中 **HOTA(Higher Order Tracking Accuracy)**是核心指标,分解为 DetA(检测精度)、AssA(关联精度)、LocA(定位精度)——AssA 特别低是手术追踪的典型特征。

自动化评测入口:TrackEval 适配代码于 2026-02-21 合入,官方提供 DetEval/ 与 TrackEval/ 两个库目录;评测代码部分借用原始 TrackEval 与 Cocoapi(官方致谢)。

Leaderboard:Papers with Code 提供公开排行;README 的 Detection / Tracking Leaderboard 与之同步。

5.4 新 SOTA:SurgiTrack

README 的 “Emerging Research Methods” 一节标注 SurgiTrack 为该数据集上的新 SOTA 方法(README 仅给外链)。这说明数据集发布后已吸引后续方法在其上刷榜——数据集的「活性」良好。SurgiTrack 的正式论文出处本轮未抓取,标为遗留疑点。

5.5 评测卫生:读这张基准表的四条守则

  1. 先确认视角:HOTA 17.4(术中)与 44.7(可见性)不是同一件事,跨视角比数字无意义。
  2. 区分检测与追踪:YOLOv7 检测 AP@0.5=80.6 很漂亮,但它的关联精度(AssA)并未因此变好——检测强不等于追踪强。
  3. 注意帧率:追踪表标注 @25 FPS,而标注是 1 FPS;若你在 1 FPS 上评测,数字不可与此表直接比。
  4. 别忽略稀有类:总体 AP 被高频类(grasper/hook)主导,specimen bag 等稀有类的实际性能远低于平均值。

5.6 指标分解:DetA / AssA / LocA 讲的故事

HOTA 之所以成为本数据集的核心指标,是因为它可分解为三个子指标,能分别诊断「检测」「关联」「定位」三方面的能力:

  • DetA(Detection Accuracy):检测精度。若 DetA 高说明「框得准」;
  • AssA(Association Accuracy):关联精度。若 AssA 低说明「认不住身份」;
  • LocA(Localization Accuracy):定位精度,通常与检测框质量相关。

从 README 表看,多数方法在术中视角的 DetA 尚可(如 OCSORT 52.7),但 AssA 极低(4.1)——关联是瓶颈,不是检测。这为后续方法指明了方向:改进重识别与轨迹关联,而非一味提升检测器。

5.7 各方法画像(追踪侧)

方法 类型 表现画像
Bot-SORT 检测+外观+运动 三视角全面最佳(HOTA 17.4/27.0/44.7),MT 最高、ML 最低,身份保持最好
ByteTrack 双阈值检测关联 紧随其后,MOTA 出色(67-70),工程上易复现
SMILETrack 相似度学习 与 ByteTrack 接近,AssA 略优
OCSORT 纯运动关联 DetA 不低但 AssA 极差,说明无外观特征时关联崩溃
TransTrack Transformer 关联 全面落后,MT 低 ML 高,学不动
SORT / FairMOT 经典/基线 垫底,FairMOT 的 ML 极高(术中 43/70),几乎跟丢大半目标

这张画像的实用价值是:做 CholecTrack20 请从 Bot-SORT 起步,ByteTrack 是稳健基线,OCSORT 揭示了「纯运动关联在手术场景行不通」。

5.8 检测侧方法画像

  • 单阶段 YOLO 系(v7/v8/v9/v10)统治榜单(AP@0.5 约 80),且推理速度快(20-30 FPS),适合实时应用;
  • 两阶段 R-CNN 系(Faster/Cascade)AP 落后且慢(约 7 FPS);
  • Anchor-free / DETR 系(FCOS、CenterNet、Def-DETR)居中偏下;
  • PAA(Probabilistic Anchor Assignment)在 AP@0.5 上达 64.5,但速度一般。

结论:检测侧已是「成熟但非饱和」——YOLO 系足够好,但视觉挑战场景下仍会显著掉点。结合追踪看,手术追踪的真正瓶颈在关联而非检测。

5.9 一个具体的读表示例

假设你想回答「当前最好的手术器械追踪方法有多准」,正确的读表步骤是:

  1. 先在心里选一个视角。如果你做的是「实时术中提示系统」,那关心的是可见性视角(画面内的器械位置);
  2. 定位到可见性表的 HOTA 行。最佳是 Bot-SORT 44.7;
  3. 再补看身份指标。Bot-SORT 的 IDF1 只有 41.4——意味着即使最好的方法,身份保持也才四成出头;
  4. 补看场景维度。README 另有跨视觉挑战的追踪结果,出血/烟雾场景下还会更低;
  5. 给出结论:可见性视角最佳方法 HOTA 44.7、IDF1 41.4,距离临床可用(通常要求高可靠身份保持)仍有明显差距。

若换成术中视角,第 2 步就会变成 HOTA 17.4、IDF1 10.2——差了一个量级。同一份数据,换一个视角,结论天差地别。这就是 CholecTrack20 逼你「先定义问题」的价值。

5.10 为什么 MOTA 高但 IDF1 低

这是本数据集最值得玩味的现象。以术中视角 ByteTrack 为例:MOTA 67.0(看起来不错),IDF1 仅 9.5(惨不忍睹)。为什么?

  • MOTA 主要由「漏检 + 误检 + 身份切换」构成,但身份切换(IDSW)在 MOTA 里权重有限;只要目标位置大体跟上,MOTA 就不会太差;
  • IDF1 直接度量「同一目标的检测是否正确关联到同一轨迹」,一旦轨迹频繁断裂/串号,IDF1 就会崩。

手术场景里,器械频繁出画入画、遮挡、替班,导致关联极易出错——于是「位置对、身份错」成为常态。这正是 CholecTrack20 想暴露的核心短板:现有追踪方法在手术场景里「看得见但认不住」。

5.11 给方法研究者的两个方向提示

基于上面的分析,本条目给出两个高价值研究方向(属分析性建议,非官方结论):

  • 方向一:强重识别(re-ID)模块。既然瓶颈在 AssA,那么专门针对手术器械外观(金属反光、细长形状、部分遮挡)设计的 re-ID 特征,可能比通用外观特征更有效。
  • 方向二:利用场景语义约束。手术阶段(phase)与套管位置是强先验——比如「clipping and cutting 阶段主刀右手大概率是 clipper」。把 phase 标签作为关联先验注入追踪器,可能改善身份保持。CholecTrack20 恰好同时标注了 phase 与轨迹,为这类研究提供了现成监督。

§6 获取与许可:请求制的门怎么进

6.1 四步获取流程

官方给出的获取路径是一个请求制流程(没有公开直链):

  1. 阅读 Data Use Agreement(DUA)——仓库内 DUA.md;
  2. 确认许可——数据集以 CC-BY-NC-SA 4.0 发布;
  3. 填写数据集请求表单领取下载 accesskey——官方说明表单自 2025-03-25 起接受响应;accesskey 需妥善保存;
  4. 经 Synapse.org 数据门户下载——用 accesskey 完成下载。

— https://github.com/CAMMA-public/cholectrack20

关键提醒:GitHub 仓库(github.com/camma-public/cholectrack20)只有代码、文档与评测库,不含数据。数据本体在 Synapse.org。把 GitHub 仓库「star」了并不等于拿到了数据——这是检索者最常见的误会。

6.2 许可:CC-BY-NC-SA 4.0

  • 全称:Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International(署名-非商业性使用-相同方式共享 4.0)。
  • 含义:可自由使用、修改、分发,但须署名、仅限非商业用途、衍生作品须以相同许可共享。
  • 实操影响:
    • 学术研究、非商业评测:可用;
    • 商业产品、商业化模型:不可——需另行协商;
    • 基于该数据集训练的模型的许可归属:许可未明确覆盖「模型权重」,属灰色地带(与库内多数医学数据集共有的问题)。

6.3 仓库与数据格式

GitHub 仓库内容(commit 历史):

路径 内容 最近提交
DUA.md 数据使用协议 2025-03-15
LICENSE.txt 许可文本 —
DATA_FORMAT.md 数据格式说明 2025-11-10
utils/ 工具脚本(含 conversion.py) 2025-03-15
DetEval/ 检测评测(COCO API) —
TrackEval/ 追踪评测适配(含 CholecTrack2DBox 导入) 2026-02-21
images/ 示例图/GIF 2025-04-03

数据本体结构:单个 zip,含 train/val/test 三个 split 子目录;每段视频序列含 (1) 原始匿名 .mp4(25 FPS,仅测试集)(2) 1 FPS 采样帧文件夹 (3) JSON 标签文件。

6.4 AI-Ready 评估(DAIMS 五维评分表)

以库内 AI-Ready 检查单 / DAIMS 维度过一遍:

DAIMS 维度 评分 依据
Discoverability(可发现性) 高 CVPR 2025 顶会论文 + CAMMA 官方数据集页 + GitHub 仓库 + Papers with Code 排行,四大入口齐全
Accessibility(可获取性) 中低 请求制:DUA + 表单 + accesskey + Synapse 四步,无公开直链;但流程文档清晰、表单已开放
Interoperability(互操作性) 高 JSON 标签 + conversion.py 一键转 MOTChallenge/COCO/TAO;DetEval/TrackEval 标准工具链
Metadata quality(元数据质量) 高 README 详尽(三视角定义、OOB 判定规则、属性表、基准表齐全);DATA_FORMAT.md 专述格式
Sustainability(可持续性) 中高 CAMMA 长期维护多数据集;TrackEval 支持 2026 年仍在更新;但依赖 Synapse + accesskey 机制,长期可得性受机构政策影响

综合 AI-Ready 等级:中高——方法论与文档质量一流,可获取性被请求制拖低。这与库内 cholec50(同为请求制、同为 CAMMA)处于同一档位。亮点是互操作性极高:官方直接给格式转换工具与标准评测库,接入成本远低于许多「给个 zip 就完事」的数据集。

6.5 与库内可获取性光谱的对照

档位 库内参照 本条目对应
注册墙(最严) LMC2(rid 531,注册+审批) —
请求制 CholecT50(rid 223,同 CAMMA,DUA+表单) 本条目(DUA+表单+Synapse)
平台托管 Zenodo 型(TopBrain,rid 632) —
公开直链 HF/Zenodo 直链型 —

本条目与库内 cholec50(rid 223)同处「请求制」档,且同源同团队——两者是库内可获取性光谱上的一对「同门兄弟」。对按「能否立刻下载」过滤条目的使用者,两者都会被标注为请求制。

6.6 请求制实操要点

对准备申请的研究者,几个实操建议:

  • 先读 DUA 再填表:DUA 里通常会写明用途限制(非商业)、禁止再分发、禁止尝试重新识别患者等条款。填表时用途描述要与 DUA 一致,否则可能被拒或延误。
  • 用途描述写具体:「手术器械追踪研究」比「AI 研究」更容易通过。写明机构隶属与项目背景。
  • accesskey 妥善保存:官方明确提醒 accesskey 要保密——它是你的下载凭证,泄露等于数据被他人下载。
  • 预留等待时间:请求制通常非即时,项目排期要留缓冲。
  • 测试集原始视频是稀缺资源:只有测试集提供 25 FPS 原始 .mp4,训练/验证集只有 1 FPS 采样帧——这一点在做「用原始视频推理」的实验时会成为约束。

6.7 许可合规的三条红线

  1. 非商业(NC):任何商业产品、商业模型、商业服务不得使用该数据或其衍生;
  2. 相同方式共享(SA):基于该数据制作的衍生数据集/标注,须以 CC-BY-NC-SA 4.0 或兼容许可发布;
  3. 署名(BY):须按官方要求引用论文与数据集。

模型权重是否受 SA 约束属灰色地带——许可文本针对「作品」(数据),未明确「训练出的参数」是否算衍生作品。保守做法:商用前逐一确认,或完全避免用该数据训练商用模型。

6.8 与其他 CAMMA 数据集获取方式的对照

CAMMA 系数据集的获取方式并不统一,这是检索者容易忽略的一点:

  • CholecT50 / CholecTrack20:请求制(DUA + 表单 + accesskey),托管 Synapse / GitHub 指引;
  • Cholec80:早期通过 CAMMA 数据集页指引,多为请求/学术用途;
  • CholecSeg8k:经 Kaggle 公开(库内 cholecseg8k 条目记录其 Kaggle 直链)。

也就是说,同一个实验室的四个数据集,「门」的严宽各不相同。用「CAMMA 数据集都能直接下」或「CAMMA 数据集都要申请」一概而论都是错的——必须逐条目核对。这一点在库内多条目收录后尤其重要。

6.9 获取失败的应对

若请求表单长时间无响应或申请被拒,可考虑的替代路径(均为合规建议,不涉及绕过许可):

  1. 检查是否完整阅读并同意 DUA 条款;
  2. 补充更详细的用途说明与机构信息;
  3. 检索是否有下游研究公开的衍生标注/划分(非原始数据);
  4. 改用同源但更易获取的 Cholec80/CholecSeg8k 做近似实验,并在论文中说明差异。

切勿寻找非官方镜像下载——既违反 CC-BY-NC-SA 与 DUA,也可能拿到被篡改的数据。

§7 生态与互链:CAMMA 的手术视频宇宙

7.1 Cholec 家族谱系

CholecTrack20 属于 CAMMA 的 Cholec「视频 IP」家族。该家族以同一批斯特拉斯堡医学中心的胆囊切除视频为源头,按不同任务切分出多个数据集:

斯特拉斯堡医学中心 胆囊切除视频池(共享 VID 编号)
    ├─ Cholec80         → 手术阶段识别(7 阶段,1 fps)
    ├─ CholecT50/T45    → 手术动作三元组识别(100 类 triplet)
    ├─ CholecSeg8k      → 语义分割(13 类像素级)
    └─ CholecTrack20    → 多视角器械追踪(三视角轨迹)★ 本条目

这一「同源多任务」的家族结构,使它们之间必然存在视频/帧级重叠。官方在 README 中明确承认并提醒,CAMMA 另维护 camma_dataset_overlaps 仓库给出重叠矩阵。

7.2 库内互链点(附 rid)

  • CholecT50(rid 223,slug cholect50):最强互链。同 CAMMA、同医学中心视频、共享 VID 编号、同位作者(Nwoye)。任务互补:T50 答「在做什么」,Track20 答「器械在哪、是谁」。官方明确两者内容重叠。建议双向互链。
  • Cholec80(rid 78,slug cholec80):上游视频来源与阶段标签体系的来源。Track20 的 20 段视频与 Cholec80 有重叠。建议互链。
  • CholecSeg8k(rid 233,slug cholecseg8k):同源自 Cholec80 的语义分割数据集,同属 Cholec 生态。建议互链。
  • slam-laparoscopic-motions(rid 762):腹腔镜运动相关,弱互链(须先核验其与 CAMMA 视频池是否重叠)。

7.3 生态工具与下游

  • 评测库:DetEval(检测)、TrackEval(追踪,2026-02 加入支持)、Cocoapi(基础)。
  • 托管:Synapse.org(Sage Bionetworks)。
  • 排行榜:Papers with Code。
  • 下游方法:SurgiTrack(新 SOTA,README 标注)。
  • 同门对比数据集:Endoscapes(201 视频,分割+检测+CVS)、MultiBypass140(RYGB 手术)、SSG-VQA(场景图 VQA)——均为 CAMMA 出品,构成其「手术视频宇宙」。

7.4 在手术视频数据集景观中的位置

手术器械追踪方向的公开数据集并不多,CholecTrack20 的差异化在于:

  • 相比通用 MOT 数据集(MOTChallenge、DanceTrack 等):本条目是手术专用,含 OOCV/OOB 等手术特有动态;
  • 相比手术检测数据集(如 Endoscapes 的检测部分):本条目专注追踪,且引入三视角形式化;
  • 相比 CAMMA 自家 CholecT50:本条目输出的是器械级轨迹,而非帧级三元组。

其独有价值在于「多视角轨迹形式化」这一原创概念——这是库内其他手术数据集都不具备的。

7.5 与其他手术视频追踪数据集的对照

除 CAMMA 系之外,公开的手术器械追踪数据集相对稀缺,常见的有若干以通用 MOT 格式发布的手术视频子集,但它们普遍缺少:

  • 多视角形式化:多数只提供「可见性」一种轨迹定义;
  • 手术语义标签:操作者、手术阶段、OOB 判定等;
  • 丰富的视觉挑战标注。

CholecTrack20 的差异化正在于把这三者补齐。对做手术追踪的团队而言,它是目前标注维度最完整的公开选择之一(本条为定性判断,具体横向对比需检索者自行核验其他数据集)。

7.6 下游应用三条路径

  • 技能评估:用术中视角轨迹统计「某器械使用了几次、每次时长、移动平滑度」——轨迹身份连续是前提,可见性视角不够用;
  • 安全区估计:用可见性视角实时定位器械尖端——低延迟比长轨迹更重要;
  • 人机协作 / 半自主:需要术中视角的完整器械状态机,判断当前哪把器械在手、下一步将用哪把。

三条路径各取所需,恰好对应三视角——这也再次印证了「任务驱动形式化」的设计合理性。

§8 方法学启示:三条可迁移经验

8.1 「任务驱动形式化」优于「数据驱动形式化」

CholecTrack20 的设计顺序是「先问临床应用需要什么轨迹,再定义标注口径」,而非「先标数据再想能干什么」。这一顺序保证了每一层标注都有明确的消费方(实时反馈 / 工作流分析 / 技能评估)。对任何做医学数据集的团队,这是可迁移的第一经验。

8.2 「同源多任务家族」是低成本扩张的正确姿势

CAMMA 用一批视频衍生出阶段识别(Cholec80)、三元组识别(CholecT50)、分割(CholecSeg8k)、追踪(CholecTrack20)四个数据集,共享视频池与部分标签。但代价是系统性重叠,必须配套重叠说明机制(camma_dataset_overlaps)。这提示:数据集的扩张应同时提供「血缘地图」,否则使用者会在不知情的情况下泄漏。

8.3 「稀有但关键」的指标设计

官方基准表刻意按三视角分列,并突出 IDF1(身份指标)——在 MOTA 看起来还不错(60-72)的同时,IDF1 只有 10-41。这一「用多个指标一起讲一个更完整的故事」的做法,值得库内基准类条目借鉴:单一聚合指标会掩盖真实短板。

8.4 与库内其他条目的方法论对照

把 CholecTrack20 的设计哲学放到库内横向比较,可以看到几种不同的数据集生产范式:

范式 代表条目 核心动作
重标注升级 panda-plus 拿现成数据重新标注出更高质量标签
同源多任务衍生 cholectrack20 同批视频按不同任务切分多个数据集
多中心扩展 MultiBypass140 型 扩充机构多样性换取泛化
合成/增广 各类 bench 在已有数据上生成衍生基准

CholecTrack20 属于同源多任务衍生范式——它不采新数据、不重标旧标签,而是从既有视频池里「切」出一个新任务维度(追踪)并重新形式化。这一范式的优点是启动成本低、与家族成员自然协同;缺点是必然带来重叠,必须配套血缘说明。库内若继续收录 CAMMA 系数据集,这一血缘信息会越来越重要。

8.5 对「AI-Ready」定义的启示

若把 AI-Ready 理解为「机器能开箱即用地消费」,CholecTrack20 给出了一个有意思的样本:它的可获取性不算好(请求制),但可消费性极好(JSON + 格式转换 + 标准评测库 + 详尽文档)。这提示 AI-Ready 不应只盯着「是否有直链」,还应看「拿到数据后接入成本有多低」。一个直链但格式混乱的数据集,未必比一个请求制但接口规范的数据集更「AI-Ready」。本条目在库内可获取性光谱上处于中低位,但在互操作性维度上处于高位。

§9 与库内条目的关系

9.1 家族图谱

CAMMA 腹腔镜胆囊切除视频池
    ├── cholec80 (rid 78)        [阶段识别]      ── 上游
    ├── cholect50 (rid 223)      [三元组识别]    ── 同门·强重叠
    ├── cholecseg8k (rid 233)    [语义分割]      ── 同门
    └── cholectrack20 (本条目)   [多视角追踪]    ★

9.2 检索路径建议

  • 做手术阶段识别 → cholec80(rid 78)为主,本条目可作器械上下文补充;
  • 做手术动作识别 → cholect50(rid 223)为主,本条目提供器械身份维度;
  • 做手术器械追踪 → 本条目(无库内竞品);
  • 做手术场景分割 → cholecseg8k(rid 233);
  • 做多任务联合建模 → 必须先用 camma_dataset_overlaps 做重叠核对,再联合 cholec80 + cholect50 + 本条目。

9.3 互链价值分析

为什么本条目应当与 CholecT50(rid 223)双向互链?三条理由:

  1. 同源血缘:两者共享同一批斯特拉斯堡视频池与 VID 编号,检索者若读一个必然需要知道另一个的重叠风险;
  2. 任务互补:CholecT50 的「三元组识别」与本条目的「器械追踪」是手术视频理解的两条正交轴,联合使用才能刻画「谁在用什么器械做什么」;
  3. 作者同源:Nwoye 同时深度参与两者,引用链上天然互引。

与 Cholec80(rid 78)的互链理由更基础:Cholec80 是本文阶段标签体系的来源,且视频重叠——是「上游」。

与 CholecSeg8k(rid 233)的互链则偏「同门全景」:三者(加 CholecT50)共同构成 Cholec 生态的完整图景,读者读一个时通常会想看全貌。

9.4 重叠风险的量化提示

官方未在本轮抓取中给出精确的逐视频重叠清单(camma_dataset_overlaps 仓库提供该矩阵,但本轮未逐条抓取)。保守做法:在把 CholecTrack20 与任何 Cholec 系数据集联用前,先到 camma_dataset_overlaps 仓库核对;无法核对的,按「可能存在重叠」处理,即不要把 Cholec80 训练集当作 CholecTrack20 的干净外部测试集。

9.5 互链点摘要(供主会话采纳)

互链目标 rid 关系 互链强度 建议
CholecT50 223 同源同团队·任务互补·内容重叠 强 双向互链
Cholec80 78 上游视频来源·阶段标签来源 强 双向互链
CholecSeg8k 233 同门·同 Cholec 生态 中 互链
slam-laparoscopic-motions 762 腹腔镜运动相关(须核验重叠) 弱 待核后互链

重叠说明口径:与 Cholec50/Cholec80 条目互链时,务必同时传递「内容重叠、共享 VID、须查 camma_dataset_overlaps」这一血缘警示,避免读者误把三者当独立数据联用。

9.6 库内定位一句话

在库内手术视频条目群中,CholecTrack20 是唯一提供器械级时空身份标签的条目——它填补了「Cholec80/CholecT50/CholecSeg8k 都答不出『这把器械从哪来到哪去』」这一空白。

§10 避坑清单:八个已踩过的坑

坑 1:把 GitHub 仓库当数据源。
github.com/camma-public/cholectrack20 只有代码、文档、评测库,不含数据。数据本体在 Synapse.org,需 accesskey。以为 clone 仓库就拿到数据是最常见的初级坑。

坑 2:忽略「请求制」的时间成本。
获取需 DUA → 表单 → accesskey → Synapse 四步,表单审核非即时。项目排期若按「假设当天能下到数据」安排,必翻车。表单自 2025-03-25 开放,早于此时点的一方检索不到入口。

坑 3:跨库预训练造成数据泄漏。
CholecTrack20 与 Cholec80、CholecT50 视频内容重叠且共享 VID 编号(其他库可能写 Video)。若用 Cholec80 训练、CholecTrack20 测试,可能测到训练集里的视频,指标虚高。必须先用 camma_dataset_overlaps 核对。

坑 4:把三视角 HOTA 混着比。
术中视角最佳 17.4、可见性最佳 44.7——不是同一任务。跨视角比较数字毫无意义。读基准表前先确认视角列。

坑 5:混淆检测强与追踪强。
YOLOv7 检测 AP@0.5 高达 80.6,但追踪 IDF1 仍很低。检测精度高不代表关联(AssA)好。做追踪别拿检测数字自我安慰。

坑 6:忽视帧率不一致。
标注 1 FPS,追踪基准评测 @25 FPS。若在 1 FPS 采样帧上跑追踪,数字不能与官方表直接比;做实时系统时更要注意 25 FPS 的压力。

坑 7:把「器械类别」当作固定 7 类即可。
7 类存在严重长尾:grasper/hook 高频,specimen bag 稀有。总体 AP 被高频类带高,稀有类实际性能差。分场景/分类别评测才有意义。

坑 8:误读 license 边界。
CC-BY-NC-SA 4.0 的 NC(非商业)与 SA(相同方式共享)双重约束:商业用途不可,衍生数据须同许可。且该许可未明确覆盖「训练出的模型权重」,商用模型前必须自行厘清。

10.1 一条最小复现路径(食谱式)

给准备上手的研究者一条从零到首个结果的最小路径:

  1. 申请数据:读 DUA → 填表 → 领 accesskey → Synapse 下载 zip → 解压得 train/val/test;
  2. 选视角:本文建议先用可见性视角入门(最容易、方法最成熟),跑通后再挑战体内/术中;
  3. 转格式:conversion.py 转 MOTChallenge 格式;
  4. 搭基线:用 Bot-SORT 或 ByteTrack(有现成开源实现)作为首个基线;
  5. 评测:用仓库 TrackEval/ 适配版算 HOTA/IDF1,对标 README 表;
  6. 看短板:分别看 DetA 与 AssA,判断你的瓶颈是检测还是关联;
  7. 分场景:按 visual conditions 切子集,看哪类视觉挑战拖后腿;
  8. 升级:若做术中视角,重点攻克 OOCV/OOB 重识别。

这条路径的关键是从易到难——不要一上手就做术中视角,那会因 HOTA 极低而误判方法无用。

10.2 常见评测误用

  • 误用 1:在 1 FPS 采样帧上算 HOTA,然后与官方 @25 FPS 表比较——不可比。
  • 误用 2:把 Cholec80 训练集当 CholecTrack20 外部测试——可能重叠泄漏。
  • 误用 3:只报 HOTA 不报 IDF1——掩盖身份保持短板。
  • 误用 4:跨视角平均——三视角不是同一任务的三个折,不能平均。
  • 误用 5:忽略稀有类——总体 AP 掩盖 specimen bag 等类的问题。

10.3 与检索关键词相关的坑

  • 搜「CholecTrack」可能返回 CholecT50(CholecT 系列)或 CholecSeg8k,注意区分;
  • 「multi-perspective」不要搜成「multi-view camera」;
  • 中文资料里「多视角/多透视/多视角跟踪」都指本数据集;
  • 库内 cholect50 的 slug 与本文 cholectrack20 相近,检索时看清数字。

§11 总结

11.1 三句话总结

  1. CholecTrack20 是 CAMMA 的腹腔镜手术器械多视角追踪数据集:20 段胆囊切除视频、>35K 帧、65K 器械实例,1 FPS 标注,含包围盒、器械类别、操作者、手术阶段、视觉挑战与三条视角轨迹 ID。
  2. 它的原创性在于「把追踪重新定义成三种视角」:可见性(画面内)、体内(含出画重识别)、术中(含出画+离体重识别),用同一批标注产出三套难度递增的轨迹与标尺,逼使用者先回答「你追的是哪条轨迹」。
  3. 它的现实信号是「SOTA 远不够用」:当前方法 < 45% HOTA,术中视角最佳仅 17.4,身份指标 IDF1 低至 10——手术器械的身份保持是尚未解决的硬骨头。

11.2 适合谁

  • 做**多目标追踪(MOT/MCMOT)**要挑战手术特有难题(出画、离体、遮挡)的研究者;
  • 做手术技能评估、安全区估计、人机协作等临床应用的团队;
  • 做手术视频基础模型 / 自监督预训练、需要器械级时空监督信号的团队;
  • 研究数据集任务形式化方法论、关注「任务定义如何决定模型上限」的学者。

11.3 不适合谁

  • 只想做手术阶段识别的——直接用 Cholec80(rid 78);
  • 只想做手术动作/三元组识别的——直接用 CholecT50(rid 223);
  • 需要像素级分割的——用 CholecSeg8k(rid 233);
  • 需要公开直链、当天可用数据的——本条目是请求制,请评估时间成本;
  • 商业用途——CC-BY-NC-SA 4.0 禁止商业使用。

11.4 30 秒决策卡

你的需求 结论
手术器械追踪 + 多视角轨迹 ✅ 首选(库内无竞品)
需要立即下载 ⚠️ 请求制,需走 DUA+表单+Synapse
商业产品 ❌ 非商业许可
与 Cholec80/T50 联用 ⚠️ 必须先做重叠核对
做阶段/动作/分割识别 ❌ 用 Cholec80/CholecT50/CholecSeg8k

11.5 一句话记忆锚

「三个视角、二十段视频、七十到九百一十六个身份」——记住这三个数,就记住了 CholecTrack20 的核心:三视角是形式化、20 段是规模、70→916 是轨迹碎裂的量化证据。

11.6 这篇条目想传递的三个态度

  1. 对数据集要问「任务定义是什么」,而非只问「多大、多少类」。CholecTrack20 的价值几乎全在形式化上。
  2. 对基准数字要问「在哪个口径下」。同一份数据,三视角 HOTA 差 27 个点——脱离口径谈 SOTA 是无意义的。
  3. 对同源数据要问「重叠吗」。CAMMA 系数据集互为血缘,跨库使用前先查重叠矩阵,是负责任的用法。

FAQ(高频问答)

A. 基础认知

Q:CholecTrack20 和 Cholec80 什么关系?
A:同源。CholecTrack20 的 20 段视频取自 CAMMA 斯特拉斯堡医学中心的胆囊切除视频池,与 Cholec80 内容重叠,共享 VID 编号。但任务不同:Cholec80 做阶段识别,CholecTrack20 做器械追踪。— GitHub README

Q:和 CholecT50 呢?
A:更近的「同门兄弟」——同为 CAMMA 出品、同共享视频池、同位核心作者(Nwoye)。CholecT50 输出动作三元组,CholecTrack20 输出器械轨迹。官方明确两者内容重叠。— GitHub README

Q:名字里的「20」是什么意思?
A:20 段视频。注意与 CholecT50(50 视频)、Cholec80(80 视频)的数字含义一致——都指视频数,容易混淆,检索时务必看清。

B. 数据与获取

Q:能直接下载吗?
A:不能。请求制:读 DUA → 填表领 accesskey → Synapse.org 下载。表单 2025-03-25 起接受响应。— GitHub README

Q:GitHub 仓库里有什么?
A:只有代码、文档(DUA/LICENSE/DATA_FORMAT)、评测库(DetEval/TrackEval)与示例图,没有数据本体。

Q:什么许可?
A:CC-BY-NC-SA 4.0。非商业、须署名、衍生须同许可。

Q:数据是什么格式?
A:zip 内含三个 split 子目录,每视频含 .mp4(25 FPS,仅测试集)+ 1 FPS 采样帧 + JSON 标签;官方提供 conversion.py 转 COCO/MOTChallenge/TAO。

C. 任务与标注

Q:三视角到底区别在哪?
A:可见性=画面内;体内=出画但没离体仍算同一把;术中=出画、离体都算同一把(终生轨迹)。

Q:OOB(离体)怎么判定?
A:三种方式——看到器械退出套管、由另一器械经同一套管进入反推、或初始器械失焦释放抓持。

Q:标了几类器械、几个操作者?
A:7 类器械(grasper/bipolar/hook/scissors/clipper/irrigator/specimen bag)、4 类操作者(MSLH/MSRH/ASRH/NULL)。

D. 基准与评测

Q:SOTA 表现如何?
A:整体 < 45% HOTA。分视角看:术中最佳 Bot-SORT 17.4、体内 27.0、可见性 44.7。身份指标 IDF1 普遍很低(术中仅 10.2)。

Q:用什么指标评?
A:检测用 DetEval(COCO AP);追踪用 TrackEval(HOTA/CLEAR MOT/Identity/Count)。

Q:怎么评测?
A:官方提供 DetEval 与 TrackEval 适配代码;也可经 Papers with Code 排行对标。

E. 库内与使用

Q:库内有相关条目吗?
A:有。cholec80(rid 78)、cholect50(rid 223)、cholecseg8k(rid 233)、slam-laparoscopic-motions(rid 762)。

Q:能和 Cholec80/T50 一起用吗?
A:可以,但必须先核对重叠(camma_dataset_overlaps),否则训练/测试视频重叠会造成泄漏。

Q:有更新的方法吗?
A:README 标注 SurgiTrack 为新 SOTA(正式论文出处本轮未核,见遗留疑点)。

F. 复现与工程细节

Q:从哪份文件能看清数据结构?
A:仓库的 DATA_FORMAT.md(2025-11-10 创建)是格式权威说明;README 也含结构示意。解析 JSON 前先读这两份。

Q:conversion.py 怎么用?
A:官方说明可将 JSON 标注转为 MOTChallenge、COCO、TAO 等格式,然后接入这些格式对应的数据加载器。做标准 MOT 评测时用它省去手写解析。

Q:评测用什么代码?
A:仓库内 DetEval/(检测,基于 COCO API)与 TrackEval/(追踪,适配版)。TrackEval 适配在 2026-02-21 合入,含 CholecTrack2DBox 数据集导入。

Q:三视角的 track id 字段名是什么?
A:README 示例显示为 intraoperative_track_id,另有 intracorporeal_track_id、visibility_track_id(后两者按 README 描述推断,具体字段名以 DATA_FORMAT.md 为准)。

Q:原始视频只有测试集有,训练怎么办?
A:训练/验证用 1 FPS 采样帧;测试集才有 25 FPS 原始 .mp4。若方法需要原始帧率输入,需在测试集上验证,训练时须自行处理帧率差异。

Q:能和其他数据集联合训练吗?
A:可以,但先核对重叠(camma_dataset_overlaps);且注意各库视频 ID 前缀差异(VID vs Video)。

G. 元数据与引用

Q:正式引用格式?
A:会议版 bibtex key nwoye2023cholectrack20(注意 key 里的年份是 2023),booktitle 为 CVPR 2025。

Q:DOI 是什么?
A:arXiv DOI 为 10.48550/arXiv.2312.07352;CVPR 2025 openaccess 有独立页码(pp.8942-8952)。

Q:数据集托管在哪?
A:Synapse.org(Sage Bionetworks),经 accesskey 下载。GitHub 仓库只托管代码与文档。

H. 疑难与边界

Q:为什么说「数据集任务定义决定模型上限」?
A:因为评测什么、怎么算对,直接决定了模型往哪个方向优化。CholecTrack20 三视角的 HOTA 从 17.4 到 44.7,同一批数据「换定义就换分数」——这就是任务定义决定上限的直观证据。

Q:20 段视频,做深度学习够吗?
A:作为评测基准够用(65K 标注实例提供密监督);作为从零训练则偏少,通常需借助大规模手术视频预训练(如 Cholec80 等,但须防重叠)。这也是为什么跨库预训练在本领域普遍存在。

Q:它和 Endoscapes 什么关系?
A:同为 CAMMA 出品、同源自腹腔镜视频,但 Endoscapes 做分割+检测+CVS 评估(201 视频),侧重胆囊安全视野;CholecTrack20 专做器械追踪(20 视频)。两者是 CAMMA 手术视频宇宙的不同分支,可能重叠,联用需核对。

Q:如果我只是想学「多视角追踪」这个概念,需要下数据吗?
A:不需要。读本条目 §2.2 与 §3.7 的表格即可理解三视角形式化;下数据是为做实验,不是为理解概念。

Q:CholecTrack20 有中文官方资料吗?
A:无。中文二手摘要(如若干数据集聚合站)存在,但数字需回原始三源核验;本条目已做此核对。

Q:未来可能有什么更新?
A:官方仓库仍在维护(最新提交 2026-02-21),可能持续加入新指标、新 benchmark 支持;TrackEval 适配是 2026 年新增的迹象。以最新 README 为准。

事实清单(硬事实)

  1. 官方名 CholecTrack20,CVPR 2025 论文,arXiv:2312.07352(v1 2023-12-12 / v2 2025-03-24)。
  2. 20 段全长腹腔镜胆囊切除视频。
  3. 标注帧率 1 FPS,超过 35K 帧。
  4. 65K 个器械标注实例。
  5. 原始视频 25 FPS,仅测试集提供 .mp4。
  6. 官方划分 train 10 / val 2 / test 8。
  7. 三视角:术中(intraoperative)、体内(intracorporeal)、可见性(visibility)。
  8. 三视角 groundtruth #Dets 均为 29994;#IDs 分别 70 / 247 / 916。
  9. 7 类器械:grasper、bipolar、hook、scissors、clipper、irrigator、specimen bag。
  10. 4 类操作者:MSLH、MSRH、ASRH、NULL。
  11. 标注含包围盒、类别、操作者、三视角轨迹 ID、手术阶段、视觉挑战。
  12. OOB 判定三方式:观察退套管 / 另一器械同套管进入反推 / 失焦释放抓持。
  13. 许可 CC-BY-NC-SA 4.0。
  14. 获取请求制:DUA → 表单领 accesskey → Synapse.org;表单 2025-03-25 开放。
  15. 2025-02-26 论文被 CVPR 2025 接收。
  16. 2025-02-28 完整数据集在 Synapse.org 发布。
  17. 2026-02-21 TrackEval 加入 CholecTrack20 MOT 评测支持。
  18. 一作 Chinedu Innocent Nwoye;通讯 Nicolas Padoy;作者含 Joël L. Lavanchy(Basel/Clarunis)。
  19. 机构:University of Strasbourg / CNRS / INSERM / ICube UMR7357 / IHU Strasbourg。
  20. 检测基准:YOLOv7 AP@0.5=80.6(最高),YOLOv9 AP@0.75=62.6、AP@0.5:0.95=56.5。
  21. 追踪基准(术中视角):Bot-SORT HOTA 17.4(最佳)。
  22. 追踪基准(体内视角):Bot-SORT HOTA 27.0(最佳)。
  23. 追踪基准(可见性视角):Bot-SORT HOTA 44.7(最佳)。
  24. 论文核心结论:SOTA < 45% HOTA,未达临床精度。
  25. 官方声明与 Cholec80、CholecT50 内容重叠,保留 VID 编号识别重叠。
  26. 数据格式:zip 含 3 split 目录;每视频含 mp4 + 1FPS 采样帧 + JSON。
  27. JSON 结构:帧 ID 为键,每帧内每器械为一字典记录(含 tool_bbox / category / operator / track id / phase 等)。
  28. 官方提供 conversion.py 转 MOTChallenge/COCO/TAO。
  29. 评测库 DetEval(COCO AP)与 TrackEval(HOTA/CLEAR MOT/Identity/Count)。
  30. 资助:ANR、BPI France、Swiss National Science Foundation、GENCI-IDRIS。
  31. 数据托管于 Synapse.org(Sage Bionetworks)。
  32. README 标注 SurgiTrack 为新 SOTA 方法。
  33. 三视角 groundtruth 的轨迹数比:916 : 247 : 70(可见性 : 体内 : 术中)≈ 13 : 3.5 : 1。
  34. 手术阶段标签体系推断沿用 Cholec80 的 7 阶段(README 未列全名,待核)。
  35. 论文 Fig.1 列出的视觉挑战命名含 bleeding、blurring、crowded、trocar、reflection、smoke、occlusion、lens fouling、blood stain 等。
  36. JSON 标签以帧 ID 为键,记录数等于该帧器械数。
  37. 检测基准共 13 个模型参与(Faster-RCNN / Cascade-RCNN / CenterNet / FCOS / SSD / PAA / Def-DETR / Swin-T / YOLOX / YOLOv7 / YOLOv8 / YOLOv9 / YOLOv10)。
  38. 追踪基准共 6 个方法参与(SORT / OCSORT / FairMOT / TransTrack / ByteTrack / Bot-SORT / SMILETrack 中的子集,按视角不同)。
  39. 论文致谢代码来自 TrackEval 与 Cocoapi。
  40. arXiv v2 提交于 2025-03-24,早于数据集请求表单开放(2025-03-25)一天。
  41. 数据集无官方独立挑战赛,评测经 Papers with Code 排行。
  42. 作者团队跨法瑞两国(Strasbourg + Basel/Clarunis)。
  43. 检测侧 YOLOv9 的 AP@0.75 为 62.6(全部模型最高)。
  44. 追踪侧可见性视角 SORT 的 HOTA 为 17.4,与术中视角最佳 Bot-SORT 数值巧合相同,但含义完全不同。

数据来源与核验声明

本条目在 2026-10-08 完成三源互证,主要来源:

核验边界:论文 PDF 因网络超时未完整抓取,标注员人数、质控流程、7 阶段完整清单、8 类视觉挑战最终计数、Synapse 门户 ID、SurgiTrack 正式出处等细节未在本轮确证,已在 FACTS.md §9 逐条列为遗留疑点。所有写入正文的硬数字均来自上述可直接引用的三源,未使用未核实来源的独有数字。


相关数据集导航

以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:

  • real-colon — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测 / 评测基准
  • galar — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测 / 评测基准
  • endovis-2026 — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测 / 评测基准
  • cad-cap — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测
  • sun-database — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测
  • slam-laparoscopic-motions — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 评测基准
  • surgtoolloc-2022 — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测
  • lapgyn4 — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测
  • renji-esd — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测
  • surgvu-2026 — 共享标签:医学影像 / 手术视频 / 内窥镜影像 / 目标检测

导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

返回 AI-Ready 数据集