GraSP — 机器人前列腺癌手术场景理解数据集

13 例达芬奇机器人根治性前列腺切除术视频(32.37 小时)的多粒度手术场景理解基准——11 阶段/21 步骤/7 器械/14 原子动作四任务统一标注,配套全 Transformer 的 TAPIS 模型,MIT 许可 Google Drive 公开

来源 Fundación Santa Fe de Bogotá 采集的 da Vinci Si 手术系统机器人根治性前列腺切除术视频:原始 30 fps 视频 + GraSP_30fps(完整训练评测集)/GraSP_1fps(轻量版)帧 + JSON 长短期标注 + PNG 器械分割掩膜发布时间: 2026-10-08最后更新: 2026-10-20 阅读 48
GraSP — 机器人前列腺癌手术场景理解数据集

信息速览

数据集名称GraSP — 机器人前列腺癌手术场景理解数据集
数据类型影像数据,视频数据,人工标注
规模13 例机器人辅助根治性前列腺切除术视频(真实患者 in vivo 手术数据,去标识)
接入方式Fundación Santa Fe de Bogotá 采集的 da Vinci Si 手术系统机器人根治性前列腺切除术视频:原始 30 fps 视频 + GraSP_30fps(完整训练评测集)/GraSP_1fps(轻量版)帧 + JSON 长短期标注 + PNG 器械分割掩膜
AI 就绪度

INFOBOX — GraSP 一屏速览

维度 内容
本质 机器人辅助根治性前列腺切除术(RARP)手术视频的多粒度手术场景理解基准(四任务统一标注)
团队 安第斯大学 CinfonIA(哥伦比亚波哥大)+ Fundación Santa Fe de Bogotá 泌尿科
论文 会议前身 MICCAI 2022 / ISBI 2023 口头;arXiv:2401.11174(v3 2024-12-27);Medical Image Analysis,doi:10.1016/j.media.2025.103726
数据 13 例 RARP 视频;30 fps;总时长 32.37 小时(均值 2.49 h);1fps 帧 116,521
四任务 手术阶段识别(11 类)+ 手术步骤识别(21 类)+ 器械实例分割(7 类)+ 原子动作检测(14 类)
划分 Fold1(4 例)/ Fold2(4 例)两折交叉验证 + Test(5 例新视频)
配套模型 TAPIS(全 Transformer:视频特征提取 + 器械区域提议 + 跨注意力区域分类头)
关键结果 TAPIS:Phase mAP 76.72 / Step mAP 52.01 / Action mAP 39.26 / 器械分割 mAP@0.5segm 86.61
层级设计 阶段(最高)→ 步骤 → 器械 → 原子动作(最细),受活动理论启发
前身/兄弟 PSI-AVA(MICCAI 2022)、MATIS(ISBI 2023)、2022 SAR-RARP50 挑战赛冠军方案
获取 Google Drive 公开直链(含 30fps/1fps/原始视频/标注),无 gated、无申请表
许可 MIT License(Biomedical Computer Vision Group @ Uniandes,2024)——覆盖数据集+代码+预训练模型
库内互链 surgtoolloc-2022(器械定位)、prostate158/prostatex(前列腺影像)、miccai-surgt(手术基准)

GraSP 是一份把「一台手术」拆成四个理解层级、并要求模型同时看懂的机器人手术视频基准:最上层是整台手术分成几大阶段(phase),往下细分为一串步骤(step),每一步用到哪些器械(instrument)、这些器械在做哪种原子动作(atomic action)——从最宏观的流程到最微观的器械—组织交互,全都标注在同一批视频里。它只包含 13 例根治性前列腺切除术,却用 32.37 小时的达芬奇机器人手术录像和四任务联合标注,把「手术场景理解」这件事第一次做成了「既要见森林、也要见树」的完整评测。

它的价值不在规模,而在层级:此前的手术工作流分析基准大多只覆盖单一时间尺度(要么认阶段、要么检测器械),GraSP 卷起袖子把四个粒度一起标了,还顺带提出了一个通用架构 TAPIS 来证明这些层级可以互相「喂养」——器械的空间信息能反过来帮模型更准地认出原子动作。

导语读法三则:

  1. 只想下数据:直奔 §6 获取与许可——Google Drive 公开直链、MIT 许可,且 30fps 是完整训练评测集、1fps 是轻量版,按需取用。
  2. 关心任务设计:直奔 §3 与 §4——四任务层级、类别数、划分方式、长尾特性,是理解这份基准的核心。
  3. 做手术视频建模:直奔 §5 TAPIS 架构与 §7 结果表——可直接对标 SlowFast/TAPIR/TAPIS-VST 三基线。

§0 导读:这个数据集解决什么问题

计算机辅助手术要真正「看懂」一场手术,不能只做目标识别。仅仅在画面里框出「这是一把抓钳」是不够的——系统还需要知道现在进行到哪一步了(手术阶段)、这一小段动作在干什么(缝合、切割还是夹持)、以及这些判断如何跨时间尺度互相关联。这就是「手术场景理解(surgical scene understanding)」要回答的问题,也是内窥镜视觉(Endoscopic Vision, EV)领域的核心议题。

难点在于粒度。一台根治性前列腺切除术长达数小时,如果只在「阶段」层面建模,模型知道「现在在做尿道吻合」,却不知道具体哪把器械在缝;反过来如果只做「器械分割」,模型看清了器械的像素轮廓,却不知道整台手术进行到哪。真实临床辅助(术中导航、风险预警、半自动操作)需要的是从宏观流程到微观操作的连续理解——而这恰恰是过去公开基准普遍缺失的:Cholec80 等经典基准只做阶段/工具识别,粒度单一;器械分割与动作检测又多各自为政,缺少统一的、带层级关联的评测。

GraSP 的回答是把「层级」当作数据集的骨架。受**活动理论(Activity Theory)**启发,它把手术理解组织成一个从粗到细的层级:阶段(phase,最高层,代表整台手术的大段落)→ 步骤(step,更细的推理层级)→ 器械(instrument,执行动作的工具)→ 原子动作(atomic action,最细粒度的器械—组织交互)。四个层级不是并列,而是嵌套:每个阶段包含若干步骤,每个步骤涉及特定器械,每把器械在完成特定原子动作。围绕这套骨架,GraSP 同时提供四类标注并定义四个评测任务:

  1. 手术阶段识别(11 类,长时任务);
  2. 手术步骤识别(21 类,长时任务);
  3. 器械实例分割(7 类,短时任务,像素级掩膜);
  4. 原子视觉动作检测(14 类,短时任务)。

为了让这套基准既可比又好用,论文还提出通用模型 TAPIS(Transformers for Actions, Phases, Steps, and Instrument Segmentation):一个把全局视频特征提取器与器械分割产生的区域提议用跨注意力(cross-attention)结合起来的全 Transformer 架构,用来证明「器械的空间细节能显著提升动作与流程识别」。

GraSP 的历史定位也很清楚:它是作者团队三代工作的合并升级版——PSI-AVA 数据集(MICCAI 2022)、MATIS 器械分割(ISBI 2023)以及 2022 年 SAR-RARP50 挑战赛冠军方案,最终汇成这份数据量增加 55% 以上、并首次纳入器械实例分割的完整基准。

§0 读法三则:

  1. 这个条目是「数据集 + 通用模型论文 + 多任务基准」三合一:本体是 13 例带四层标注的手术视频,配套品是 TAPIS 架构,评测口径是四个任务的 mAP/F1。
  2. 全文硬数字以 arXiv:2401.11174(v3)正文与 Table 3/4 为准;网络二手媒体流传的「4.2 小时/38,400 原子动作」等数字与一手不符,已在坑点与 §9 存照,一律以一手为准。
  3. 检索时注意「grasp」是常见英文词,务必锁定全称 GraSP — Holistic and Multi-Granular Surgical Scene Understanding of Prostatectomies,以免搜到无关内容(坑 1)。

§1 数据集速览:十问十答

Q1:GraSP 到底是什么,名字怎么读?
GraSP 是 Granular Surgical Scene Understanding of Prostatectomies 一类的首字母缩略(论文给出的完整展开为 Holistic and Multi-Granular Surgical Scene Understanding of Prostatectomies),读作「格拉斯普」。它是一份机器人辅助根治性前列腺切除术(Robot-Assisted Radical Prostatectomy, RARP)手术视频的多任务理解基准,不是某一台设备的固件、也不是普通抓取(grasp)动作数据集。

Q2:有多少数据?
13 例手术视频,全部由 da Vinci Si 手术系统录制,原始帧率 30 fps,总时长 32.37 小时,平均每例约 2.49 小时。以 1 fps 采样后的主评测帧总数为 116,521 帧。规模不大,但每例都带完整的四层标注。

Q3:数据从哪来,是真实的病人手术吗?
是。视频来自 Fundación Santa Fe de Bogotá(哥伦比亚波哥大圣菲基金会)泌尿科的真实患者手术,经伦理审查后在去标识前提下采集与发布。因此它是货真价实的 in vivo 机器人手术录像,而非模拟器或动物实验数据。

Q4:四个任务分别是什么?
两类「长时任务」和两类「短时任务」:

  • 长时:手术阶段识别(11 类)、手术步骤识别(21 类);
  • 短时:器械实例分割(7 类,像素级)、原子视觉动作检测(14 类)。
    长时任务关心整台手术的时序流程,短时任务关心单帧/短窗内的器械与动作细节。

Q5:数据怎么划分的?
采用两折交叉验证 + 独立测试集:Fold 1 含 CASE 001/004/014/015 四例,Fold 2 含 CASE 002/003/007/021 四例,测试集是本次新增的 5 例视频(CASE 041/047/050/051/053)。前 8 例沿用自 PSI-AVA 数据集并重新精修标注,后 5 例为新采集。

Q6:配套的 TAPIS 是什么?
TAPIS 是论文提出的通用架构,全称 Transformers for Actions, Phases, Steps, and Instrument Segmentation。它用一个全局视频特征提取器(如 MViT)捕捉时序流程,再用一个器械分割模型(Mask2Former 类)给出器械区域的像素级提议,最后用跨注意力把头两个分支融合起来完成各任务。它既是基准上的强力基线,也是「多粒度可协同」这一主张的实证。

Q7:性能如何?
在 GraSP 测试集上,TAPIS 取得 Phase mAP 76.72、Step mAP 52.01、原子动作 mAP 39.26、器械分割 mAP@0.5segm 86.61。它在多数任务上优于 CNN 基线 SlowFast 与前作 TAPIR,与基于 Video Swin Transformer 的变体 TAPIS-VST 各有胜负。

Q8:许可与获取方式?
MIT License,署名 Biomedical Computer Vision Group @ Uniandes(2024)。论文与官方 README 明确数据集、源码与预训练模型均以 MIT 发布。数据经 Google Drive 公开直链分发,无 gated、无需申请,含 30fps 完整集、1fps 轻量集、原始视频与全部标注。

Q9:为什么说它是「首个」?
论文主张 GraSP 是机器人手术领域首个公开的、多任务联合且含器械实例分割的基准,也是内窥镜视觉领域首个在最细粒度上同时考虑多个长时与短时任务的框架。它与只做单一时间尺度的传统基准(如 Cholec80 仅阶段识别)形成对照。

Q10:它和 PSI-AVA 什么关系?
GraSP 是 PSI-AVA(同团队 MICCAI 2022 工作)的扩展与合并升级版:新增 5 例视频使数据/标注量增加 >55%,并把原有的器械检测框标注转化升级为像素级实例分割,同时精修了长时标注。可以理解为 PSI-AVA → GraSP 的一次「加量 + 加细 + 加任务」的演进。

§1A 背景:手术工作流分析为什么需要多粒度

1A.1 从「看见器械」到「理解手术」

手术视频分析的研究脉络,大致经历了从「识别单个物体」到「理解整体流程」的演进。早期工作聚焦于在单帧画面中检测或分割手术器械,本质是一个目标检测/分割任务;后来研究者意识到,仅仅识别出「画面里有一把抓钳」并不能回答临床真正关心的问题——**现在进行到哪一步了?这一步的目的是什么?**于是出现了手术工作流分析(Surgical Workflow Analysis)这一方向,试图从视频序列中推断手术的阶段与步骤。

但工作流分析自身又走向了两个极端。一端是长时建模:把整台手术切成若干阶段(phase),逐帧或逐窗判断当前阶段——这类方法关心大尺度时序,却对画面内的空间细节不敏感。另一端是短时识别:检测器械、识别器械的即时动作——这类方法关心单帧空间信息,却缺乏对整体流程的把握。二者之间缺少一座桥梁。

GraSP 的核心洞见正是:手术理解本质上是一个多粒度的层级问题,宏观流程与微观操作不是二选一,而是同一活动的不同抽象层级。正如要理解一篇文章,既可以看它的章节结构(宏观),也可以看它的句子成分(微观),真正「读懂」需要两者兼备。GraSP 用阶段→步骤→器械→原子动作的四层结构,把这条连续性显式地数据化了。

1A.2 为什么用「活动理论」做类比

论文明确提到其层级设计受**活动理论(Activity Theory)**启发。活动理论源自心理学,主张人类活动可以分解为不同抽象层级的单元:活动(activity)对应总体目标,行动(action)对应子目标,操作(operation)对应具体动作。这一「目标层级 → 动作层级」的分解,与手术「阶段(总体流程)→ 步骤(子流程)→ 器械操作(具体动作)」的分解高度同构。

用活动理论组织手术理解,带来两个直接好处:

  1. 类别不再孤立。阶段与步骤不是两套平行的标签,而是嵌套关系——每个阶段内部包含若干步骤,这使得模型有可能利用层级先验做约束(例如某一步骤只可能出现在特定阶段内)。
  2. 任务之间可以迁移。既然层级是连续的,那么长时任务学到的表示就可能帮助短时任务,反之亦然。TAPIS 的三阶段训练(先长时、后短时)正是这一思想的工程实现。

1A.3 手术工作流分析领域简况

在 GraSP 之前,手术工作流分析已有若干有影响力的公开基准。理解它们与 GraSP 的差异,有助于定位后者的贡献:

基准 主要任务 粒度覆盖 与 GraSP 的差异
Cholec80 胆囊切除手术阶段/工具识别 长时为主 单术式、无器械实例分割、无原子动作
HeiChole 腹腔镜手术工作流 长时 多术式但粒度较粗
CATARACTS 白内障手术步骤/器械 长时+器械检测 眼科术式、器械以检测为主
JIGSAWS 机器人手术手势 短时(手势) 含运动学数据,规模小
GraSP 阶段+步骤+器械实例分割+原子动作 四粒度全覆盖 前列腺术式、器械像素级分割

从这张对照可以看出,GraSP 的差异化不在地理覆盖或术式数量(它只有一种术式),而在于粒度的完整性与任务的统一性:它把既往分散在不同基准中的长时与短时任务,第一次收拢进同一个数据集、同一套划分、同一个评测框架里。

1A.4 一个具体例子

为了直观理解四任务层级,可以想象一台根治性前列腺切除术中的某个瞬间:画面中有两把机械臂器械,一把正在夹持组织、另一把在旁待命。在这一瞬间:

  • 阶段任务判断它属于 11 个阶段中的哪一个(例如「膀胱颈离断」);
  • 步骤任务判断它属于 21 个步骤中的哪一个(例如「切开膀胱颈前壁」);
  • 器械分割给出画面中每把器械的像素级轮廓(7 类中的具体类别);
  • 原子动作检测判断正在操作的器械在执行 14 类动作中的哪一类(例如「夹持」或「牵拉」)。

四个任务同时作用于同一帧,回答的是不同抽象层级的问题。这正是「多粒度」的含义,也是 TAPIS 需要同时满足的约束。一个真正「看懂」手术的模型,应当能像熟练助手一样,在看到画面的同时既知道「进行到哪」,又知道「这一手在干嘛」。

§1B GraSP 的价值、争议与定位再审视

1B.1 三类贡献

把 GraSP 对领域的贡献拆开看,可以归为三类:

数据贡献。 提供 13 例带四层标注的真实机器人手术视频,其中器械像素级实例分割与原子动作检测的联合标注是公开手术数据集中的稀缺品。数据经多轮精修与质检,且以 MIT 许可无条件开放,降低了研究门槛。

方法贡献。 TAPIS 架构给出了一条「用器械空间提议 + 跨注意力融合多粒度任务」的技术路线,并用实验证明器械空间信息能显著提升动作识别。这条路线可迁移到其他手术任务。

基准贡献。 四人任务的统一划分与指标口径,使得「多粒度手术理解」第一次有了可横向比较的公共基准,避免了各团队自说自话。

1B.2 需要正视的争议与局限

GraSP 并非没有争议。最常被提及的是规模与多样性:13 例、单中心、单机型、单术式,这让它难以支撑对「泛化能力」的强声明。论文本身也把重点放在「多粒度框架」而非「大规模覆盖」上——这是一种自觉的取舍,但使用者在引用其结论时应明确这一边界。

其次是评价指标的可比性:四个任务用了多个「mAP」变体,跨任务不可比(坑 9),这要求报告结果时格外小心,避免读者误读。

第三是长时标注的版本问题:2024-12 的修订意味着早期文献里基于旧标注的数字与最终版不完全一致,跨文献对比需核对版本(坑 3)。

正视这些局限,不是否定 GraSP 的价值,而是为了更准确地使用它——把它当作「精细多粒度任务的研究基准」,而非「手术 AI 的通用大底座」,是更诚实的定位。

1B.3 与「大而全」数据集的关系

当前医学 AI 界有一种「越大越好」的倾向。GraSP 提供了一个反例视角:在任务设计足够精细时,小数据集同样能产生高价值的研究问题。13 例手术视频足以提出并回答「长时与短时任务能否互相增益」「器械空间信息对动作识别的贡献有多大」这类具体问题,而这类问题的答案与数据规模无关,取决于任务设计。

这并不是说规模不重要,而是说规模与任务设计是两条独立的评价轴。GraSP 在「任务设计」轴上做得深,在「规模」轴上做得浅,使用者应据此匹配研究目标。

1B.4 对 AI-Ready 数据集设计的启示

从数据工程角度看,GraSP 有几个值得借鉴的做法:

  • 许可从简:用 MIT 覆盖数据+代码+权重,避免了医学数据集常见的多层许可迷宫,直接提升可用性。
  • 版本透明:明确标注修订时间并保留旧版链接,让复现与追溯有据可查。
  • 统一标注口径:把分割与动作标注统一到同一空间基准,减少了下游使用的对齐成本。
  • 配套可运行代码:不只发数据,还给出可复现的模型与训练流程,降低入门门槛。

这些做法共同指向一个原则:AI-Ready 的关键不只是「数据可下」,更是「数据好用、可复现、无许可障碍」。GraSP 在这几点上是一个正面样本。

1B.5 本条目覆盖什么、不覆盖什么

为便于检索者判断,本条目明确其边界:

本条目的数据对象是 GraSP(Holistic and Multi-Granular Surgical Scene Understanding of Prostatectomies),即 13 例机器人前列腺切除术视频的多粒度手术场景理解基准。

本条目不覆盖:PSI-AVA(前作,仅在关系说明中提及)、MATIS(分割方法论文,仅提及)、以及任何名为「grasp」但与手术无关的抓取数据集。若检索者的目标是机械臂抓取或手部抓取理解,本条目不是所要找的对象。

本条目以官方仓库与论文(arXiv/Medical Image Analysis)为唯一事实依据,网络二手来源仅作冲突存照之用,不作为数字来源。所有硬数字(规模、类别数、指标)均可在 §11 的引用来源中追溯。

§2 名称、身份与研究背景

2.1 名字里的信息

GraSP 的官方全称是 Holistic and Multi-Granular Surgical Scene Understanding of Prostatectomies,中文可译为「前列腺切除术的全息多粒度手术场景理解」。这一长串名字里的每个词都点明了它的定位:

  • Holistic(全息/整体):强调不只做单一任务,而是把手术理解当成一个整体问题;
  • Multi-Granular(多粒度):强调覆盖从宏观阶段到微观动作的多个层级;
  • Surgical Scene Understanding(手术场景理解):任务域是理解内窥镜视野中的手术场景;
  • Prostatectomies(前列腺切除术):具体术式,即机器人辅助根治性前列腺切除术(RARP)。

短名 GraSP 即由 Granular Surgical Scene Understanding of Prostatectomies 一类的关键词缩合而来。需要注意的是,grasp 是一个普通英文词(意为「抓取、理解」),在网络检索时极易与「机器人抓取(robotic grasping)」数据集混淆——本条目所指的是手术视频理解基准,与机械臂抓取任务无关。这类「常见词撞名」是数据集检索的经典陷阱,检索时应始终带上全称或官方仓库名 BCV-Uniandes/GraSP 加以限定。

2.2 学术身份与团队

GraSP 由安第斯大学(Universidad de los Andes)CinfonIA 研究中心(哥伦比亚波哥大)与波哥大圣菲基金会(Fundación Santa Fe de Bogotá)泌尿科合作完成,另有 Seattle Children’s Hospital 与 University of Washington 的泌尿科作者参与。作者列表包含 Nicolás Ayobi、Santiago Rodríguez、Alejandra Pérez、Isabela Hernández(三人同等贡献)、Nicolás Aparicio、Eugénie Dessevres、Sebastián Peña、Jessica Santander、Juan Ignacio Caicedo、Nicolás Fernández,以及通讯作者 Pablo Arbeláez。

这里有几个信息值得留意。第一,CinfonIA 是安第斯大学的人工智能研究中心,Pablo Arbeláez 是哥伦比亚计算机视觉领域的代表性学者,其团队在生物医学视觉方向持续产出(本条目涉及的 TAPIR、MATIS 均出自该组)。第二,波哥大圣菲基金会泌尿科的参与意味着数据来自真实临床机构而非模拟环境,这是 in vivo 手术数据集可信度的来源,也决定了它的伦理约束。第三,论文利益声明披露团队部分成员获得 Google DeepMind 资助,Hernández 与 Johns Hopkins University 存在雇佣关系——这些是理解数据集研发背景的公开信息,不影响数据本身的可用性。

2.3 三代工作的合并

GraSP 并非凭空出现,它是作者团队三年三代工作的合并与升级:

  1. PSI-AVA 数据集(MICCAI 2022,口头报告,获最佳论文提名):首次提出 Phase、Step、Instrument、Atomic Visual Action 四层标注框架,配套 TAPIR 模型。这是 GraSP 的直接前身,GraSP 的前 8 例视频正来自 PSI-AVA 并经过重新精修。
  2. MATIS(ISBI 2023,口头报告):面向手术器械分割的 Masked-Attention Transformer 方案,为 GraSP 新增的器械实例分割任务提供了方法基础。
  3. 2022 年 SAR-RARP50 挑战赛冠军方案:团队在「机器人辅助根治性前列腺切除术手术动作识别」挑战赛中夺冠,这一竞赛经验也沉淀进了 GraSP 的评测设计。

因此,论文把 GraSP 定位为「三代工作的整合版(extended and consolidated version)」:在 PSI-AVA 之上新增 5 例视频(数据量增加 >55%)、把器械检测升级为像素级实例分割、精修长时标注,并给出完整基准与通用模型。理解这条演进链,有助于明白 GraSP 为什么一上来就带着四任务、两折交叉验证和一套通用架构——它是一次实验框架的「集大成」。

2.4 为什么值得单独成为条目

在一个已经有 Cholec80、HeiChole、CATARACTS 等成熟手术视频基准的领域,GraSP 仍然值得单独成篇,理由有三:

其一,粒度最全。多数既有基准聚焦单一时间尺度,GraSP 第一次把「最长时」的阶段识别到「最细粒度」的器械实例分割放进同一个数据集与同一套划分里,让研究者能在统一口径下比较不同粒度的任务表现,也能研究跨粒度的相互增益。

其二,真实临床数据 + 像素级器械标注。论文强调这是机器人手术领域首个公开的、在真实患者手术上提供器械实例分割的多任务基准。像素级掩膜比检测框携带更多形状信息,直接支撑「器械形状特征帮助动作识别」的实验结论。

其三,带通用方法。GraSP 不只发数据,还配了 TAPIS 这么一个覆盖四任务的统一架构,使得「多粒度可协同」这件事有了可复现的实证,而不是仅停留在数据集设计层面。对一个 AI-Ready 数据集而言,这种「数据+方法+基准」的三件套,显著降低了使用门槛。

§3 数据规模与构成

3.1 核心数字一览

GraSP 的硬数字集中、清晰,全部来自论文正文 3.4 节与 Table 3:

指标 数值
手术视频数 13 例机器人辅助根治性前列腺切除术(RARP)
原始采集帧率 30 fps
视频总时长 32.37 小时
单例平均时长 2.49 小时(标准差 0.77 小时)
1fps 主评测帧总数 116,521 帧
手术阶段类别 11 类
手术步骤类别 21 类
器械类别 7 类
原子动作类别 14 类
每帧器械实例数 1–5 个,平均 2.23 个/帧(约 80% 帧含 2–3 个)
相对 PSI-AVA 增量 数据/标注量增加 >55%

这组数字中,最有辨识度的是「13 例 / 32.37 小时」这一对——它表明 GraSP 走的是小而精路线:视频数不多,但每例都是完整的数小时长手术,且标注到最细粒度。对长时任务(阶段/步骤)而言,一例 2.5 小时的手术能提供上千个 1fps 帧的时序监督;对短时任务(器械/动作)而言,则提供了横跨整个术程的器械—动作样本。

3.2 逐例时长与划分

论文 Table 3 给出了每一例的时长与 1fps 帧数,并按两折交叉验证 + 测试集分组:

集合 病例编号 时长(小时) 1fps 帧数
Fold 1 CASE 001 3.05 10,972
Fold 1 CASE 004 2.36 8,490
Fold 1 CASE 014 2.77 9,973
Fold 1 CASE 015 2.48 8,969
Fold 2 CASE 002 2.62 9,443
Fold 2 CASE 003 1.63 5,882
Fold 2 CASE 007 2.23 8,018
Fold 2 CASE 021 3.30 11,871
Test CASE 041 2.63 9,452
Test CASE 047 1.81 6,504
Test CASE 050 3.86 13,899
Test CASE 051 0.69 2,496
Test CASE 053 2.93 10,552
合计 13 例 32.37 116,521

几个观察:最短的 CASE 051 仅 0.69 小时、最长 CASE 050 达 3.86 小时,单例时长跨度很大(约 5.6 倍),这既带来流程多样性,也意味着少数短例在统计上权重较低。划分上,训练/验证部分(8 例)沿用 PSI-AVA,测试集(5 例)是本文新采集——测试集全部为新视频,使得评测对「未见病例」的泛化更具说服力。这种「旧的作训练、新的作测试」的安排,是 GraSP 从 PSI-AVA 扩展时的自然结果,也让版本对比(PSI-AVA → GraSP)更干净。

3.3 数据文件组织

官方仓库 README 说明了数据的组织方式,下载后目录结构如下:

GraSP
├── GraSP_30fps          # 30fps 预处理帧 + 全部标注(完整训练/评测集)
├── GraSP_1fps           # 1fps 轻量版帧 + 对应标注
├── raw_frames_1fps.tar.gz   # 预处理前的原始 1fps 帧
├── videos.tar.gz        # 原始根治性前列腺切除术视频
├── 1fps_to_30fps_association.json  # 1fps↔30fps 帧名映射
└── README.txt

其中 GraSP_30fps 是运行论文代码所必需的完整数据集,内含:

  • frames/CASE001/…jpg 等逐例帧图像;
  • annotations/segmentations/CASE001/…png 等逐例器械像素级分割掩膜;
  • annotations/grasp_long-term_{train,test,fold1,fold2}.json:长时任务(阶段/步骤)标注;
  • annotations/grasp_short-term_{train,test,fold1,fold2}.json:短时任务(器械/动作)标注。

GraSP_1fps 提供体积更小的 1fps 版本,适合快速实验与统计分析;videos.tar.gz 与 raw_frames_1fps.tar.gz 则保留原始视频与未预处理帧,供需要自行抽帧或做其他帧率实验的研究者使用。由于帧数据按每台手术分卷压缩,README 给出了批量解压命令以避免手动逐个处理。

3.4 器械与场景统计

论文对短时任务的场景分布做了细致统计,几条关键结论:

  • 每帧器械实例数在 1 到 5 之间,平均 2.23 个/帧,约 80% 的帧含 2–3 个器械。这与 da Vinci 手术系统的典型配置吻合:术者双手操作两把机械臂器械,间或有一把静止器械或助手操作的非机器人器械出现,从而增加场景复杂度。
  • 器械使用频率呈长尾:像双极电凝(BF)、单极电剪(MCS)这类多功能器械使用频繁,而淋巴结清扫钳(LND)、前列腺筋膜钳(PF)等专用器械出现较少;腹腔镜器械(如 CA、LI)作为达芬奇系统的补充,仅在特定阶段使用。
  • 器械类别数为 7。论文正文散见 BF、MCS、LND、PF、CA、LI 等器械缩写,完整的 7 类名称清单主要在论文 Table 2 与附录中给出(见 §8 遗留疑点)。

这些统计说明 GraSP 的短时任务并非「每帧一把器械」的简化设定,而是带有真实手术场景的器械共存与不均衡,对检测与分割模型构成更贴近现实的挑战。

3.5 数据采集与预处理流程

虽然论文未用大篇幅描述采集细节,但从官方 README 与正文可还原出 GraSP 的数据处理链条:

(1)采集。手术视频在临床机构(波哥大圣菲基金会)录制,使用 da Vinci Si 手术系统的内窥镜视野,原始帧率 30 fps。录制在伦理审查与去标识框架下进行,属 real-world 术中数据。

(2)抽帧。从原始 30 fps 视频中抽取两套帧:30 fps 完整帧(用于时间窗建模,是训练评测的完整集)与 1 fps 帧(作为主评测帧与统计分析基准)。论文建议 30 fps 帧用于构建时间窗,而 1 fps 帧用于模型评测与统计。

(3)预处理。抽取的帧经预处理(如统一分辨率、可能的裁边等),存放为 GraSP_30fps 与 GraSP_1fps 目录中的 JPEG。原始未预处理帧另存为 raw_frames_1fps.tar.gz,原始视频存为 videos.tar.gz。

(4)帧对齐。1fps_to_30fps_association.json 提供 1 fps 与 30 fps 帧之间的名称映射,使不同帧率下的同一时刻可以对齐——这对需要跨帧率实验的用户很关键。

(5)标注。 在抽取的关键帧上进行器械分割与原子动作标注,在时间序列上进行阶段/步骤标注。长时标注与短时标注分别存入对应的 JSON 文件。

(6)质检与修订。 统一短时标注的空间基准、补齐缺失实例、精修长时标注(2024-12 修订)。

这条链条说明:GraSP_30fps 是「完整且可直接训练」的形态,而 raw_frames_1fps / videos 是「原始素材」,适合需要自定义预处理的用户。使用者应根据用途选择对应层级的文件,而非盲目下载全部(后者体积最大)。

3.6 数据划分的策略考量

GraSP 的划分(Fold1/Fold2 交叉验证 + 独立 Test)有几个值得注意的设计考量:

(1)为什么用两折而非五折或十折? 数据集只有 13 例。若用五折,每折验证集不足 3 例,统计噪声大;两折在「利用数据」与「保证每折样本量」之间取得平衡,是小数数据集常见的做法。

(2)为什么训练集用旧视频、测试集用新视频? 把 PSI-AVA 的 8 例作训练/验证、本文新采集的 5 例作测试,使得评测天然带上「跨批次/跨时间」的性质——测试视频在采集时间、可能的手术团队习惯上都与训练视频不同,比随机划分更能反映泛化。

(3)患者级隔离。 若同一患者有多段视频或多次手术,随机划分可能造成「同一患者同时出现在训练与测试」的信息泄漏。GraSP 以「病例(CASE)」为单位划分,且训练/测试来自不同批次,患者级泄漏风险较低。使用者在自行重划时应保持这一以病例为单位的原则。

(4)划分的一致性。 四个任务共用同一套划分,保证了跨任务比较的公平性——同一测试集上评估所有任务,避免了「不同任务不同测试集」带来的不可比。

3.7 与同类数据集的规模对照

把 GraSP 的规模放在同类手术数据集背景中,便于判断其定位:

数据集 视频/病例数 时长 任务粒度 备注
Cholec80 80 例胆囊切除 数十小时 阶段+工具 单术式、长时为主
HeiChole 33 例腹腔镜 数十小时 阶段+动作等 多任务、多术式
CATARACTS 50 例白内障 数十小时 步骤+器械 眼科术式
GraSP 13 例前列腺切除 32.37 小时 阶段/步骤/器械分割/动作 粒度最细、器械像素级

可以看到,GraSP 在病例数上属于偏小的一档(13 例),但单例时长较长,且任务粒度最细。这种「少而深」的取舍,意味着它更适合任务级、方法级的研究与对标,而不是像大样本数据集那样承担规模化的分布统计或多机构泛化评估。使用者在选择基准时,应根据研究问题是「探索细粒度任务的可解性」还是「评估规模化泛化」来决定是否用 GraSP。

§4 任务与标注体系

4.1 四任务层级结构

GraSP 的任务设计是本条目最核心的部分。它把手术场景理解组织成一个嵌套的层级,而非并列的四件事:

手术阶段(Phase,11 类)        ← 最宏观:整台手术的大段落
   └── 手术步骤(Step,21 类)   ← 中观:阶段内部的子流程
          └── 器械(Instrument,7 类)        ← 执行者:参与该步骤的工具
                 └── 原子动作(Action,14 类) ← 最微观:器械的即时交互
  • 手术阶段识别(Phase Recognition):长时任务,判断当前帧属于 11 个阶段中的哪一个。阶段代表手术中语义完整的大段落(如「尿道吻合」),其时序段可长达 20 分钟以上。评测指标为 mAP 与 F1。
  • 手术步骤识别(Step Recognition):长时任务,判断当前帧属于 21 个步骤中的哪一个。步骤是阶段内部更细的推理层级,时序段更短、更易重复(最长约 10 分钟)。评测指标同样为 mAP 与 F1。
  • 器械实例分割(Instrument Instance Segmentation):短时任务,对画面中的每把器械给出像素级实例掩膜,7 类。这是 GraSP 相对前作新增的任务,也是「最高空间粒度」的体现。
  • 原子视觉动作检测(Atomic Visual Action Detection):短时任务,检测器械正在执行的原子动作,14 类,以时空框(spatio-temporal boxes)标注。这是「最高时间粒度」的体现。

这种层级设计直接借鉴了**活动理论(Activity Theory)**的思想:把复杂活动分解为不同抽象层级的单元,高层单元由低层单元组合而成。论文据此主张,一个真正「全息」的手术理解系统应当能同时把握宏观流程与微观操作——而 GraSP 的四任务正是这一主张的数据化落地。

4.2 长时任务:阶段与步骤的层级

阶段与步骤构成层级关系的两侧。论文附录给出了一棵层级树(hierarchical dendrogram),把每个阶段与其内部嵌套的步骤关联起来,并列出所有类别的 ID 与名称。理解这棵树对使用数据集很重要:11 个阶段是粗分割,21 个步骤是其下的细分,二者并非相互独立,而是「阶段包含步骤」的嵌套关系。

论文对长时标注的分布做了细致分析,得到两个重要观察:

第一,显著的长尾效应。某些阶段/步骤类别的样本远超其他类别,其中 Idle(空闲)类被过度代表——因为手术过程中术者频繁暂停、清理视野、更换器械或休息,使得大量帧落在「无具体操作」状态。这一现象在根治性前列腺切除术中尤为典型。

第二,阶段与步骤的时长分布差异明显。阶段代表更宽的段落,平均时长更长(部分超过 20 分钟);步骤则反复出现、单段更短(最长约 10 分钟)。论文还指出,涉及组织剥离、血管切割或止血的阶段/步骤(如 Phase 1–3、Step 1–3/5/6)时长更长、方差更大;而与缝合相关的类别(如 Phase 8、Step 13–16)则时长更短、更标准化。

这些分布特性意味着长时任务并非简单分类:长尾类别、短暂但高重复的步骤、以及普遍的 Idle 干扰,共同构成了现实挑战。论文用转移矩阵与时序可视化进一步展示了阶段/步骤在 Idle 状态之间的频繁切换,说明「大多数阶段/步骤频繁地转入或转出 Idle 状态」。

4.3 短时任务:器械分割与原子动作

短时任务面向单帧或短时间窗的精细识别,两类任务在 GraSP 中被有意统一了标注口径:

  • 器械实例分割:每个器械实例给出一张独立的像素级掩膜(PNG),标注在标注关键帧上。相较前作 PSI-AVA 使用的检测框,像素级掩膜提供了器械的形状信息。
  • 原子动作检测:以时空框标注「哪把器械在哪个时刻做了什么动作」,14 类动作。动作类别侧重器械—组织的即时交互(如切割、夹持、缝合相关动作)。

一个关键的工程细节是:论文把分割掩膜导出的边界框作为原子动作标注的最终框,取代了动作标注过程中手绘的框。这样做的结果是,器械分割与原子动作检测两套标注共享一致的空间基准,且分割导出的框更贴合器械真实轮廓,比手绘框更精确。这一统一过程还伴随一次数据质检:团队发现约 2% 的原子动作实例、1.2% 的分割实例原缺失(多为高度遮挡),经手术数据科学家重标补齐,最终得到一份「统一且一致」的短时标注。

4.4 标注质量与一致性

GraSP 在扩展 PSI-AVA 的过程中对全部标注做了一次清洗与修订,以消除噪声与不一致(论文称 “curate and revise all our annotations to eliminate noise and inconsistencies”)。此外,2024 年 12 月的最终版(对应 arXiv v2/v3)专门修订了长时(阶段/步骤)标注,以更正小错误与歧义,使基准更规范。旧版长时标注仍保留参考链接,供需要复现早期结果的用户取用。

需要提醒的是,标注为单一团队的专家标注结果,论文未报告多标注者间一致性(inter-annotator agreement)指标。对需要评估标签不确定性的研究,这是一个应当注意的局限——数据集提供的是「一份高质量参考标注」,而非带不确定性刻画的概率化标签。

4.5 长时标注的分布分析

论文用多种统计手段刻画了长时(阶段/步骤)标注的分布特性,这些分析对使用者理解任务难度至关重要。

(1)类别频率的帧占比分布。 论文统计了每个阶段与步骤类别在数据划分中的帧占比,并以 1fps 计帧。结果显示显著的长尾:少数类别占据大量帧,多数类别帧数较少。最突出的是 Idle(空闲)类的过度代表——它比任何具体操作类别都更常见。这并非标注缺陷,而是根治性前列腺切除术的真实特性:术者在阶段之间反复暂停,用于换械、清理、调整视野或短暂休息,这些「非操作」时段被如实记录为 Idle。

(2)阶段/步骤的时长分布。 论文用箱线图展示了每个类别单段持续时间的分布。结论是:阶段的单段时长普遍长于步骤,部分阶段单段超过 20 分钟;而步骤更短、更易重复,单段最长的步骤约 10 分钟。此外,不同类别的时长方差差异很大:涉及组织剥离、血管切割、止血的阶段/步骤(如 Phase 1–3、Step 1–3/5/6)时长更长、方差更大(因为这些操作耗时且因人而异、常在步骤间来回切换);而缝合相关类别(如 Phase 8、Step 13–16)时长更短、方差更小(缝合流程标准化、速度快)。

(3)转移矩阵与时序可视化。 论文给出了类别间的转移矩阵以及阶段/步骤沿时间的演化可视化。一个关键观察是:大多数阶段/步骤频繁地与 Idle 状态互转,即手术流程是一段段「操作—暂停—操作」的拼接。这对建模有直接启示——如果模型只按「相邻帧阶段相似」的朴素假设工作,会在频繁的 Idle 转换处出错。

(4)对建模的启示。 综合以上,长时任务面临的真实挑战包括:类别极不均衡(Idle 主导)、单段时长跨度大、阶段/步骤频繁切换、长尾类别样本不足。这解释了为什么阶段识别(mAP 约 77)明显比步骤识别(mAP 约 52)容易——阶段粒度粗、段长且数量少(11 类),步骤粒度细、段短且数量多(21 类)且更接近 Idle 尺度。

4.6 短时标注的分布分析

短时任务(器械与原子动作)的分布同样被细致统计,要点如下:

器械实例分布呈长尾。 论文统计了每类器械的实例频次,发现明显长尾:双极电凝(BF)、单极电剪(MCS)等多功能器械使用频繁,因为它们在手术中被反复调用;而淋巴结清扫钳(LND)、前列腺筋膜钳(PF)等专用器械出现较少,仅在特定阶段使用。作为达芬奇系统的补充,腹腔镜器械(如 CA、LI)也只在特定场景出现。

每帧器械数稳定在低值区间。 论文统计每关键帧的器械实例数,范围为 1–5 个,平均 2.23 个/帧,约 80% 的帧含 2–3 个器械。这一分布反映了达芬奇手术系统的典型配置:术者双手各持一把机械臂器械(常态 2 把),间或出现一把静止器械或助手操作的非机器人器械,使场景复杂度上升。对检测/分割模型而言,这意味着「每帧 2–3 个实例」是主战场,但也要处理最多 5 个实例的复杂帧。

原子动作与器械的耦合。 原子动作标注的是「器械在做什么」,因此动作类别与器械类别天然耦合——某些动作只能由特定器械执行。这种耦合既是建模可利用的先验(如已知器械提示动作范围),也是评测需注意的偏置(某些动作类别的样本天然稀少)。

4.7 标注流水线与质检

GraSP 的标注并非一次性完成,而是在 PSI-AVA 基础上经过系统的精修与质检:

标注来源与升级。 长时(阶段/步骤)标注源自 PSI-AVA 并由团队精修;短时标注则经历了一次从检测框到分割掩膜的升级——论文把原 PSI-AVA 的器械检测框标注转化、扩展为像素级实例分割标注,这是 GraSP 相对前作最重要的标注增量。

统一短时标注的空间基准。 论文特别强调,器械实例分割与原子动作检测两套标注被统一到同一空间基准上:最终采用由分割掩膜导出的边界框作为原子动作的框,取代动作标注时的手绘框。理由有二:一是保证两个短时任务的空间定义一致,避免同一器械在两套标注中位置不吻合;二是分割导出的框更贴合器械真实轮廓,比手绘更精确。

质检与补标。 在统一过程中,团队识别出约 2% 的原子动作实例与 1.2% 的分割实例在原始标注中缺失(多因器械高度遮挡),并请手术数据科学家重新标注补齐。这一质检确保了两个短时任务的实例覆盖尽可能完整。

去噪与去歧义。 论文称对全部标注做了清洗与修订,以消除噪声与不一致;2024-12 的最终版又专门修订了长时标注中的小错误与歧义。这种「多轮修订」是高质量医学标注数据集常见的做法,也意味着使用者应关注所用版本。

4.8 任务难度与层级关系的经验观察

把四个任务的难度放在一起看,能看到与粒度相关的清晰规律:

  • 阶段识别(11 类,长时)最易——段长、类少、时序平滑;
  • 步骤识别(21 类,长时)次之——类更多、段更短、更接近 Idle;
  • 器械分割(7 类,短时)难度中等——类少但要求像素级精度;
  • 原子动作检测(14 类,短时)最难——粒度最细、动作短暂、样本不均。

这一难度梯度并非巧合,而是「粒度越细越难」的直观体现,也正是 GraSP 作为多粒度基准的价值所在:它在一个数据集内提供了从易到难的连续难度谱,便于研究者观察同一模型在不同粒度上的能力边界,也便于研究跨粒度的知识迁移。

4.9 标注内容的数据字典(概述)

虽然官方 README 未逐条列全字段,但从文件命名与论文描述可梳理出标注内容的大致结构,供使用者预判:

长时标注(grasp_long-term_*.json)。 面向阶段与步骤识别,按视频记录每一时间位置(帧或时间戳)对应的阶段 ID 与步骤 ID。由于阶段与步骤是嵌套关系,同一帧通常同时带有一个阶段标签与一个步骤标签。文件按划分拆分:train/test/fold1/fold2 分别对应不同的数据子集。

短时标注(grasp_short-term_*.json)。 面向器械与原子动作,记录关键帧上的器械实例(类别 + 位置/掩膜索引)与原子动作(器械 + 动作类别 + 时空框)。器械与动作通过实例关联,反映「哪把器械在做什么」。

分割掩膜(annotations/segmentations/CASE*/…png)。 每个器械实例一张掩膜 PNG,文件名对应某一关键帧。掩膜以像素值区分不同实例或类别(具体编码需以随附 README 为准)。

帧图像(frames/CASE*/…jpg)。 逐例逐帧的 JPEG 图像,文件名为帧序号,与标注中的帧引用对应。

帧率映射(1fps_to_30fps_association.json)。 给出 1 fps 帧名与 30 fps 帧名的对应关系,支持跨帧率对齐。

使用提示:字段名与坐标系(尤其是掩膜的实例编码、动作框的坐标约定)应以下载数据内附带的 README 与本地抽样为准,不要仅凭本条目推测。

4.10 与「单一粒度基准」的本质差别

最后用一个对照说明 GraSP 与单一粒度基准的本质差别。假设两个模型在各自基准上都达到「mAP 0.8」:

  • 在单一粒度基准(如只做阶段识别)上,0.8 的含义是「认阶段认得好」;
  • 在GraSP 的四任务上,一个模型很难在四个任务上都达到高位——因为四个任务的难度不同、对架构的要求不同。研究「一个模型能在多细的粒度上保持多好」本身就是 GraSP 独有的问题。

换句话说,GraSP 把评价从「单一任务的分数」升级为「多粒度任务的能力画像」。这正是「Holistic(全息/整体)」一词的落点:它关心的不是某一任务的孤峰,而是模型在整条粒度谱上的综合能力。对追求「手术 AI 系统级能力」的研究,这种评价方式比单点指标更有意义。

§5 TAPIS:面向多粒度的通用架构

5.1 为什么需要 TAPIS

数据集提出了四个粒度不同、时间尺度不同的任务,如果每个任务都各配一套专用模型,就很难说明「多粒度」这件事本身是否有价值——即:长时任务与短时任务之间,是否真的能互相帮助。为了回答这个问题,论文提出了一个覆盖全部四任务的通用架构 TAPIS(Transformers for Actions, Phases, Steps, and Instrument Segmentation)。

TAPIS 的设计目标有两个:其一,用一个骨架统一四任务,证明不同粒度可以在同一架构下协同;其二,验证器械的空间信息能否反哺长时与动作识别,即把像素级的器械分割作为区域提议,为动作与流程判断提供更精细的空间线索。

5.2 架构总览

TAPIS 是一个全 Transformer 架构,由三个部分组合而成:

  1. 全局视频特征提取器(Video Feature Extractor):从视频的 16 帧时间窗中提取时空特征。论文使用 MViT 作为主干(在 Kinetics 400 上预训练),负责捕捉跨帧的时序与全局上下文,服务于长时任务与动作识别。
  2. 器械区域提议(Region Proposals):由一个器械分割基线(Mask2Former 类)产出。分割模型给出器械的像素级实例提议及其逐段嵌入(per-segment embeddings),携带器械的形状与空间信息。训练时 Mask2Former 用 MS-COCO 预训练权重 + Swin Large 主干初始化,在标注关键帧上独立训练。
  3. 跨注意力区域分类头(Cross-Attention Region Classification Head):这是 TAPIS 的方法创新点。它以区域提议的逐段嵌入作为查询(queries),以视频特征提取器输出的整段时空特征作键与值(keys/values),通过多头交叉注意力把「局部器械区域」与「全局时序上下文」关联起来,再用一层线性分类得到器械或原子动作的类别概率分布。该分类头对具体的区域提议方法不敏感,论文也试验了多种 Mask2Former 类模型。

用一句话概括:视频分支提供「手术进行到哪、正在发生什么」的时序语境,器械分支提供「画面里有什么、形状如何」的空间细节,跨注意力头把两者缝合起来完成判断。

5.3 三阶段训练流程

TAPIS 采用三阶段训练,逐步从长时任务迁移到短时任务,这也是它复用「层级」思想的体现:

  1. 多任务长时识别(Multi-Task Long-Term Recognition):同时训练视频特征提取器做阶段与步骤识别,两个任务各用一个分类头、共享一个视频主干,用组合交叉熵损失联合优化。在 1fps 全部帧上、以时间窗中心对齐的方式训练 30 个 epoch。
  2. 器械分割基线独立训练(Instrument Segmentation Baseline):单独训练一个 Mask2Former 做逐帧器械分割,在标注关键帧上训练 100 个 epoch;推理时取置信度 >0.1 的 top-5 区域作为区域提议。
  3. 短时任务微调(Short-Term Fine-Tuning):以阶段/步骤训练得到的权重为初始化,冻结分割基线、复用其预计算的器械区域,微调 TAPIS 完成器械再分类与原子动作检测。

这一「先长时、后短时;先分割、后检测」的流程,使得短时任务能够借用长时任务学到的时序表示,也让分割得到的空间提议直接服务于动作检测——数据层级与训练流程在结构上相互呼应。

实验在 4 块 NVIDIA Quadro RTX 8000 GPU 上完成,视频分支统一使用 16 帧时间窗。

5.4 各任务的实现细节

论文 4.4 节给出了各任务的具体训练配置,理解这些细节有助于复现:

长时多任务识别。 视频特征提取器使用 MViT 的 Base 配置,加载 Kinetics 400 预训练权重,训练 30 个 epoch,batch size 24。阶段识别以 4 秒步长(相当于 0.25 fps 采样)、步骤识别以 1 秒步长(1 fps)构建 16 帧时间窗。损失为阶段与步骤两个分类头的组合交叉熵,学习率用余弦调度,5 个 warm-up epoch。

器械分割基线。 用 Mask2Former 做逐帧器械实例分割,主干为 Swin Large,加载 MS-COCO 实例分割预训练权重,训练 100 个 epoch,batch size 8,ADAMW 优化器,基础学习率 1e-5 并在第 50、75 epoch 衰减 0.1。推理时选 top-5 置信度大于 0.1 的区域作为后续区域提议。

器械区域分类。 冻结分割基线,使用其预计算的器械区域;以阶段识别得到的权重为初始化,训练 20 个 epoch,时间窗步长 0.5 秒(2 fps),batch size 24。这一任务把「区域内是什么器械」的判断与视频时序上下文结合。

原子动作检测。 同样以阶段识别权重初始化,训练 50 个 epoch,batch size 24,二值交叉熵损失;时间窗步长取最小(约 0.033 秒,即接近 30 fps 采样),以捕捉短暂的原子动作。动作检测对时间分辨率要求最高,因此步长被压到最小。

从这些配置可以读出一个规律:越细粒度的任务,需要越高的时间采样率(阶段用 0.25 fps,动作接近 30 fps),这从工程角度再次印证了「多粒度」对建模的不同要求。

5.5 架构设计的三个关键取舍

回看 TAPIS 的设计,可以总结出三个关键取舍:

(1)用「区域提议」而非「全图特征」做短时任务。 器械分割给出的是局部区域的提议与嵌入,而非让模型对整帧做全局分类。这样短时任务(器械分类、动作检测)聚焦于器械所在区域,细节更丰富,也更符合「动作依附于器械」的直觉。

(2)用「跨注意力」而非「简单拼接」融合时空。 区域嵌入与时序特征不是简单拼接,而是通过交叉注意力让区域「查询」整段时序上下文。这使得某个器械区域能自动关联到它在时间维度上的相关帧,捕捉动作的演化。

(3)用「共享主干 + 多任务头」复用表示。 阶段与步骤共享一个视频主干、各接一个分类头,既节省参数,又让两个长时任务互相正则。短时任务再在同一主干上微调,实现跨粒度迁移。

这三个取舍分别对应了「空间聚焦」「时空融合」「表示复用」,共同支撑起「一个架构完成四任务」的目标。

5.6 TAPIS 的局限

TAPIS 虽强,但作为基准方法也有局限:

  • 对区域提议的依赖:短时任务性能受分割基线质量影响,若器械被遮挡或分割失败,下游动作/器械分类会受影响。
  • 参数与算力需求:虽比 TAPIS-VST 小,但 44 M 参数、71 GFLOPs(不含区域提议)仍需 GPU 训练,不适合轻量部署场景。
  • 单数据集训练:在 GraSP 上 13 例训练,模型容量受数据规模限制,过拟合风险需通过预训练与正则缓解。
  • 未涉及时序长程依赖的显式建模:16 帧时间窗对长时任务而言仍是局部窗口,整台数小时手术的极长程依赖只能靠窗口滑动的间接方式捕捉。

这些局限也是使用者在 GraSP 上做创新时的切入口——例如改进区域提议的鲁棒性、引入更长程的时序建模、或探索跨数据集预训练。

§6 获取方式与许可

6.1 许可:MIT License

GraSP 采用 MIT License,版权署名为 Biomedical Computer Vision Group @ Uniandes(2024)。论文正文明确表述:团队「为公平性与可复现性,在 MIT 许可下公开发布整个 GraSP 数据集、源码与预训练模型」。LICENSE 文件(仓库根目录)内容为标准 MIT 文本,授予使用、复制、修改、合并、发布、分发、再许可与销售副本的权利,唯一要求是保留版权声明与许可声明。

MIT 是相当宽松的许可,与许多医学数据集常见的「非商业研究用途、需申请、限制再分发」形成鲜明对比。对使用者而言,这意味着 GraSP 在研究之外也可能具备商业可用的空间,无需逐一申请授权——但仍需遵守其作为真实患者医疗数据的伦理约束,并保留署名。这是 GraSP 作为「AI-Ready」数据集的重要优势:许可清晰、无 gated 门槛、可直接获取。

需要区分的是,本条目所述为数据集与代码仓库的许可口径(MIT)。论文本身(arXiv 预印本 / Medical Image Analysis 期刊版)的版权归属 Elsevier,与数据集许可不是一回事;引用发表版论文时仍应遵循相应出版方规则。

6.1A 许可的实务解读

对使用者而言,MIT 许可的具体含义可从几个常见场景理解:

场景 MIT 是否允许 附加要求
学术研究使用数据 ✅ 引用论文,保留许可声明
在企业内训练模型 ✅ 保留版权声明;注意医疗数据伦理
修改并再分发数据 ✅ 保留原许可与版权声明
用于商业产品 ✅(许可层面) 仍需遵守医疗数据合规
不署名直接使用 ❌ 须保留版权与许可声明
声称原作者背书 ❌ MIT 不授予商标/背书权

需要特别说明的是,MIT 授权不覆盖医疗数据伦理合规。即便许可允许任意使用,使用真实患者手术数据仍须遵守所在司法辖区与机构的数据保护规定(如患者隐私、二次分发限制等)。许可是「版权层面」的允许,伦理合规是另一条并行约束,两者不可互相替代。

6.2 获取:Google Drive 公开直链

GraSP 的数据经 Google Drive 公开直链分发,无 gated、无申请表、无需机构邮箱:

  • 主数据链接:https://drive.google.com/drive/folders/16uGgYsQ2oohKo1-iSxOFWnFAPlGTtvb9(含 GraSP_30fps、GraSP_1fps、原始视频、1fps↔30fps 映射等全部文件);
  • 旧版长时标注链接:https://drive.google.com/drive/folders/1Pnpj-0c7OpShTMqnpuFp66FThhUs90y3(2024-12 版本修订前的阶段/步骤标注,供复现早期结果)。

官方仓库同时提供 TAPIS 的 PyTorch 实现与运行说明(仓库 TAPIS/ 子目录),以及引用格式(BibTeX)。数据以 tar.gz 分卷压缩组织,README 给出了递归解压命令。

6.3 下载与解压步骤(操作指引)

官方 README 给出的推荐流程如下,供使用者参考:

  1. 访问主数据链接,进入 Google Drive 文件夹,按需下载所需部分(通常先下 GraSP_30fps)。
  2. 下载到本地目录后,因帧数据按每台手术分卷压缩,需批量解压。README 提供了一段 shell 命令,递归查找目录下所有 *.tar.gz 并逐个解压、解压后删除压缩包:
find /path/to/directory -type f -name "*.tar.gz" -execdir sh -c '
  for file; do
    echo "Uncompressing $file..."
    tar -xzf "$file" && rm -f "$file"
  done
' sh {} +
  1. 核对目录结构:解压后 GraSP_30fps 应包含 frames/(逐例帧目录)与 annotations/(segmentations/ 逐例掩膜 + 长时/短时 JSON)。
  2. 运行代码:进入仓库 TAPIS/ 目录,按其中的安装与运行说明配置环境。

注意 videos.tar.gz 与 raw_frames_1fps.tar.gz 体积较大,若非确需原始素材,可不下;跑论文模型只需要 GraSP_30fps。

6.4 使用建议

  • 跑论文代码 → 只需要 GraSP_30fps(完整训练与评测集)。
  • 快速实验/统计分析 → 用 GraSP_1fps(体积更小,1fps 是主评测帧)。
  • 需要其他帧率或原始画质 → 取 videos.tar.gz 或 raw_frames_1fps.tar.gz 自行抽帧,并用 1fps_to_30fps_association.json 做帧名对齐。
  • 复现历史结果 → 注意长时标注的版本:2024-12 最终版修订过阶段/步骤标注,需要旧口径时走旧版链接。

6.5 伦理与合规

数据来自真实患者的机器人手术录像,采集经伦理审查并做去标识处理,发布亦在伦理框架下进行。使用者在二次分发或再训练时,仍应遵守所在机构关于医疗数据使用的规定,避免任何可能重新识别患者的行为。数据集许可(MIT)授权的是版权层面的使用,不替代医疗数据伦理与合规要求——两者应分别对待。

§7 评估、基线与结果

7.1 评测口径

GraSP 在**测试集(5 例新视频)**上报告结果,评测覆盖四任务,指标分别为:

  • 手术阶段识别:mAP 与 F1 score;
  • 手术步骤识别:mAP 与 F1 score;
  • 原子动作检测:mAP 与 F1 score;
  • 器械分割:mAP@0.5IoU(box)、mAP@0.5IoU(segm)、mIoU、mcIoU(mean class IoU)。

同时报告每个模型的参数量(Params)与浮点运算量(FLOPs)(不计区域提议网络),以便在精度与效率间权衡。

7.2 主要结果表

论文 Table 4 给出 TAPIS 与三个对照模型的测试集结果:

方法 FLOPs (G) Params (M) 阶段 mAP 阶段 F1 步骤 mAP 步骤 F1 动作 mAP 动作 F1 分割 mAP@0.5box 分割 mAP@0.5segm 分割 mIoU 分割 mcIoU
SlowFast(CNN 基线) 81 33 68.77 54.70 46.35 37.08 22.01 74.33 71.32 77.16 72.26 58.75
TAPIR(前作) 71 36 72.59 58.62 50.24 43.82 25.57 74.43 – – – –
TAPIS-VST(Swin 变体) 66 96 76.24 60.80 50.74 41.94 33.10 90.29 89.58 86.36 83.51 77.54
TAPIS(本作) 71 44 76.72 63.42 52.01 45.78 39.26 89.85 89.10 86.61 83.38 77.42

(加粗为各列最优;TAPIR 未报告器械分割结果。)

7.3 结果解读

从表中可以读出几条关键结论:

其一,TAPIS 全面优于 CNN 基线与前作。 相较 SlowFast,TAPIS 在阶段 mAP 上从 68.77 提升到 76.72,步骤 mAP 从 46.35 提升到 52.01,原子动作 mAP 从 22.01 提升到 39.26——动作检测提升尤为显著,接近翻倍。相较直接前作 TAPIR,TAPIS 在各项上也有稳定增益,且 TAPIR 不提供器械分割能力。

其二,器械空间信息对动作识别贡献明显。 论文的消融实验表明,引入器械区域特征后,短时动作检测表现显著提升——这正是 TAPIS「用分割区域提议反哺动作」设计的实证。动作 mAP 从 CNN 基线的 22.01 跃升到 TAPIS 的 39.26,差距远大于长时任务上的差距,说明空间细节对细粒度动作识别的作用尤为关键。

其三,TAPIS 与 TAPIS-VST 各有胜负。 基于 Video Swin Transformer 的变体 TAPIS-VST 参数量更大(96M vs TAPIS 的 44M),在阶段 F1(60.80 vs 63.42 中 TAPIS 更高)、步骤 mAP、动作 F1、器械 box mAP 等指标上与 TAPIS 互有高低。整体上 TAPIS 以更小的参数量取得更均衡的精度,体现了架构的效率。

其四,长时任务与短时任务难度差异明显。 阶段识别 mAP(约 77)明显高于步骤识别(约 52),后者又高于原子动作检测(约 39)。这一递减趋势直观反映了粒度越细、任务越难,也印证了数据集在四个粒度上分布了不同难度——这正是「多粒度」基准应有的区分度。

7.4 鲁棒性与跨基准验证

论文不仅在 GraSP 上评测,还在多个公开基准上验证 TAPIS 的通用性(论文标题本身即强调 “Pixel-Wise Recognition for Holistic Surgical Scene Understanding”,并说明方法在不同基准上均成立)。团队此前的 SAR-RARP50 挑战赛冠军方案与跨数据集的对比实验,共同支撑了「TAPIS 是一个可迁移的通用架构」这一主张。对使用者而言,这意味着 GraSP 上的结论有跨数据集的外部参照,而非仅在本数据集上自证。

7.5 与三条基线的对比分析

把基线按「代际」排列,能看清 TAPIS 所处的位置:

  • SlowFast(CNN 基线,81 GFLOPs / 33 M):基于双路径 3D 卷积的视频识别网络,是本领域的经典 CNN 方案。它在阶段(mAP 68.77)与步骤(mAP 46.35)上表现尚可,但原子动作检测 mAP 仅 22.01,明显偏弱——反映出纯 CNN 视频模型在细粒度动作上的局限。
  • TAPIR(前作,71 GFLOPs / 36 M):团队 PSI-AVA 时期提出的模型,是 GraSP 的「上一代」。它相较 SlowFast 有稳定提升(阶段 mAP 72.59、步骤 50.24、动作 25.57),体现了「利用器械检测表示辅助动作识别」这一思路的价值。但它不具备器械实例分割能力(表中分割列为空),因为其时代尚无像素级分割任务。
  • TAPIS-VST(66 GFLOPs / 96 M):把 TAPIS 的视频主干换成 Video Swin Transformer 的变体,参数量最大(96 M)。它在阶段 mAP(76.24)、动作 F1(90.29)、器械 box mAP(89.58)上表现突出,但在阶段 F1、步骤 F1、动作 mAP 上略逊于原版 TAPIS。
  • TAPIS(71 GFLOPs / 44 M):论文主推方案,在阶段 mAP/F1、步骤 mAP/F1、动作 mAP 上取得最优,分割指标与 TAPIS-VST 几乎持平。它以介于 TAPIR 与 TAPIS-VST 之间的参数量(44 M),实现了更均衡的综合表现。

这一对比传递的核心信息是:多粒度架构(TAPIS 类)显著优于单粒度 CNN(SlowFast)与前代模型(TAPIR),而不同视频主干(MViT vs VST)带来的差异次要。换言之,性能提升主要来自「引入器械空间提议 + 跨注意力融合」这一架构创新,而非单纯扩大主干。

7.6 评测结果的可迁移性与局限

对使用者而言,解读这张结果表时需注意几点:

其一,所有数字均在 GraSP 测试集(5 例新视频)上报告,属于同术式、同机型、同机构的口径,不能直接外推到其他手术场景(见 §8 坑 5)。

其二,长时与短时任务的指标不可横向直接比较——mAP 的定义在阶段(多类时序分类)与器械分割(实例分割 IoU 阈值)中并不相同,跨任务比数值大小没有意义,只能各自与同任务的基线比。

其三,TAPIR 未报告分割结果,表格中的「–」表示该模型无此任务能力,不是成绩为零,比较时应加以区分。

其四,FLOPs 与 Params 均不含区域提议网络,因此不能直接用它做端到端推理成本的估算;实际部署时区域提议的开销需另计。

7.7 复现建议

若要在 GraSP 上复现或对标 TAPIS,官方提供了完整路径:从 GitHub 仓库获取 TAPIS 的 PyTorch 实现,按 README 下载 GraSP_30fps 数据并解压,遵循官方 Fold1/Fold2 交叉验证与 Test 划分训练评测。三阶段训练(长时多任务 → 分割基线 → 短时微调)的顺序与超参在论文 4.4 节有详细说明(如视频分支 16 帧窗、Mask2Former 预训练、top-5 区域提议等)。复现时尤其要注意长时标注的版本(2024-12 最终版),否则可能与论文表格出现系统性偏差。

7.8 方法演进:从 TAPIR 到 TAPIS

把 TAPIR(前作)与 TAPIS(本作)并排看,可以清晰看到方法的两步演进:

第一步(PSI-AVA → TAPIR,2022):提出用器械检测框的表示来辅助动作与流程识别。TAPIR 证明了「器械信息有用」,但受限于检测框的粗粒度,器械空间信息只到「框」级别。

第二步(GraSP → TAPIS,2024):把器械表示从检测框升级为像素级分割区域,并用跨注意力把区域特征与视频时序特征深度融合。相比 TAPIR,TAPIS 的器械分支携带了完整的形状与轮廓信息,且融合方式从「用检测特征辅助」升级为「用分割提议 + 跨注意力协同」。

这一演进的关键启示是:空间粒度的提升会带来下游任务的增益。从框到掩膜,看似只是空间精度的提升,却让动作检测等细粒度任务受益匪浅(动作 mAP 从 TAPIR 的 25.57 提升到 TAPIS 的 39.26)。这也是 GraSP 为何要把器械分割作为核心新增任务的原因——它不只是一个新任务,更是提升其他任务的杠杆。

7.9 评测结果与研究问题的对应

把结果表与 GraSP 想回答的研究问题对应起来:

研究问题 结果证据
多粒度架构是否优于单粒度 CNN? TAPIS 各项优于 SlowFast
器械空间信息能否提升动作识别? 动作 mAP:SlowFast 22.01 → TAPIS 39.26
器械分割对流程识别是否有帮助? 阶段 mAP:SlowFast 68.77 → TAPIS 76.72
不同视频主干影响多大? TAPIS 与 TAPIS-VST 互有胜负,差距小于架构带来的增益
四个粒度的难度是否递增? 阶段 mAP 77 > 步骤 52 > 动作 39
像素级 vs 框级器械表示? TAPIS(分割提议)优于 TAPIR(检测框)

这张表说明:GraSP 的结果表不是孤立数字,而是对一系列研究问题的实证回答。使用者在写作时应把结果与问题对应,而非仅罗列指标。

7.10 指标解读的注意事项(小结)

综合本节,解读 GraSP 结果时有五点须注意:

  1. 同任务内比:只在同一任务内与基线比,跨任务不比数值(坑 9)。
  2. 看版本:确认阶段/步骤结果基于哪一版长时标注(坑 3)。
  3. 看口径:确认帧率(30fps 还是 1fps)与评测帧(坑 6)。
  4. 看能力:表格中的「–」是「无此任务能力」,不是零分(§7.6)。
  5. 看范围:全部为单中心单机型口径,不外推(坑 5)。

把这五点落实到报告与论文中,是对 GraSP 结果的负责任使用。

§8 使用坑点(坑 1:命名撞车)

坑 1:命名为常见英文词,检索极易跑偏。
GraSP 是一个由常见英文词组合而来的缩略名,“grasp” 本身意为抓取/理解,网络上大量「机器人抓取(robotic grasping)」「抓取检测(grasp detection)」的数据集与论文都含此词。若只用 “grasp dataset” 检索,极可能命中机械臂抓取相关内容而非本手术数据集。对策:检索时始终附加限定词,如 GraSP prostatectomy、GraSP surgical scene、Holistic Multi-Granular Surgical Scene,或直接锁定官方仓库 https://github.com/BCV-Uniandes/GraSP。本条目在标题中以 (grasp) 标注 slug,正是为了在站内明确指向这一唯一对象。

坑 2:GraSP ≠ PSI-AVA,但常被混用。
GraSP 与 PSI-AVA 出自同一团队、共享前 8 例视频,二者高度相关但不是同一个数据集。PSI-AVA 是 MICCAI 2022 的前作(用器械检测框、无分割任务、视频数较少);GraSP 是扩展升级版(+5 例视频、检测升级为像素级分割、精修长时标注、数据量 +55%)。引用或报告结果时若把两者口径混用,会导致数据规模、任务集合与指标不可比。对策:明确区分——要器械分割或最新长时标注就用 GraSP(ve2024/v3),要复现 2022 年 TAPIR 结果才用 PSI-AVA 口径。

坑 3:长时标注有版本差异,2024-12 是分水岭。
GraSP 在 2024 年 12 月更新了手术阶段与步骤(长时任务)的标注以更正小错误与歧义,arXiv 也随之从 v1 更新到 v3。这意味着同一份数据可能对应两套长时标注:早期版本与最终版。如果直接比较不同来源报告的阶段/步骤指标而不核对版本,可能 apples-to-oranges。对策:优先使用最终版;确需旧口径时走官方旧版链接 https://drive.google.com/drive/folders/1Pnpj-0c7OpShTMqnpuFp66FThhUs90y3,并在报告中注明所用版本。

坑 4:网络二手数字失真严重,必须回一手论文。
检索 GraSP 时,网络上存在一些中文科技资讯转述,给出的数字与一手论文严重不符(例如把总时长写成「4.2 小时」、把原子动作写成「38,400 个」、把器械实例写成「5,120 个」,或给出与 Table 4 不一致的指标值)。这些多为二手编译的失真或凭印象的编造。对策:所有硬数字一律以官方仓库 README 与论文(arXiv:2401.11174 / Medical Image Analysis)正文与表格为准;遇到来源不明的数字,先回一手核对再引用。本条目已在 §9 与 FACTS 中对该冲突逐条存照。

坑 5:规模小、单中心、单机型,泛化性需谨慎。
GraSP 仅 13 例视频,且全部来自同一家医院(波哥大圣菲基金会)、同一机型(da Vinci Si)。全部为根治性前列腺切除术单一术式。这意味着:其一,跨机构、跨机型、跨术式的泛化能力未在数据集内被验证;其二,某些类别样本稀少,少数类指标波动大。对策:将 GraSP 结果作为「同术式同机型下」的参考,跨域部署前须自行做外部验证;不要把它当作覆盖广泛临床场景的通用基准。

坑 6:帧数口径容易混淆(30fps vs 1fps)。
论文提供了两套帧:30fps 完整帧与 1fps 主评测帧。论文报告的总帧数 116,521 是 1fps 口径,并未给出 30fps 帧总数的单一汇总。若用 116,521 去反推 30fps 规模(简单乘 30)会得到约 350 万的错误估算——因为不同手术的实际录制长度、预处理丢帧等因素都会影响。对策:报告帧数时明确标注采样率;需要 30fps 规模时以实际下载的 GraSP_30fps 目录为准,不要臆造汇总量。

坑 7:Google Drive 分发,稳定性受配额影响。
不同于 HuggingFace 或 Zenodo 这类带版本化与校验的数据托管平台,GraSP 主数据经 Google Drive 文件夹分发。Google Drive 链接在大规模并发下载时可能触发配额限制或需要人工确认,且缺少官方 MD5/SHA 校验值。对策:下载后尽早本地备份并自建校验;如遇链接异常,可通过官方仓库 issue 或联系通讯作者获取替代途径。许可虽为 MIT,但分发平台的稳定性不在许可承诺范围内。

坑 8:器械/动作的完整类名需查论文表格,README 未逐条列全。
官方 README 说明了数据的目录结构与文件组织,但没有逐条列出 7 类器械与 14 类原子动作的完整类名清单;这些类名主要出现在论文的类别表(Table 2)与附录中。若直接按文件里的类别索引建模而不核对类名,可能对不上语义。对策:训练前务必从论文正文/附录获取完整的类别 ID—名称映射,并在代码中显式记录,避免类别错位。

坑 9:mAP 在四任务中定义不同,不可跨任务比大小。
论文报告阶段、步骤、原子动作用 mAP 与 F1,器械分割用 mAP@0.5IoU、mIoU、mcIoU。这些「mAP」的评测协议并不相同(时序分类的 mAP vs 实例分割在 IoU 阈值下的 mAP)。把阶段 mAP(76.72)与器械分割 mAP(89.10)直接比大小是错误的——二者不可比。对策:只在同一任务内与基线比,跨任务只谈难度趋势、不比数值。

坑 10:不能把文件内 JSON 的字段名想当然。
长时与短时标注分别存放在 grasp_long-term_* 与 grasp_short-term_* 的 JSON 中,字段结构随任务不同。若不先查看 JSON 结构就按记忆解析,容易取错字段。对策:拿到数据后先抽样打开一两个 JSON 与掩膜文件,弄清字段含义与坐标系(如分割掩膜与帧、动作框的对应关系)再写加载代码。

§8A 常见问题(FAQ)

问:GraSP 和 PSI-AVA 我该用哪个?
看你需要什么。需要器械像素级分割、最新的长时标注或完整四任务,用 GraSP;只需复现 2022 年 TAPIR 的结果或研究早期器械检测口径,才用 PSI-AVA。新项目一律建议 GraSP。

问:只有 13 例,能训练出有用的模型吗?
13 例长视频(32.37 小时)提供了上千帧的时序监督与大量器械/动作样本,足以训练任务特定模型并对标基线。但若要训练大型视频基础模型,13 例偏小,通常需结合预训练权重(论文即用 Kinetics 400、MS-COCO 预训练)或引入其他数据集。把它当作「精细任务的研究基准」而非「预训练语料」更合适。

问:数据是真实的病人手术吗,合规吗?
是真实患者手术录像,经伦理审查与去标识后发布,发布在伦理框架下进行。使用时仍须遵守你所在机构的数据合规要求,MIT 许可不替代伦理合规(§6.1A、§6.5)。

问:为什么报告的总时长和我下载的文件大小对不上?
论文报告的 32.37 小时是 1fps 帧对应的时长口径;下载的 videos.tar.gz 是原始视频、GraSP_30fps 是抽帧后的图像,体量与时长不是简单线性对应。另外压缩率、分辨率预处理都会影响文件大小。以官方报告的时长与帧数为准,不要用文件大小反推。

问:能直接用于商业产品吗?
MIT 许可层面允许,但仍需遵守医疗数据伦理与所在辖区法规(§6.1A)。对涉及真实患者数据的产品化,建议咨询法务与合规团队。

问:类别不均衡怎么处理?
Idle 类过度代表是已知特性(§4.5)。常见做法包括类别加权损失、重采样、以及在报告中同时给出宏平均与各类别分解指标。论文报告的是整体 mAP/F1,若你的研究关注少数类,应额外报告分解结果。

§9 适用场景与不适用场景

理解一份数据集「能做什么、不能做什么」,往往比记住它的规模更重要。GraSP 的定位清晰,适用边界同样清晰。

9.1 适用场景

  • 手术工作流分析(Surgical Workflow Analysis):做手术阶段/步骤识别的研究,可直接用 GraSP 的长时标注训练与评测,并与 Cholec80 等基准对照。
  • 器械实例分割:需要像素级器械掩膜的任务(如术野器械定位、遮挡处理),GraSP 提供 7 类器械的实例分割标注。
  • 原子动作/器械—组织交互识别:做细粒度手术动作检测、器械姿态与动作关联研究的团队,可用 14 类原子动作标注。
  • 多任务与多粒度学习:研究「长时与短时任务能否互相增益」「跨粒度表示共享」等问题的团队,GraSP 的四任务统一划分是理想试验台。
  • 手术视频基础模型/自监督研究:13 例长视频(32.37 小时)可作为手术领域视频预训练或时序建模的语料之一。
  • 评测基准构建方法论:作为「数据+方法+基准」三件套的样本,供研究数据集设计与标注体系的工作参考。

9.2 不适用或需谨慎的场景

  • 大规模预训练的唯一语料:13 例的规模不足以支撑从零训练大型视频模型,通常需结合其他数据集或预训练权重。
  • 跨机构/跨机型泛化评估:数据集内全部单中心单机型,无法用于验证跨域泛化;需自行引入外部数据。
  • 非前列腺切除术式:GraSP 只含根治性前列腺切除术,类别体系(阶段/步骤)为术式专用,不能直接迁移到其他手术而不做重新标注。
  • 多标注者一致性/标签不确定性研究:数据集仅提供单一团队的专家标注,未报告标注者间一致性,不适合研究标注分歧。
  • 需要患者级临床结局关联的研究:GraSP 提供的是术中视频与操作标注,不含术后结局、病理或随访信息,无法直接做「手术行为 → 临床结局」的关联分析。

§10 生态、演进与互链

10.1 学术谱系

GraSP 处在一个清晰的学术谱系中,向上连接同团队的三代前作,横向与领域内其他手术工作流基准形成对照:

前作链:

  • PSI-AVA(MICCAI 2022,口头,最佳论文提名):四层标注框架 + TAPIR 模型的首次提出,GraSP 的直接前身。
  • MATIS(ISBI 2023,口头):面向手术器械分割的 Masked-Attention Transformer,为 GraSP 的器械实例分割任务提供方法基座。
  • SAR-RARP50 挑战赛(2022)冠军方案:团队在机器人辅助根治性前列腺切除术手术动作识别赛道的夺冠经验。

同域对照基准:Cholec80、HeiChole、CATARACTS 等。GraSP 的差异化在于「多任务联合 + 最高空间粒度(器械实例分割)+ 最高时间粒度(原子动作)」——论文主张它是机器人手术领域首个公开的多任务器械实例分割基准。

10.2 AI-Ready 视角

从「AI-Ready 数据集」的视角看,GraSP 具备几项突出优点:许可宽松(MIT,覆盖数据+代码+权重)、获取无门槛(Google Drive 公开直链、无 gated)、标注层级完整(四任务、两折交叉验证+独立测试集)、配套代码可复现(TAPIS 官方 PyTorch 实现)。其短板同样明确:规模偏小、来源单一、分发平台非专业化托管、缺少标签不确定性刻画。综合而言,它是一份「小而精、即取即用」的手术视频理解基准,尤其适合任务级研究与基准对标,而非规模化预训练。

10.3 库内互链点(rid 经 DB url_name 反查)

  • surgtoolloc-2022(rid 821):手术器械定位挑战赛数据集,与 GraSP 的器械分割/定位任务最直接互链——两者都面向手术器械的空间识别,可对比任务设定与标注粒度。
  • prostate158(rid 703/704):前列腺 158 例 MRI 分割数据集,与 GraSP 同为前列腺领域但模态不同(MRI vs 手术视频),可作为「同器官、跨模态」的互链。
  • prostatex(rid 554):前列腺 MRI 挑战赛数据集(含 DWI/T2 等,用于前列腺癌检测与分级),与 GraSP 构成前列腺癌影像分析的两个侧面(诊断性 MRI vs 术中视频)。
  • miccai-surgt(rid 83):MICCAI 手术相关数据集/基准,属手术视觉与计算机辅助干预的相邻条目,可作为手术 AI 领域的横向互链。

10.4 临床与产业意义

GraSP 所代表的「多粒度手术场景理解」能力,最终指向若干临床与产业应用方向:

  • 术中情境感知辅助(Context-Aware Assistance):系统知道当前进行到哪个阶段、器械正在做什么,就能在恰当时机给出提示(如提醒下一步骤、提示关键解剖结构),减少术者认知负荷。
  • 增强现实(AR)手术导航:把器械的像素级分割与阶段识别结合起来,可支撑术野内的叠加标注,例如高亮危险区、投影器械轨迹。
  • 半自动/自动化手术干预:细粒度的原子动作识别是机器人半自动化(如自动化缝合、自动化止血)的基础——机器必须先「看懂」动作,才能复现动作。
  • 手术培训与技能评估:用阶段/步骤/动作标注量化住院医师的操作流程,识别其与专家的差异,用于客观化的技能打分。
  • 手术视频检索与回顾:按阶段/步骤/动作给手术录像打索引,支持「找出所有缝合片段」这类结构化检索,便于教学与质量审查。

GraSP 作为一份公开、宽松许可的基准,为这些方向的算法研发提供了可比较的试验台。当然,上述应用均需在真实临床环境中做额外验证,数据集的贡献是「提供可复现的研究基线」,而非「直接临床部署方案」。

10.4A 从数据集到临床的「最后一公里」

需要清醒认识的是,一篇数据集论文到临床落地之间隔着很长的距离。以 GraSP 所指的术中辅助为例,从研究到部署至少要跨越几道坎:

坎一:数据代表性。 GraSP 只覆盖单中心、单机型、单术式,13 例。真实临床部署面对的是多中心、多机型、多术式、不同术者习惯的复杂场景。仅凭 GraSP 训练的模型,其临床适用性未被验证。

坎二:实时性要求。 术中辅助需要低延迟推理。TAPIS 的 71 GFLOPs(不含区域提议)与 44 M 参数对术中实时部署是挑战,需要模型压缩或专用硬件。

坎三:安全与责任。 即使模型识错了阶段或动作,若系统据此给出提示或触发半自动动作,责任如何界定?这是产品化必须回答的伦理与法规问题,远超出数据集范畴。

坎四:监管审批。 医疗 AI 系统作为医疗器械通常需经过监管审批(如 FDA、NMPA 等),其证据要求远超论文中的离线指标。

因此,GraSP 的恰当定位是**「算法研究的公共试验台」**,它的贡献在于让研究者有一个统一的、可比较的多粒度任务环境。把它当作临床产品的直接来源是对其价值的误读。使用者在引用 GraSP 时,应避免宣称「基于 GraSP 的模型可直接用于临床」,而应说明其作为研究基线的作用。

10.5 GraSP 的相对优势与不足(对照其他手术数据集)

维度 GraSP 表现 说明
任务粒度覆盖 ★★★★★ 四任务从阶段到原子动作全覆盖,领域罕见
许可开放性 ★★★★★ MIT,覆盖数据+代码+权重,无 gated
数据规模 ★★☆☆☆ 13 例、32.37 小时,规模偏小
机构/机型多样性 ★☆☆☆☆ 单中心、单机型(da Vinci Si)
标注粒度 ★★★★★ 器械像素级实例分割 + 动作时空框
配套方法 ★★★★★ 官方 TAPIS 实现 + 预训练模型
托管专业性 ★★☆☆☆ Google Drive 分发,无版本化校验
元数据完整性 ★★★☆☆ 有来源描述,患者级信息有限
标签不确定性刻画 ★☆☆☆☆ 无多标注者一致性指标

这张表揭示 GraSP 的典型画像:「细」「开」突出,「广」「稳」不足。它在任务粒度与开放程度上是同类中的佼佼者,但在规模与来源多样性上是短板。对研究目标明确的团队,这种取舍是可接受的;对追求规模化泛化的团队,则需要把它与其他数据集组合使用。

10.6 一句话定位

GraSP 之于手术 AI,类似一份「四合一的手术观察考卷」:它不追求数据最多,但要你在一台真手术里,从「这属于哪个阶段」一直答到「这把器械此刻在做哪个动作」——把手术场景理解从单一粒度推进到连续多粒度,是它留给领域最有价值的贡献。

§10A 方法论启示与延伸研究方向

10A.1 三个可迁移的方法论

GraSP 及其 TAPIS 架构留下了三个可迁移的方法论,对更广的手术 AI 研究有参考价值:

(1)任务层级化。 把复杂任务拆成嵌套的层级(阶段→步骤→器械→动作),而非并列的独立任务。这种设计让类别之间携带结构性先验,也让模型有机会跨层级迁移表示。研究者可以把这一思路推广到其他复杂医疗流程(如内镜检查、介入操作)的任务分解。

(2)空间提议驱动时序任务。 用目标检测/分割产生的区域提议来驱动下游的动作与流程识别,让空间细节反哺时序判断。这一「以空间辅助时序」的思路可迁移到任何「物体—动作」耦合的视频理解任务。

(3)跨注意力融合。 用交叉注意力把局部区域特征与全局时序特征关联,而非简单拼接或加权。这是一个通用且有效的多模态/多尺度融合范式。

10A.2 值得研究的方向

基于 GraSP,以下方向值得进一步探索:

  • 长程时序建模:当前 TAPIS 用 16 帧窗口,对整台数小时手术的长程依赖只能间接捕捉。探索层次化或记忆增强的长程建模,可能提升阶段/步骤识别。
  • 区域提议的鲁棒性:器械被遮挡、出血、烟雾干扰时分割失败会拖累下游。研究更鲁棒的器械提议方法有明确价值。
  • 跨粒度知识蒸馏:用粗粒度任务(阶段)的强监督去辅助细粒度任务(动作)的学习,或用细粒度表示反哺粗粒度判断。
  • 跨数据集预训练与迁移:13 例偏小,如何利用其他手术数据集(如 Cholec80)做预训练再迁移到 GraSP,是一个实际课题。
  • 标签噪声与不确定性:数据集无多标注者一致性,探索如何在此前提下估计并利用标签不确定性。
  • 轻量化与实时性:面向术中辅助的实际部署,如何在保证精度的同时压缩模型、降低延迟。

10A.3 对使用者的总体建议

  • 任务对标:直接使用官方划分与 TAPIS 结果作基线,是最省力的对标方式。
  • 数据获取:优先下 GraSP_30fps,按需补充其他层级;下载后核对 13 例时长之和与帧数之和(附录 D4)。
  • 复现纪律:注意长时标注版本、帧率口径、类别名对齐三件事,避免踩坑 3/6/8。
  • 定位认知:把 GraSP 当作「多粒度任务研究基准」,而非「规模化泛化评测集」;跨域结论须外部验证。
  • 合规并行:许可(MIT)与医疗数据伦理并行遵守,不可相互替代。

§11 数据来源与引用

11.1 一手来源(本条目事实依据)

类型 来源 用途
官方仓库 https://github.com/BCV-Uniandes/GraSP 数据组织、许可、版本链、前作信息
论文(预印本) arXiv:2401.11174(v3,2024-12-27),Pixel-Wise Recognition for Holistic Surgical Scene Understanding 数据规模、任务、结果表
论文(期刊版) Medical Image Analysis,DOI 10.1016/j.media.2025.103726,PMID 40774098 正式发表版与期刊口径
许可文件 仓库根目录 LICENSE(MIT License,Copyright © 2024 Biomedical Computer Vision Group @ Uniandes) 许可口径
会议前身 MICCAI 2022(PSI-AVA/TAPIR)、ISBI 2023(MATIS)、SAR-RARP50 2022 冠军方案 学术谱系

11.2 引用格式(BibTeX,摘自官方 README)

@article{ayobi2024pixelwise,
  title={Pixel-Wise Recognition for Holistic Surgical Scene Understanding},
  author={Nicol{\'a}s Ayobi and Santiago Rodr{\'i}guez and Alejandra P{\'e}rez and
          Isabela Hern{\'a}ndez and Nicol{\'a}s Aparicio and Eug{\'e}nie Dessevres and
          Sebasti{\'a}n Peña and Jessica Santander and Juan Ignacio Caicedo and
          Nicol{\'a}s Fern{\'a}ndez and Pablo Arbel{\'a}ez},
  year={2024},
  url={https://arxiv.org/abs/2401.11174},
  eprint={2401.11174},
  journal={arXiv},
  primaryClass={cs.CV}
}

引用数据集本身时,建议同时引用上述论文与本条目所述的官方仓库。

11.3 双口径冲突存照(重要)

本条目在检索过程中发现网络二手来源与一手论文存在严重数字冲突,特此存照,以正视听:

项目 一手中(arXiv/官方) 二手中(网络资讯转述) 判定
视频总时长 32.37 小时 「4.2 小时」 二手失真
原子动作数量 14 类(论文未给「38,400 个」这类实例总数) 「38,400 个原子动作」 来源不明
器械实例数 每帧 1–5 个、均值 2.23(论文口径) 「5,120 个器械实例」 来源不明
阶段指标 Table 4 阶段 mAP 76.72 「相位 F1 91.2%」 口径/数值不符
器械分割 Table 4 分割 mAP@0.5segm 86.61 「mAP 72.3%」 口径/数值不符

结论:上述二手数字均无法在论文正文与表格中对应,判为编译失真或凭印象生成,一律不予采用。本条目全部硬数字以官方 README 与 arXiv:2401.11174(含 Table 3/4)为准。研究者引用时应回到一手来源。

11.4 版本存照

  • arXiv 版本:v1(2024-01-20)→ v2(2024-01-26)→ v3(2024-12-27),v3 为当前版,arXiv 页面提交历史可查。
  • 数据集版本:2024-12 修订长时(阶段/步骤)标注后为「最终版」;旧版长时标注保留独立链接。
  • 期刊版:Medical Image Analysis 2025(DOI 10.1016/j.media.2025.103726),与 arXiv v3 为同一工作的正式发表版。

§12 附录

附录 A:核心硬数字速查

项目 数值
视频数 13 例 RARP
采集帧率 30 fps
总时长 32.37 h
单例均值/标准差 2.49 h / 0.77 h
1fps 帧总数 116,521
阶段/步骤/器械/动作类别 11 / 21 / 7 / 14
器械实例/帧 均值 2.23(1–5)
相对 PSI-AVA 增量 >55%
划分 Fold1(4) + Fold2(4) + Test(5)
许可 MIT

附录 B:缩写速查

缩写 全称 说明
GraSP Holistic and Multi-Granular Surgical Scene Understanding of Prostatectomies 本数据集
RARP Robot-Assisted Radical Prostatectomy 机器人辅助根治性前列腺切除术
RAS Robot-Assisted Surgery 机器人辅助手术
dVSS da Vinci Surgical System 达芬奇手术系统
TAPIS Transformers for Actions, Phases, Steps, and Instrument Segmentation 配套通用架构
TAPIR Transformers for Action, Phase, Instrument, and steps Recognition 前作模型
MATIS Masked-Attention Transformers for Surgical Instrument Segmentation 前作分割方法
PSI-AVA Phase, Step, Instrument, Atomic Visual Action 数据集 前作数据集
EV Endoscopic Vision 内窥镜视觉
mAP mean Average Precision 平均精度均值
mIoU mean Intersection over Union 平均交并比
mcIoU mean class IoU 类别平均交并比
BF / MCS / LND / PF / CA / LI 论文提及的部分器械缩写 双极电凝/单极电剪/淋巴结钳/筋膜钳/等

附录 C:四任务与评测指标对照

任务 粒度 类别数 时间尺度 主指标
手术阶段识别 最宏观 11 长时 mAP、F1
手术步骤识别 中观 21 长时 mAP、F1
器械实例分割 空间最细 7 短时(帧级) mAP@0.5box、mAP@0.5segm、mIoU、mcIoU
原子动作检测 时间最细 14 短时(窗级) mAP、F1

附录 D:DAIMS 检查单(Data Accessibility, Interoperability, Metadata, Sustainability)

维度 检查项 状态 说明
D 可发现性 (Discoverability) 是否有稳定标识 ✅ 论文 DOI 10.1016/j.media.2025.103726 + arXiv:2401.11174
是否有官方仓库 ✅ github.com/BCV-Uniandes/GraSP
是否可被检索 ⚠️ 名称含常见词 grasp,需限定词辅助检索(坑 1)
A 可访问性 (Accessibility) 是否公开可获取 ✅ Google Drive 公开直链,无 gated、无申请
是否有许可声明 ✅ MIT License(LICENSE 文件 + 论文声明)
获取稳定性 ⚠️ Google Drive 分发,无专业托管与校验值(坑 7)
I 互操作性 (Interoperability) 格式是否通用 ✅ JPEG 帧 + PNG 掩膜 + JSON 标注
是否可直接加载 ✅ 配套 PyTorch 代码与数据加载说明
帧率对齐 ✅ 提供 1fps↔30fps 映射 JSON
M 元数据 (Metadata) 是否有人群/来源描述 ⚠️ 有单中心、单机型描述;患者级元数据有限
是否有版本记录 ✅ arXiv v1–v3 + 2024-12 数据修订 + 旧版链接
是否有类别清单 ⚠️ 类别数明确,7 类器械完整类名散见正文/附录
S 可持续性 (Sustainability) 是否有长期托管 ⚠️ 依赖 Google Drive + GitHub,非长期数据仓库
是否有机构背书 ✅ 安第斯大学 CinfonIA 长期维护
是否可复现 ✅ 官方代码 + 预训练模型 + 固定划分

综合评估:GraSP 的可访问性与互操作性突出(MIT + 直链 + 通用格式 + 官方代码),可持续性与元数据完整性中等(Google Drive 托管、患者级元数据有限),可发现性受命名撞车影响需辅助检索。整体是一份门槛低、即取即用的手术视频基准。

附录 D2:DAIMS 各项补充说明

可发现性(Discoverability)。 GraSP 有明确的稳定标识:期刊版 DOI(10.1016/j.media.2025.103726)与 arXiv 编号(2401.11174),以及官方 GitHub 仓库。其可发现性的唯一瑕疵是命名——“grasp” 作为常见词会稀释检索精度,因此推荐检索时使用全称或仓库名,并在站内以 slug (grasp) 明确指代。

可访问性(Accessibility)。 这是 GraSP 的强项:MIT 许可 + Google Drive 公开直链,无 gated、无申请、无需机构邮箱,任何人可直接下载全部数据、代码与预训练模型。唯一的稳定性隐忧是 Google Drive 的配额与确认机制,以及缺少官方校验值。

互操作性(Interoperability)。 数据采用通用格式(JPEG、PNG、JSON),无需专有工具即可读取;帧率之间有映射 JSON 支持对齐;官方提供 PyTorch 代码与数据加载路径说明。这些使 GraSP 能被主流深度学习框架直接消费。

元数据(Metadata)。 数据集提供了较清楚的来源描述(单中心、单机型、术式)、类别数、划分信息与版本记录。不足在于患者级元数据有限(无年龄、病理分期等),且完整类别名清单分散在论文表格而非 README。

可持续性(Sustainability)。 数据集依赖 Google Drive 与 GitHub 托管,非长期数据仓库(如 Zenodo/PhysioNet),长期可用性依赖团队维护与平台政策。有机构(安第斯大学 CinfonIA)背书,且论文与代码公开,具备一定可持续性,但不属于「永久存档」级别。

附录 D3:GraSP vs PSI-AVA 逐项对照

维度 PSI-AVA(2022,前作) GraSP(2024,本作)
视频数 较少(8 例) 13 例(+5 例新视频)
器械标注形式 检测框 像素级实例分割掩膜
任务集合 阶段/步骤/器械/原子动作 同上 + 器械分割
长时标注 原版 2024-12 精修版
数据量相对 基准 +55% 以上
配模型 TAPIR TAPIS
划分 两折 两折交叉验证 + 独立 5 例测试集
许可 见前作仓库 MIT

这一对照说明 GraSP 不是简单「加数据」,而是「加数据 + 加细粒度 + 加任务 + 重定划分」的系统升级。引用时应明确使用的是哪一代。

附录 D4:13 例术例清单(可作数据核对表)

病例 集合 时长(h) 1fps 帧数
CASE 001 Fold1 3.05 10,972
CASE 004 Fold1 2.36 8,490
CASE 014 Fold1 2.77 9,973
CASE 015 Fold1 2.48 8,969
CASE 002 Fold2 2.62 9,443
CASE 003 Fold2 1.63 5,882
CASE 007 Fold2 2.23 8,018
CASE 021 Fold2 3.30 11,871
CASE 041 Test 2.63 9,452
CASE 047 Test 1.81 6,504
CASE 050 Test 3.86 13,899
CASE 051 Test 0.69 2,496
CASE 053 Test 2.93 10,552
合计 — 32.37 116,521

核对提示:13 例的时长之和应为 32.37 小时,1fps 帧数之和应为 116,521。若下载数据与此不符,需检查是否漏下分卷或对错版本。

附录 D5:TAPIS 结果表(GraSP 测试集,完整复录)

方法 FLOPs(G) Params(M) 阶段 mAP 阶段 F1 步骤 mAP 步骤 F1 动作 mAP 动作 F1 分割 box mAP 分割 segm mAP mIoU mcIoU
SlowFast 81 33 68.77 54.70 46.35 37.08 22.01 74.33 71.32 77.16 72.26 58.75
TAPIR 71 36 72.59 58.62 50.24 43.82 25.57 74.43 – – – –
TAPIS-VST 66 96 76.24 60.80 50.74 41.94 33.10 90.29 89.58 86.36 83.51 77.54
TAPIS 71 44 76.72 63.42 52.01 45.78 39.26 89.85 89.10 86.61 83.38 77.42

说明:加粗为各列最优;「–」表示该模型未报告该任务结果(非零分);FLOPs 与 Params 均不含区域提议网络。

附录 E:使用检查清单(12 项)

  1. 许可核对:MIT 覆盖数据+代码+权重;仍须遵守医疗数据伦理与所在机构规定(§6.4)。
  2. 版本声明:报告阶段/步骤结果时注明使用的标注版本(2024-12 最终版 or 旧版,坑 3)。
  3. 帧率口径:区分 30fps 与 1fps;116,521 为 1fps 口径,勿反推 30fps 总数(坑 6)。
  4. 划分遵循:使用官方 Fold1/Fold2 交叉验证与 Test 集,勿自行重划以免不可比。
  5. 主评测集:跑论文模型用 GraSP_30fps;快速实验用 GraSP_1fps。
  6. 器械类别对齐:7 类器械与 14 类动作的类别索引/名称需按论文 Table 2 / 附录对齐(§8 遗留疑点)。
  7. 长尾处理:Idle 类过度代表,报告指标时注意类别不均衡,必要时报告宏平均与各类别分解。
  8. 中心偏倚声明:单中心单机型样本,跨域结论须外部验证(坑 5)。
  9. 标签不确定性:数据集无多标注者一致性指标,不宜据此做标注分歧研究(§9.2)。
  10. 引用完整:数据引本论文(ayobi2024pixelwise)+ 官方仓库;PSI-AVA 相关结论另引前作。
  11. 数字回一手:警惕二手失真数字,全部回 arXiv/官方核对(§11.3)。
  12. 下载备份:Google Drive 下载后本地备份并自建校验,防链接失效(坑 7)。

附录 F:检索路径示范

目标 推荐查询式 预期命中
本数据集 GraSP prostatectomy surgical scene github.com/BCV-Uniandes/GraSP
本体论文 arXiv 2401.11174 Pixel-Wise Recognition…
期刊版 10.1016/j.media.2025.103726 Medical Image Analysis
前作数据集 PSI-AVA prostatectomy MICCAI 2022 PSI-AVA / TAPIR
前作分割 MATIS surgical instrument segmentation ISBI 2023 MATIS
竞赛 SAR-RARP50 challenge 2022 SAR-RARP50
反例(勿混) robotic grasping dataset 机械臂抓取(与本条目无关,坑 1)

检索卫生两条:其一,凡检索结果指向「抓取/机械臂」语境,即命中常见词歧义,需加 surgical/prostatectomy 限定;其二,遇到「4.2 小时/38,400 原子动作」之类数字,即二手失真信号,回一手核对(§11.3)。

附录 G:术语中英对照

中文 英文
手术场景理解 Surgical Scene Understanding
手术阶段 / 步骤 Surgical Phase / Step
器械实例分割 Instrument Instance Segmentation
原子视觉动作 Atomic Visual Action
长时任务 / 短时任务 Long-Term / Short-Term Tasks
内窥镜视觉 Endoscopic Vision
手术工作流分析 Surgical Workflow Analysis
层级 / 多粒度 Hierarchy / Multi-Granularity
区域提议 Region Proposal
跨注意力 Cross-Attention
活动理论 Activity Theory

附录 H:数据加载流程(伪代码示意)

以下为加载 GraSP 的流程示意(非可直接运行的官方代码),帮助使用者理解处理顺序:

# 1. 定位数据
root = ".../GraSP_30fps"
frames_dir = root + "/frames"                     # 逐例帧图像
seg_dir    = root + "/annotations/segmentations"  # 逐例器械掩膜
long_json  = root + "/annotations/grasp_long-term_{fold1|fold2|test}.json"
short_json = root + "/annotations/grasp_short-term_{fold1|fold2|test}.json"

# 2. 读长时标注:得到每帧的阶段/步骤标签
long_ann = load_json(long_json)   # 结构以本地 README 为准

# 3. 读短时标注:得到每关键帧的器械实例与原子动作
short_ann = load_json(short_json)

# 4. 读分割掩膜:每实例一张 PNG,需按编码解析实例/类别
for png in list_dir(seg_dir):
    mask = load_image(png)        # 像素编码以本地 README 为准

# 5. 构造时间窗(16 帧),对齐帧率
#    长时任务:阶段用 0.25fps 采样窗,步骤用 1fps 采样窗
#    短时任务:器械 2fps、动作接近 30fps

注意:以上字段名与编码为示意,实际结构务必以下载数据内附带的 README 与本地抽样核实为准。步骤 4 的掩膜编码(像素值到实例/类别的映射)尤其需要先查看数据说明,否则会解析错误。

附录 I:本条目编制说明

  • 编制时点:2026-10-08;抓取与核验记录见同目录 FACTS.md。
  • 依据来源:官方仓库 README 与 LICENSE、arXiv:2401.11174(v3)正文与 Table 3/4、Medical Image Analysis 期刊版信息。
  • 数字原则:所有硬数字以一手来源为准;网络二手来源与一手的冲突已在 §11.3 与坑 4 逐条存照并弃用。
  • 不采用的内容:网络二手转述的「4.2 小时」「38,400 原子动作」「5,120 器械实例」等无法对应一手来源的数字一律不使用。
  • 遗留疑点:7 类器械完整类名、14 类动作完整类名、期刊版与 arXiv 版的逐字一致性、Google Drive 链接长期可用性(详见 FACTS.md §9)。

尾注

本条目为 AI-Ready Wikipedia 数据集条目,生产于 2026-10-08,抓取与核验时点见 FACTS.md。事实陈述以官方仓库(github.com/BCV-Uniandes/GraSP)、论文(arXiv:2401.11174 v3 / Medical Image Analysis 2025)与仓库 MIT LICENSE 为源;网络二手来源与一手的数字冲突已在 §11.3 与坑 4 逐条存照,条目一律采用一手口径。条目与库内 surgtoolloc-2022(rid 821)、prostate158(rid 703/704)、prostatex(rid 554)、miccai-surgt(rid 83)等条目互链,构成手术视频理解与前列腺影像分析家族的检索面。

条目定位一句话:GraSP 是用 13 例真实达芬奇手术、32.37 小时视频、四层统一标注,把手术场景理解从单粒度推向多粒度的机器人前列腺癌手术理解基准——许可宽松(MIT)、获取无门槛,是手术视频理解任务级研究与基准对标的即用型数据。


相关数据集导航

以下为站内 AI-Ready 数据集百科中与本词条共享多个主题标签的相关数据集,按相关度降序排列:

  • endovis-2026 — 共享标签:内窥镜影像 / 手术视频 / 医学图像分割 / 目标检测 / 评测基准
  • cholectrack20 — 共享标签:内窥镜影像 / 手术视频 / 目标检测 / 评测基准
  • renji-esd — 共享标签:内窥镜影像 / 手术视频 / 目标检测 / 肿瘤学
  • polypgen — 共享标签:内窥镜影像 / 手术视频 / 医学图像分割 / 评测基准
  • phakir — 共享标签:内窥镜影像 / 手术视频 / 医学图像分割 / 目标检测
  • real-colon — 共享标签:内窥镜影像 / 手术视频 / 目标检测 / 评测基准
  • polypdb — 共享标签:内窥镜影像 / 医学图像分割 / 目标检测 / 评测基准
  • glenda — 共享标签:内窥镜影像 / 手术视频 / 医学图像分割 / 目标检测
  • galar — 共享标签:内窥镜影像 / 手术视频 / 目标检测 / 评测基准
  • gastrohun — 共享标签:内窥镜影像 / 手术视频 / 评测基准 / 肿瘤学

导航说明:本章节由全站统一标签体系自动计算生成(标签重合度算法),双向可达;点击链接可跳转至对应数据集词条。

返回 AI-Ready 数据集