光轮智能/EgoPro
数据集
数据集查看器
文件和版本
Pull Requests
讨论

简体中文 | English

光轮智能

EgoPro

10,000 小时头戴与手腕视角第一人称人类活动数据

所有数据在发布前均经过自动去标识化流程和人工复核,对人脸、车牌及其他个人身份信息进行模糊处理。

人类数据概览

Collection: EgoSuite-Open100K

SKUSub-SKUFormatPlanned Duration
EgoStandardEgoStandHand pose80,000 h
EgoStand-bodyHand pose + full body pose100,000 h
EgoProEgoProStandardWrist + hand pose80,000 h
EgoProStandard-bodyWrist + hand pose + full body pose20,000 h
EgoDemoFour SKUs + two raw videosRaw Video50 h

Website: EgoSuite Website

EgoSuite-Open100K 是一个分阶段发布的 100,000 小时开放数据集,旨在兼顾规模、多样性与标注质量。数据覆盖 15,000+ 项任务和 15,000+ 个不同采集场景,提供手部与全身位姿;部分数据包含腕部相机视角,并为选定子集免费附赠事件级语义标注。

EgoPro 数据集摘要

EgoPro 是 EgoSuite-Open100K 中规划时长 10,000 小时的头戴与手腕视角数据线,在同步 3D 手部位姿和可选全身位姿的基础上增加手腕相机视角,用于捕捉近距离接触与抓取。数据合集覆盖 15,000+ 项任务和 15,000+ 个不同采集场景;这些是整个发布项目共享的合集级覆盖数据,并非每个仓库的独立计数。LeRobot 与 MCAP 是同一批 EgoPro Episode 和相同 10,000 小时规划数据的不同表示形式,因此不得相加。

Sub-SKUs

Sub-SKUDurationStandard SKU definition
EgoProStandard8,000 hoursHead-view and wrist-view video + left/right hand pose
EgoProStandard-body2,000 hoursHead-view and wrist-view video + left/right hand pose + full-body pose

EgoProStandard 将头戴与手腕视角视频和手部位姿结合,用于在环境上下文中捕捉近距离接触与抓取细节。

EgoProStandard-body 增加全身位姿,用于关联细粒度手部交互与全身运动。

标注模态

ModalityEgoProStandard standard SKUEgoProStandard-body standard SKUIncluded in this open-source release
Head-view egocentric videoYesYesYes
Wrist-view egocentric videoYesYesYes
Left/right 3D hand poseYesYesYes
Full-body 3D poseNoYesBody variant only
Semantic annotationsNoNoYes, complimentary add-on
Frame-quality metadataDelivery-dependentDelivery-dependentIncluded when available

位姿值采用 float32 类型和世界坐标。手部位置数组 shape 为 (21, 3),手部旋转为 (21, 4),全身位置为 (22, 3),全身旋转为 (22, 4)。四元数值遵循 (qw, qx, qy, qz) 顺序。

标准 EgoPro 产品线包含左右手位姿,以及 EgoProStandard-body 中的全身位姿;语义标注不属于标准 SKU 定义。针对本次开源发布,光轮智能免费提供时序、事件级语义标注作为附加内容。

当提供逐帧手腕相机 6DoF 位姿时,客户端应使用所选格式中声明的 feature 或 topic 名称,不应从视频通道名称自行推断。

可用格式与 Episode 布局

FormatRecommended useDirectoryEpisode contents & documentation
LeRobot v3.0Training and LeRobot-compatible workflowsEgoProStandard/lerobot/, EgoProStandard-body/lerobot/Parquet files, synchronized head/wrist video, metadata, and release annotations
MCAPSynchronized multimodal streams and MCAP-compatible workflowsEgoProStandard/mcap/, EgoProStandard-body/mcap/MCAP package and verified sidecar files

数据集结构

EgoPro/
├── README.md
├── EgoProStandard/
│   ├── README.md
│   ├── lerobot/
│   ├── mcap/
│   └── manifests/
└── EgoProStandard-body/
    ├── README.md
    ├── lerobot/
    ├── mcap/
    └── manifests/

旧版根目录中的 lerobot/、mcap/、manifests/ 和 metadata/ 可为兼容性继续保留,但所有新增上传必须使用上述 Sub-SKU 优先路径。

Manifest 数据结构

LeRobot 与 MCAP 是本次发布数据的不同表示。各格式 manifest 使用相同且稳定的 episode_uuid 和 sub_sku 值来标识对应 Episode。计算数据集规模时,用户不得将 LeRobot 与 MCAP 的行数相加。

通用 manifest 字段如下:

FieldDescription
episode_uuidStable episode identifier shared across formats
human_case_idStable Human Case identifier
skuAlways EgoPro
sub_skuEgoProStandard or EgoProStandard-body
task_nameNormalized task name
scene_idAudited scene identifier
scene_familyTop-level scene family
duration_sAudited usable duration in seconds
episode_pathRepository-relative path for this format
formatlerobot-v3.0 or mcap
schema_versionFormat-specific schema/profile version
has_wrist_videoWhether wrist-view video is present
has_hand_poseWhether hand pose is present
has_body_poseWhether full-body pose is present
annotation_versionInternal schema identifier when the complimentary semantic annotation is present
annotation_distributioncomplimentary-open-source-add-on when applicable
source_revisionImmutable source revision
sha256Integrity checksum

发布版本

Release itemValue
Dataset release version[VERIFY]
LeRobot formatv3.0-compatible
MCAP version/profile[VERIFY]
MCAP schema[VERIFY]
Converter version[VERIFY]
Semantic annotationsIncluded as a complimentary release add-on; internal version not exposed
Annotation distributionComplimentary open-source release add-on

按需下载

git clone https://ai.gitcode.com/Lightwheel/EgoPro.git
cd EgoPro
git lfs pull --include="EgoProStandard/lerobot/**,EgoProStandard-body/lerobot/**"

下载 MCAP 数据时,将包含路径替换为 EgoProStandard/mcap/**,EgoProStandard-body/mcap/**。