2301_76761127/dreamzero-droid-npu
模型介绍
文件和版本
Pull Requests
讨论
分析

GEAR-Dreams/DreamZero-DROID on Ascend NPU

本仓库在 Ascend NPU 上对 DreamZero-DROID 因果世界动作模型(WAM)的全部 40 个已学习块执行完整的视频与动作前向推理。检查点按分片加载,并将官方仅支持 CUDA 的注意力封装替换为 Ascend NPU 上的原生 PyTorch SDPA。上游 complex128 RoPE 表以数学上等价的交错 float32 余弦/正弦对表示,因此旋转位置编码也保持为原生 NPU 实数运算;不存在 CPU/CUDA 模型计算桥接或回退机制。

固定来源与选定快照

  • 官方模型页面:https://ai.gitcode.com/hf_mirrors/GEAR-Dreams/DreamZero-DROID
  • 成功恢复来源:https://hf-mirror.com/GEAR-Dreams/DreamZero-DROID
  • 模型版本:96ad344138c66e82536422432ad742f015784942
  • 完整目标集合:config.json、model.safetensors.index.json,以及从 model-00001-of-00010.safetensors 到 model-00010-of-00010.safetensors
  • 选定权重字节数:45,848,615,568(官方 BF16 检查点分片;不含 TensorRT/ONNX 工件)
  • 完整选定快照:16 个文件,45,849,193,001 字节,包含固定的 实验元数据和 scheduler.pt
  • 官方运行时源码:https://github.com/dreamzero0/dreamzero.git
  • 运行时源码提交:ab790c198fbce33503358efbbd4187ce9a89adf3
  • 许可证:检查点 CC-BY-NC-4.0;源码 Apache-2.0

固定的官方版本中不存在 FP8 检查点。完整 BF16 目标可装入单块 64 GiB Ascend 910 HBM 设备,因此未使用替代量化方式。

仅从用于成功恢复的同一 HF 镜像路由下载这些固定版本路径。这会排除 ONNX/TensorRT/NVFP4 替代项:

HF_BASE=https://hf-mirror.com/GEAR-Dreams/DreamZero-DROID
MODEL_REV=96ad344138c66e82536422432ad742f015784942
mkdir -p model/experiment_cfg
for rel in \
  config.json experiment_cfg/conf.yaml experiment_cfg/metadata.json latest \
  model-00001-of-00010.safetensors model-00002-of-00010.safetensors \
  model-00003-of-00010.safetensors model-00004-of-00010.safetensors \
  model-00005-of-00010.safetensors model-00006-of-00010.safetensors \
  model-00007-of-00010.safetensors model-00008-of-00010.safetensors \
  model-00009-of-00010.safetensors model-00010-of-00010.safetensors \
  model.safetensors.index.json scheduler.pt
do
  curl --fail --location --retry 5 --continue-at - \
    --output "model/${rel}" "${HF_BASE}/resolve/${MODEL_REV}/${rel}?download=true"
done

已验证的运行环境与依赖还原

成功运行的 ModelAgent 矩阵为 CANN 8.5.1、PyTorch 2.9.0 和 torch-npu 2.9.0.post1。平台提供 Torch、torch-npu 和 torchvision。

本仓库在 source/dreamzero 下内置了完全一致的公开 DreamZero 源码,对应 commit ab790c198fbce33503358efbbd4187ce9a89adf3。仅安装已固定的用户态依赖闭包:

python3 -m pip install --target ./pydeps \
  --no-deps --no-build-isolation \
  -r requirements.txt \
  -i https://pypi.tuna.tsinghua.edu.cn/simple
test ! -e ./pydeps/torch
test ! -e ./pydeps/torch_npu

PYTHONPATH="$PWD/pydeps${PYTHONPATH:+:$PYTHONPATH}" python3 inference.py \
  --model "$PWD/model" \
  --source "$PWD/source/dreamzero" \
  --device npu:0 \
  --output result.json

合成视频、文本、图像和机器人状态条件输入,可在执行所有因果 WAM 模块以及学习得到的动作/状态编码器与解码器时,避免使用非模型资源。CPU 仅用于 JSON/索引解析和检查点反序列化;所有学习得到的前向计算均在 NPU 上执行。

安装过程有意复用平台 Torch/torch-npu,且不得安装或遮蔽第二个 Torch 构建版本。

证据

最终公开仓库包含一张模型专属工作流图片、一张来自最终推理 PID 的设备图片,以及一张来自同一次运行的 JSON 结果图片:

模型专属 Ascend 迁移工作流

最终 Ascend NPU 进程

最终完整模型结果

本仓为 2301_76761127 队伍交付件(与备份账号合并提交)。