CogACT/CogACT-Base 在昇腾NPU上的部署

CogACT 是一种源自 VLM 的全新先进 VLA 架构。与以往通过简单动作量化直接改造 VLM 进行动作预测的工作不同，我们提出了一种组件化的 VLA 架构。

1. 模型简介

属性	值
模型名	`CogACT/CogACT-Base`
原始权重	ModelScope / HuggingFace / AtomGit 镜像
任务类型	feature-extraction
输入	见 inference.py
输出	特征向量
框架	PyTorch + torch_npu
官方实现	https://github.com/facebookresearch/DiT

参考

官方实现 / 论文仓库：

2. 环境依赖清单

# 推荐 conda 环境：pix2struct-npu（torch 2.10.0 + torch_npu 2.10.0）
# 依赖见 requirements.txt

国内 pip 源（Tsinghua）：https://pypi.tuna.tsinghua.edu.cn/simple

权重提前下载（国内源）

权重不随仓库分发，推理前先用国内下载源拉取到本地缓存（推荐 ModelScope，失败回落 HF 镜像）：

# 方式一：ModelScope（国内直连，最快）
pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
python -c "from modelscope import snapshot_download; snapshot_download('CogACT/CogACT-Base', cache_dir='./weights')"

# 方式二：HF 镜像（hf-mirror.com）
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download CogACT/CogACT-Base --local-dir ./weights/CogACT-Base

inference.py 会自动根据 WEIGHTS_ROOT（默认路径为 /data/model-agent/weights/phase3）查找已下载的权重文件，也可通过环境变量将其指向上述 ./weights 目录，例如：WEIGHTS_ROOT=./weights python inference.py

硬件环境：单卡 Ascend 910B4（npu:4）

3. 分步推理操作流程

conda activate pix2struct-npu
python inference.py          # NPU 推理
python eval_accuracy.py      # CPU vs NPU 精度对比
python benchmark.py          # NPU 性能基准

推理示例（真实输入，可复现）

import torch, torch_npu
from transformers import AutoModel, AutoTokenizer
m = AutoModel.from_pretrained("CogACT/CogACT-Base", trust_remote_code=True).to("npu:0").eval()
tok = AutoTokenizer.from_pretrained("CogACT/CogACT-Base", trust_remote_code=True)
inputs = tok("How to use this model?", return_tensors="pt").to("npu:0")
outputs = m(**inputs)

4. 完整测试用例及输出结果

输入：示例文本/序列（参见 inference.py）

输出（源自 logs/inference.log）：

5. CPU 与 NPU 精度对比（仅记录，无硬性约束）

指标	数值
最大绝对误差	N/A
相对误差	N/A
余弦相似度	N/A

注：本次适配无精度要求，精度数据作为质量证据留存。详见 logs/accuracy.log。

6. NPU 推理性能

指标	数值
平均延迟	N/A
P50 延迟	N/A
吞吐量	N/A

7. 自验证截图（assets/）

文件	内容
agent_workflow.png	Agent 完整适配工作流
npu_device_call.png	推理时 npu-smi info（Ascend910B4）
model_result.png	适配验收结果

8. 标签

#NPU #Ascend #Ascend910 #model-agent-tagged

仓库：https://gitcode.com/v_50/CogACT-CogACT-Base-NPU 适配日期：2026-08-12 ｜赛道：第二季·模型适配·阶段三