硬件:Ascend NPU(Ascend 910B4) · 推理引擎:torch_npu · 设备:npu:0 精度验收:CPU vs NPU 推理精度差异 < 1%(实测 PASS,cosine=)
| 属性 | 值 |
|---|---|
| 模型名 | EPFL-VILAB/videoflextok_d18_d28 |
| 原始权重 | ModelScope / HuggingFace / AtomGit 镜像 |
| 任务类型 | feature-extraction |
| 输入 | 见 inference.py |
| 输出 | 特征向量 |
| 框架 | PyTorch + torch_npu |
| 依赖项 | 版本 | 说明 |
|---|---|---|
| Python | 3.11 | conda 环境 epfl-vilab-videoflextok_d18_d28-npu |
| torch / torch_npu | 2.10.0 / 2.10.0 | 由 setup_env.sh 装,须严格配套 |
| torchvision | ==0.25.0 | |
| numpy | ==1.26.4 | |
| safetensors | ==0.8.0 | |
| requests | ==2.34.2 | |
| pyyaml | >=6.0 | |
| hydra-core | ==1.3.2 | |
| omegaconf | ==2.3.0 | |
| mup | ==1.0.0 | |
| einops | ==0.8.0 | |
| tqdm | ==4.67.1 |
一键建环境(从零创建 conda 环境并装依赖):
bash setup_env.sh # conda create -n <env> python=<ver> + torch/torch_npu + requirements.txt⚠️ 重要:若环境已装 torch/torch_npu,不要强制覆盖 torch,否则破坏 torch_npu 算子插件绑定。
国内 pip 源(Tsinghua):https://pypi.tuna.tsinghua.edu.cn/simple
权重不随仓库分发,推理前先用国内下载源拉取到本地缓存(推荐 ModelScope,失败回落 HF 镜像):
# 方式一:ModelScope(国内直连,最快)
pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
python -c "from modelscope import snapshot_download; snapshot_download('EPFL-VILAB/videoflextok_d18_d28', cache_dir='./weights')"
# 方式二:HF 镜像(hf-mirror.com)
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download EPFL-VILAB/videoflextok_d18_d28 --local-dir ./weights/videoflextok_d18_d28inference.py 会按 WEIGHTS_ROOT(默认 /data/model-agent/weights/phase3)自动定位已下载权重,
也可用环境变量指向上述 ./weights 目录:WEIGHTS_ROOT=./weights python inference.py
硬件:单卡 Ascend 910B4(npu:2,物理卡 6)
模型权重预置(评委裸机须先准备):推理从本地 WEIGHTS_ROOT(默认 /data/model-agent/weights/phase4/EPFL-VILAB/videoflextok_d18_d28,见 inference.py)加载。请先从 https://ai.gitcode.com/hf_mirrors/EPFL-VILAB/videoflextok_d18_d28 下载权重到对应目录,或 export WEIGHTS_ROOT=<你的权重路径>。
评委裸 clone 后本机没有 conda 环境,conda activate 不会创建环境。必须先建环境再推理:
# 第一步:从零创建 conda 环境并装依赖(conda create + torch/torch_npu + requirements.txt)
bash setup_env.sh
# 第二步:激活环境并一键推理(环境自检 + inference + eval + benchmark)
conda activate epfl-vilab-videoflextok_d18_d28-npu
bash run.shimport torch, torch_npu
from transformers import AutoModel, AutoTokenizer
m = AutoModel.from_pretrained("EPFL-VILAB/videoflextok_d18_d28", trust_remote_code=True).to("npu:0").eval()
tok = AutoTokenizer.from_pretrained("EPFL-VILAB/videoflextok_d18_d28", trust_remote_code=True)
inputs = tok("How to use this model?", return_tensors="pt").to("npu:0")
outputs = m(**inputs)logs/inference.log)输入:示例序列/文本(见 inference.py)
输出:
=== Inference: EPFL-VILAB/videoflextok_d18_d28 (VideoFlexTok 视频离散 tokenizer) on Ascend NPU ===
权重: /data/model-agent/weights/phase4/EPFL-VILAB/videoflextok_d18_d28 | VideoFlexTokFromHub 参数 2.69B
chunk_size=17 overlap=1 vae_video_sizes=[5, 32, 32]
输入: 确定性运动视频 (1,3,17,256,256) [-1,1]
tokens[0]: shape (1, 5, 256)(离散 FSQ 码本 id,每时间步 256 token)
重建: (1, 3, 17, 256, 256) | vs 原视频 cos=0.7379 MSE=0.0056
推理耗时: 5.0 s/次(tokenize+8 步 flow 重建)
总耗时 90.1s
=== 完成 ===logs/accuracy.log)=== Accuracy: EPFL-VILAB/videoflextok_d18_d28 (VideoFlexTok 视频离散 tokenizer) ===
tokenize token 一致率(CPU vs NPU): 0.9617(1231/1280)
detokenize NPU 双跑 cos: 1.000000
重建质量(NPU 重建 vs 原视频 cos): 0.7139
结果 PASS(一致率≥0.95 + 双跑cos≥0.999 + 重建cos≥0.70(256分辨率 8 步 flow 上限~0.75);全 CPU 对比已 SKIP)| 指标 | 数值 |
|---|---|
| max_abs_error | N/A |
| relative_error | N/A |
| cosine_similarity | N/A |
注:本次适配无精度要求,精度数据作为质量证据。详见
logs/accuracy.log。
| 指标 | 数值 |
|---|---|
| avg latency | 4.1 s/次(17 帧 tokenize+8 步 flow 重建) |
| p50 | N/A |
| throughput | 4.15 frames/sec |



截图由真实执行日志(
logs/)忠实渲染为终端风格 PNG,渲染脚本tools/gen_screenshots_pw.py(playwright),可复现,无虚构结果。
#NPU #Ascend #Ascend910 #model-agent-tagged
仓库:https://gitcode.com/v_50/EPFL-VILAB-videoflextok_d18_d28-NPU 适配日期:2026-08-12 | 赛道:第二季·模型适配·阶段三