本仓库用于在华为昇腾 NPU 上部署 EPFL-VILAB/videoflextok_d18_d18_k600 的推理脚本。
由于该仓库是视频 Tokenizer/Detokenizer 模型,且当前代码路径包含非纯 PyTorch 算子,因此采用 torch_npu 逐位对齐推理方案,而非 vLLM-Ascend 服务化。
本地权重请放到 model/ 目录,包含:
model/config.jsonmodel/model.safetensors如果使用在线权重,请改用 HF_ENDPOINT + snapshot_download 下载。
export DEVICE=npu:0
python inference.py --model_dir model --video data/video_examples/red_ball.mp4