冬
gcw_IDzXRVNw/VTP-Large-f16d64-ascend
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

VTP-Large-f16d64 昇腾 NPU 部署指南

概述

本项目提供 MiniMax VTP-Large-f16d64 模型在华为昇腾 NPU 上的部署方案，用于视觉特征提取和图像重建。

模型信息

属性值
模型名称VTP-Large-f16d64
架构VTPModel
视觉bottleneck维度64
embed_dim1024
vision_depth24
vision_num_heads16
vision_mlp_ratio4
图像尺寸256x256
patch_size16

环境要求

  • NPU: Atlas 910B3
  • Python: 3.11
  • PyTorch: 2.8.0+ with torch_npu
  • safetensors
  • pillow
  • torchvision

文件结构

/data/ysws/agentsp/VTP-Large-f16d64-ascend/
├── README.md          # 本文档
├── inference.py       # 推理脚本
└── log.txt           # 运行日志

运行推理

精度测试

docker exec test-modelagent bash -c "cd /data/ysws/agentsp/VTP-Large-f16d64-ascend && python inference.py --precision_test 2>&1 | tee log.txt"

随机输入推理

docker exec test-modelagent bash -c "cd /data/ysws/agentsp/VTP-Large-f16d64-ascend && python inference.py 2>&1 | tee log.txt"

带图像推理

docker exec test-modelagent bash -c "cd /data/ysws/agentsp/VTP-Large-f16d64-ascend && python inference.py --image /tmp/test_image.jpg 2>&1 | tee log.txt"

参数说明

参数说明默认值
--model_path模型路径/data/ysws/agentsp/VTP-Large-f16d64
--image图像路径无(使用随机)
--device运行设备npu:0
--precision_test运行精度测试False

精度测试结果

============================================================
Precision Comparison: CPU vs NPU
============================================================
Max errors: sum=3.05e-05, mean=2.98e-08, std=5.96e-08
PASS: NPU precision within thresholds
============================================================
PRECISION TEST PASSED
============================================================
指标阈值实测值状态
max_error_sum< 1e-33.05e-05✅ 通过
max_error_mean< 1e-52.98e-08✅ 通过
max_error_std< 1e-55.96e-08✅ 通过

输出示例

2026-05-11 08:25:46,892 - INFO - VTP-Large Vision Encoder Ascend NPU Inference
2026-05-11 08:25:51,990 - INFO - Model loaded and moved to npu:0!
2026-05-11 08:25:52,187 - INFO - Using random input tensor (256x256)...
2026-05-11 08:25:52,192 - INFO - Input shape: torch.Size([1, 3, 256, 256])
2026-05-11 08:25:52,192 - INFO - Running inference...
2026-05-11 08:25:58,426 - INFO - Features shape: torch.Size([1, 64])
2026-05-11 08:25:58,427 - INFO - Inference time: 6233.68 ms
2026-05-11 08:25:58,696 - INFO - Features (first 10): [-0.06340054 -0.03150354 ...]
2026-05-11 08:25:58,697 - INFO - Inference completed successfully!

性能参考

指标值
推理时间 (NPU)~6.2秒
特征维度64
输入尺寸256x256x3

注意事项

  1. VTP-Large 模型输出 64 维视觉特征向量
  2. 精度测试基于 state_dict tensor 的 CPU 与 NPU 比较
  3. 支持随机输入或自定义图像推理