cv_vit-base_patch32_224.in21k 在昇腾 NPU 上的适配
1. 简介
- 模型来源:google/vit-base-patch32-224-in21k
- 架构:ViT-Base(patch_size=32,hidden_size=768,num_layers=12)
- 参数量:88,045,824
- 任务:图像分类(ImageNet-21k 预训练)
- 适配状态:成功
- 适配时间:2026-05-17
2. 验证环境
| 组件 | 版本 |
|---|
| torch | 2.9.0 |
| torch-npu | 2.9.0.post1 |
| CANN | 8.5.1 |
| NPU | Ascend 910B4 |
3. 精度评测
| 指标 | 数值 |
|---|
| 余弦相似度 | 0.999990 |
| 最大绝对误差 | 0.005906 |
| 是否满足要求 | 是(< 1%) |
4. 性能
| 指标 | 数值 |
|---|
| 平均延迟 | 6.38 ms |
| 输出形状 | [1, 50, 768] |
5. 适配说明
使用 transformers ViTModel.from_pretrained 直接加载预训练权重。输入为随机图像张量 (1, 3, 224, 224),比较 last_hidden_state 输出。
6. 推理输出证据
Model: cv_vit-base_patch32_224.in21k
Output shape: [1, 50, 768]
Latency: 6.38ms
Cosine Similarity: 0.999990
Max Abs Error: 0.005906
7. CPU 与 NPU 精度对比
| 指标 | CPU | NPU | 差异 |
|---|
| 余弦相似度 | 1.0 | 0.999990 | 0.001% |
| 最大绝对误差 | - | 0.005906 | - |