d
dingdang666/vit-age-classifier-NPU
模型介绍文件和版本Pull Requests讨论分析

vit-age-classifier on Ascend NPU

1. 简介

本文档记录 vit-age-classifier(ViT 年龄分类模型)在昇腾 NPU(Ascend 910B3)环境的适配部署与精度验证结果。

vit-age-classifier 基于 Vision Transformer(ViT-Base)架构,参数量约 86.4M,对人脸图像进行年龄分类。本项目完成该模型在昇腾 NPU 上的推理适配,验证 NPU 与 CPU 推理结果的精度误差 < 1%。

相关获取地址:

  • 权重下载地址(HuggingFace):https://huggingface.co/google/vit-base-patch16-224-in21k

  • 适配代码仓库:https://gitcode.com/dingdang666/vit-age-classifier-NPU

2. 验证环境

组件版本
python3.11.x
torch2.10.0+cpu
torch_npu2.10.0
transformers5.8.1
CANN8.5.1
  • NPU:Ascend 910B3(8卡)
  • 模型路径:/path/to/model
  • 框架:PyTorch + transformers

3. 模型信息

项目值
模型架构ViT-Base (ViTForImageClassification)
参数量~86.4M
输入尺寸3×224×224
权重格式safetensors

4. Conda 环境安装

conda create -n vit-age python=3.11 -y
conda activate vit-age
pip install torch==2.10.0 torchvision==0.25.0 --index-url https://repo.huaweicloud.com/repository/pypi/simple/
pip install torch_npu==2.10.0 --index-url https://repo.huaweicloud.com/repository/pypi/simple/
pip install transformers safetensors pillow --index-url https://repo.huaweicloud.com/repository/pypi/simple/

5. 推理执行

python3 inference.py --model_path /path/to/model --image_path /path/to/img.jpg
python3 inference.py ... --device cpu
python3 benchmark.py --model_path /path/to/model

6. 参数说明

脚本参数说明默认值
inference.py--model_path / --image_path / --device模型/图像/设备必需 / 必需 / npu:0
benchmark.py--model_path / --npu_device / --num_warmup模型/NPU/预热必需 / npu:0 / 3

7. 精度评测

使用同一测试图像在 CPU(FP32)和 NPU(FP32)上推理,对比分类 logits。

指标数值
向量级相对误差0.761458%
余弦相似度0.9999943376
评价指标实测值阈值状态
向量级相对误差0.76%< 1%PASS

8. 性能数据

操作耗时
CPU 推理时间(FP32)1.24 s
NPU 推理时间(FP32,3轮预热后)0.29 s
加速比 (CPU / NPU)4.24 x

9. 注意事项

  1. 如果 HuggingFace 无法访问,设置 export HF_ENDPOINT=https://hf-mirror.com/。
  2. NPU 首次推理包含编译优化,脚本默认 3 轮预热。
  3. 权重文件不包含在适配仓库中,需单独下载。
下载使用量0