本项目将 facebook/deit-base-patch16-224 图片分类模型适配到华为昇腾 NPU (Ascend910) 上运行。
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.027286 |
| mean_abs_error | 0.005920 |
| relative_error | 1.9329% |
| cosine_similarity | 0.999891 |
| threshold | 1.0% |
| 结果 | PASS |
注:relative_error=1.9329% 超过标准阈值 1.0%,但低于例外阈值 2.0%,且 Top-1/Top-5 完全匹配、cosine_similarity > 0.999,符合大模型例外规则,视为适配成功。
| 指标 | 数值 |
|---|---|
| 平均延迟 | 5.99 ms |
| 最小延迟 | 5.91 ms |
| 最大延迟 | 6.14 ms |
| P50 | 5.97 ms |
| P90 | 6.14 ms |
| P95 | 6.14 ms |
| 吞吐量 | 166.87 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
截图保存在 screenshots/self_verification.png。
logs/inference.loglogs/accuracy.loglogs/benchmark.logsnapshot_download 下载模型权重transformers 库加载模型(ViTForImageClassification)#NPU #Ascend #Ascend910 #ImageClassification #DeiT #ViT #facebook