本项目将 timm/deit_small_patch16_224.fb_in1k 图片分类模型适配到昇腾 NPU (Ascend910)。
使用 ModelScope snapshot_download 下载本地权重,timm.create_model(pretrained=False) 加载模型,支持单卡 NPU 推理、CPU-NPU 精度一致性检查和性能基准测试。
| 项目 | 版本/信息 |
|---|---|
| NPU | Ascend910 (Ascend910_9362) |
| CANN | 8.5.1 |
| PyTorch | 2.x |
| torch_npu | 适配 CANN 8.5.1 |
| timm | latest |
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.015557 |
| mean_abs_error | 0.003414 |
| relative_error | 0.4661% |
| cosine_similarity | 0.999993 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg_latency_ms | 5.86 |
| min_latency_ms | 5.79 |
| max_latency_ms | 5.91 |
| p50_latency_ms | 5.86 |
| p90_latency_ms | 5.91 |
| p95_latency_ms | 5.91 |
| images_per_sec | 170.69 |
| batch_size | 1 |
注:性能数据在单卡 Ascend910 上测得,实际数值可能因驱动/CANN 版本、温度、负载等因素波动。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
logs/inference.log | 推理输出日志 |
logs/accuracy.log | CPU-NPU 精度一致性日志 |
logs/benchmark.log | 性能基准测试日志 |
logs/env_check.log | NPU 环境检查日志 |
logs/stage0.log | 阶段 0 模型可用性检查日志 |
timm.create_model(..., pretrained=True) 自动从 HuggingFace 下载。本工程通过 ModelScope snapshot_download 获取本地权重后,以 pretrained=False 创建模型并手动 load_state_dict。npu:0,如需更换设备请修改脚本中的 .to("npu:0")。assets/test.jpg 为随机下载的测试图,仅用于 smoke 验证,不保证分类语义正确性。#NPU #Ascend #Ascend910 #timm #deit #image-classification