timm/inception_v4.tf_in1k on Ascend NPU

1. 简介

本工程将 ModelScope 上的 timm/inception_v4.tf_in1k 图片分类模型适配为可在单卡昇腾 NPU（Ascend910B）上运行的提交工程。

• 模型来源: ModelScope timm/inception_v4.tf_in1k
• 模型类型: 图片分类（ImageNet-1k，1000 类）
• 输入尺寸: 3 x 299 x 299
• 输出维度: 1000 类 logits
• 适配方式: timm.create_model(pretrained=False) 创建模型结构，通过 ModelScope snapshot_download 下载本地权重并加载
• 设备: 单卡昇腾 NPU（npu:0）

2. 验证环境

NPU: Ascend910_9362
npu-smi: 25.5.2
PyTorch: with torch_npu support
Python: 3.11

详见 logs/env_check.log。

3. 推理运行

安装依赖：

pip install -r requirements.txt

运行单图推理：

python inference.py

推理流程：

1. model_utils.load_model() 通过 ModelScope 下载权重并加载到 timm 模型
2. 使用 timm.data.resolve_model_data_config + create_transform 进行预处理
3. 将输入张量迁移到 npu:0
4. 执行前向推理并输出 Top-5 预测概率

Model: timm/inception_v4.tf_in1k
Model dir: /opt/atomgit/.cache/modelscope/hub/models/timm/inception_v4___tf_in1k
Weights: /opt/atomgit/.cache/modelscope/hub/models/timm/inception_v4___tf_in1k/model.safetensors
Missing keys: 0
Unexpected keys: 0
Input shape: [1, 3, 299, 299]
Output shape: [1, 1000]
Top-5 predictions:
  1. class_912: 0.445134
  2. class_718: 0.065991
  3. class_839: 0.054934
  4. class_821: 0.048072
  5. class_743: 0.034755

4. 精度验证

python eval_accuracy.py

对单张测试图片进行 CPU 与 NPU 一致性验证：

• CPU Top-1 与 NPU Top-1 类别一致
• CPU Top-5 与 NPU Top-5 类别一致

5. 性能参考

运行性能基准测试：

python benchmark.py

结果摘要（batch=1，输入 3x299x299）：

• Avg latency: 16.31 ms
• Min latency: 15.40 ms
• Max latency: 17.06 ms
• Throughput: 61.31 images/sec

6. 精度评测

本工程提供 smoke consistency 验证脚本 eval_accuracy.py，对比同一输入在 CPU 与 NPU 上的输出一致性。官方 ImageNet-1k 精度需用户在完整验证集上自行运行。

7. 自验证截图

见 screenshots/self_verification.txt 与 screenshots/self_verification.png。

8. 日志文件

9. 注意事项

1. 权重通过 ModelScope snapshot_download 自动下载到本地缓存，不随本工程提交。
2. 严禁使用 timm.create_model(..., pretrained=True)，避免 HuggingFace 直连下载。
3. 推理时请确保 NPU 驱动及 CANN 环境已正确配置。
4. assets/test.jpg 为随机测试图片，仅用于验证推理流程。

10. 标签

#NPU