xujiashuai/cv_vitb16_classification_vision-efficient-tuning-utuning
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

cv_vitb16_classification_vision-efficient-tuning-utuning - 昇腾 NPU 适配

1. 模型简介

ViT-B/16 图像分类模型，采用 UTuning（适配器 + 前缀 + 提示）高效微调方法，在 CIFAR-100 数据集上完成训练。

  • 原始模型：iic/cv_vitb16_classification_vision-efficient-tuning-utuning
  • 框架：PyTorch
  • 任务：Image Classification（CIFAR-100）

2. 昇腾 NPU 适配结果

指标值
余弦相似度0.999998
平均延迟7.70 ms
推理精度float16
设备Ascend 910B4

3. 快速使用

export ASCEND_HOME_PATH=/usr/local/Ascend/cann
export LD_LIBRARY_PATH=/usr/local/Ascend/cann/lib64:$LD_LIBRARY_PATH
python inference.py --device npu:0 --dtype float16

4. 推理输出证据

模型: iic/cv_vitb16_classification_vision-efficient-tuning-utuning
设备: npu:0
精度: float16
------------------------------------------------------------
  input: shape=torch.Size([1, 3, 224, 224])
  logits: shape=torch.Size([1, 100])
  CPU pred: woman, NPU pred: woman
  Cosine Similarity (logits): 0.999998
✓ 推理完成
  平均延迟: 7.70 ms

5. CPU 与 NPU 精度对比

指标CPU (float32)NPU (float16)误差
余弦相似度基准0.999998< 0.001%
输出维度[1,100][1,100]一致
预测类别womanwoman一致

6. 智能体技能

本适配由 batch-adapter 自动完成。