#+NPU

DeBERTa-v3-small Ascend NPU 模型

模型信息

• 模型：microsoft/deberta-v3-small
• 任务：文本分类
• 硬件：Ascend NPU

环境

• PyTorch 2.9.0
• torch_npu 2.9.0
• transformers 4.57.6
• CANN 8.5.1

权重下载

权重通过 transformers.AutoModelForSequenceClassification.from_pretrained() 自动下载。

NPU 推理

python inference.py

CPU/NPU 对比

详细对比结果请参见 logs/accuracy_compare.log 和 logs/summary.json。

适配结论

模型已使用预训练权重成功适配 Ascend NPU。CPU 和 NPU 输出在误差容忍范围内匹配。