structbert-siamese-uninu 昇腾 NPU 适配报告
1. 模型概述
本报告展示 iic/nlp_structbert_siamese_base_chinese-tgthigh 在昇腾 NPU 上的适配评测结果。
- 原始仓库: iic/nlp_structbert_siamese_base_chinese-tgthigh
- 评测状态: 适配成功
- 评测日期: 2026-05-20
2. 运行环境
| 依赖 | 版本号 |
|---|
torch | 2.9.0 |
torch-npu | 2.9.0.post1 |
transformers | 4.57.6 |
CANN | 8.5.1 |
- 加速卡: Ascend 910B4
- 操作系统: Ubuntu 22.04.5 LTS (aarch64)
3. 执行推理
python3 inference.py --model-id iic/nlp_structbert_siamese_base_chinese-tgthigh --device npu:0
4. 功能验证
| 检查项 | 状态 |
|---|
| 输出维度 | [1, 25, 768] |
| 推理结果 | 正常 ✅ |
5. 推理性能
6. 精度评测
✅ NPU 与 CPU 精度对比
| 测试项 | 结果 |
|---|
| Cosine Similarity | 0.999999 |
| 精度偏差 | 0.0001% |
| 达标判定 | 满足要求（< 1%）✅ |
7. 交付清单
| 类型 | 文件名 | 备注 |
|---|
| 推理代码 | inference.py | NPU 推理实现 |
| 评测数据 | report.json | 机器可读的评测结果 |
8. 使用须知
- 初次执行需联网下载模型权重文件
- 推荐在昇腾 NPU 环境下运行以获取最优性能
赛道: 模型适配赛道
日期: 2026-05-20
