nlp_corom_sentence-embedding_chinese-tiny-medical on Ascend NPU

1. 简介

模型来源: iic/nlp_corom_sentence-embedding_chinese-tiny-medical
参数量: 8,765,696
适配状态: SUCCESS
精度: float16

2. 验证环境

组件	版本
torch	2.9.0
torch-npu	2.9.0.post1
CANN	8.5.1
NPU	Ascend 910B4

3. 推理输出证据

输出形状: [1, 128, 256]
是否有 NaN: False

4. CPU vs NPU 精度对比

指标	数值
Cosine Similarity	1.0
Max Abs Error	0.005984
是否满足要求	✅ 是

5. 性能

指标	数值
平均延迟	3.36 ms
峰值显存	0.02 GB

6. 复现步骤

python3 inference.py

贡献者: xujiashuai | 赛道: 模型适配赛道