OpenMed/OpenMed-NER-ChemicalDetect-PubMed-v2-109M

license: apache-2.0 language:

• zh tags:
• NPU
• Ascend
• model-agent-tagged
• transformers
• pytorch hardware: NPU pipeline_tag: token-classification library_name: transformers

OpenMed_OpenMed-NER-ChemicalDetect-PubMed-v2-109M

1. 简介

本文档记录 OpenMed/OpenMed-NER-ChemicalDetect-PubMed-v2-109M 在昇腾 NPU（Ascend910）环境的快速部署与验证结果。

相关获取地址：

• 权重下载地址（ModelScope）：https://modelscope.cn/models/OpenMed/OpenMed-NER-ChemicalDetect-PubMed-v2-109M

2. 验证环境

┌──────────────┬─────────┐ │ 组件 │ 版本 │ ├──────────────┼─────────┤ │ torch │ ≥2.1.0 │ ├──────────────┼─────────┤ │ torch_npu │ ≥2.1.0 │ ├──────────────┼─────────┤ │ transformers │ ≥4.37.0 │ ├──────────────┼─────────┤ │ CANN │ 8.5.RC1 │ └──────────────┴─────────┘

• NPU：Ascend910B（单卡）

3. 快速部署

pip install transformers torch

4. 精度评测

NPU vs CPU 数值一致性对比：

┌──────────────────────┬──────────┐ │ 指标 │ 值 │ ├──────────────────────┼──────────┤ │ Top-1 一致性 │ 4/4 │ ├──────────────────────┼──────────┤ │ Max Logit Diff Ratio │ 0.000923 │ ├──────────────────────┼──────────┤ │ Avg KL Divergence │ 0.0 │ ├──────────────────────┼──────────┤ │ 结论 │ PASS │ └──────────────────────┴──────────┘

5. 性能参考

┌──────────────┬─────────────┐ │ 指标 │ 值 │ ├──────────────┼─────────────┤ │ 硬件 │ Ascend 910B │ ├──────────────┼─────────────┤ │ 平均推理时间 │ 7.19ms │ └──────────────┴─────────────┘