OpenMed/OpenMed-NER-ChemicalDetect-SuperClinical-184M

license: apache-2.0 language: - zh tags: - NPU - Ascend - model-agent-tagged - transformers - pytorch hardware: NPU pipeline_tag: token-classification library_name: transformers

OpenMed_OpenMed-NER-ChemicalDetect-SuperClinical-184M

1. 简介

本文档记录 OpenMed/OpenMed-NER-ChemicalDetect-SuperClinical-184M 在昇腾 NPU（Ascend910）环境的快速部署与验证结果。

2. 验证环境

组件	版本
torch	≥2.1.0
torch_npu	≥2.1.0
transformers	≥4.37.0
CANN	8.5.RC1

NPU：Ascend910B（单卡）

3. 快速部署

  pip install transformers torch

  4. 精度评测

  NPU vs CPU 数值一致性对比：

  ┌──────────────────────┬──────────┐
  │         指标         │    值    │
  ├──────────────────────┼──────────┤
  │ Top-1 一致性         │ 4/4      │
  ├──────────────────────┼──────────┤
  │ Max Logit Diff Ratio │ 0.001517 │
  ├──────────────────────┼──────────┤
  │ Avg KL Divergence    │ 0.0      │
  ├──────────────────────┼──────────┤
  │ 结论                 │ PASS     │
  └──────────────────────┴──────────┘

  5. 性能参考

  ┌──────────────┬─────────────┐
  │     指标     │     值      │
  ├──────────────┼─────────────┤
  │ 硬件         │ Ascend 910B │
  ├──────────────┼─────────────┤
  │ 平均推理时间 │ 17.15ms     │
  └──────────────┴─────────────┘

组件

版本

torch

≥2.1.0

torch_npu

≥2.1.0

transformers

≥4.37.0

CANN

8.5.RC1

3. 快速部署

  pip install transformers torch

  4. 精度评测

  NPU vs CPU 数值一致性对比：

  ┌──────────────────────┬──────────┐
  │         指标         │    值    │
  ├──────────────────────┼──────────┤
  │ Top-1 一致性         │ 4/4      │
  ├──────────────────────┼──────────┤
  │ Max Logit Diff Ratio │ 0.001517 │
  ├──────────────────────┼──────────┤
  │ Avg KL Divergence    │ 0.0      │
  ├──────────────────────┼──────────┤
  │ 结论                 │ PASS     │
  └──────────────────────┴──────────┘

  5. 性能参考

  ┌──────────────┬─────────────┐
  │     指标     │     值      │
  ├──────────────┼─────────────┤
  │ 硬件         │ Ascend 910B │
  ├──────────────┼─────────────┤
  │ 平均推理时间 │ 17.15ms     │
  └──────────────┴─────────────┘