Lemuel_/SampurNER-NPU
模型介绍
文件和版本
Pull Requests
讨论
分析

prachuryyaIITG/SampurNER_Bengali_MuRIL 昇腾 NPU 推理适配

模型：SampurNER（孟加拉语 NER，BERT/MuRIL 风格，24 层 hidden=1024，vocab=197285）

昇腾 NPU 适配结论

项目结果
前向输出classifier logits (B, L, 133)，CPU/NPU 一致
精度（rel-L2）4.69e-3（< 1% 阈值，PASS）
性能（NPU avg）12.84 ms（batch=1）
稳定性20 轮 batch=1 逐位一致（PASS）
验收六件套齐全，CPU/NPU 独立子进程对比

关键适配点

  • BERT (MuRIL) 架构，用 transformers BertForTokenClassification 直接加载。
  • config.json 从 hf-mirror 拉取（model_type=bert, 24 层, 1024 维, vocab 197285）。
  • num_labels 从 classifier.weight 推断（133）。
  • 权重键全匹配：missing=0, unexpected=0。

运行方法

python3 minimal_repro.py
python3 accuracy_eval.py
python3 benchmark.py
python3 stability.py
python3 inference.py

结果文件

  • results/accuracy_247.json / benchmark_247.json / stability_247.json / inference_results_247.json

三张真实终端截图

  • assets/agent_workflow.png / assets/npu_device_call.png / assets/model_result.png