leoydm/ocr - Ascend NPU Adapter

┌─────────────────────────────────────────────────────────────┐
│                     Hybrid NPU Pipeline                      │
├───────────────┬───────────────────────┬─────────────────────┤
│   预处理       │    模型推理            │   后处理             │
│  torch_npu     │  ONNX Runtime (CPU)    │  torch_npu          │
│  • resize      │  • DBNet 检测          │  • argmax (NPU)     │
│  • normalize   │  • SVTR_HGNet 识别     │  • CTC decode       │
│  • mean/std    │                        │                     │
│  • HWC→CHW     │                        │                     │
└───────────────┴───────────────────────┴─────────────────────┘

测试张量: (3, 224, 224) float32 random
Normalize: mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]

最大误差:   1.91e-06
平均误差:   1.28e-08
Allclose:   True (rtol=1e-3, atol=1e-5)
精度检查:   PASS (< 0.001%)

Ascend NPU OCR Model
Hello World Test
NPU Adapter Benchmark
Accuracy Precision
Benchmark Test 2026

# 系统环境
Ubuntu / CentOS / openEuler (AArch64)
CANN 8.5.1 +
Python 3.10+

# Python 依赖
pip install onnxruntime>=1.24.0
pip install opencv-python-headless>=4.5
pip install numpy>=1.24

# NPU 加速 (可选)
pip install torch>=2.0
pip install torch-npu>=2.1  # 对应 CANN 版本

pip install modelscope
modelscope download --model leoydm/ocr --local_dir /opt/atomgit/ocr_model

ocr_model/
├── PP-OCRv5_server_det/inference.onnx   # 文本检测
├── PP-OCRv5_server_rec/inference.onnx   # 文本识别
├── PP-OCRv5_mobile_rec/inference.onnx   # 轻量识别
├── PP-DocBlockLayout/inference.onnx     # 文档布局分析
├── PP-DocLayoutV2/inference.onnx        # 文档布局 V2
├── PP-LCNet_x1_0_doc_ori/inference.onnx # 文档方向分类
├── PP-LCNet_x1_0_textline_ori/inference.onnx # 文本行方向
├── PP-LCNet_x1_0_table_cls/inference.onnx    # 表格分类
├── SLANeXt_wired/inference.onnx              # 有线表格识别
├── SLANeXt_wireless/inference.onnx           # 无线表格识别
├── RT-DETR-L_wired_table_cell_det/           # 有线表格单元格
├── RT-DETR-L_wireless_table_cell_det/        # 无线表格单元格
├── UVDoc/inference.onnx                      # 文档矫正
└── latin_PP-OCRv5_mobile_rec/inference.onnx  # 拉丁语系识别

# 单图推理
python inference.py --input document.jpg

# 指定后端
python inference.py --input document.jpg --backend cpu

# 性能基准测试
python inference.py --benchmark --num_runs 50

# 保存结果
python inference.py --input document.jpg --output result.json

# 查看系统信息
python inference.py --system_info

from inference import NPUOCR

# 初始化
ocr = NPUOCR(
    model_dir="/path/to/ocr_model",
    use_npu=True,
    char_dict="/path/to/char_dict.txt",
)
ocr.load()

# 推理
import cv2
img = cv2.imread("document.jpg")
result = ocr.predict(img)

for text, score in zip(result["texts"], result["scores"]):
    print(f"[{score:.3f}] {text}")
print(f"耗时: {result['timing']['total_ms']:.1f} ms")

/opt/atomgit/OnnxOCR/onnxocr/models/ppocrv5/ppocrv5_dict.txt

tags:
  - NPU
  - Ascend
  - OCR
  - PaddleOCR
  - ONNX
  - CANN

hardware:
  - NPU
  - Ascend910

framework:
  - PaddlePaddle (origin)
  - ONNX Runtime
  - torch_npu

task: ocr-recognition
model_source: https://www.modelscope.cn/models/leoydm/ocr