simple_symbol_det — 昇腾 NPU 适配版

基于 csg800/simple_symbol_det 的华为昇腾（Ascend）NPU 适配推理方案。原模型是一个基于 DBNet 架构的英文字母、数字、标点符号、数学符号、拼音、音标与 Emoji 检测模型，使用四千余种字体与随机背景合成数据集训练而成。本仓库提供其在 Ascend 910 NPU 上的完整推理脚本、精度验证与性能基准。

模型信息

环境要求

# 安装依赖
pip install torch torch_npu onnx onnx2torch opencv-python modelscope

快速开始

1. 下载模型

pip install modelscope
modelscope download --model csg800/simple_symbol_det

2. NPU 推理

# 单图推理（NPU）
python inference.py --image test_image.png --device npu --output result.png

# 单图推理（CPU，精度对照）
python inference.py --image test_image.png --device cpu --output result_cpu.png

# 性能基准测试
python inference.py --benchmark --device npu

# 详细输出模式
python inference.py --image test_image.png --device npu -v

3. Python API

import cv2
from inference import load_model, detect, draw_boxes, get_default_onnx_path

# 加载模型到 NPU
model = load_model(get_default_onnx_path(), device="npu:0")

# 读图并推理
image = cv2.imread("your_image.png")
boxes, prob_map = detect(image, model, device="npu:0", threshold=0.3)

# 可视化
vis = draw_boxes(image, boxes)
cv2.imwrite("output.png", vis)
print(f"检测到 {len(boxes)} 个文字区域")

精度验证

在 6 种不同输入尺寸和随机种子下，NPU 与 CPU 推理输出的精度对比：

平均相对误差: 0.1973%，所有测试用例均满足精度要求（误差 < 1%），99.9% 以上像素的相对误差 < 1%。

运行精度验证：

python eval_precision.py

性能基准

在 Ascend 910 (Ascend910_9362) 上，不同 Batch Size 下的推理性能：

平均加速比: 142.78x。单图推理（640×640）NPU 延迟仅 6.68ms，吞吐约 150 FPS。

运行性能基准：

python eval_performance.py

交付件清单

适配说明

本模型适配方案采用 ONNX → PyTorch 图转换 + torch_npu 后端 的技术路线：

1. 模型格式转换：使用 onnx2torch 将原始 ONNX 模型转换为 PyTorch FX GraphModule
2. NPU 后端适配：将转换后的 PyTorch 模型通过 .to("npu:0") 加载至 Ascend NPU
3. 精度保证：NPU 原生支持模型中的所有算子（Conv、BatchNorm、HardSigmoid、HardSwish、Resize 等），无需自定义算子适配
4. 自动图优化：CANN 编译器自动进行算子融合与内存优化

适配过程中无需修改原始模型结构或权重，转换后模型在 NPU 上的输出与 CPU 参考输出高度一致。

注意事项

• 输入图像会被缩放至 640×640，建议输入尺寸为 32 的倍数以保证上下采样维度对齐
• 概率图二值化阈值默认为 0.3，可根据实际场景在 0.1~0.5 之间调整
• 最小检测框面积默认 32 像素，可过滤小噪声
• 首次 NPU 推理时 CANN 会进行图编译，耗时较长（约 10~60 秒），后续推理正常

致谢

• 原始模型作者：csg800
• 昇腾 NPU 适配与评测：基于 Ascend 910 + CANN 8.5.1