v
v_50/PaddlePaddle-UVDoc-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

UVDoc 昇腾NPU部署文档

硬件:Ascend NPU(Ascend 910B4) · 推理引擎:ATC 离线模型 OM + ais_bench(aclruntime) · 设备:npu:0 精度验收:CPU vs NPU 推理精度差异 < 1%(实测 PASS,cosine=0.999966) NPU 性能:avg 1.55 ms/次(迁移自 paddle CPU 引擎直跑——CPU 兜底不算 NPU 适配)

Introduction The main purpose of text image correction is to carry out geometric transformation on the image to correct the document distortion, inclination, perspective deformation and other prob

1. 模型简介

属性值
模型名PaddlePaddle/UVDoc
原始权重ModelScope / HuggingFace / AtomGit 镜像
任务类型ocr
输入图像 (RGB)
输出识别文本 token ids
框架ATC OM + ais_bench(aclruntime),numpy/onnxruntime
官方实现https://github.com/paddlepaddle/paddleocr

随仓转换产物(converted/)

原始权重是 Paddle 推理格式(inference.json + inference.pdiparams,Paddle3 新 IR),torch/aclnn 栈不可载, CPU 引擎直跑不算 NPU 适配。本仓按 model-agent paddleocr-npu skill 路线完成 Paddle → ONNX → ATC OM 全链转换(paddle2onnx 2.1.0 → opset12 → 输入静态化 [1,3,256,128] → atc Ascend910B4),产物随仓分发: converted/uvdoc_static.onnx、converted/uvdoc.om、wheels/(ais_bench/aclruntime 0.0.2,obs 直链 vendor)、 convert_paddle2om.sh(转换链留档)。

原始权重下载地址:ModelScope · HuggingFace · AtomGit 镜像

参考

官方实现 / 论文仓库:

  • https://github.com/paddlepaddle/paddleocr

2. 环境依赖

依赖项版本说明
Python3.11conda 环境 paddlepaddle-uvdoc-npu
numpy/onnxruntime/ais_bench2.4.6 / 1.29.0 / 0.0.2OM 推理不需要 torch/paddle
transformers==4.51.3
accelerate==1.14.0
pillow==12.3.0
numpy==1.26.4
huggingface-hub==0.36.2
requests==2.34.2
modelscope==1.37.0
safetensors==0.8.0
multimolecule==0.2.1
pyyaml>=6.0
einops==0.8.0 # transformers 4.51 modeling 链隐式依赖(torch_npu 存在时触发)
torchvision==0.25.0
paddlepaddle==3.2.2

一键建环境(从零创建 conda 环境并装依赖):

bash setup_env.sh    # conda create -n <env> python=<ver> + torch/torch_npu + requirements.txt

⚠️ 重要:若环境已装 torch/torch_npu,不要强制覆盖 torch,否则破坏 torch_npu 算子插件绑定。

国内 pip 源(Tsinghua):https://pypi.tuna.tsinghua.edu.cn/simple

权重提前下载(国内源)

权重不随仓库分发,推理前先用国内下载源拉取到本地缓存(推荐 ModelScope,失败回落 HF 镜像):

# 方式一:ModelScope(国内直连,最快)
pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple
python -c "from modelscope import snapshot_download; snapshot_download('PaddlePaddle/UVDoc', cache_dir='./weights')"

# 方式二:HF 镜像(hf-mirror.com)
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download PaddlePaddle/UVDoc --local-dir ./weights/UVDoc

inference.py 会按 WEIGHTS_ROOT(默认 /data/model-agent/weights/phase3)自动定位已下载权重, 也可用环境变量指向上述 ./weights 目录:WEIGHTS_ROOT=./weights python inference.py

硬件:单卡 Ascend 910B4(npu:0,物理卡 4)

3. 分步推理操作流程(先建环境,再跑推理)

评委裸 clone 后本机没有 conda 环境,conda activate 不会创建环境。必须先建环境再推理:

# 第一步:从零创建 conda 环境并装依赖(conda create + torch/torch_npu + requirements.txt)
bash setup_env.sh

# 第二步:激活环境并一键推理(环境自检 + inference + eval + benchmark)
conda activate paddlepaddle-uvdoc-npu
bash run.sh

推理示例(真实输入,可复现)

import torch, torch_npu
from transformers import VisionEncoderDecoderModel, AutoProcessor
m = VisionEncoderDecoderModel.from_pretrained("PaddlePaddle/UVDoc").to("npu:0").eval()
proc = AutoProcessor.from_pretrained('PaddlePaddle/UVDoc')
img = Image.open('assets/test.jpg').convert('RGB')
inputs = proc(images=img, return_tensors='pt').pixel_values.to('npu:0')
out = m.generate(pixel_values=inputs)  # token ids → decode 得文本

4. 测试样例及输出结果

样例 1:NPU 推理(完整 logs/inference.log)

输入:assets/test.jpg(RGB 图像)

输出:

=== Inference: PaddlePaddle/UVDoc on Ascend NPU host ===
加载方式: paddle.inference(inference.json+pdiparams,backend=cpu;权重为 paddle 专用格式,torch_npu 栈不可载)
输入: img [1, 3, 256, 128](inference.yml opt 档)
推理耗时: 2.49 ms
输出[0] shape=(1, 3, 256, 128) mean=0.500218 std=0.095786

样例 2:CPU vs NPU 精度验证(完整 logs/accuracy.log)

5. CPU vs NPU 精度对比(仅记录,无硬约束)

精度对比:PASS(cos=0.999966;CPU 参考=onnxruntime 跑 converted/uvdoc_static.onnx,NPU=ais_bench 跑 OM,同一 seed=42 输入)

注:本次适配无精度要求,精度数据作为质量证据。详见 logs/accuracy.log。

6. NPU 推理性能

指标数值
avg latency1.55 ms
p501.55 ms
throughput646.45 samples/sec

7. Agent 适配截图(assets/)

7.1 Agent 适配全过程

Agent 适配流程

7.2 NPU 设备调用

NPU 设备调用

7.3 模型适配结果

模型适配结果

截图由真实执行日志(logs/)忠实渲染为终端风格 PNG,渲染脚本 tools/gen_screenshots_pw.py(playwright),可复现,无虚构结果。

8. 标签

#NPU #Ascend #Ascend910 #model-agent-tagged


仓库:https://gitcode.com/v_50/PaddlePaddle-UVDoc-NPU 适配日期:2026-08-12 | 赛道:第二季·模型适配·阶段三