PP-LCNet_x1_0_table_cls 是 PaddleOCR 推出的表格分类模型,负责对输入的表格图像进行分类。
本文档介绍了PP-LCNet_x1_0_table_cls模型的部署流程,包括推理环境准备、模型部署、功能验证,旨在帮助用户快速完成模型300I-Duo环境部署和验证。
| 配套 | 版本 |
|---|---|
| 固件与驱动 | 25.2.RC1 |
| CANN | 8.3.RC2 |
| Python | 3.11 |
| 推荐使用镜像 | cann8.3.rc2-310p-ubuntu22.04 |
1.安装依赖
git clone https://atomgit.com/zDaPao/PP-LCNet_x1_0_table_cls.git
pip install -r requirements.txt
cp -f predictor.py /usr/local/python3.11.13/lib/python3.11/site-packages/paddlex/inference/models/image_classification/2.安装msit工具以及相关组件
pip install msit
msit install surgeon
wget https://aisbench.obs.myhuaweicloud.com/packet/ais_bench_infer/0.0.2/ait/ais_bench-0.0.2-py3-none-any.whl
wget https://aisbench.obs.myhuaweicloud.com/packet/ais_bench_infer/0.0.2/ait/aclruntime-0.0.2-cp311-cp311-linux_aarch64.whl
pip install ais_bench-0.0.2-py3-none-any.whl
pip install aclruntime-0.0.2-cp311-cp311-linux_aarch64.whl3.配置CANN环境变量
执行以下命令激活CANN环境变量。注意:该命令中文件路径仅供参考,请以实际安装环境配置环境变量。
source /usr/local/Ascend/ascend-toolkit/set_env.sh下载PP-LCNet_x1_0_table_cls模型权重,并放置于本地目录PP-LCNet_x1_0_table_cls
mkdir PP-LCNet_x1_0_table_cls
modelscope download --model PaddlePaddle/PP-LCNet_x1_0_table_cls --local_dir ./PP-LCNet_x1_0_table_cls1.导出onnx模型
paddlex --paddle2onnx --paddle_model_dir PP-LCNet_x1_0_table_cls/ --onnx_model_dir PP-LCNet_x1_0_table_cls转onnx的必要性:
1.Paddle 格式 不能直接在昇腾 310P 上运行
2.ONNX 是通用中间格式
3.这是转 OM 模型必须的第一步
2.onnx模型优化 通过auto_optimizer对onnx模型进行改图优化。
python3 -m auto_optimizer optimize PP-LCNet_x1_0_table_cls/inference.onnx PP-LCNet_x1_0_table_cls/inference_opt.onnx优化的必要性:
1.原始 ONNX 有冗余算子、低效结构
2.昇腾对优化后的 ONNX 兼容性更好
3.优化后:推理更快 + 成功率更高 + 性能更高
4.不优化 可能转 OM 失败、推理变慢
3.导出om模型
参照ATC工具指导 ,执行npu-smi info查看芯片名称,并赋值为${soc_version},执行ATC命令,生成PP-LCNet_x1_0_table_cls的om模型,文件名为inference_{arch}.om,模型{arch}后缀为当前使用的CPU操作系统。
atc --model=PP-LCNet_x1_0_table_cls/inference_opt.onnx \
--framework=5 \
--output=PP-LCNet_x1_0_table_cls/inference_linux_arch64 \
--soc_version=Ascend310P3 \
--input_shape="x:-1,3,224,224" \
--log=info参数含义:
| 参数 | 取值 | 详细解释 |
|---|---|---|
| --model | PP-LCNet_x1_0_table_cls/inference_opt.onnx | 指定待转换的ONNX 模型文件路径,为转换的原始输入模型 |
| --framework | 5 | 源模型框架标识,5 代表 ONNX 框架;0=Caffe、3=TensorFlow、5=ONNX |
| --output | PP-LCNet_x1_0_table_cls/inference_linux_arch64 | 输出 OM 模型前缀路径,工具自动补.om后缀,生成最终推理模型文件 |
| --soc_version | Ascend310P3 | 指定适配的昇腾芯片型号,必须与硬件实际芯片完全匹配 |
| --input_shape | x:-1,3,224,224 | 模型输入维度配置:・x:输入节点名称・-1:动态 batch,支持任意数量图片同时推理・3:RGB 三通道・224:模型输入高度・224:模型输入宽度 |
| --log | info | 日志输出级别,info 为输出常规编译信息,方便排查转换报错 |
| 注意:atc工具失效可能是python动态库配置问题,参考如下指令添加动态库路径,具体设置以实际python路径为准 |
export LD_LIBRARY_PATH=/usr/local/python3.11.10/lib:$LD_LIBRARY_PATH获取示例图像存放在工作路径,并执行推理脚本,脚本通过调用PaddleOCR接口进行产线推理,通过指定文本检测模块以及文本识别模块,解决了文本识别任务,将图片中的文字信息以文本形式输出。
wget https://paddle-model-ecology.bj.bcebos.com/paddlex/imgs/demo_image/seal_text_det.png -O test_seal.png
python3 infer.py推理执行完成后结果如下,解析结果存放于output目录,目录包含存有各项中间结果的json文件以及可视化结果图像。
[INFO] acl init success
[INFO] open device 0 success
[INFO] create new context
[INFO] load model PP-LCNet_x1_0_table_cls/inference_linux_aarch64.om success
[INFO] create model description success
推理成功!
结果已保存到 output 目录
[INFO] unload model success, model Id is 2147483648
[INFO] end to reset device 0
[INFO] end to finalize acl
推理结果:

1.下载测试集:
mkdir -p dataset
# 下载官方 demo 数据集(公开、可用)
wget https://paddle-model-ecology.bj.bcebos.com/paddlex/data/table_cls_examples.tar -P ./dataset
# 解压
tar -xf ./dataset/table_cls_examples.tar -C ./dataset/2.执行性能测试:
python benchmark_cls_om.py3.执行结果:
==============================================
PP-LCNet 表格分类 OM 模型性能测试
==============================================
测试图片数量 : 512 张
总耗时 : 5.68 s
平均耗时 : 11.09 ms/张
FPS : 90.19
==============================================
[INFO] unload model success, model Id is 2147483648
[INFO] end to reset device 0
[INFO] end to finalize acl