在 Ascend NPU 上运行 Chandra OCR 2

本仓库提供针对 datalab-to/chandra-ocr-2 的仅限本地使用的 Ascend NPU 前向推理入口。该入口需要 NPU，不包含 CPU 或 CUDA 推理路径。

模型来源

镜像：https://ai.gitcode.com/hf_mirrors/datalab-to/chandra-ocr-2
版本：af93b47dba1b47b6640c86ccf487ed2260ab9a09
模型许可证：随固定快照分发的 OpenRAIL 条款

请在本仓库的同级目录中准备完全一致的模型：

git clone https://gitcode.com/hf_mirrors/datalab-to/chandra-ocr-2.git ../model
git -C ../model checkout af93b47dba1b47b6640c86ccf487ed2260ab9a09
git -C ../model lfs pull

环境

后半段验证使用了 CANN 8.5.1、PyTorch 2.9.0 和 torch_npu 2.9.0.post1。请勿通过 requirements.txt 替换该平台栈。仅将模型层安装到一个独立的相对目录中：

python3 -m pip install --no-deps --target ../pydeps -r requirements.txt
export PYTHONNOUSERSITE=1
export PYTHONPATH="$PWD/../pydeps:$PYTHONPATH"

运行

source /usr/local/Ascend/ascend-toolkit/set_env.sh
python3 inference.py \
  --model_path ../model \
  --device npu:0 \
  --seed 20260819 \
  --output_json result.json

该脚本严格加载本地 Qwen3.5 条件生成 checkpoint，将模型和确定性输入张量移动到指定 NPU，并执行一次真实前向传播。结果记录请求设备、模型设备、输入设备、输出设备、输入与输出形状、输出值数量、NaN/Inf 数量、NPU 内存和退出状态。NaN/Inf 数量仅用于报告，不作为通过门禁。EVIDENCE_HOLD_SECONDS 可使活动 NPU 张量最多保留 600 秒。

局限性

权重不会在此处重新分配。该确定性短输入用于验证 NPU 执行路径，并不构成 OCR 质量评估。

验证证据

两个 DS-V4-Flash 工作流视图均为独立的、仅包含计划的会话：一个是整体的 Ascend NPU 迁移设计，另一个是单独的依赖项、算子、全 NPU 验证与故障排查计划。它们不会执行工具，也不会修改仓库文件。

DS-V4-Flash 整体 Ascend NPU 迁移计划

DS-V4-Flash 依赖项、算子、验证与故障排查计划

设备视图显示同一 Python PID 在两个不同时间点。结果视图展示同一次成功真实 NPU 运行的完整视图和简洁视图。

NPU 设备调用，第一时间点

NPU 设备调用，第二时间点

模型结果，完整视图

模型结果，简洁视图

本仓为 2301_76761127 队伍交付件（与备份账号合并提交）。