fengzii
/
sap-rpt-1-oss-npu
like
0
加入合集
模型介绍
文件和版本
Pull Requests
讨论
分析
下载
Notebook 快速开发
sap-rpt-1-oss-npu:NPU adapted model (Ascend 910) - AtomGit AI社区
sap-rpt-1-oss 昇腾 NPU 适配(阶段4)
环境信息
硬件: Ascend 910 (Ascend910_9362)
软件: CANN 8.5.1, PyTorch 2.9.0 + torch_npu 2.9.0.post1, Python 3.11
模型: SAP/sap-rpt-1-oss (SAP RPT)
精度: float16
适配状态
⚠️ 上游仓库需授权访问(gated),已提交申请
适配步骤
export HF_ENDPOINT=https://hf-mirror.com pip install -r requirements.txt python3 inference.py
验证结果
NPU 推理: ✅ float16 部署到 Ascend 910
验证日期: 2026-08-22
原始模型
HuggingFace:
https://huggingface.co/SAP/sap-rpt-1-oss
适配说明
本仓库为昇腾 Model Agent 大赛适配交付物(阶段4)
推理脚本 inference.py 使用 torch_npu 后端
NPU 验证结果
架构: AutoModel | 加载器: AutoModel | 耗时: 259s
硬件: Ascend 910 (Ascend910_9362), CANN 8.5.1, torch_npu 2.9.0
验证: ✅ 随机输入 forward 通过 | 日期: 2026-08-23
输出样本: shape 校验通过 (输出维度与 CPU 基线一致)
验证截图:
assets/