S
Solis_caser/SpTransformer模型
模型介绍
文件和版本
Pull Requests
讨论
分析

SpTransformer 昇腾 NPU 适配

模型介绍

本仓库提供 multimolecule/sptransformer 的昇腾 NPU 推理入口,用于从固定长度 RNA 序列提取逐位置剪接相关表示,并固定模型版本、输入长度和真实 npu:0 设备以便复现。

上游模型

上游模型为 multimolecule/sptransformer。本适配使用 revision cb8ab1f834781820140842900014f89c359cf7a2,checkpoint 为 model.safetensors,大小 68,412,160 bytes,SHA-256 为 CC7E5F725C3A941B68427EB4F87FFB790A38BB901F80D6A26D3A92F1BF3C8F1A。

输入格式

可复现输入为 AGCAGUCAUUAUGGCGAA,预处理为大写、将 T 转为 U,再按 A/C/G/U/N 词表编码为不含 special token 的 input_ids。输入 dtype 为 torch.int64,形状为 [1, 18]。

NPU 环境

实测运行环境为 torch 2.9.0+cpu、torch_npu 2.9.0.post1+gitee7ba04 和 CANN 8.5.1,CANN 路径为 /usr/local/Ascend/cann-8.5.1。模型参数和输入位于 npu:0,模型与 last_hidden_state 使用 torch.float32,不设置 CPU fallback。

运行命令

在已提供 CANN、torch_npu、上游模型文件和应用依赖的昇腾环境中执行:

python inference.py --sequence AGCAGUCAUUAUGGCGAA --output result.json

实际结果

实测样本 AGCAGUCAUUAUGGCGAA 的真实 NPU 前向设备为 npu:0;输入 dtype 为 torch.int64、形状为 [1, 18];last_hidden_state dtype 为 torch.float32、形状为 [1, 18, 256];finite=true;记录耗时为 16.863 秒。

限制

本仓库固定上述 checkpoint、输入编码和 CANN/torch_npu 环境;不支持任意长度之外的输入契约、不支持 CPU fallback,也不上传模型权重、缓存、日志或会话文件。结果仅用于工程验证,不代表临床结论或真实患者数据。

许可证

上游模型卡和 SPDX 信息确认许可证为 AGPL-3.0-or-later。使用本仓库时请同时遵守上游模型及适配代码的许可证条款。

截图证据

以下三张图片来自同一次人工截取的终端取证,分别展示适配工作流、npu:0 设备调用和最终结果:

Model Agent 工作流

昇腾 NPU 设备调用

模型真实推理结果