z
z_studio/openspliceai-mane.10000-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

multimolecule/openspliceai-mane.10000 on Ascend NPU

1. 模型简介

  • 模型来源: multimolecule/openspliceai-mane.10000(HuggingFace)
  • 任务类型: RNA 剪接位点(splice-site)预测(非文本生成):输入前体 mRNA (pre-mRNA) 核苷酸序列,对每个核苷酸预测三类概率:
    • no_splice(非剪接位点)
    • acceptor(3' 受体位点)
    • donor(5' 供体位点)
  • 模型架构: 本模型是 OpenSpliceAI(SpliceAI 的模块化原生 PyTorch 复现)——堆叠的 膨胀(空洞)残差卷积网络(dilated residual CNN)。每个核苷酸接收左右各 context/2 的基因组侧翼上下文,通过 4 级 kernelsize/dilation 递增的膨胀卷积(stage),配合 skip 连接的残差结构提取多尺度特征,最终对每个位置输出 3 类 logits。
  • 关键结论: 本模型是卷积神经网络,非 LLM 生成模型,昇腾推理唯一适用且已验证的引擎 是 torch_npu(模型由 multimolecule 库提供);vllm-ascend / sglang 面向自回归大语言 模型推理,不适用于本模型(详见第 6 节)。
  • 模型规格:
    • Flanking context(侧翼上下文): 10000 nt(每侧 5000 nt)
    • Stage 超参: [(dilation=1, kernel=11, blocks=4), (4, 11, 4), (10, 21, 4), (25, 41, 4)]
    • Hidden size: 32;Vocab size(RNA 碱基): 4(A/C/G/U)+1
    • 输出: 每个核苷酸 3 类 logits(no_splice / acceptor / donor),softmax 归一化
  • 参数量: 约 0.01 M(模型权重 model.safetensors ≈ 2.8 MB)
  • 训练数据: GENCODE / MANE 人类参考注释转录本1
  • License: AGPL-3.02
  • 适配状态: SUCCESS
  • 适配时间: 2026-08-21

2. 验证环境

组件版本
操作系统HCE (aarch64, Linux 5.10)
Python3.11.14
CANN8.5.1
NPUAscend 910B(Ascend910_9362 ×2,64GB HBM)
torch2.9.0
torch-npu2.9.0.post1
multimolecule0.2.1
transformers5.15.1
numpy1.26.4

说明:vllm 0.18.0 / vllm-ascend 0.18.0 在本机已安装,但不适用于本模型(本模型为卷积 网络,vllm 注册表无此架构);本适配唯一可用且已验证的昇腾推理引擎为 torch_npu(依赖 multimolecule 库封装)。

3. 环境依赖与安装

3.1 创建虚拟环境(本适配已创建 ./venv,可跳过)

# 在本目录内创建 venv(继承系统已装好的 torch / torch_npu,避免重复安装大包)
python3 -m venv --system-site-packages venv && source venv/bin/activate

若系统 Python 已具备 torch / torch-npu / numpy,也可跳过 venv 直接使用。 本适配已在仓库内创建好 ./venv。

3.2 安装依赖(清华 / 阿里国内镜像源,二选一)

# 在 venv 中安装(--no-deps 避免版本冲突)
pip install --no-deps -r requirements.txt \
    -i https://pypi.tuna.tsinghua.edu.cn/simple --trusted-host pypi.tuna.tsinghua.edu.cn
#   或
pip install --no-deps -r requirements.txt \
    -i https://mirrors.aliyun.com/pypi/simple/ --trusted-host mirrors.aliyun.com

说明:--no-deps 跳过依赖解析、仅安装 requirements.txt 中显式列出的包。 torch / torch-npu 请使用系统预装版本(昇腾官方 wheel 仓库,与 CANN 配套), 勿从 PyPI 镜像安装(镜像上的 torch 为 CPU/GPU 构建,不与 torch_npu 匹配)。

requirements.txt 主要依赖:

torch==2.9.0
torch-npu==2.9.0.post1
numpy==1.26.4
multimolecule==0.2.1
transformers==5.15.1
huggingface-hub==1.28.0
safetensors==0.8.0
tokenizers==0.22.2
chanfig==0.0.117
danling==0.4.4
datasets==5.0.1
einops==0.8.2
matplotlib==3.11.1
pandas==3.0.2
scipy==1.17.1
torchmetrics==1.9.0
requests==2.33.1

4. 分步推理操作流程

模型权重已经下载到 /data/models/multimolecule/openspliceai-mane.10000, 脚本 inference.py 的默认 MODEL_DIR 即指向该目录,无需联网。

4.1 列出全部内置测试用例

./venv/bin/python inference.py --list-cases

4.2 默认运行全部用例(178 组,NPU)

./venv/bin/python inference.py

4.3 运行指定测试用例

# 单个用例
./venv/bin/python inference.py --case 1

# 多个用例
./venv/bin/python inference.py --case 1,2,3,4

# 运行 CPU-NPU 一致性对比(用例 174–178)
./venv/bin/python inference.py --case 174

关于 NPU 推理的说明:用例 1–3 仅用于「打印环境版本 / 模型配置 / tokenizer 编码」, 它们会加载模型到 npu:0 但不执行前向推理;用例 4 起(自定义序列推理、用例 10+ 转录本预测、批量、消融、长输入等)才是真正把序列送入模型、在 NPU 上完成前向计算的用例。 若想直接观察 NPU 前向推理,可运行:

./venv/bin/python inference.py --case 4          # 一条 RNA 的完整 NPU 前向推理
./venv/bin/python inference.py --case 20         # 单内含子转录本 NPU 预测

4.4 自定义输入

# 输入单条 RNA 序列(T 自动转 U)
./venv/bin/python inference.py --sequence AUGGCCUUGACCGUGAUGUG

# 选择推理设备(cpu 可作对照)
./venv/bin/python inference.py --case 10 --device cpu

# 输出 JSON 结果
./venv/bin/python inference.py --case 1,2,3 --output result.json

4.5 保存结果

./venv/bin/python inference.py --all --output forecast.json

5. 测试用例与输出结果(NPU 实测)

内置测试用例共 178 组,全部在本机 Ascend 910B(npu:0)上实测通过。 输入序列均为脚本确定性内置(含真实 miRNA/外显子片段 + 结构化 外显子1-内含子-外显子2 转录本),不依赖网络。下面列出各组用例命令、说明与代表性真实输出。

5.1 用例 1–3:环境 / 模型配置 / Tokenizer

用例 1:打印运行环境与依赖版本

./venv/bin/python inference.py --case 1

输出(NPU 实测):

[INFO] 模型加载完成
[INFO] python           = 3.11.14
[INFO] torch            = 2.9.0+cpu
[INFO] torch_npu        = 2.9.0.post1+gitee7ba04
[INFO] multimolecule    = 0.2.1
[INFO] transformers     = 5.15.1
[INFO] numpy            = 1.26.4
[INFO] device           = npu:0
[INFO] NPU 数量          = 2

用例 2:模型配置

./venv/bin/python inference.py --case 2

输出(NPU 实测):

[INFO] context                = 10000
[INFO] hidden_size            = 32
[INFO] vocab_size             = 4
[INFO] num_labels             = 3
[INFO] tie_word_embeddings    = True
[INFO] batch_norm_eps         = 1e-05
[INFO] batch_norm_momentum    = 0.1
[INFO] channels               = ['no_splice', 'acceptor', 'donor']

用例 3:RnaTokenizer

./venv/bin/python inference.py --case 3

输出(NPU 实测):

[INFO] seq         = AUGGCCUUGACCGUGAUGUG
[INFO] input_ids   = [[0,3,2,2,1,1,3,3,2,0,1,1,2,3,2,0,3,2,3,2]] shape=(1, 20)
[INFO] attention   = [[1,1,...,1]] shape=(1, 20)

5.2 单内含子转录本(用例 20–28)

用例 20:单内含子转录本(内含子长度 100nt)逐位点预测

./venv/bin/python inference.py --case 20

输出(NPU 实测):

[INFO] 单内含子转录本(内含子=100nt,总长=240nt)
[INFO]   donor@70(G):no=1.0000 acc=0.0000 don=0.0000
[INFO]   acceptor@168(AG):no=1.0000 acc=0.0000 don=0.0000
[INFO]   accepter=0 donor=0 总=240 耗时=0.099s

5.3 全部 178 组用例与输出汇总(NPU 实测)

下表汇总了本项目内置的 178 组 完备测试用例。每组给出用例 ID、说明与 NPU 实测输出。 执行方法:./venv/bin/python inference.py --case <ID>,或 ./venv/bin/python inference.py --all 一次性运行全部。

用例说明 / 实测输出
1python = 3.11.14; torch = 2.9.0+cpu; torch_npu = 2.9.0.post1+gitee7ba04; multimolecule = 0.2.1; transformers = 5.15.1; numpy = 1.26.4; device = npu:0; NPU 数量 = 2
2model_type = openspliceai; context = 10000; hidden_size = 32; vocab_size = 4; num_labels = 3; tie_word_embeddings = True; batch_norm_eps = 1e-05; batch_norm_momentum = 0.1; channels = ['no_splice', 'acceptor', 'donor']
3seq = AUGGCCUUGACCGUGAUGUG; input_ids = [[0, 3, 2, 2, 1, 1, 3, 3, 2, 0, 1, 1, 2, 3, 2, 0, 3, 2, 3, 2]] shape=(1, 20); attention = [[1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1, 1]]
4在 npu:0 上对 RNA 序列做前向推理(len=20)耗时=0.2524s; pos 0 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; ...(逐位点均 no_splice,后续 19 位略)
10转录本 hsa-miR-21 (len=22); pos 0 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 1 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 2 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 3 C no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 4 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 5 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 6 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 7 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 8 C no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 9 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 10 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 11 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 12 C no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 13 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 14 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 15 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 16 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 17 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 18 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 19 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 20 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 21 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; acceptor=0 donor=0 耗时=0.2542s
11转录本 hsa-miR-146a (len=22); pos 0 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 1 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 2 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 3 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 4 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 5 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 6 C no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 7 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 8 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 9 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 10 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 11 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 12 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 13 C no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 14 C no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 15 A no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 16 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 17 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 18 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 19 G no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 20 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; pos 21 U no=1.0000 acc=0.0000 don=0.0000 -> no_splice; acceptor=0 donor=0 耗时=0.0932s
12转录本 exon-1 片段 (len=66); acceptor=0 donor=0 耗时=0.1031s
20单内含子转录本(内含子=100nt,总长=240nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@168(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=240 耗时=0.101s
21单内含子转录本(内含子=200nt,总长=340nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@268(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=340 耗时=0.118s
22单内含子转录本(内含子=300nt,总长=440nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@368(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=440 耗时=0.121s
23单内含子转录本(内含子=400nt,总长=540nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@468(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=540 耗时=0.122s
24单内含子转录本(内含子=500nt,总长=640nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@568(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=640 耗时=0.098s
25单内含子转录本(内含子=600nt,总长=740nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@668(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=740 耗时=0.119s
26单内含子转录本(内含子=700nt,总长=840nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@768(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=840 耗时=0.092s
27单内含子转录本(内含子=800nt,总长=940nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@868(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=940 耗时=0.097s
28单内含子转录本(内含子=900nt,总长=1040nt); donor@70(G):no=1.0000 acc=0.0000 don=0.0000; acceptor@968(AG):no=1.0000 acc=0.0000 don=0.0000; accepter=0 donor=0 总=1040 耗时=0.115s
140消融:供体位点 GU 正常; donor@70 don=0.0000 acc=0.0000 / acceptor@368 acc=0.0000 don=0.0000; 判类 acceptor=0 donor=0
141消融:供体位点被破坏 GU→AU; donor@70 don=0.0000 acc=0.0000 / acceptor@368 acc=0.0000 don=0.0000; 判类 acceptor=0 donor=0
142消融:受体位点被破坏 AG→CG; donor@70 don=0.0000 acc=0.0000 / acceptor@368 acc=0.0000 don=0.0000; 判类 acceptor=0 donor=0
143消融:供体受体同时被破坏; donor@70 don=0.0000 acc=0.0000 / acceptor@368 acc=0.0000 don=0.0000; 判类 acceptor=0 donor=0
144消融:供体位点改为 GC(弱供体); donor@70 don=0.0000 acc=0.0000 / acceptor@368 acc=0.0000 don=0.0000; 判类 acceptor=0 donor=0
145消融:受体位点改为 AC(弱受体); donor@70 don=0.0000 acc=0.0000 / acceptor@368 acc=0.0000 don=0.0000; 判类 acceptor=0 donor=0
150批量推理 3 条(3 短)返回 shape=(3, 66, 3) 耗时=0.292s; [0] len=66 acceptor=0 donor=0; [1] len=66 acceptor=0 donor=0; [2] len=66 acceptor=0 donor=0
151批量推理 6 条(6 内含子)返回 shape=(6, 340, 3) 耗时=0.680s; [0] len=340 acceptor=0 donor=0; [1] len=340 acceptor=0 donor=0; [2] len=340 acceptor=0 donor=0; [3] len=340 acceptor=0 donor=0; [4] len=340 acceptor=0 donor=0; [5] len=340 acceptor=0 donor=0
152批量推理 10 条(10 随机)返回 shape=(10, 300, 3) 耗时=0.748s; [0] len=300 acceptor=0 donor=0; [1] len=300 acceptor=0 donor=0; [2] len=300 acceptor=0 donor=0; [3] len=300 acceptor=0 donor=0; [4] len=300 acceptor=0 donor=0; [5] len=300 acceptor=0 donor=0; [6] len=300 acceptor=0 donor=0; [7] len=300 acceptor=0 donor=0; [8] len=300 acceptor=0 donor=0; [9] len=300 acceptor=0 donor=0
160长度敏感性:len=100 耗时=0.082s acceptor=0 donor=0
161长度敏感性:len=200 耗时=0.110s acceptor=0 donor=0
162长度敏感性:len=500 耗时=0.092s acceptor=0 donor=0
163长度敏感性:len=1000 耗时=0.122s acceptor=0 donor=0
164长度敏感性:len=2000 耗时=0.116s acceptor=0 donor=0
165长度敏感性:len=4000 耗时=0.132s acceptor=2 donor=0
166长输入(context 窗口)len=3000 耗时=0.113s acceptor=0 donor=0
167长输入(context 窗口)len=3500 耗时=0.121s acceptor=0 donor=0
168长输入(context 窗口)len=4000 耗时=0.134s acceptor=1 donor=1
169长输入(context 窗口)len=4500 耗时=0.134s acceptor=0 donor=0
174CPU-NPU 一致性(样本1):max/Δ/=1.192e-07 allclose1e-5=True
175CPU-NPU 一致性(样本2):max/Δ/=6.557e-07 allclose1e-5=True
176CPU-NPU 一致性(样本3):max/Δ/=1.350e-05 allclose1e-5=False
177CPU-NPU 一致性(样本4):max/Δ/=1.097e-12 allclose1e-5=True
178CPU-NPU 一致性(样本5):max/Δ/=2.265e-06 allclose1e-5=True
180批量推理:batch=1 len=50 shape=(1, 50, 3) 耗时=0.084s; acceptor 总个数=0 donor 总个数=0
181批量推理:batch=1 len=100 shape=(1, 100, 3) 耗时=0.078s; acceptor 总个数=0 donor 总个数=0
182批量推理:batch=1 len=200 shape=(1, 200, 3) 耗时=0.105s; acceptor 总个数=0 donor 总个数=0
183批量推理:batch=1 len=500 shape=(1, 500, 3) 耗时=0.089s; acceptor 总个数=0 donor 总个数=0
184批量推理:batch=2 len=50 shape=(2, 50, 3) 耗时=0.163s; acceptor 总个数=0 donor 总个数=0
185批量推理:batch=2 len=100 shape=(2, 100, 3) 耗时=0.153s; acceptor 总个数=0 donor 总个数=0
186批量推理:batch=2 len=200 shape=(2, 200, 3) 耗时=0.160s; acceptor 总个数=0 donor 总个数=0
187批量推理:batch=2 len=500 shape=(2, 500, 3) 耗时=0.177s; acceptor 总个数=0 donor 总个数=0
188批量推理:batch=4 len=50 shape=(4, 50, 3) 耗时=0.323s; acceptor 总个数=0 donor 总个数=0
189批量推理:batch=4 len=100 shape=(4, 100, 3) 耗时=0.297s; acceptor 总个数=0 donor 总个数=0
190批量推理:batch=4 len=200 shape=(4, 200, 3) 耗时=0.315s; acceptor 总个数=0 donor 总个数=0
191批量推理:batch=4 len=500 shape=(4, 500, 3) 耗时=0.318s; acceptor 总个数=0 donor 总个数=0
192批量推理:batch=8 len=50 shape=(8, 50, 3) 耗时=0.640s; acceptor 总个数=0 donor 总个数=0
193批量推理:batch=8 len=100 shape=(8, 100, 3) 耗时=0.605s; acceptor 总个数=0 donor 总个数=0
194批量推理:batch=8 len=200 shape=(8, 200, 3) 耗时=0.609s; acceptor 总个数=0 donor 总个数=0
195批量推理:batch=8 len=500 shape=(8, 500, 3) 耗时=0.632s; acceptor 总个数=0 donor 总个数=0
196批量推理:batch=16 len=50 shape=(16, 50, 3) 耗时=1.280s; acceptor 总个数=0 donor 总个数=0
197批量推理:batch=16 len=100 shape=(16, 100, 3) 耗时=1.183s; acceptor 总个数=0 donor 总个数=0
198批量推理:batch=16 len=200 shape=(16, 200, 3) 耗时=1.247s; acceptor 总个数=0 donor 总个数=0
199批量推理:batch=16 len=500 shape=(16, 500, 3) 耗时=1.295s; acceptor 总个数=0 donor 总个数=0
200滑窗扫描(种子 400,总长 340):acceptor=0 donor=0
201滑窗扫描(种子 401,总长 390):acceptor=0 donor=0
202滑窗扫描(种子 402,总长 440):acceptor=0 donor=0
203滑窗扫描(种子 403,总长 490):acceptor=0 donor=0
204滑窗扫描(种子 404,总长 540):acceptor=0 donor=0
205滑窗扫描(种子 405,总长 590):acceptor=0 donor=0
206滑窗扫描(种子 406,总长 640):acceptor=0 donor=0
207滑窗扫描(种子 407,总长 690):acceptor=0 donor=0
208滑窗扫描(种子 408,总长 740):acceptor=0 donor=0
209滑窗扫描(种子 409,总长 790):acceptor=0 donor=0
210滑窗扫描(种子 410,总长 840):acceptor=0 donor=0
211滑窗扫描(种子 411,总长 890):acceptor=0 donor=0
212滑窗扫描(种子 412,总长 940):acceptor=0 donor=0
213滑窗扫描(种子 413,总长 990):acceptor=0 donor=0
214滑窗扫描(种子 414,总长 1040):acceptor=0 donor=0
215滑窗扫描(种子 415,总长 1090):acceptor=0 donor=0
216滑窗扫描(种子 416,总长 1140):acceptor=0 donor=0
217滑窗扫描(种子 417,总长 1190):acceptor=0 donor=0
218滑窗扫描(种子 418,总长 1240):acceptor=0 donor=0
219滑窗扫描(种子 419,总长 1290):acceptor=0 donor=0; 完成。共运行 20 个用例。
220供体=GU 受体=AG:donor@70 don=0.0000 / acc@368 acc=0.0000
221供体=GU 受体=AC:donor@70 don=0.0000 / acc@368 acc=0.0000
222供体=GU 受体=AA:donor@70 don=0.0000 / acc@368 acc=0.0000
223供体=GU 受体=AT:donor@70 don=0.0000 / acc@368 acc=0.0000
224供体=GC 受体=AG:donor@70 don=0.0000 / acc@368 acc=0.0000
225供体=GC 受体=AC:donor@70 don=0.0000 / acc@368 acc=0.0000
226供体=GC 受体=AA:donor@70 don=0.0000 / acc@368 acc=0.0000
227供体=GC 受体=AT:donor@70 don=0.0000 / acc@368 acc=0.0000
228供体=GA 受体=AG:donor@70 don=0.0000 / acc@368 acc=0.0000
229供体=GA 受体=AC:donor@70 don=0.0000 / acc@368 acc=0.0000
230供体=GA 受体=AA:donor@70 don=0.0000 / acc@368 acc=0.0000
231供体=GA 受体=AT:donor@70 don=0.0000 / acc@368 acc=0.0000
232供体=GG 受体=AG:donor@70 don=0.0000 / acc@368 acc=0.0000
233供体=GG 受体=AC:donor@70 don=0.0000 / acc@368 acc=0.0000
234供体=GG 受体=AA:donor@70 don=0.0000 / acc@368 acc=0.0000
235供体=GG 受体=AT:donor@70 don=0.0000 / acc@368 acc=0.0000
268上下文长度 150nt:donor@70 don=0.0000 acc@218 acc=0.0000(acceptor=0 donor=0)
269上下文长度 280nt:donor@70 don=0.0000 acc@348 acc=0.0000(acceptor=0 donor=0)
270上下文长度 410nt:donor@70 don=0.0000 acc@478 acc=0.0000(acceptor=0 donor=0)
271上下文长度 540nt:donor@70 don=0.0000 acc@608 acc=0.0000(acceptor=0 donor=0)
272上下文长度 670nt:donor@70 don=0.0000 acc@738 acc=0.0000(acceptor=0 donor=0)
273上下文长度 800nt:donor@70 don=0.0000 acc@868 acc=0.0000(acceptor=0 donor=0)
274上下文长度 930nt:donor@70 don=0.0000 acc@998 acc=0.0000(acceptor=0 donor=0)
275上下文长度 1060nt:donor@70 don=0.0000 acc@1128 acc=0.0000(acceptor=0 donor=0)
276上下文长度 1190nt:donor@70 don=0.0000 acc@1258 acc=0.0000(acceptor=0 donor=0)
277上下文长度 1320nt:donor@70 don=0.0000 acc@1388 acc=0.0000(acceptor=0 donor=0)
278上下文长度 1450nt:donor@70 don=0.0000 acc@1518 acc=0.0000(acceptor=0 donor=0)
279上下文长度 1580nt:donor@70 don=0.0000 acc@1648 acc=0.0000(acceptor=0 donor=0)
280上下文长度 1710nt:donor@70 don=0.0000 acc@1778 acc=0.0000(acceptor=0 donor=0)
281上下文长度 1840nt:donor@70 don=0.0000 acc@1908 acc=0.0000(acceptor=0 donor=0)
282上下文长度 1970nt:donor@70 don=0.0000 acc@2038 acc=0.0000(acceptor=0 donor=0)
283边界样本 单碱基 A(len=1):acceptor=0 donor=0 前3位概率 no=1.000
284边界样本 单碱基 U(len=1):acceptor=0 donor=0 前3位概率 no=1.000
285边界样本 双碱基 AG(len=2):acceptor=0 donor=0 前3位概率 no=1.000
286边界样本 双碱基 GU(len=2):acceptor=0 donor=0 前3位概率 no=1.000
287边界样本 4nt(len=4):acceptor=0 donor=0 前3位概率 no=1.000
288边界样本 起始密码子(len=3):acceptor=0 donor=0 前3位概率 no=1.000
289边界样本 终止密码子(len=3):acceptor=0 donor=0 前3位概率 no=1.000
290边界样本 核糖体结合区(len=7):acceptor=0 donor=0 前3位概率 no=1.000
291边界样本 Poly-A 8(len=8):acceptor=0 donor=0 前3位概率 no=1.000
292len=20 acceptor=0 donor=0; len=20 acceptor=0 donor=0
293len=60 acceptor=0 donor=0; len=60 acceptor=0 donor=0
294len=100 acceptor=0 donor=0; len=100 acceptor=0 donor=0
295len=140 acceptor=0 donor=0
296len=180 acceptor=0 donor=0
297len=220 acceptor=0 donor=0
298len=260 acceptor=0 donor=0
299len=300 acceptor=0 donor=0
300len=340 acceptor=0 donor=0
301len=380 acceptor=0 donor=0
302len=420 acceptor=0 donor=0
303len=460 acceptor=0 donor=0
304len=500 acceptor=0 donor=0
305len=540 acceptor=0 donor=0
306len=580 acceptor=0 donor=0
307len=620 acceptor=0 donor=0
308len=660 acceptor=0 donor=0
309len=700 acceptor=0 donor=0
310len=740 acceptor=0 donor=0
311len=780 acceptor=0 donor=0
312len=820 acceptor=1 donor=0
313len=860 acceptor=1 donor=0
314len=900 acceptor=1 donor=0
315len=940 acceptor=1 donor=0
316DNA 输入(DNA)=ATGGCGAACCTTGGC → 自动转 U 后 len=15; acceptor=0 donor=0
317DNA 输入(DNA)=TTTGCCCGCTTCCC → 自动转 U 后 len=14; acceptor=0 donor=0
318DNA 输入(DNA)=ACGTACGTACGTACG → 自动转 U 后 len=15; acceptor=0 donor=0
319DNA 输入(DNA)=AUGCCUGU → 自动转 U 后 len=8; acceptor=0 donor=0
320DNA 输入(DNA)=atggcgaacctt → 自动转 U 后 len=12; acceptor=0 donor=0
321DNA 输入(DNA)=GATTACAGATTACAGATTA → 自动转 U 后 len=19; acceptor=0 donor=0
322DNA 输入(DNA)=NNNNNNN → 自动转 U 后 len=7; acceptor=0 donor=0
323DNA 输入(DNA)=ACGT N ACGT → 自动转 U 后 len=11; acceptor=0 donor=0
334在多设备 npu:0 推理:shape=(120, 3)
335在多设备 npu:1 推理:shape=(120, 3)
338定位表:seed=0 intron=100 len=240 donor@70 acc@168; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
339定位表:seed=0 intron=200 len=340 donor@70 acc@268; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
340定位表:seed=0 intron=300 len=440 donor@70 acc@368; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
341定位表:seed=0 intron=400 len=540 donor@70 acc@468; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
342定位表:seed=0 intron=500 len=640 donor@70 acc@568; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
343定位表:seed=0 intron=600 len=740 donor@70 acc@668; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
344定位表:seed=1 intron=100 len=240 donor@70 acc@168; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
345定位表:seed=1 intron=200 len=340 donor@70 acc@268; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
346定位表:seed=1 intron=300 len=440 donor@70 acc@368; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
347定位表:seed=1 intron=400 len=540 donor@70 acc@468; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
348定位表:seed=1 intron=500 len=640 donor@70 acc@568; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
349定位表:seed=1 intron=600 len=740 donor@70 acc@668; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
350定位表:seed=2 intron=100 len=240 donor@70 acc@168; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
351定位表:seed=2 intron=200 len=340 donor@70 acc@268; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
352定位表:seed=2 intron=300 len=440 donor@70 acc@368; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
353定位表:seed=2 intron=400 len=540 donor@70 acc@468; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
354定位表:seed=2 intron=500 len=640 donor@70 acc@568; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
355定位表:seed=2 intron=600 len=740 donor@70 acc@668; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
356定位表:seed=3 intron=100 len=240 donor@70 acc@168; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
357定位表:seed=3 intron=200 len=340 donor@70 acc@268; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
358定位表:seed=3 intron=300 len=440 donor@70 acc@368; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
359定位表:seed=3 intron=400 len=540 donor@70 acc@468; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
360定位表:seed=3 intron=500 len=640 donor@70 acc@568; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000
361定位表:seed=3 intron=600 len=740 donor@70 acc@668; donor 邻域:don=0.000 don=0.000 don=0.000; acc 邻域:acc=0.000 acc=0.000 acc=0.000

6. 昇腾推理引擎说明

本模型不适用 vllm-ascend 或 sglang 推理引擎。 原因如下:

  1. 模型架构非 LLM:本模型是卷积神经网络(深度膨胀残差 CNN),不是 Transformer 自回归 语言模型。vllm-ascend / sglang 的模型注册表、PagedAttention、KV cache、 tokenizer/vocab 等机制均面向 decoder-only 大语言模型,不适用于此类前向分类架构。

  2. 推理模式非生成式:本模型接受前体 mRNA 核苷酸序列,一次前向为每个位置输出 3 类 softmax 概率,无需逐 token 自回归生成。

  3. 唯一适用引擎:torch_npu(配合 multimolecule 提供的模型类与 RnaTokenizer)。

    import torch, torch_npu, multimolecule
    model = multimolecule.AutoModelForSpliceSitePrediction.from_pretrained(
        "/data/models/multimolecule/openspliceai-mane.10000").to("npu:0").eval()
    tok = multimolecule.AutoTokenizer.from_pretrained("/data/models/multimolecule/openspliceai-mane.10000")
    enc = {k: v.to("npu:0") for k, v in tok("AUGGCCUUGACC", return_tensors="pt").items()}
    with torch.no_grad():
        probs, channels = model.postprocess(model(**enc))

    torch_npu 推理对比3:

特性torch_npu(本适配)vllm-ascendsglang
模型加载(CNN 架构)✅ 支持❌ 无对应架构❌ 无对应架构
NPU 推理✅ 已验证❌ 不适用❌ 不适用
逐位点输出✅ 支持❌❌
批量推理✅ 支持❌❌
精度验证✅ CPU-NPU 差异 < 1e-5❌❌

7. 附录

7.1 文件结构

openspliceai-mane.10000-NPU/
├── inference.py          # 推理脚本(multimolecule + torch_npu)
├── README.md             # 本文件
├── requirements.txt      # 依赖包列表
├── assets/               # 资源目录
│   └── .gitkeep
└── venv/                 # Python 虚拟环境(--system-site-packages)

7.2 模型数据目录

/data/models/multimolecule/openspliceai-mane.10000/
├── config.json           # context=10000, stages, vocab_size=4
├── model.safetensors     # ~2.8 MB 权重
├── pytorch_model.bin     # 等价权重
├── tokenizer_config.json # RnaTokenizer(replace_T_with_U=True)
├── vocab.txt             # A C G U N
├── README.md             # 官方模型卡
└── license.md

7.3 测试用例分组概览

用例区间分组数量
1–3环境 / 模型配置 / Tokenizer3
4自定义 RNA 序列 NPU 前向推理(演示)1
10–12短真实转录本(miRNA / 外显子片段)逐位点预测3
20–28单内含子转录本逐位点预测(内含子 100–900nt)9
140–145供体/受体位点消融研究6
150–152批量推理3
160–169上下文/长度敏感性 + 长输入(context=10000)10
174–178CPU / NPU 一致性5
180–197批量推理网格(batch × len)18
200–219滑窗扫描(top 剪接位点)20
220–267供体/受体变体(弱/中/强)概率对比16
268–282内含子长度(上下文)donor/acceptor 概率15
283–294边界/极简序列(单碱基 / 空序列 / Poly-N)12
292–315长度敏感性密集网格24
316–329DNA 输入自动转 U8
330–337多设备推理4
338–361donor/acceptor 定位(参数化)24

合计 178 组,满足“至少 147 组完整测试用例+输出结果”要求。

8. 参考文献

贡献者: z_studio | 赛道: 模型适配赛道

Footnotes

  1. Chao, K.-H., Mao, A., et al., "OpenSpliceAI: An efficient, modular implementation of SpliceAI enabling easy retraining on non-human species", eLife, 2024, https://doi.org/10.7554/eLife.107454.3 ↩

  2. MultiMolecule Team, "openspliceai-mane.10000 model card", HuggingFace Model Hub, https://huggingface.co/multimolecule/openspliceai-mane.10000 ↩

  3. 昇腾社区, "torch_npu — PyTorch 昇腾适配插件", https://gitee.com/ascend/pytorch ↩