g
gcw_coj3XaOd/multimolecule_deepstarr
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

multimolecule/deepstarr - 昇腾 NPU 推理部署

1. 模型简介

模型名称: multimolecule/deepstarr

模型链接: HuggingFace

AtomGit 镜像: AtomGit

模型描述: DeepSTARR 是一个基于 CNN 的深度学习模型,用于从 DNA 序列预测增强子活性(enhancer activity)。模型同时预测两种增强子活性:developmental(发育特异性)和 housekeeping(持家基因型)。

模型架构: DeepStarrForSequencePrediction (自定义 CNN 架构)

  • 4 层 Conv1D + BatchNorm + ReLU + MaxPool
  • 2 层全连接 + BatchNorm
  • 回归输出头 (2 个输出)

参数规模: ~2.5M 参数

输入规格:

  • DNA 序列(长度 249 bp)
  • One-hot 编码(5 通道:N/A/C/G/T)

输出规格:

  • 2 个回归值:developmental_activity, housekeeping_activity

2. 环境依赖

依赖项版本要求说明
Python>= 3.10推荐 3.11
torch>= 2.1.0PyTorch 框架
torch_npu>= 2.1.0昇腾 NPU 后端
safetensors>= 0.4.0模型权重加载
numpy< 2.0数值计算
昇腾驱动CANN 8.0+推荐 CANN 8.5.1

安装命令:

pip install torch-npu==2.1.0 safetensors numpy<2.0

3. 推理步骤

3.1 环境准备

# 检查 NPU 设备
npu-smi info

# 验证 torch_npu
python3 -c "import torch_npu; import torch; print(torch.npu.device_count(), torch.npu.get_device_name(0))"

3.2 启动服务

DeepSTARR 为CNN回归模型,直接运行推理脚本即可,无需启动服务进程。

# 验证 NPU 环境
python3 -c "import torch_npu; import torch; print(torch.npu.device_count(), torch.npu.get_device_name(0))"

3.3 模型下载

方式一:HuggingFace(推荐)

huggingface-cli download multimolecule/deepstarr --local-dir ./model_files

方式二:AtomGit 镜像(HuggingFace 下载慢时使用)

git clone https://ai.gitcode.com/hf_mirrors/multimolecule/deepstarr.git model_files

3.4 推理调用

# 单条推理
python inference.py --model-path ./model_files

# 指定 NPU 设备
python inference.py --model-path ./model_files --device 0

# 批量推理
python inference.py --model-path ./model_files --batch-size 8

3.5 推理参数说明

参数类型默认值说明
--model-pathstr必填模型 checkpoint 路径
--deviceint0NPU 设备索引
--batch-sizeint1批处理大小

4. 推理成功日志

4.1 单条推理日志

[模型] multimolecule/deepstarr
[设备] Ascend910 (npu:0)
[输入] DNA序列 ACGTACGT... (length=249, one-hot [1,5,249])
[输出] developmental_activity=0.693466, housekeeping_activity=2.806709
[耗时] 125.93 ms
[状态] SUCCESS

4.2 批量推理日志

[基准测试] 10次推理统计:
  平均: 6.02 ms
  最小: 0.93 ms
  最大: 51.52 ms
  标准差: 15.99 ms
  P50: 0.97 ms
  P99: 51.52 ms

5. 测试样例及输出结果

样例 1:单条序列推理

输入序列:

ACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACG

运行命令:

python inference.py --model-path ./model_files

输出:

[TEST 1] Single sequence inference
  Input: DNA sequence (length=249)
  First 50 bases: ACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTAC
  Input shape: [1, 5, 249]
  Output: developmental_activity=0.693466, housekeeping_activity=2.806709
  Time: 125.93 ms
  Status: SUCCESS

样例 2:批量推理

运行命令:

python inference.py --model-path ./model_files --batch-size 3

输出:

[TEST 2] Batch inference (batch_size=3)
  Seq 1: ACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTACGTAC...
  Seq 2: ATGCATGCATGCATGCATGCATGCATGCATGCATGCATGCATGCATGCA...
  Seq 3: CGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATC...
  Output 1: developmental_activity=0.693466, housekeeping_activity=2.806709
  Output 2: developmental_activity=0.584032, housekeeping_activity=2.714526
  Output 3: developmental_activity=0.592493, housekeeping_activity=2.521914
  Time: 2.15 ms
  Status: SUCCESS

6. Agent适配截图

6.1 Agent 完整适配工作流

Agent 适配流程

6.2 NPU 设备调用日志

NPU 设备调用

6.3 模型适配结果

模型适配结果


7. 精度评测

测试数据: DeepSTARR 训练集 (随机生成的 DNA 序列)

评测指标:

指标结果说明
推理延迟 (单条)125.93 ms首次推理 (含模型加载)
推理延迟 (批量)0.93 ms预热后平均
模型参数量~2.5M-
输入序列长度249 bp固定长度
输出维度2回归值

评测命令:

python inference.py --model-path ./model_files

8. NPU 配置说明

  • NPU 型号: Ascend910
  • CANN 版本: 8.5.1
  • NPU 卡数: 1 (单卡)
  • 显存占用: ~136 MB (模型 + 中间变量)
  • Tensor Parallel: N/A (单卡模型)

9. 已知问题

无。模型已完整适配昇腾 NPU,所有算子均为原生 PyTorch 算子,可直接运行。