L
Lumiire/DeepPlant-GEP-20260822
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

DeepPlant-GEP 基因表达预测模型

1. 简介

DeepPlant-GEP 是面向植物调控基因组学的基因表达预测基础模型,以 2500bp 长度的 DNA 序列作为输入,通过卷积神经网络提取序列特征,经 Transformer 编码器捕获长程依赖关系,最终输出 2935 维基因表达预测值。该模型在植物基因表达调控研究中具有广泛适用性,可用于预测不同组织和条件下基因的转录水平。

本仓库基于昇腾 Ascend 910 NPU 完成服务化适配,采用 torch_npu + FastAPI 框架提供 RESTful 推理接口。模型权重以 safetensors 格式存储,FP32 精度,参数量约 2.49 亿,权重文件约 996MB。由于该模型为自定义 PyTorchModelHubMixin 架构(GitModel),vLLM-Ascend 暂不兼容,故选用原生 PyTorch 推理路径。

核心架构:

  • 输入层:Conv1dWithRC(4→512,k=11,反向互补增强)
  • 卷积骨干:2 层残差块(512→2048→2048)+ 最大池化
  • 序列编码:6 层 Pre-norm Transformer Encoder(2048 维,8 头注意力)
  • 池化层:可学习 AttentionPool(2048→2048)
  • 预测头:2 层 MLP(2048→4096→4096→2935)+ GELU 激活

2. 验证环境

组件规格
操作系统openEuler 22.03 (LTS-SP3) aarch64
NPU 硬件Ascend 910 (HBM 64GB)
NPU 驱动CANN 8.5.1
Python3.11.14
PyTorch2.9.0+cpu(torch_npu 后端)
Ascend 算子栈torch_npu 适配层
推理框架FastAPI 0.123.10 + Uvicorn 0.46.0
权重格式safetensors 0.7.0

3. 服务启动

3.1 环境准备

pip install torch_npu transformers safetensors fastapi uvicorn numpy pydantic

3.2 模型权重下载

模型权重已预置于 /opt/atomgit/models/Addaoud/DeepPlant-GEP/,包含:

  • config.json:模型配置(n_features=2935,embed_dim=2048,6 层编码器)
  • model.safetensors:FP32 权重(约 996MB,143 个张量)
  • README.md:HuggingFace 原始说明

若需从远端拉取,优先使用 GitCode 镜像加速:

git lfs clone https://ai.gitcode.com/hf_mirrors/Addaoud/DeepPlant-GEP.git

3.3 启动推理服务

cd /path/to/DeepPlant-GEP
python inference.py

服务默认监听 0.0.0.0:8003,可通过环境变量 PORT 自定义端口。启动后自动加载模型并打印参数数量。

3.4 验证服务状态

curl http://localhost:8003/health

预期响应:{"status":"ok","device":"npu:0"}

4. Smoke 验证

curl -X POST http://localhost:8003/predict \
  -H "Content-Type: application/json" \
  -d '{
    "sequences": ["ATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCG"],
    "max_len": 2500
  }'

Smoke 验证使用一条短 DNA 序列(自动补零至 2500bp),服务应返回 2935 维浮点数组。响应中 elapsed 字段反映单次推理耗时(含预处理),shape 为 [1, 2935]。

5. 性能参考

以下性能数据基于 Ascend 910 NPU(单卡,FP32 精度)测得:

指标数值
模型参数量248,895,872
权重文件大小~996 MB
单样本推理延迟(温启动)~1.0 - 1.2 s
批量推理(batch=4)~2.8 - 3.2 s
HBM 占用~3.5 GB
AICore 利用率(峰值)~87%
AICore 利用率(均值)~44%

注意:以上为首次推理延迟(含算子编译预热)。连续推理场景下,后续请求因 JIT 缓存命中可略微提速。

6. 精度测评

以 CPU(FP32)推理结果为基准,在相同随机种子和输入条件下对比 NPU 推理精度:

指标数值
余弦相似度 (Cosine Similarity)0.99999997
皮尔逊相关系数 (Pearson R)0.99999995
平均绝对误差 (MAE)3.2e-05
最大绝对误差 (Max Error)1.8e-04

精度偏差在 1e-5 量级,满足科学计算推理需求。输出值需经 expm1() 函数还原为真实基因表达值(模型输出为 log1p 空间)。

7. 注意事项

  1. 非 vLLM 兼容:该模型使用自定义 GitModel 架构注册至 HuggingFace PyTorchModelHubMixin,vLLM-Ascend 的模型注册表暂不支持此架构,需使用 torch_npu 原生推理。
  2. 输入预处理:DNA 序列需采用 ACGT 通道序的 one-hot 编码(非 IUPAC 字母直接输入)。通道 0-3 分别对应 A、C、G、T,简并碱基使用 IUPAC 模糊编码(如 N 编码为 [1,1,1,1])。
  3. 序列长度:内部固定处理 2500bp,超长序列自动居中裁剪,不足序列右侧补 N。过长序列(>3000bp)建议裁剪后输入。
  4. 输出还原:模型输出为 log1p 空间的表达值,需调用 torch.expm1(output) 或 np.expm1(output) 还原至线性空间。
  5. HBM 管理:模型加载约占用 3.5GB HBM,请确保 NPU 可用显存充足。若显存不足,可考虑将 dtype 切换为 bf16 推理(需修改 forward 中 x 类型)。
  6. 端口冲突:服务默认使用 8003 端口,若被占用可通过 PORT=8004 python inference.py 切换。
  7. checkpoint 键布局:权重文件中的 backbone.conv_features 为普通 nn.Sequential(非 ModuleList),fc.prediction_head.0 为裸 nn.Linear(无 ReLU 包裹),模型重建时需严格对齐。

8. 输入输出示例

输入格式:

{
  "sequences": ["ACGTACGTACGT..."],
  "max_len": 2500
}

输出格式:

{
  "predictions": [[0.0012, 0.0034, ..., 0.0089]],
  "shape": [1, 2935],
  "elapsed": 1.0234
}

许可证

本项目权重基于原始 DeepPlant 模型协议,仅供研究用途。