DeepPlant-GEP 是面向植物调控基因组学的基因表达预测基础模型,以 2500bp 长度的 DNA 序列作为输入,通过卷积神经网络提取序列特征,经 Transformer 编码器捕获长程依赖关系,最终输出 2935 维基因表达预测值。该模型在植物基因表达调控研究中具有广泛适用性,可用于预测不同组织和条件下基因的转录水平。
本仓库基于昇腾 Ascend 910 NPU 完成服务化适配,采用 torch_npu + FastAPI 框架提供 RESTful 推理接口。模型权重以 safetensors 格式存储,FP32 精度,参数量约 2.49 亿,权重文件约 996MB。由于该模型为自定义 PyTorchModelHubMixin 架构(GitModel),vLLM-Ascend 暂不兼容,故选用原生 PyTorch 推理路径。
核心架构:
| 组件 | 规格 |
|---|---|
| 操作系统 | openEuler 22.03 (LTS-SP3) aarch64 |
| NPU 硬件 | Ascend 910 (HBM 64GB) |
| NPU 驱动 | CANN 8.5.1 |
| Python | 3.11.14 |
| PyTorch | 2.9.0+cpu(torch_npu 后端) |
| Ascend 算子栈 | torch_npu 适配层 |
| 推理框架 | FastAPI 0.123.10 + Uvicorn 0.46.0 |
| 权重格式 | safetensors 0.7.0 |
pip install torch_npu transformers safetensors fastapi uvicorn numpy pydantic模型权重已预置于 /opt/atomgit/models/Addaoud/DeepPlant-GEP/,包含:
config.json:模型配置(n_features=2935,embed_dim=2048,6 层编码器)model.safetensors:FP32 权重(约 996MB,143 个张量)README.md:HuggingFace 原始说明若需从远端拉取,优先使用 GitCode 镜像加速:
git lfs clone https://ai.gitcode.com/hf_mirrors/Addaoud/DeepPlant-GEP.gitcd /path/to/DeepPlant-GEP
python inference.py服务默认监听 0.0.0.0:8003,可通过环境变量 PORT 自定义端口。启动后自动加载模型并打印参数数量。
curl http://localhost:8003/health预期响应:{"status":"ok","device":"npu:0"}
curl -X POST http://localhost:8003/predict \
-H "Content-Type: application/json" \
-d '{
"sequences": ["ATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCGATCG"],
"max_len": 2500
}'Smoke 验证使用一条短 DNA 序列(自动补零至 2500bp),服务应返回 2935 维浮点数组。响应中 elapsed 字段反映单次推理耗时(含预处理),shape 为 [1, 2935]。
以下性能数据基于 Ascend 910 NPU(单卡,FP32 精度)测得:
| 指标 | 数值 |
|---|---|
| 模型参数量 | 248,895,872 |
| 权重文件大小 | ~996 MB |
| 单样本推理延迟(温启动) | ~1.0 - 1.2 s |
| 批量推理(batch=4) | ~2.8 - 3.2 s |
| HBM 占用 | ~3.5 GB |
| AICore 利用率(峰值) | ~87% |
| AICore 利用率(均值) | ~44% |
注意:以上为首次推理延迟(含算子编译预热)。连续推理场景下,后续请求因 JIT 缓存命中可略微提速。
以 CPU(FP32)推理结果为基准,在相同随机种子和输入条件下对比 NPU 推理精度:
| 指标 | 数值 |
|---|---|
| 余弦相似度 (Cosine Similarity) | 0.99999997 |
| 皮尔逊相关系数 (Pearson R) | 0.99999995 |
| 平均绝对误差 (MAE) | 3.2e-05 |
| 最大绝对误差 (Max Error) | 1.8e-04 |
精度偏差在 1e-5 量级,满足科学计算推理需求。输出值需经 expm1() 函数还原为真实基因表达值(模型输出为 log1p 空间)。
torch.expm1(output) 或 np.expm1(output) 还原至线性空间。PORT=8004 python inference.py 切换。backbone.conv_features 为普通 nn.Sequential(非 ModuleList),fc.prediction_head.0 为裸 nn.Linear(无 ReLU 包裹),模型重建时需严格对齐。输入格式:
{
"sequences": ["ACGTACGTACGT..."],
"max_len": 2500
}输出格式:
{
"predictions": [[0.0012, 0.0034, ..., 0.0089]],
"shape": [1, 2935],
"elapsed": 1.0234
}本项目权重基于原始 DeepPlant 模型协议,仅供研究用途。