Y
gcw_hhrLdMXW/genomics-tf-prediction-npu-deployment
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

genomics-tf-prediction 昇腾 NPU 部署文档

1. 模型简介

模型名称: genomics-tf-prediction(Genereux-akotenou/genomics-tf-prediction)

模型链接:

  • Hugging Face: https://huggingface.co/Genereux-akotenou/genomics-tf-prediction
  • AtomGit: https://ai.gitcode.com/hf_mirrors/Genereux-akotenou/genomics-tf-prediction

模型描述: 植物基因组转录因子(Transcription Factor, TF)结合位点预测模型仓:包含按 TF 家族(WRKY / bZIP / MYB / NAC 等 50+ 家族)训练的 Keras 前馈二分类器(FEEDFORWARD_k2~k5,输入 200 维 k-mer 基因组特征 → sigmoid 结合概率)以及 MetaClassifier 元分类器。本部署取 WRKY 家族 FEEDFORWARD_k2,从 .keras 权重文件(HDF5)直接重建 PyTorch 模型并在昇腾 NPU 上推理,无需安装 TensorFlow/Keras。

模型架构: 前馈 MLP:Dense512(ReLU) → Dropout → Dense128(ReLU) → Dropout → Dense64(ReLU) → Dropout → Dense1(Sigmoid),输入 200 维。

参数规模: 约 176.9K 参数(单模型)。

适配引擎: 昇腾 torch_npu(Keras 权重 → PyTorch 重建后 NPU 推理)。

2. 环境依赖

依赖项版本要求说明
Python>= 3.10(推荐 3.11)本机 3.11.14
CANN Toolkit8.0.RC2+本机 8.5.1
torch2.9.0+cpu本机
torch_npu2.9.0.post1昇腾 NPU 适配层
h5py3.x读取 .keras 内 HDF5 权重

无需 TensorFlow / Keras:本脚本直接解析 .keras(zip 内含 config.json + model.weights.h5),重建 PyTorch 等价模型。

硬件: 昇腾 Ascend910_9362(64GB HBM ×2)。

3. 推理步骤

3.1 获取权重

# 方式一:推理脚本自动下载
python3 inference.py --device npu:0     # 首次自动拉取 FEEDFORWARD_k2.keras

# 方式二:手动下载
mkdir -p model
curl -sSL -o model/FEEDFORWARD_k2.keras \
  "https://hf-mirror.com/Genereux-akotenou/genomics-tf-prediction/resolve/main/Binary-Classifier/WRKY/FEEDFORWARD_k2.keras"

3.2 检查 NPU 设备

npu-smi info
python3 -c "import torch, torch_npu; print(torch.npu.device_count())"   # 输出 2

3.3 运行推理

python3 inference.py --device npu:0 --warmup 3 --runs 20

4. 测试样例及输出结果

命令:

python3 inference.py --device npu:0 --warmup 3 --runs 20

输出(关键部分):

[模型加载] WRKY FEEDFORWARD_k2 完成 (Keras权重->PyTorch重建), 参数量 176.9K, 设备 npu:0
  架构: 200 维 k-mer 特征 -> Dense512/128/64(ReLU) -> Dense1(Sigmoid)
[推理] 合成基因组特征 (64, 200): 64 条 x 200 维 -> TF 结合概率
  概率范围: [0.0000, 1.0000]
  正例预测比例: 1.6% (随机特征多为非结合位点, 合理)
  前 10 条概率: [0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0, 0.0]
[性能基准] device=npu:0 warmup=3 runs=20
  平均推理时延 = 0.184 ms/批 (5438 批/s)
  (batch=64 x 200 维, sigmoid 二分类)

结果分析: Keras 前馈权重成功重建为 PyTorch 模型并在昇腾 NPU 上完成二分类推理,输出有效 sigmoid 概率(随机合成特征多为非结合位点,正例比例 1.6% 合理),推理时延 0.184ms/批,验收通过。

5. 注意事项

  • 模型仓包含 50+ TF 家族 × k=2~5 共 200+ 个 Keras 模型与 MetaClassifier;本部署选 WRKY FEEDFORWARD_k2 作代表(其余同架构可直接复用推理逻辑)。
  • .keras 是 zip 包:config.json(架构)+ model.weights.h5(权重,HDF5)。
  • Keras kernel 形状为 (in, out),重建 torch nn.Linear 需转置 .t()。
  • Dropout 层在推理时无效,重建模型未包含(推理等价)。
  • 无需 TensorFlow/Keras 运行时,仅需 h5py 读取权重。
  • 首次前向算子编译需预热。