ProCapNet 是 CNN(一维膨胀卷积) 而非 decoder-only LLM,vLLM-Ascend 只支持 Transformer 自回归模型,无法加载该架构。因此本适配采用 torch_npu + FastAPI 实现 昇腾 NPU 上的服务化推理,算子均为原生 PyTorch(Conv1d / ReLU / LayerNorm 等), 在 Ascend 910 上可直接运行,无需修改模型代码。
| 组件 | 版本 |
|---|---|
| Python | 3.11.14 |
| torch | 2.9.0 |
| torch-npu | 2.9.0.post1 |
| CANN | 8.5.1 |
| multimolecule | 最新(pip 安装) |
| fastapi / uvicorn | 0.123.x / 0.46.x |
| NPU | Ascend 910B(Ascend910_9362) |
| 指标 | 数值 |
|---|---|
| 输出形状 | profile_logits (1, 1000, 2);count_logits (1, 1);track (1, 1000, 2) |
| 与官方实现 | 一致(MultiMolecule 团队确认与原始实现中间表示相同) |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 详见 assets/model_result.png(CLI 输出 latency_ms) |
| 峰值显存 | 模型仅 25.7 MB,占用极小 |
pip install torch==2.9.0 torch-npu==2.9.0.post1 multimolecule fastapi uvicorn
# 权重下载(任选其一)
HF_ENDPOINT=https://hf-mirror.com huggingface-cli download multimolecule/procapnet --local-dir ./models/procapnet
# 或
git clone https://ai.gitcode.com/hf_mirrors/multimolecule/procapnet.git ./models/procapnetpython3 inference.py --model ./models/procapnet --device npu:0 --sequence "ACGT"*529python3 inference.py --model ./models/procapnet --device npu:0 --serve --port 8000服务启动后:
# 健康检查
curl http://127.0.0.1:8000/health
# 模型信息
curl http://127.0.0.1:8000/v1/models
# 推理
curl -X POST http://127.0.0.1:8000/v1/predict \
-H 'Content-Type: application/json' \
-d '{"sequence": "ACGTACGT..."}'procapnet-npu/
├── inference.py # 推理脚本(CLI + FastAPI 服务化,必选)
├── README.md # 部署说明文档(必选)
├── requirements.txt # 环境依赖清单
└── assets/ # 截图素材文件夹(必选)
├── agent_workflow.png # 适配工作流截图
├── npu_device_call.png # NPU 设备调用截图
└── model_result.png # 模型推理结果截图贡献者: liuhongwei-2026 | 赛道: 模型适配赛道