S
Solis_caser/bpfold-ascend-npu
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

multimolecule/BPfold 昇腾 NPU 推理适配仓库

在昇腾 910(NPU)上对 RNA 二级结构预测模型 BPfold(multimolecule/bpfold)的真实推理, 使用固定 revision 的官方权重与官方真实样本,FP32 / eval / inference_mode / use_postprocess=False, 全部张量置于 npu:0,输出可复现的推理结果 JSON。


模型介绍

  • 模型:multimolecule.BpfoldModel + RnaTokenizer(multimolecule==0.2.1)
  • 权重仓库:multimolecule/bpfold
  • 固定 revision:b78209659805196964fc82a201e4d01a7d15e503
  • 仅下载 4 个文件:config.json、tokenizer_config.json、vocab.txt、model.safetensors
  • 权重强校验:
    • model.safetensors = 193669244 bytes
    • SHA256 = adeb1d56e2efb9d1e944bd2dccd6575e2ccf67331bacb4a28a0e40928e2e7bae
  • 官方真实样本:UAGCUUAUCAGACUGAUGUUGA(22 nt)

本仓库 不含 权重文件(仅保留清单与校验值,见 checkpoint/README.md 同级说明), 也不允许出现 pytorch_model.bin 或重复下载的 checkpoint。


上游模型

项目取值
精度FP32(float32)
模式eval() + torch.inference_mode()
后处理use_postprocess=False(contact_map = sigmoid(logits))
设备模型与 input_ids/attention_mask 全部 npu:0
输出形状logits / contact_map 均为 [1, 22, 22]
串行化所有 npu-smi、torch_npu 初始化与推理均经 flock 锁
锁flock -x -w 1800 /tmp/ascend-model-agent-npu-v1.lock
样本长度→形状22 nt → token 24(BOS+22+EOS)→ 自动去除特殊 token → 22×22

输入格式

adapt-multimolecule-bpfold/
├── inference.py                 # NPU 推理主脚本(含权重校验、flock、计时、结果落盘)
├── requirements.txt             # 依赖清单(不含 torch/torch_npu/CANN)
├── README.md                    # 本文档
├── checkpoint/
│   ├── README.md                # 权重说明(不入库)
│   ├── config.json              # 模型配置(仅本地使用,不入库)
│   ├── tokenizer_config.json    # 分词器配置(仅本地使用,不入库)
│   ├── vocab.txt                # 词表(仅本地使用,不入库)
│   └── model.safetensors        # 权重(仅本地使用,不入库,193669244B)
├── evidence/
│   ├── 01-environment.md        # 证据页 1:昇腾 NPU 环境与依赖
│   ├── 02-checkpoint-verify.md  # 证据页 2:固定权重校验
│   └── 03-inference-results.md  # 证据页 3:NPU 真实推理结果
└── outputs/
    └── inference_results.json   # 唯一真实推理结果

NPU 环境

4.1 预装环境(本机实测,不升级不卸载)

组件版本
Python3.11.14
torch2.9.0+cpu
torch_npu2.9.0.post1+gitee7ba04
CANN8.5.1(SOC_VERSION=ascend910_9391)
torch_npu 后端torch.npu.is_available() == True(Ascend910)

4.2 本仓库补齐的依赖(pip install --no-deps 逐项)

包版本说明
multimolecule0.2.1模型与分词器
transformers5.9.0必须为 5.x(提供 initialization 等内部 API)
huggingface_hub≥0.32transformers 5.9.0 运行依赖
tokenizers / safetensors0.22.2 / 0.7.0分词与权重加载
datasets / pyarrow5.0.1 / 25.0.1multimolecule data 子包依赖
danling / chanfig0.4.4 / 0.0.117multimolecule 运行时依赖
torchmetrics / lightning-utilities / lazy-imports1.9.0 / 0.15.3 / 1.2.0danling→torchmetrics 依赖链
pandas / einops / numpy3.0.2 / 0.8.2 / 1.26.4计算依赖

安装务必使用 --no-deps,防止 pip 因依赖图重装/卸载 torch、torch_npu、CANN。 慢网环境下优先从国内镜像(华为云 PyPI)固定 wheel 直连下载并校验 SHA256。


运行命令

# 1. 补齐依赖(已装则跳过)
pip install --no-deps multimolecule==0.2.1
pip install --no-deps transformers==5.9.0

# 2. 下载并校验权重(仅 4 个文件)
#    model.safetensors = 193669244 B, SHA256 = adeb1d56...e2e7bae

# 3. 运行推理(自动加 flock -x -w 1800 锁,内部先校验权重再初始化 NPU)
python3 inference.py

成功标志:输出 outputs/inference_results.json,其中:

  • logits.shape == [1, 22, 22],contact_map.shape == [1, 22, 22]
  • logits.device == npu:0、contact_map.device == npu:0、dtype == torch.float32

实际结果

单次 NPU 推理(Ascend910,npu:0,FP32)实测输出:

指标值
logits shape[1, 22, 22](npu:0, float32)
contact_map shape[1, 22, 22](npu:0, float32)
logits min / max-1.2356 / +5.6073
contact_map mean / max0.51294 / 0.99634
概率摘要mean=0.51294, std=0.17569, min=0.22521, max=0.99634, p50=0.45603
P(contact)>0.5 格点数170 / 484
同步推理耗时(NPU)0.4072 s
模型成员数num_members = 6

完整数值见 outputs/inference_results.json。


限制

  1. 权重不可变:脚本启动即校验 model.safetensors 的字节数与 SHA256,不匹配即中止; 同时显式拒绝仓库出现 pytorch_model.bin。
  2. 串行访问 NPU:npu-smi、torch_npu 初始化、推理全部在 flock -x -w 1800 /tmp/ascend-model-agent-npu-v1.lock 保护下执行,防止多进程竞争 NPU 设备。
  3. 不落 CPU 回退:所有断言(参数/输入/logits/contact_map 均须为 NPU)任一失败即报错退出, 绝不静默切回 CPU,也不换模型。
  4. 形状解释:官方样本 22 nt,经 RnaTokenizer 得到 [1, 24](含 <cls> 与 <eos>); BPfold 前向内部自动去除特殊 token,故输出 [1, 22, 22]。
  5. 计时:torch.npu.synchronize() 后取墙钟耗时,确保覆盖真实 NPU 执行时间。
  6. 无缓存/凭据:仓库不保留权重、.cache、token、临时签名 URL 或失败日志。

许可证

  • 固定 revision + 固定字节/SHA 权重 + 固定官方样本,输出确定。
  • 三张证据页面(evidence/),可直接复核:
    1. evidence/01-environment.md — 昇腾 NPU 环境与依赖
    2. evidence/02-checkpoint-verify.md — 固定权重校验
    3. evidence/03-inference-results.md — NPU 真实推理结果
  • inference.py 每次运行会重新校验权重并覆盖写入唯一 outputs/inference_results.json。

截图证据

  • 权重不入库:checkpoint/ 为本地运行目录,不随仓库分发(约 185 MB)。
  • transformers 版本敏感:multimolecule 0.2.1 需要 5.x(transformers.initialization)。 若环境中 transformers 为 4.x,需按第四节补装 5.9.0,勿用旧版直接 from_pretrained。
  • NPU 型号差异:不同 SoC 的算子实现可能导致 contact_map 极微小浮点差异, 但形状、设备、数据类型与整体统计应一致。
  • 不 push:本仓库完成适配与证据整理后,按要求不上推远端。

Agent 工作流

NPU 设备调用

模型真实结果