S
Solis_caser/ufold-ascend-npu
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

multimolecule/ufold · 昇腾 NPU 真实推理适配

在昇腾 Ascend 910(npu:0)上,以官方 multimolecule/ufold 权重(固定 revision 538de5c2f48e56731c092e40d54c641ff84a2154)运行 RNA 二级结构预测的真实前向推理。 本仓库是一份可直接交付的精简适配,仅包含运行脚本、依赖清单、权重下载产物清单与输出结果, 不含权重文件、缓存、凭据或失败日志。

模型介绍

multimolecule 是分子生物学大模型统一框架;其 UfoldModel 复刻了 uci-cbcl/UFold 的 U-Net 结构,输入为 RNA 序列的 one-hot 表示(16 通道外积特征 + 1 通道配对先验),输出 [1, L, L] 的碱基对接触 logits 与接触概率图。本项目固定权重 revision,在昇腾 NPU 上完成 [1, 74, 4] float32 inputs_embeds + attention_mask 的端到端推理,并严格校验 权重文件(大小 + SHA256)。

上游模型

  • 固定权重 revision:538de5c2f48e56731c092e40d54c641ff84a2154,仅使用 model.safetensors,不下载 / 不生成 pytorch_model.bin,不替换 checkpoint。
  • 权重强校验:34609772 bytes,SHA256 8a8702535e21c58cbb8667a4b503c18b8dc7c67fa574a1460acc3465ce4bad9e,不满足即中止。
  • 官方公开 API:RnaTokenizer、UfoldModel、UfoldConfig 全部走 multimolecule 顶层公开导入,不使用子模块导入或伪造依赖。
  • CPU 预处理 + NPU 推理:tokenizer 与 one-hot 在 CPU 完成,inputs_embeds、 attention_mask 移入 npu:0;模型 eval().to('npu:0')。
  • 不使用 pipeline:直接调用 UfoldModel.forward,首轮 use_postprocess=False (contact_map = sigmoid(logits))。
  • 全程 NPU 串行:NPU 初始化与推理置于 flock -x -w 1800 /tmp/ascend-model-agent-npu-v1.lock 之内,避免多进程并发争抢设备。
  • 输出统计:logits / contact_map 均为 [1, 74, 74],记录数值范围、对称误差、 最高分接触对与同步耗时。

输入格式

adapt-multimolecule-ufold/
├── README.md                 # 本说明(中文九段式)
├── requirements.txt          # 应用依赖(仅缺失项)
├── inference.py              # NPU 推理脚本(唯一入口)
├── weights/                  # 权重与配置文件(下载产物,不入库)
│   ├── config.json
│   ├── tokenizer_config.json
│   ├── vocab.txt
│   └── model.safetensors     # 34,609,772 bytes
└── outputs/
    └── inference_results.json # 唯一真实推理结果

NPU 环境

  • Python 3.11(本机 /usr/local/python3.11.14)
  • torch 2.9.0+cpu、torch_npu 2.9.0.post1+gitee7ba04、CANN 8.5.1 (均已预装,本仓库不改动)
  • transformers 4.57.6(匹配 multimolecule 0.2.1)
  • multimolecule 0.2.1(唯一新增的模型框架依赖)
  • pyarrow(multimolecule 0.2.1 的 data 模块间接依赖,由共享环境统一安装)

执行 pip install -r requirements.txt 仅补缺失项,绝不降级 / 覆盖 torch、torch_npu、CANN。

运行命令

固定 revision 的四个文件从 https://alpha.hf-mirror.com/multimolecule/ufold/resolve/<revision>/ 下载(国内镜像;原站 huggingface.co 直连不可达)。权重为唯一大文件:

sha256sum weights/model.safetensors
# 8a8702535e21c58cbb8667a4b503c18b8dc7c67fa574a1460acc3465ce4bad9e
stat -c %s weights/model.safetensors   # 34609772

inference.py 启动即校验大小与 SHA256,不匹配即退出并写入 error 结果。

实际结果

# 1) 安装依赖(仅新增缺失项)
pip install -r requirements.txt

# 2) 运行推理(内部已对 NPU 全程加 flock 串行)
python3 inference.py

脚本流程:

  1. 校验 model.safetensors(大小 + SHA256);
  2. CPU 端 RnaTokenizer 核对词表,并手工按 A/C/G/U/N 查表构造 inputs_embeds [1,74,4] float32 与 attention_mask [1,74](不加任何特殊 token, 与任务给定的 74 长度精确一致);
  3. flock 加锁 → 初始化 torch_npu、npu:0 → 加载 UfoldConfig + UfoldModel, load_state_dict(strict=True) 装入 safetensors → eval().to('npu:0');
  4. 前向(use_postprocess=False),同步后统计并写出 outputs/inference_results.json。

限制

outputs/inference_results.json(唯一真实结果)包含:

字段说明
checks.weights权重大小 / SHA256 校验结果
checks.tokenizer / checks.config词表与模型配置核对
checks.all_tensors_on_npuinputs_embeds / attention_mask / logits / contact_map / 参数均在 npu
stats.logits / stats.contact_map数值范围(min / max / mean)
stats.symmetry_errorlogits 与 contact_map 相对其转置的最大 / 平均绝对差
stats.top_contact最高分接触对 (i, j) 及其反向对称值与差异
timingCPU 预处理、前向同步、总耗时

预期形状:logits [1,74,74]、contact_map [1,74,74](脚本中断言)。

许可证

  • 输入长度:模型在 NPU 上实际将输入 pad 到 min_size=80 与 size_multiple=16 的 对齐长度再送入 U-Net,输出经 _crop_batch 裁回真实长度 74,故 logits / contact_map 恒为 [1,74,74]。
  • 词表:该 revision 使用 5 词表 A/C/G/U/N(id 0–4), bos_token_id=1、eos_token_id=2、pad_token_id=0、mask_token_id=4、 null_token_id=5。RnaTokenizer 默认会在序列首尾加特殊 token,为精确对齐 [1,74,4],本脚本手工逐碱基查表构造 one-hot,不加特殊 token。
  • 首轮 postprocess:按要求 use_postprocess=False,contact_map 为 sigmoid(logits) 概率图;如需约束后处理,可令 use_postprocess=True (模型内置 100 步拉格朗日迭代,耗时显著增加)。
  • 算子兼容:全模型为 Conv2d / BatchNorm2d / MaxPool / Upsample / einsum 等 昇腾已支持算子;若遇普通依赖 / 算子错误,在本仓库内做数学等价最小修复并重跑, 不更换 checkpoint、不 CPU fallback、不新建 attempt。

截图证据

  • 模型与权重:multimolecule/ufold(固定 revision 538de5c2f48e56731c092e40d54c641ff84a2154), 复刻自 uci-cbcl/UFold。
  • 框架:MultiMolecule(AGPL-3.0)。
  • 本仓库仅为推理适配脚本与结果,遵循上游许可,不包含权重文件。

Agent 工作流

NPU 设备调用

模型真实结果