isayevlab/aimnet2-rxn 是 AIMNet2 系列里专门给有机反应用的神经网络势。它跟常见的文本模型完全不是一类东西——输入不是 token,而是一堆原子的原子序号 + 三维坐标,输出是这份几何构型对应的电子能量、原子电荷、偶极矩、四极矩。模型的底层是 AEV(Atomic Environment Vector)+ 消息传递 MLP,参考精度对标 ωB97M-V/def2-TZVPP,训练数据是 468.5 万个反应相关构型。
几个关键点:
| 项目 | 数值 |
|---|---|
| 架构 | AIMNet2(AEV + message-passing MLP) |
| 元素覆盖 | H/C/N/O(atomic number 1/6/7/8) |
| 截断半径 | 5.0 Å |
| 库仑处理 | sr_embedded(SR≤4.6Å 在模型内,外部补全程) |
| 集成成员 | 4 个 ensemble(默认取 member 0) |
| 单成员权重 | 39 张量,8.4 MB fp32 |
它擅长的是算能量差——势垒高度、反应能、IRC 剖面这些,跟参考 DFT 的误差大约在 1~3 kcal/mol 量级。注意能量是学习到的移位电子能标(eV),不能跟 wb97m-d3 家族混着比。
这个模型跟 vLLM 的默认管线基本没有交集,问题一条条列:
get_input_embeddings() 拿词向量,AIMNet2 根本没有这种东西。AIMNet2 这个类。aimnet 包在 import 时硬依赖 CUDA。它顶层就 import warp as wp,还有 nvalchemiops(邻接表、Ewald、DFT-D3 全是 CUDA 实现)。在昇腾上装完整 warp-lang 不现实。第一板斧:稠密模式。 AIMNet2 支持两种邻居模式:稀疏邻接表(nb_mode>0,会走 warp CUDA kernel)和稠密全连接(nb_mode=0,纯 PyTorch einsum + cdist)。小分子(几十个原子以内)用稠密模式算,精度完全一样,还不用碰 CUDA。我们把 warp 和 nvalchemiops 做成两个桩模块塞进 sys.modules,让 import 链能过,实际推理根本不调用它们。
第二板斧:pooling runner。 模型注册成 vLLM 的 pooling 模型(is_attention_free=True,无注意力、无 KV cache),通过 OpenAI 兼容的 /v1/embeddings 端点暴露。分子几何编码成一段整数 token 传进去:
token[0] = N(原子数)
token[1..N] = 原子序号
token[N+1..N+3N] = 坐标, round(x*10000)+1000000
token[N+3N+1] = 净电荷, round(q*10000)+1000000forward 里把 token 解码回 numbers/coords,跑稠密模式,返回 7 维性质向量:[E_total, E_model, E_coulomb, dip_x, dip_y, dip_z, net_charge]。
第三板斧:权重防覆盖。 用 --load-format dummy 起服务时,vLLM 会把模块 state_dict() 里所有参数随机初始化一遍。这个坑我们踩了一次:第一次跑出来的能量全是 ~0.01 eV 的假值,就是这个原因。解法是把 aimnet 模型不注册成 vLLM 子模块——self.__dict__["aimnet"] = model 直接绕开 nn.Module.__setattr__,让 dummy 初始化根本看不到它。
| 项目 | 版本/配置 |
|---|---|
| 设备 | Ascend910(2× NPU,本服务用物理卡 1) |
| 操作系统 | Linux 5.10 aarch64 |
| Python | 3.11.14 |
| vLLM | 0.18.0 |
| vllm-ascend | 0.18.0 |
| torch / torch_npu | 2.9.0 / 2.9.0.post1 |
| aimnet | 0.2.0(服务端依赖,仅稠密路径) |
| transformers | 4.57.6 |
# 1. 拉权重(已预置于 /opt/atomgit/models/isayevlab/aimnet2-rxn)
# ensemble_0..3.safetensors + config.json
# 2. 安装 OOT 插件(vllm.general_plugins entry-point)
pip install -e /opt/atomgit/adapt/aimnet2_ascend
# 3. 启动 vLLM-Ascend pooling 服务(端口 8097)
cd /opt/atomgit/adapt/aimnet2_ascend/run
export ASCEND_RT_VISIBLE_DEVICES=1 # 避开其它窗口占用的 chip0
export TORCHDYNAMO_DISABLE=1
export HOME=/tmp/aimnet2_home # 规避 NFS 配额争用
export PYTHONPATH=/opt/atomgit/adapt/aimnet2_ascend:/opt/atomgit/.local/lib/python3.11/site-packages:$PYTHONPATH
python3 -m vllm.entrypoints.openai.api_server \
--model /opt/atomgit/aimnet2_rxn_work/aimnet2-servable \
--tokenizer /opt/atomgit/adapt/aimnet2_tokenizer \
--load-format dummy \
--dtype float32 \
--max-model-len 512 \
--max-num-seqs 8 \
--port 8097 \
--host 127.0.0.1 \
--enforce-eager \
--runner pooling \
--convert embed \
--tensor-parallel-size 1 \
--gpu-memory-utilization 0.05 \
--trust-remote-code说明:
--load-format dummy在这里只是喂给 vLLM 的占位——真实权重由插件在__init__里通过官方aimnet包直接加载,所以 dummy 不会影响精度。
# 就绪检查
curl -sf http://127.0.0.1:8097/v1/models
# 推理(内置 CH4 / H2O / EtOH 三个测试分子)
cd /opt/atomgit/adapt/aimnet2_ascend
python3 inference.py预期输出(CH4):
numbers : [6, 1, 1, 1, 1]
E_total : -0.526630 eV
E_model : 0.641458 eV
E_coulomb : -1.168089 eV
dipole : [+0.000008, +0.000002, +0.000000] e*A
net_charge: 0.000000 e| 指标 | 实测 |
|---|---|
| 单请求时延(3 分子批,预热后) | ~27 ms(p50 26.4 ms) |
| 吞吐(串行循环) | ~41 req/s(15s 内 615 次) |
| 推理期 AICore | 峰值 4% |
| 推理期 HBM | 3410 MB / 65536 MB(chip1) |
| 权重加载 | 模型仅 8.4 MB,服务常驻 ~1 GB(含 dummy embedding 占位) |
模型很轻(每个成员只有 ~2M 参数级别),NPU 算力远没用满,瓶颈其实在 Python 侧的请求序列化。
以 CPU(官方 aimnet 稠密模式)为基准,NPU 服务输出对比:
| 分子 | E_total_NPU (eV) | E_total_CPU (eV) | 差异 (eV) |
|---|---|---|---|
| CH4 | -0.526630 | -0.529780 | 3.15e-3 |
| H2O | -0.568767 | -0.567742 | -1.02e-3 |
| EtOH | 2.723676 | 2.717783 | 5.89e-3 |
差异全部来自坐标定标整数传输的量化误差(SCALE=10000),模型计算本身与 CPU 一致。偶极矩方向也对得上(H2O 沿 -z 轴)。
implemented_species 里没有,算出来是 NaN 或者没意义的值。warp / nvalchemiops 是桩。如果有一天需要跑大分子(稀疏模式),得回退到真实 CUDA 环境,桩不提供真实 kernel。/opt/atomgit 是共享 NFS,多窗口并行适配会互相挤配额,ACL 编译会写 $HOME/Ascend,把 HOME 指到 /tmp 能规避大半问题。