AI4S/esm3
模型介绍
文件和版本
Pull Requests
讨论
分析

组件版本

hdk：25.5.0
cann：8.3.RC1
python：3.10
torch：2.6.0
torch-npu：2.6.0

下载源码

git clone https://atomgit.com/AI4Science/esm3.git
cd esm3

环境准备

1.创建虚拟环境

conda create -n Esm3 python=3.10 -y
conda activate Esm3

2.安装依赖

# 安装项目基础依赖包 
pip install esm
pip uninstall triton

pip install torch==2.6.0 torch_npu==2.6.0 pyyaml cloudpickle ml-dtypes psutil tornado absl-py httpx

pip install "huggingface-hub>=0.24.0,<1.0" -U
  1. 验证 PyTorch 与 torch_npu 安装 执行以下命令检查安装是否成功：
python3 -c "import torch;import torch_npu; a = torch.randn(3, 4).npu(); print(a + a);"

若输出类似以下信息，说明安装成功：

tensor([[-0.6066,  6.3385,  0.0379,  3.3356],
        [ 2.9243,  3.3134, -1.5465,  0.1916],
        [-2.1807,  0.2008, -1.1431,  2.1523]], device='npu:0')

若报错，排查顺序：

  • set_env.sh 是否已 source
  • decorator 等运行时依赖是否安装
  • CANN 与 torch_npu 版本是否匹配

下载权重

下载huggingface上的全部内容，放到/root/.cache/torch/hub/checkpoints/esm3-sm-open-v1目录下
https://huggingface.co/EvolutionaryScale/esm3-sm-open-v1/tree/main

流水优化

export CPU_AFFINITY_CONF=1
export TASK_QUEUE_ENABLE=2

推理

# source cann
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# 指定可见 NPU 卡（0,1,2,3)
export ASCEND_RT_VISIBLE_DEVICES=0

# 运行
python test-esm3.py

Docker镜像

已预置 Conda 运行环境、模型权重、esm3源码，开箱即用，可快速部署运行。

# 拉取镜像
sudo docker pull swr.cn-north-4.myhuaweicloud.com/ascend_ai4s/esm3:v1
  • 项目源码路径：/root/esm3/
  • 已配置好 Conda 虚拟环境
  • 已内置模型权重文件，无需额外下载