Y
YYPGD/WindFM
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

WindFM 昇腾NPU部署文档

1. 模型简介

模型名称: WindFM(NeoQuasar/WindFM) 模型链接: NeoQuasar/WindFM 模型描述: WindFM 是风电功率预测基础模型:先以 Binary Spherical Quantization(BSQ)分词器把风电场多变量时序(风速/风向/功率/空气密度/温度/气压)离散化为层级 token(s1/s2 两级),再用 decoder-only Transformer 自回归建模 token 序列,结合时间戳傅里叶嵌入,可对任意预测步长输出概率化(多采样分位数)功率预测。 模型架构: BSQ 分词器(4 层 encoder + 4 层 decoder Transformer,d_model=256)+ 4 层自回归 Transformer 主干(d_model=256,8 头,RoPE + RMSNorm + SwiGLU,层级 token 嵌入与依赖感知交叉注意力解码头) 参数规模: 约 16M(主干)+ 16M(分词器) 代码仓库: shiyu-coder/WindFM

2. 环境依赖

依赖项版本要求说明
Python>= 3.10推荐 3.11
torch / torch_npu2.1.0+torch_npu 从 CANN 安装,共享环境不重复安装
einops==0.8.1模型张量重排
pandasany时序数据组织
numpyany数据构造
matplotlibany结果绘图
tqdmany进度显示
safetensorsany权重加载

安装命令:

pip install --target /mnt/workspace/WindFM/libs -i https://pypi.tuna.tsinghua.edu.cn/simple \
    einops==0.8.1 pandas tqdm matplotlib numpy safetensors
# torch / torch_npu 使用共享环境,不重复安装

3. 推理步骤

3.1 环境准备

# 检查 NPU 设备
npu-smi info
# 权重位于 /home/developer/models/WindFM(model.safetensors + config.json)
# 分词器权重位于 /home/developer/models/WindFM/windfm_tokenizer/
#   (来自 NeoQuasar/WindFM-Tokenizer,推理必需,随主权重一并放置)
# 模型结构代码已 vendor 在本仓库 windfm_model/ 目录,无需额外下载

3.2 运行推理

python3 inference.py --model_path /home/developer/models/WindFM

脚本自动选择设备 npu > cuda > cpu,内置官方示例风场数据(data/121522.csv,缺失时自动合成等效数据),只传 --model_path 即可跑通。权重与分词器全部从本地目录加载,全程离线不联网。

3.3 推理参数说明

参数类型默认值说明
--model_pathstr/home/developer/models/WindFM本地主模型权重目录
--tokenizer_pathstr自动查找BSQ 分词器权重目录(默认 <model_path>/windfm_tokenizer)
--devicestr自动(npu>cuda>cpu)推理设备
--lookbackint240历史窗口长度(时间步)
--pred_lenint80预测步数
--sample_countint20概率预测采样条数
--max_contextint512自回归最大回看窗口
--outputstrassets/model_result.png结果图保存路径

4. 测试样例及输出结果

样例:内置示例风场概率化功率预测

输入:

数据集: 官方示例风场数据 data/121522.csv(风速/风向/功率/密度/温度/气压 6 变量,逐小时)
上下文: 前 240 步;预测: 后续 80 步功率(概率采样 20 条取中位数)
预处理: 逐变量 z-score 标准化并 clip 到 ±5,float32

输出:

[INFO] device = npu
[INFO] 推理完成 耗时/elapsed=x.xx s (device=npu, lookback=240, pred_len=80, sample_count=20, MSE=x.xxxx, MAE=x.xxxx)
[RESULT] status=ok device=npu 耗时/elapsed=x.xx s
[INFO] 结果图已保存: assets/model_result.png

5. Agent适配截图

5.1 Agent适配全过程截图

Agent 适配流程

5.2 NPU设备调用截图

NPU 设备调用

5.3 模型适配结果截图

模型适配结果

6. 注意事项

  • WindFM 为自定义架构(非 transformers 集成),上游通过 huggingface_hub PyTorchModelHubMixin 加载;本适配将模型代码 vendor 到仓库 windfm_model/ 并去掉联网依赖,直接读本地 config.json + model.safetensors,strict=False 加载后无 missing/unexpected key;
  • 推理除主模型外还需 WindFM-Tokenizer 分词器权重(独立仓 NeoQuasar/WindFM-Tokenizer),已放置在 /home/developer/models/WindFM/windfm_tokenizer/,脚本会按多个候选路径自动查找;
  • 输入张量全部 float32(NPU 不支持 float64 算子);注意力为手写 scaled dot-product(等价 eager 路径),NPU 上不使用 flash_attention_2;
  • 权重只从本地路径加载,脚本设置 HF_ENDPOINT/HF_HUB_OFFLINE,全程离线;自回归解码使用 torch.multinomial 采样(top_p=0.9),输出为概率分布的中位数;
  • 依赖隔离:第三方包装在 /mnt/workspace/WindFM/libs,运行时由脚本自动叠加 PYTHONPATH,不污染共享环境;未安装 torch/torchvision 等,复用共享环境 torch 2.7.1+cpu + torch_npu。