S
Solis_caser/Granite-FlowState-R1-Ascend-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

ibm-granite/granite-timeseries-flowstate-r1 — 昇腾 NPU 适配与推理

一、模型介绍

FlowState(FlowState: Sampling Rate Invariant Time Series Forecasting)是 IBM Granite 系列中的采样率不变时序基础模型,基于状态空间模型(SSM)与函数基解码器(Functional Basis Decoder)。本仓库适配的是 granite-timeseries-flowstate-r1(r1.1)的 FlowStateModel,并在真实昇腾 Ascend910 NPU 上完成 FP32 推理验证。

固定配置要点:context_length=4096、embedding_feature_dim=512、encoder_num_layers=6、encoder_state_dim=512、encoder_num_hippo_blocks=8、decoder_dim=256、decoder_patch_len=6、decoder_type=legs、9 个分位数(0.1–0.9)、with_missing=true、dtype=float32。模型参数量约 18.5M。

二、上游模型

  • 模型 ID:ibm-granite/granite-timeseries-flowstate-r1
  • 固定 HF revision(r1.1):b80e0f1b1c2d90edebe3d4f243ad046a3f935daa
  • 模型源码:IBM 官方 ibm-granite/granite-tsfm 固定 commit b99206d429012bca2ac78d18d4703564b4b8eacd 中 tsfm_public/models/flowstate 及其实际必需模块(已随仓库内嵌于 tsfm_public/models/flowstate/)。
  • 固定权重文件(运行时校验):
    • config.json:696 bytes,SHA-256 e3996b95dc06812087d742e2a1db5cb5061c3cf77549d7843220baccfac02980
    • model.safetensors:74,111,496 bytes,SHA-256 a4a745458cfef1cce84ef060a2e7fe515e40a2e5b0ea54fb079570a75f324862

本仓库不内嵌模型权重。权重在运行时按上述固定 revision 从官方源获取;本仓库只内嵌实现 FlowStateModel 所需的官方源码文件(不 pip install granite-tsfm)。

三、输入格式

FlowState 为单变量模型。本仓库基于官方 ETTh1(ElectrIcity Transformer Hourly)数据构造输入:

  • 数据文件:data/ETTh1.csv(2,589,657 bytes,SHA-256 f18de3ad269cef59bb07b5438d79bb3042d3be49bdeecf01c1cd6d29695ee066)
  • 列:date, HUFL, HULL, MUFL, MULL, LUFL, LULL, OT
  • 对 7 个通道逐通道构造 [batch=1, context_length=4096, channels=1] 的 FP32 单变量窗口(取每条序列最后 4096 步真实数值)。
  • 输出:每通道 [1, 1, 9, 6, 1] —— 1 batch × 9 分位 × 6 步 horizon × 1 通道,已反标准化为真实量纲。

四、NPU 环境

  • 硬件:昇腾 Ascend910(npu-smi 可见,ASCEND_VISIBLE_DEVICES 已设置)
  • 软件栈(不得升级/降级/重装):
    • torch==2.9.0
    • torch_npu==2.9.0.post1
    • CANN 8.5.1
    • transformers>=4.50,<6、safetensors>=0.7、numpy>=1.26
  • 依赖清单见 requirements.txt。所有 NPU 操作在共享锁 /tmp/ascend-model-agent-npu-v1.lock 下执行。
  • 推理要求:model.to('npu:0').eval()、torch.inference_mode()、输入与输出均在 npu:0、dtype float32、计时前后 torch.npu.synchronize()。不允许 CPU fallback。

五、运行命令

# 从仓库根目录运行(全部 NPU 操作在共享锁下)
flock -x -w 1800 /tmp/ascend-model-agent-npu-v1.lock \
  python3 inference.py

可选参数:

  • --data PATH:ETTh1.csv 路径(默认 data/ETTh1.csv,会自动校验大小与 SHA-256,不符立即停止)
  • --cache DIR:权重缓存目录(默认 /tmp/flowstate-cache;缓存命中仍会重新校验)
  • --evidence-dir DIR:三页 evidence 与结果 JSON 输出目录(默认 outputs/)

运行时下载与校验策略:脚本依次尝试官方 HF resolve URL 与同 revision 镜像 URL,下载 config.json 与 model.safetensors 后严格校验字节数与 SHA-256。任何文件字节数或 SHA 不符即停止并报 FATAL,禁止静默替换 checkpoint。

六、实际结果

以下为真实昇腾 NPU(npu:0)FP32 推理结果,基于本仓库同一固定 revision 与 checkpoint,未重写、未美化。输入为真实 ETTh1 数值窗口,输出为 9 分位预测(下表给出 median 分位与 90% 置信区间,均为 6 步 horizon 最后一步):

通道context 末值median 末步预测90% CI [q10, q90]
HUFL10.114016.3278[14.0282, 18.2992]
HULL3.55006.2112[4.9032, 7.2094]
MUFL6.183011.2502[9.1633, 12.9027]
MULL1.56403.6482[2.5927, 4.4453]
LUFL3.71605.0595[4.5463, 5.3654]
LULL1.46201.6287[1.3528, 1.8846]
OT9.56708.6726[7.7096, 9.5415]
  • 输入/输出:device=npu:0、dtype=float32、输入 shape=(1,4096,1)、输出 shape=(1,1,9,6,1)、全部 finite。
  • 7 通道同步推理总耗时:约 10,942 ms(计时前后已 synchronize)。
  • 完整结果见 outputs/inference_results.json。

七、限制

  • FlowState 是单变量模型,多变量数据(如 ETTh1)需逐通道推理。
  • 本仓库仅提供推理脚本,不含训练、微调与评估代码。
  • 权重下载依赖网络可达的官方源;本仓库不含任何缓存或权重文件。
  • 三张截图(见第九节)由用户在本地上传,上传前图片 URL 可能暂时不存在。

八、许可证

  • 模型:ibm-granite/granite-timeseries-flowstate-r1 遵循 Apache-2.0。
  • 源码:granite-tsfm 官方项目许可,仅取用 tsfm_public/models/flowstate 所需文件,版权归 IBM 所有。
  • 本仓库文件同样以 Apache-2.0 分发。

九、截图证据

Agent workflow

NPU device call

Model result