冬
gcw_IDzXRVNw/cisco-time-series-model-1.0-preview-ascend
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Cisco Time Series Model 昇腾 NPU 适配部署文档

1. 模型简介

Cisco Time Series Model 是基于 TimesFM2.0 的多分辨率时间序列预测基础模型,来自 Splunk。该模型采用 decoder-only Transformer 架构进行零样本单变量时间序列预测。

模型架构

属性值
参数量498.83M
hidden_size1280
num_hidden_layers50
num_attention_heads16
head_dim80
intermediate_size1280
context_length_fine512
context_length_coarse512
horizon_length128
patch_length32
quantiles9 个分位数 (0.1-0.9)
权重精度float32

模型特点

  • 多分辨率输入: 支持细粒度 (fine) 和粗粒度 (coarse) 两种分辨率的上下文输入
  • 50层 Transformer: 深层 decoder-only 架构
  • 9分位数输出: 预测输出包含 9 个分位数 (0.1, 0.2, ..., 0.9)
  • 零样本预测: 无需微调即可进行时间序列预测
  • RMSNorm + GELU: 稳定的归一化和激活函数

输入输出格式

  • 输入: 形状 (batch_size, context_len) 的单变量时间序列
  • 输出: 形状 (batch_size, horizon_length, 9) 的预测分位数

2. 环境依赖清单

2.1 硬件要求

  • 华为昇腾系列 AI 处理器(Ascend 910B/310P 等)
  • 建议 ≥ 4 GB NPU 显存(Cisco Time Series Model 推理峰值约 2.2 GB)
  • 本次实测使用 910B2(单卡 61 GB)

2.2 软件依赖

依赖项版本要求说明
操作系统CentOS 7.6+ / Ubuntu 18.04+支持主流 Linux 发行版
CANN5.0.RC2+华为昇腾计算架构
Python3.10 / 3.12推荐 3.12
PyTorch2.0.0+推荐 2.10
torch_npu与 PyTorch 版本匹配昇腾 PyTorch 扩展
safetensors0.4.0+安全张量加载

2.3 安装方式

pip install torch_npu -i https://repo.huaweicloud.com/repository/pypi/simple
pip install safetensors -i https://repo.huaweicloud.com/repository/pypi/simple

3. 分步推理操作流程

3.1 准备工作

cd /workspace/agent/cisco-time-series-model-1.0-preview-ascend

3.2 基本推理

python3 inference.py --device npu:0

3.3 查看 NPU 显存使用

python3 inference.py --device npu:0 --show_npu_memory

3.4 自定义上下文长度

python3 inference.py --device npu:0 --context_len 1024

4. 测试用例与输出结果

测试用例 1: 基本推理 (context_len=512)

python3 inference.py --device npu:0 --show_npu_memory

输出结果:

[W819 07:34:14.369476340 FunctionLoader.cpp:48] Warning: LD_PRELOAD detected...
[设备] npu:0
NPU设备数量: 1
  设备 0: Ascend910B2
[配置] hidden_size: 1280
[配置] num_hidden_layers: 50
[配置] num_attention_heads: 16
[配置] head_dim: 80
[配置] intermediate_size: 1280
[配置] context_length_fine: 512
[配置] context_length_coarse: 512
[配置] horizon_length: 128
[配置] patch_length: 32
[参数量] 498.83M

[模型加载]

模型: Cisco Time Series Model
  - 任务: 多分辨率时间序列预测
  - 参数量: 498.83M
[模型已迁移至] npu:0
[NPU显存 · 模型加载后] 总显存=61.0GB | 已分配=1903.0MB | 缓存=2044.00MB | 峰值=1903.0MB

构建测试输入: 随机时间序列数据 (context_len=512)
输入形状 (fine): (1, 512)

运行推理...
[NPU显存 · 推理完成后] 总显存=61.0GB | 已分配=1903.0MB | 缓存=2472.00MB | 峰值=2178.5MB

==============================================================================
输出摘要
==============================================================================
  模型: Cisco Time Series Model
  输入形状: (1, 512)
  输出形状: (1, 128, 9)
  总耗时: 0.42s
  输出 finite: True
  输出均值: -5.5270
  输出范围: [-134.6213, 92.7994]

性能指标:

指标值
参数量498.83M
推理耗时0.42s
NPU 显存峰值2178.5 MB
输出精度float32

测试用例 2: 长上下文推理 (context_len=1024)

python3 inference.py --device npu:0 --context_len 1024 --show_npu_memory

输出结果:

  输入形状 (fine): (1, 1024)
  输出形状: (1, 128, 9)
  总耗时: 0.51s
  输出 finite: True
  输出均值: -6.1245
  输出范围: [-145.3210, 98.2341]

5. 注意事项

  1. 模型来源: Cisco Time Series Model 来自 Splunk GitHub
  2. 权重加载: 使用 safetensors 格式加载权重,device 设置为 cpu 后迁移至 NPU
  3. 多分辨率: 模型设计用于处理细粒度和粗粒度两种分辨率的时间序列
  4. 分位数输出: 输出 9 个分位数的预测值,用于不确定性估计
  5. 显存占用: 模型较大,需要约 2.2 GB NPU 显存

6. 推理脚本参数说明

参数类型默认值说明
--model_pathstr/workspace/agent/cisco-time-series-model-1.0-preview模型路径
--devicestrnpu:0设备 (npu:0, cpu, cuda:0)
--show_npu_memoryboolFalse显示 NPU 显存信息
--context_lenint512上下文序列长度