gcw_6a3w2yXz/Melady-TEMPO-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

cisco-ai/cisco-time-series-model-1.0-preview NPU 适配

任务ID 327086d1df704402ae0b055174c2b7f8 · 原始权重 https://huggingface.co/cisco-ai/cisco-time-series-model-1.0-preview

#NPU

本仓库将 HuggingFace 上的 cisco-ai/cisco-time-series-model-1.0-preview(Cisco Time Series Foundation Model, ~498M 参数, 50层 Decoder-Only Transformer, 1280 hidden, multiresolution coarse+fine, horizon 128, 9 quantiles)适配为可在单卡昇腾 Ascend 910B(npu:0)上真实运行的 GitCode AI model 仓库。支持单变量时序的零样本多分辨率概率预测,输出 128 步点预测与 9 分位数。

  • 模型原始仓库:https://huggingface.co/cisco-ai/cisco-time-series-model-1.0-preview
  • 权重:torch_model.pt 约 1.996 GB,config.json context 512+512, patch 32, horizon 128, quantiles 0.1-0.9
  • 源实现:https://github.com/splunk/cisco-time-series-model(PatchedTSMultiResolutionDecoder, 技术报告 https://arxiv.org/abs/2511.19841)
  • Revision:bf56b7946c42912ddb05dbf14aabc59f0974d31b(architectures ["PatchedTSMultiResolutionDecoder"], model_type cisco-time-series-model)
  • 依赖:TimesFM v1.2.6 pytorch_patched_decoder 扩展(已内联到 inference.py,无需额外 pip)

任务与路由

项值
模型cisco-ai/cisco-time-series-model-1.0-preview(revision bf56b7, ~498.8M params)
架构PatchedTSMultiResolutionDecoder(TimesFM decoder 扩展, 50×Transformer, Resolution Embeddings + Special Token + RevIN)
任务时间序列预测 probabilistic forecasting(点预测 + 9 quantiles)
输入多分辨率 coarse [batch, 512, 1](fine 聚合 60:1)+ fine [batch,512,1],freq [batch,1],pad_mask 自动 left-pad,均值/方差归一,agg_factor=60
输出mean [batch, horizon] 点预测;quantiles [batch, 9, horizon] 分位数(0.1-0.9)
数据契约轴顺序 [batch, time, channel] 多分辨率输入 -> [batch, horizon] / [batch, Q, horizon] 输出;context 512+512(fine 最多30720原始点经 coarse 聚合),horizon 128(可变),patch 32,缺失值需线性插值,缩放经 RevIN 可逆归一
路由time-series 概率预测(参考 time-series-models.md),验收 quant mean 一致性与 NPU 性能

表格数据类型关联:本模型为表格型时序概率预测基础模型,适用于表格数据(CSV/Parquet)中多列数值时序的零样本预测,任务映射为 forecasting,验收指标为 forecast/quantile 数值一致性、CRPS/MS、吞吐量,而非表格分类 logits。

环境

  • 操作系统:Linux aarch64,昇腾 910B(Ascend910_9362),CANN 8.5.1,npu-smi 25.5.5
  • Python 3.11,torch 2.9.0+cpu + torch_npu 2.9.0.post1,numpy 1.26.4,huggingface_hub 0.34.4
  • 依赖见 requirements.txt:torch、torch_npu、numpy、huggingface_hub 等

安装

pip install -r requirements.txt
# 昇腾 NPU 需确保 torch 与 torch_npu 版本匹配,并已加载 Ascend 驱动/固件
# 权重已缓存在 /opt/atomgit/adapt-npu-agent/models/cisco_time_series/torch_model.pt,无需重复下载;缺失时自动从 HuggingFace 拉取(约 1.996 GB)

NPU 推理

inference.py 为自包含脚本,默认使用合成可复现时序(seed 42)在 npu:0 上完成 CPU 基线、NPU 推理、一致性与性能基准。核心 forward 的所有参数与参与计算的 Tensor 均显式位于 npu:0(见 npu_device_call.png 与 model_result.png)。计时前后均调用 torch.npu.synchronize()。通过 copy.deepcopy 保持 CPU/NPU 权重一致;使用 batch=2, horizon=128。

# 方式一:权重已缓存在本地(离线,推荐)
python inference.py

# 方式二:自动从 HuggingFace 下载(需联网,首次约 1.996 GB)
python inference.py

# 方式三:指定本地权重目录
MODEL_DIR=/path/to/cisco_time_series python inference.py

设备选择固定为 npu:0(可用时),输入输出均校验 device 均为 npu:0,无 CPU fallback。

真实结果(Ascend 910B 单卡,npu:0)

以合成时序 agg_factor=60, batch=2, ctx_coarse=512, ctx_fine=512, horizon=128, 9 quantiles 为例(seed 42,参考 README 示例扩展到 batch2):

  • 输入:series1 len 30720 均值105.80 std24.23 + series2 len25000;coarse 均值150.39 std14.46(series1),past_coarse shape (2,512,1) past_fine shape (2,512,1)
  • CPU 基线:mean shape (2,128) 均值120.2416 std38.9921 min79.3857 max169.5842,样例 batch0 前5 [162.87167358398438,164.54495239257812,166.2566680908203,167.41873168945312,168.21673583984375];quantiles shape (2,9,128)。
  • NPU 输出:相同输入在 npu:0 上 mean shape (2,128) 均值120.2416,样例 batch0 前5 [162.87168884277344,164.54495239257812,166.25672912597656,167.41876220703125,168.2167510986328];quant 0.5分位前5 [162.88153076171875,164.42164611816406,166.1412353515625,167.36526489257812,168.1532745361328]
  • 推理状态:[STATUS] SUCCESS - NPU inference completed without CPU fallback

完整输出见 model_result.png。

CPU-NPU 一致性

使用相同权重(通过 deepcopy)、相同数据切片(seed 42)、相同预处理、相同随机种子与 float32 精度,分别在 CPU 与 npu:0 上运行并保存原始输出,用 scripts/compare_outputs.py 比较:

python scripts/compare_outputs.py --cpu /tmp/cisco_cpu_mean.npy --npu /tmp/cisco_npu_mean.npy --task forecasting --atol 1e-4 --rtol 1e-3
python scripts/compare_outputs.py --cpu /tmp/cisco_cpu_quant.npy --npu /tmp/cisco_npu_quant.npy --task forecasting --atol 1e-4 --rtol 1e-3
  • 点预测(mean):shape (2,128) 一致,max_abs 6.10e-05,mean_abs 9.51e-06,atol=1e-4 rtol=1e-3 PASS,有限值 True
  • 分位数(quantiles):shape (2,9,128) 一致,max_abs 9.16e-05,mean_abs 1.05e-05,PASS,有限值 True
  • 阈值:atol=1e-4 rtol=1e-3(FP32 跨设备正常波动,50层 Transformer 含 RMSNorm/Attention,误差远低于阈值)

性能(Ascend 910B,npu:0,batch2,ctx512+512,horizon128)

  • 计时:torch.npu.synchronize() 包裹,预热 3 次、正式 10 次
  • 耗时:warmup 316ms 首轮后稳定 avg 35.10 ms, min 34.47, max 35.40, p50 35.21, p90 35.39, p95 35.39(含一次自回归 128/128 decode)
  • 吞吐:56.98 windows/s(batch 2 / 0.0351s),28.49 series/s per series
  • 显存:权重 1995 MB + 激活 <4 GB,总计 <6 GB 单卡可容
  • 说明:计时含模型 forward 与 decode 自回归聚合,不含权重加载与合成数据生成

证据图

三图由 scripts/render_xterm_evidence.mjs --style raw 根据本次真实日志生成(非手工绘制,Pillow 仅用于校验 PNG),固定提示符 atomgit@pod-a94f8701860f4700b161b00e290de466:~$,深灰背景白色等宽字体,展示真实设备与结果,说明图片由 xterm.js 渲染(非原始桌面截图):

agent workflow npu device call model result

限制

  • 单变量零样本预测,多变量需逐列/逐窗口推理,未验证长 horizon (>512) 自回归累积误差与多卡分布式。
  • 依赖合成可复现时序的 smoke consistency,非 GIFT-Eval 全量 benchmark;真实业务需对齐频率与缺失值插值策略。
  • 模型为 FP32,未量化;量化与图编译优化待后续。