g
gcw_coj3XaOd/ibm-research-ttm-research-r2
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

ibm-research/ttm-research-r2 昇腾NPU部署文档

1. 模型简介

模型名称: ibm-research/ttm-research-r2 模型链接: https://huggingface.co/ibm-research/ttm-research-r2 模型描述: TinyTimeMixer (TTM) 是 IBM Research 开源的轻量级时间序列预测基础模型,专为多变量时间序列预测设计。TTM-R2 是研究用途版本,模型参数规模约 85 万,支持零样本预测和微调。 模型架构: TinyTimeMixer (基于 MLP-Mixer 的时序预测架构) 参数规模: 854,972 参数


2. 环境依赖

依赖项版本要求说明
Python>= 3.10推荐 3.11
torch / torch_npu2.1.0+昇腾 NPU 后端
transformers>= 4.45.0HuggingFace 库
safetensors>= 0.4.0模型权重加载
numpy>= 1.24.0数值计算
昇腾驱动CANN 8.0.RC2+推荐最新版

安装命令:

pip install torch torch_npu transformers safetensors numpy

3. 推理步骤

3.1 环境准备

# 检查 NPU 设备
npu-smi info

3.2 运行推理

# 使用随机测试数据
python inference.py --device npu:0

# 指定输入时间序列
python inference.py --input "1.0 2.0 3.0 4.0 5.0" --device npu:0

# 从CSV文件读取
python inference.py --csv data.csv --device npu:0

3.3 推理参数说明

参数类型默认值说明
--inputstr-输入时间序列(空格分隔的数值)
--csvstr-CSV 文件路径
--model_pathstr/data/ibm-research-ttm-research-r2模型路径
--devicestrnpu:0推理设备
--context_lengthint512输入上下文长度

4. 测试样例及输出结果

样例 1:随机数据推理

输入:

512个随机时间步 (范围=-3.2413~3.8527)

输出:

[模型] ibm-research/ttm-research-r2
[设备] Ascend910_9362 (npu:0)
[输入] [512个时间步, 范围=-3.2413~3.8527]
[输出] 预测96步: [50.8115, 42.5298, 32.1876, 38.4562, 28.9012, ...]
[耗时] 184.9ms
[状态] SUCCESS

样例 2:指定输入推理

输入:

--input "1.0 2.0 3.0 4.0 5.0"(自动填充到512步)

输出:

[模型] ibm-research/ttm-research-r2
[设备] Ascend910_9362 (npu:0)
[输入] [512个时间步, 范围=1.0000~5.0000]
[输出] 预测96步: [模型输出的96个预测值]
[耗时] < 200ms
[状态] SUCCESS

5. Agent适配截图

5.1 Agent适配全过程截图

Agent 适配流程

5.2 NPU设备调用截图

NPU 设备调用

5.3 模型适配结果截图

模型适配结果

5.4 验证管线截图

验证管线


6. 精度评测

测试数据: 随机生成的时间序列数据 评测指标: 模型推理延迟

指标结果
推理延迟184.9ms (NPU)
设备Ascend910_9362

7. 注意事项

  • 推理脚本中通过 torch_npu 调用 NPU 进行推理
  • 模型权重请自行从 HuggingFace 下载,不包含在仓库中
  • TTM 模型输入要求 context_length=512 个时间步,输出 prediction_length=96 个时间步
  • 推理脚本会自动处理输入长度不足/超出 context_length 的情况
  • 模型为研究用途版本,使用 cc-by-nc-sa-4.0 许可证
  • 适配过程中模型架构代码 (modeling_tinytimemixer.py) 为根据权重文件重建,确保与原始权重兼容