m
mengsihan/Kronos-small-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Kronos-small NPU 时间序列预测模型仓

本仓库为 NeoQuasar/Kronos-small(金融 K 线 / OHLCV 时间序列预测基础模型)的昇腾 NPU(Ascend910)适配模型仓,包含自包含推理脚本、真实 NPU 推理结果与一致性/性能证据。

#NPU #Ascend #Ascend910 #时间序列预测 #K线 #Kronos

模型简介

Kronos 是首个面向金融 K 线(OHLCV)的开源基础模型,采用两阶段结构:

  1. 专用 tokenizer(BSQ 混合量化)把连续多维度 K 线数据量化为层级离散 token;
  2. 自回归 Transformer 在 token 上进行预训练,支持价格序列预测、波动率预测与合成数据生成。

本仓适配的 Kronos-small 参数量 24.7M,上下文长度 512,配合 Kronos-Tokenizer-base 使用。

项目值
模型NeoQuasar/Kronos-small (revision 901c26c1332695a2a8f243eb2f37243a37bea320)
TokenizerNeoQuasar/Kronos-Tokenizer-base
任务时间序列预测(金融 K 线 OHLCV 预测)
架构两阶段:BSQ tokenizer + decoder-only Transformer(8 层,d_model=512,8 heads)
参数量24.74M(模型)+ 3.96M(tokenizer)
默认 dtypefloat32
最大 context512

数据契约

验证数据为 Kronos 官方仓库提供的真实港股 K 线样例 HK_ali_09988_kline_5min_all.csv(阿里巴巴 09988,5 分钟线):

  • 来源:GitCode 镜像 GitHub_Trending/kronos14/Kronos(对应官方 GitHub 仓库 shiyu-coder/Kronos)
  • SHA-256:65725aeebc3de8f59725f9b717b8621a1ce80b014288a6d64e05ac7a303f527f
  • 行数:93,912;列:timestamps, open, close, high, low, volume, amount
  • 时间范围:2019-11-26 09:35 → 2025-09-17 16:00(5 分钟频率,按时间升序,无重复、无缺失)

默认推理配置:lookback=400(历史窗口,≤ context 512)、pred_len=120(预测 120 根 K 线,10 小时)。

输入校验(inference.py 自动执行):缺少价格列、含 NaN、时间戳非法均报错退出。volume/amount 缺失时自动补零,amount 缺失时按 volume * mean(price) 估算,列顺序固定为 open, high, low, close, volume, amount。

环境

  • 昇腾 NPU:Ascend910(torch.npu.get_device_name(0) = Ascend910_9362)
  • CANN:8.5.1(/usr/local/Ascend/cann-8.5.1)
  • torch:2.9.0+cpu,torch_npu:2.9.0.post1
  • Python:3.11.14,pandas 3.0.2,numpy 1.26.4

安装

pip install -r requirements.txt

模型权重与 tokenizer 优先从本地快照加载(环境变量指定路径);未提供时自动回退到 HuggingFace Hub:

export KRONOS_MODEL_DIR=/path/to/Kronos-small
export KRONOS_TOKENIZER_DIR=/path/to/Kronos-Tokenizer-base

NPU 推理

python inference.py --data your_kline.csv --lookback 400 --pred-len 120

默认 python inference.py 使用当前目录的 HK_ali_09988_kline_5min.csv。脚本自动把模型与全部参与计算的 Tensor 迁移到 npu:0,日志打印模型名、任务、device、dtype、首个参数 device、数据摘要、预测摘要与同步耗时。

真实结果(NPU,npu:0)

数据:阿里 09988 5 分钟 K 线前 400 根为历史窗口,预测后续 120 根。seed=2026, T=1.0, top_p=0.9, sample_count=1。

指标值
预测行数120
close 均值190.9516
close 标准差4.1445
close 范围[185.5969, 197.3144]
单次推理耗时(含首次编译)1.703 s
退出码0

预测输出前 6 行(open/high/low/close/volume/amount,时间戳为 y_timestamp):

2019-12-04 09:55:00  186.626144  186.628571  186.283966  186.287323  557473.5  ...
2019-12-04 10:00:00  186.318451  186.346100  186.095154  186.130463  349154.4  ...
2019-12-04 10:05:00  186.194229  186.344269  186.095306  186.274078  468997.8  ...
2019-12-04 10:10:00  186.078522  186.574707  185.940689  186.453674  524302.1  ...
2019-12-04 10:15:00  186.217590  186.679871  186.024536  186.511520  516510.9  ...
2019-12-04 10:20:00  186.564560  186.762665  186.454620  186.602554  491114.7  ...

CPU-NPU 一致性

相同权重、输入、预处理、dtype 与随机种子下,对模型确定性核心(tokenizer encode、decode_s1、decode_s2)做 CPU 与 NPU 对比:

输出shapemax abs error结论
s1_logits(1,400,1024)3.05e-05PASS (atol=1e-4, rtol=1e-3)
s2_logits(1,400,1024)3.43e-05PASS
context(1,400,512)1.25e-06PASS
s1_ids / s2_ids(1,400)0(完全一致)PASS

说明:Kronos 为自回归 token 采样模型,CPU 与 NPU 的 RNG 实现不同,完整预测轨迹不逐 token 相同;本仓以确定性模型核心输出的数值一致性作为正确性证据,完整预测作为端到端业务结果。CPU 上同样 seed=2026 的 close 均值为 190.8585,与 NPU 的 190.9516 一致。

性能(npu:0)

预热 3 次、正式测试 10 次,lookback=400, pred_len=120, sample_count=1:

指标值
平均耗时1.309 s
min / max1.273 / 1.379 s
p50 / p90 / p951.296 / 1.345 / 1.362 s
吞吐0.764 series/s
峰值 NPU 显存≈187 MB(单卡 64GB HBM,余量充足)
首次运行(含编译)1.681 s;稳定运行 1.235 s

CPU 基线(48 核)单次 46.56 s,NPU 加速约 31×。

证据图

以下三张证据图由 xterm.js 根据本次任务真实日志生成(--style raw),非手工绘制:

  • agent_workflow — 侦察、数据检查、下载、加载、NPU 推理、一致性、benchmark、提交校验
  • npu_device_call — npu-smi、NPU 可用性、设备名、模型参数 device/dtype、Tensor device
  • model_result — 默认 python inference.py 的真实完整输出

限制

  • 模型为金融 K 线专用基础模型,预测结果仅供研究,不构成投资建议。
  • 完整预测使用采样(T=1.0, top_p=0.9),存在随机性;如需稳定对比请固定 seed。
  • 数据列 amount 在样例中部分为 0,模型对该列的预测主要反映原始数据的均值/方差。
  • 本仓不包含权重文件;权重需从 HuggingFace 下载或通过 KRONOS_MODEL_DIR 指向本地快照。