Kronos-mini Ascend NPU 适配 - 金融 K 线时序预测基础模型在单卡昇腾 NPU 上的真实推理验证与性能交付。
Kronos 是首个面向金融 K 线的多市场预训练基础模型, 采用两阶段分层量化 (hierarchical quantization) 将连续 OHLCV 序列离散化, 再用自回归 Transformer 学习时序与跨资产表示。本仓库将原始 PyTorch 实现无修改地迁移到昇腾 NPU, 验证 CPU-NPU 数值一致性与真实推理性能。
| 项 | 值 |
|---|---|
| 输入类型 | pd.DataFrame + pd.Series timestamps |
| 必需列 | open, high, low, close (float32), 可选 volume, amount (缺失时自动补 0) |
| 时间特征 | 由 calc_time_stamps 从 timestamp 提取 minute, hour, weekday, day, month (int) |
| 列顺序 | 固定 ['open','high','low','close','volume','amount'] |
| dtype | float32 (归一化后 clip 到 [-5,5]) |
| 预处理 | 按样本均值/方差归一化 (x - mean)/(std+1e-5), clip, 预测后逆归一化 pred * (std+1e-5) + mean |
| 缺失值 | 不允许 NaN, 含 NaN 时抛异常 |
| 窗口 | lookback (历史长度, 本验证 256) + pred_len (预测长度, 本验证 32); 输入 Tensor 形状 [batch, seq_len, 6] |
| 批处理 | 支持 predict_batch 多序列并行, 要求历史长度一致 |
| 时间戳 | 输入 x_timestamp / y_timestamp 为 pandas datetime, 用于 TemporalEmbedding |
| 缩放说明 | 预测输出已逆归一化还原到原始价格量纲 |
| 示例数据 | 合成 K 线 (随机游走 close, OHLC 带噪声, volume 1000-10000), SHA-256 可复现 (seed 42) |
不得擅自改变列顺序或用随机输入充当业务结果; 评估时需记录 SHA-256、schema 与预处理契约。
pip install -r requirements.txt
# 需已安装 CANN Toolkit 与 torch_npu, 并配置 ASCEND_TOOLKIT_HOME模型权重首次运行时自动从 HuggingFace (经 hf-mirror) 下载:
NeoQuasar/Kronos-mini -> ./models/Kronos-miniNeoQuasar/Kronos-Tokenizer-2k -> ./models/Kronos-Tokenizer-2k本地已缓存则直接加载, 正式推理不依赖隐式联网下载; 也可预先用 huggingface_hub.snapshot_download 下载到上述路径。
默认命令 (真实 NPU 推理, 自动同步计时):
python inference.py关键逻辑 (见 inference.py):
torch.npu.set_device(0), 模型与所有参与计算的 Tensor 迁移到 npu:0torch.npu.synchronize() 区分编译与稳定耗时top_k=1 (贪心) 保证 CPU-NPU 一致性可验证, T=1.0, top_p=0.9以下为本次在 npu:0 上执行 python inference.py 的真实输出 (lookback 256, pred_len 32, batch 1, float32):
[RESULT] Device: npu:0, Elapsed (synchronized): 0.5810s (首轮含编译)
[RESULT] Output shape: (32, 6)
[RESULT] Forecast head:
open high low close volume amount
2024-01-02 06:50:00 100.486 100.578 100.365 100.545 3368.03 364343.75
2024-01-02 06:55:00 100.467 100.419 100.125 100.147 3938.60 423280.71
2024-01-02 07:00:00 100.191 100.259 100.024 100.101 4024.15 429806.00
...
[VERIFY] Output finite: True, shape correct: True完整日志见 assets/model_result.png (由 xterm.js 从真实日志渲染)。
cpu_output.npy / npu_output.npypython scripts/compare_outputs.py --cpu working/cpu_output.npy --npu working/npu_output.npy --task forecasting --atol 1e-2 --rtol 1e-2
# 同时验证严格阈值
python scripts/compare_outputs.py --cpu working/cpu_output.npy --npu working/npu_output.npy --task forecasting --atol 1e-4 --rtol 1e-3cpu_shape [32,6] npu_shape [32,6] finite truemax_abs_error 0.125 (amount 列大数值, 相对误差 <1e-3)mean_abs_error 0.007atol 1e-2 rtol 1e-2: passed trueatol 1e-4 rtol 1e-3: passed true测试条件: batch 1, lookback 256, pred_len 32, 6 通道 (OHLCV+amount), dtype float32, npu:0, 预热 3 次, 正式 10 次, 每轮 torch.npu.synchronize() 同步计时 (不含 CSV 读取与 DataFrame 预处理, 仅模型推理)。
| 指标 | 值 |
|---|---|
| 首轮编译+推理 | 0.5810s |
| 稳定 avg | 0.2182s |
| min / max | 0.2094s / 0.2220s |
| p50 / p90 / p95 | 0.2193s / 0.2208s / 0.2214s |
| 吞吐 | 4.58 windows/s (1/avg) |
| CPU 对照 avg | 1.85s (NPU 加速约 8.5x) |
| dtype | float32 |
| 峰值显存 | <500 MB (4.1M 参数) |
表格/时序模型分别报告 rows/s vs windows/s; 预处理是否计时已说明。
三张 PNG 由 xterm.js 根据本次真实日志通过 scripts/render_xterm_evidence.mjs --style raw 生成 (非 Matplotlib 模拟), 深灰背景白色等宽字体, 提示符 atomgit@pod-a94f8701860f4700b161b00e290de466:~$:
assets/agent_workflow.png - 侦察、数据检查、下载、加载、NPU 推理、一致性、benchmark、提交校验全流程assets/npu_device_call.png - npu-smi info、NPU 可用性、设备名、模型参数 device/dtype、输入输出 Tensor deviceassets/model_result.png - 默认 python inference.py 真实完整输出图片仅为日志渲染, 提示符为展示标签, 不证明服务器身份。

fit() 的表格模型不在本仓范围max_context 限制 (本配置 512, 原模型支持 2048), 超长自动截断top_k=1 保证可复现; 概率预测如需多路径采样, 需评估统计指标 (CRPS/pinball) 而非单点 allclose