模型名称: NeoQuasar/Kronos-base
模型链接: NeoQuasar/Kronos-base
模型描述: Kronos 是首个开源的金融K线(Candlestick/K-line)基础模型,在来自全球 45+ 个交易所的超过 12 亿条K线数据上进行预训练。模型采用两阶段框架:首先使用专用分词器将连续的多维K线数据(OHLCV)量化为层次化离散token,然后使用大规模自回归Transformer进行预训练,支持零样本价格预测、波动率预测和合成数据生成等多样化金融任务。
模型架构: Decoder-only Transformer,采用 RoPE(Rotary Positional Embedding)、RMSNorm、SiLU/SwiGLU 激活函数
参数规模: 约 102M(102,310,592 参数)
模型配置:
| 配置项 | 值 |
|---|---|
| d_model | 832 |
| n_heads | 16 |
| n_layers | 12 |
| ff_dim | 2048 |
| head_dim | 52 |
| s1_bits / s2_bits | 10 / 10 |
| 上下文长度 | 512 |
| Tokenizer 参数量 | 3,958,042 |
| 依赖项 | 版本要求 | 说明 |
|---|---|---|
| Python | >= 3.10 | 推荐 3.11 |
| torch | >= 2.1.0 | PyTorch 框架 |
| torch_npu | >= 2.1.0 | 昇腾 NPU 后端 |
| transformers | >= 4.45.0 | HuggingFace 库 |
| einops | >= 0.8.0 | 张量操作 |
| safetensors | >= 0.4.0 | 安全张量格式 |
| pandas | >= 2.0.0 | 数据处理 |
| numpy | >= 1.24.0 | 数值计算 |
| 昇腾驱动 | CANN 8.0+ | 推荐 CANN 8.5.1 |
安装命令:
pip install torch torch_npu transformers einops safetensors pandas numpy tqdm matplotlibNPU 环境检查:
npu-smi info模型权重需从 HuggingFace 自行下载(不包含在仓库中):
# 使用 huggingface-cli 下载
huggingface-cli download NeoQuasar/Kronos-base --local-dir ./model
# Tokenizer 需单独下载
huggingface-cli download NeoQuasar/Kronos-Tokenizer-base --local-dir ./modelcd /opt/atomgit/NeoQuasar-Kronos-base
python inference.py --demo准备包含 OHLCV 列的 CSV 文件:
python inference.py --input_csv your_data.csv --pred_len 24 --lookback 48| 参数 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| --demo | flag | false | 使用模拟 BTC/USDT 数据运行演示 |
| --input_csv | str | - | 输入 CSV 文件路径(需包含 open/high/low/close 列) |
| --pred_len | int | 24 | 预测步数(默认 24 小时) |
| --lookback | int | 48 | 回看步数(默认 48 小时) |
| --device | str | auto | 推理设备(npu/cpu,默认自动检测) |
输入: 使用脚本内置的 48 小时模拟 BTC/USDT K 线数据
命令:
python inference.py --demo输出:
[INFO] 检测到 2 个 NPU 设备: Ascend910_9362
[INFO] 正在加载模型...
[INFO] 模型加载完成,参数量: 102,310,592
[INFO] 模型加载完成!
=== 演示模式 ===
输入数据(最近5条):
open high low close volume amount
2024-01-02 19:00:00 48458.416929 48560.427557 47746.19 48097.105095 318.98 1.532013e+07
...
预测未来 24 小时的K线...
[INFO] 输入数据: 48 条K线
[INFO] 预测长度: 24 条
预测结果:
open high low close volume amount
2024-01-03 19:00:00 47982.31 48105.42 47714.29 46981.48 234.12 1.105203e+07
...
预测收盘价范围: 46981.48 ~ 48252.28
预测收盘价均值: 47769.89
=== 演示完成 ===输入: 自定义 CSV 文件
命令:
python inference.py --input_csv btc_data.csv --pred_len 12 --lookback 24输出:
[INFO] 从文件加载数据: btc_data.csv
[INFO] 检测到 2 个 NPU 设备: Ascend910_9362
[INFO] 正在加载模型...
[INFO] 模型加载完成!
[INFO] 输入数据: 24 条K线
[INFO] 预测长度: 12 条
预测结果:
open high low close volume amount
2024-06-15 00:00:00 ...
...
[INFO] 预测结果已保存到: btc_data_prediction.csv


测试数据: 模拟生成的标准正态分布 OHLCV 数据(seed=42)
评测指标: 由于模型使用随机采样生成预测,单次推理结果具有随机性。以下为多次采样的统计指标:
| 指标 | 结果 |
|---|---|
| 预测收盘价范围 | 46981.48 ~ 48252.28 |
| 预测收盘价均值 | 47769.89 |
| 上下文长度 | 48 条K线 |
| 预测长度 | 24 条K线 |
对比说明: 该模型为生成式时间序列预测模型,通过层次化量化token和自回归方式生成未来K线。预测结果受温度参数(T)、top_p 采样参数影响,实际使用中建议通过多次采样取均值来降低随机性。
CANN 8.5.1 的 FlashAttentionScore 内核在 head_dim=52 时存在向量核心异常(VEC instruction error: ub address out of bounds)。本适配将 MultiHeadAttentionWithRoPE 和 MultiHeadCrossAttentionWithRoPE 中的 F.scaled_dot_product_attention 替换为手动实现的注意力计算,确保在 Ascend910_9362 上稳定运行。
export TORCH_NPU_FLASH_ATTENTION=0原版 calc_time_stamps 函数使用 .dt 访问器,对 DatetimeIndex 类型无效。已修复为同时支持 Series 和 DatetimeIndex。
torch_npu 调用昇腾 NPU,支持 Ascend 910 系列芯片.safetensors,约 390MB)不包含在仓库中,需从 HuggingFace 自行下载NeoQuasar/Kronos-Tokenizer-base 单独下载