模型名称: thuml/sundial-base-128m
模型链接: HuggingFace
模型描述: Sundial 是一个生成式时间序列基础模型,采用 Transformer Decoder + Flow Matching 扩散架构。该版本在 1 万亿时间点上预训练,具有 128M 参数,支持零样本点预测和概率预测。
模型架构: SundialPatchEmbedding → 12层 SundialDecoderLayer (SundialAttention + SundialMLP + LayerNorm) → FlowLoss (SimpleMLPAdaLN 扩散头)
参数规模: 128,329,680 (128M)
输入规格:
[batch, seq_len],推荐 seq_len=96, 192, 336, 720 等input_token_len=16 个连续值输出规格:
[batch, output_token_len],默认 output_token_len=720| 依赖项 | 版本要求 | 说明 |
|---|---|---|
| Python | >= 3.10 | 推荐 3.11 |
| torch | >= 2.1.0 | PyTorch 框架 |
| torch_npu | >= 2.1.0 | 昇腾 NPU 后端 |
| safetensors | >= 0.4.0 | 权重加载 |
| numpy | >= 1.24.0 | 数值计算 |
| 昇腾驱动 | CANN 8.0+ | 推荐 CANN 8.5.1 |
| NPU 硬件 | Ascend 910 | 单卡或多卡 |
安装命令:
pip install torch torch_npu safetensors numpy# 检查 NPU 设备
npu-smi info
# 验证 torch_npu
python3 -c "import torch_npu; print(torch.npu.device_count(), torch.npu.get_device_name(0))"方式一:HuggingFace(推荐)
huggingface-cli download thuml/sundial-base-128m --local-dir ./weights方式二:AtomGit 镜像(HuggingFace 下载慢时使用)
huggingface-cli download <AtomGit镜像地址> --local-dir ./weights# 运行完整推理测试
python3 inference.py --model-path ./weights
# 自定义参数
python3 inference.py --model-path ./weights --input-len 96 --batch-size 4 --num-samples 10| 参数 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| --model-path | str | 必填 | 模型 checkpoint 路径 |
| --device | str | npu | 设备类型 (npu/cpu) |
| --num-samples | int | 10 | 随机采样次数(用于概率预测) |
| --input-len | int | 96 | 输入序列长度 |
| --batch-size | int | 4 | 批量推理批次大小 |
from inference import load_model, generate_forecast
import torch
model = load_model("./weights", device="npu")
input_series = torch.randn(1, 96) # [batch, seq_len]
forecast = generate_forecast(model, input_series, num_samples=10)
print(forecast.shape) # torch.Size([1, 720])[模型] thuml/sundial-base-128m
[设备] Ascend910_9362 (npu:0)
[输入] 模拟时间序列 (sin波 + 趋势 + 噪声), shape=(1, 96)
[输出] 预测序列, shape=(1, 720)
[耗时] 320.6ms
[状态] SUCCESS[输入] batch 随机时间序列, shape=(4, 96)
[输出] 批量预测, shape=(4, 720)
[耗时] 91.7ms
[状态] SUCCESS 次数: 50
平均: 84.2ms
最小: 78.5ms
最大: 89.0ms
标准差: 3.9ms
P50: 86.7ms
P99: 88.7ms运行命令:
python3 inference.py --model-path ./weights输出(样例 1):
>>> 样例 1: 单条时间序列推理
输入: 模拟时间序列 (sin波 + 趋势 + 噪声), shape=(1, 96)
输入范围: [0.0497, 6.1368]
输出: 预测序列, shape=(1, 720)
前10个预测值: [6.3110, 6.5309, 6.7208, 6.8141, 6.8392, 6.8748, 6.8957, 6.8236, 6.7097, 6.6158]
输出范围: [1.0933, 6.8957]
推理耗时: 320.6ms
[状态] SUCCESS输出(样例 2):
>>> 样例 2: 批量推理 (batch_size=4)
输入: batch 随机时间序列, shape=(4, 96)
输出: 批量预测, shape=(4, 720)
序列0: 前5个值 = [0.1153, 0.1250, -0.1731, 0.0676, 0.1728]
序列1: 前5个值 = [-0.2399, -0.1275, -0.1701, 0.1149, -0.3131]
序列2: 前5个值 = [0.1211, 0.1448, -0.0112, 0.0429, -0.0551]
推理耗时: 91.7ms
[状态] SUCCESS输出(样例 3):
>>> 基准测试: 50次推理统计
次数: 50
平均: 84.2ms
最小: 78.5ms
最大: 89.0ms
标准差: 3.9ms
P50: 86.7ms
P99: 88.7ms
[状态] SUCCESS


| 配置项 | 值 |
|---|---|
| 数据集 | 合成时序 (sinusoidal + Gaussian noise) |
| 输入长度 | 96 |
| 预测长度 | 720 |
| 概率样本数 | 10 |
| 随机种子 | 42 |
| 设备 | Ascend910_9362 (npu:0) |
| 指标 | 值 | 说明 |
|---|---|---|
| MSE | 1.162344 | 均方误差 |
| RMSE | 1.078120 | 均方根误差 |
| MAE | 0.934742 | 平均绝对误差 |
| CRPS | 0.853447 | 连续排序概率分数 (经验估计, 始终 >= 0) |
| Norm RMSE | 0.3487 | 归一化 RMSE (除以 GT range) |
| Norm MAE | 0.3023 | 归一化 MAE |
| Sample Diversity | 0.140890 | 概率样本标准差均值 |
| GT Range | 3.0920 | Ground Truth 值域范围 |
| 时间范围 | RMSE | MAE | Diversity |
|---|---|---|---|
| t=1~120 | 1.1552 | 1.0795 | 0.1243 |
| t=1~240 | 1.0633 | 0.9657 | 0.1385 |
| t=1~480 | 1.0757 | 0.9235 | 0.1332 |
| t=1~720 | 1.0781 | 0.9347 | 0.1409 |
CRPS = E|X-y| - 0.5*E|X-X'|,其中 X 和 X' 为独立预测样本,y 为 Ground Truth。该指标衡量概率预测的整体质量,越低越好。# 精度评测
python eval_precision.py \
--model-path ./model \
--device npu:0 \
--input-len 96 \
--pred-len 720 \
--num-samples 10 \
--seed 42评测输出示例:
============================================================
[Status] SUCCESS
[Device] Ascend910_9362 (npu:0)
[Model] SundialForPrediction (128M params)
[Data] Synthetic (sinusoid + noise), input=96, pred=720
[Metrics] MSE=1.162344, MAE=0.934742, CRPS=0.853447
[Metrics] Norm RMSE=0.3487, Norm MAE=0.3023, Diversity=0.140890
[Time] Inference: 0.2281s
============================================================DynamicCache.get_usable_length() API 兼容性(transformers >= 4.50)无