- 人工智能
- 机器学习
- 深度学习
- 基础模型
【免费下载链接】Kumo-Forecast
Kumo-Forecast 是 NVIDIA 开源的时间序列预测模型,基于 MOMENT 编码器 + 可训练预测头,配合 DARR(Domain-Aware Representation and Retrieval)上下文增强模式,通过自回归多步外推实现任意长周期预测。本文带你弄懂它的长程预测原理和模型文件结构。
🧭 Kumo-Forecast 是什么?
Kumo-Forecast 的核心是一个MOMENT-1-large Transformer 编码器(约 3.4 亿参数,编码器权重冻结),加上一个专门训练的预测头。它支持两类预测模式:
- 直接预测:模型单次前向推理,输出原生预测窗口(默认 24 步);
- DARR 模式:将直接预测与历史数据中的 kNN 相似模式检索结果结合,让长程预测更可靠。
仓库内主要文件如下,建议先对照 README.md 模型卡了解全貌:
| 文件 | 说明 |
|---|---|
| best_model.pt | 主模型权重 |
| config_base.json | 模型结构与预测参数配置 |
| standardizer.pkl | 数据标准化器,用于预测前/后的缩放与还原 |
| run8_best_model_cr.pt | 训练实验(CR 消融)最佳权重 |
| moment_head_512_6hr.pt | MOMENT 预测头权重(512 上下文,6 小时步长) |
🔍 先看配置:原生预测窗口有多大?
打开 config_base.json,几个关键参数决定了"一次能预测多远":
| 参数 | 值 | 含义 |
|---|---|---|
seq_len | 96 | 输入历史窗口长度 |
pred_len | 24 | 单次前向推理的预测步数(原生窗口) |
patch_len | 8 | 序列切片的 patch 长度 |
d_model/enc_layers/n_heads | 1024 / 24 / 16 | Transformer 骨干结构 |
use_crs | true | 启用 DARR 上下文检索增强 |
target_col | OT | 预测的目标列(含 6 个辅助通道) |
也就是说:模型"天生"只能向前看 24 步。想要预测 100 步、500 步甚至更久,就需要自回归多步外推——这正是长周期预测的关键。
⚙️ 自回归多步外推:四步循环原理
自回归外推的思路非常直观,可以理解为"用预测喂预测":
- 读入窗口:取最近
seq_len=96步历史数据作为输入; - 一次性预测:模型前向推理,输出接下来的
pred_len=24步预测值; - 滑动窗口:把刚预测的 24 步追加到序列尾部、同时丢弃最旧的 24 步,组成新的 96 步输入;
- 循环外推:重复第 2、3 步,直到累计预测步数达到目标 horizon;最后用 standardizer.pkl 中的标准化参数做反标准化,还原为原始量纲。
# 目标 horizon H 所需的前向次数约为 ⌈H / 24⌉ # 例如预测 120 步 → 约 5 次前向推理这样做的收益是:无论多长的 horizon,模型结构完全不用改,只是多跑几轮推理。这也是为什么 README 中明确写道:输出结果supports autoregressive extension for horizons beyond the model's native capability。
📉 为什么长程预测难?误差会"滚雪球"
自回归外推的经典痛点是误差累积:第 1 轮的微小偏差会作为第 2 轮的输入,逐步放大。Kumo-Forecast 用两个机制来抑制它:
- DARR 检索锚定:从历史上下文数据中检索与当前窗口相似的片段,把"记忆中的真实模式"与直接预测融合,相当于给外推过程不断"拉回到真实数据分布";
- Adaptive ReVIN 等归一化组件(配置中
use_adaptive_revin: true):逐窗口自适应地消除尺度和趋势偏移,减少量纲漂移。
实践建议:
- 保留完整上下文:不要只喂最近几天,窗口越长,模式检索和周期识别越准;
- 在自己的数据上先评估:不同步长(如 15 分钟电力负载 vs 周级流感数据)的误差累积速度差异很大;
- 按需截断:如果业务只需要 48 步,就只外推 2 轮,别为了"能算"而算太长。
🚀 快速上手:环境与数据要求
运行环境要求(详见 README.md):
- 框架:PyTorch(配合 Transformer Engine);
- 硬件:NVIDIA GPU(Ampere / Hopper 架构),Linux 系统;
- 输入数据:含时间戳列 + 一个或多个数值列的表格数据(Pandas DataFrame 或 CSV/JSON),支持序列长度 256、512、1024、2048;
- 预处理:需要先经过标准化(仓库已提供 standardizer.pkl)。
获取仓库:
git clone https://gitcode.com/hf_mirrors/nvidia/Kumo-Forecast✅ 小结
Kumo-Forecast 的长周期预测方案可以概括为一句话:"96 步输入 → 24 步原生预测 → 自回归循环外推 + DARR 检索校准"。理解了这个循环,你就掌握了它的核心:
seq_len决定模型看多远,pred_len决定一步推多远;- 自回归让任意 horizon 成为可能,DARR 让长程结果更可信;
- 误差累积是长程预测绕不开的问题,检索增强 + 自适应归一化是它的解法。
把这套流程套到自己的电力负载、交通流量或传感器数据上,你就能用同一个模型跑出从小时级到天级的长周期预测。
- 人工智能
- 机器学习
- 深度学习
- 基础模型
【免费下载链接】Kumo-Forecast
相关推荐
NVIDIA Kumo-Forecast发布:如何用3.4亿参数模型实现长周期时序预测?新手概览指南
NVIDIA Kumo Forecast发布:如何用3.4亿参数模型实现长周期时序预测?新手概览指南 Kumo Forecast 是 NVIDIA 开源的时序预
人工智能机器学习深度学习基础模型如何用Kumo-Forecast做时序预测:面向初学者的单变量预测完整教程
如何用Kumo Forecast做时序预测:面向初学者的单变量预测完整教程 Kumo Forecast 是 NVIDIA 开源的时序预测模型,基于 MOMENT
人工智能机器学习深度学习基础模型突破1024步预测上限:Timestral-28M块状递归预测与长周期预测原理剖析
突破1024步预测上限:Timestral 28M块状递归预测与长周期预测原理剖析 Timestral 28M 是 Mistral AI 开源的 时间序列预测基
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考