Google випустила TimesFM-3 для zero-shot мультиваріантного прогнозування часових рядів
Google опублікувала TimesFM-3 — базову модель на 330 млн параметрів, навчену на понад 1 трлн часових точок для zero-shot мультиваріантного прогнозування. Вона обробляє множинні пов'язані ряди та динамічні коваріати за один прохід, очолюючи бенчмарки на кшталт Gift-Eval та FEV-Bench.
Вплив: Середній
Чому це важливо
Тепер можна прогнозувати складні багатовимірні часові ряди з урахуванням майбутніх подій за допомогою відкритих ваг без навчання кастомних моделей.
TL;DR
- 01TimesFM-3 додає нативне zero-shot мультиваріантне прогнозування для кількох цілей та динамічних коваріатів.
- 02Неавторегресійне декодування через маскування патчів формує весь горизонт за один прохід без накопичення похибок.
- 03Модель на 330 млн параметрів надає точкові прогнози та 9 квантилів невизначеності без додаткового навчання.
Ключові факти
- Кількість параметрів
- 330 мільйонів
- Датасет навчання
- 1+ трильйон часових точок
- Розмір патча
- 32 часові кроки
- Ймовірнісний вивід
- 9 квантилів (від 10-го до 90-го процентиля)
- Результат у бенчмарках
- 1 місце на Gift-Eval, FEV-Bench та Time
Нативна мультиваріантна архітектура
Попередні моделі на кшталт TimesFM-2.5 обмежувалися одноваріантними рядами й не враховували зовнішні чинники. TimesFM-3 містить 330 млн параметрів і попередньо навчена на понад 1 трлн синтетичних та реальних часових точок. Вона підтримує множинні цільові ряди, ретроспективні коваріати (історичний трафік) та динамічні майбутні фактори (заплановані акції чи погоду) завдяки конкатенації токенів із випередженням.
2D-увага та неавторегресійне декодування
Стек трансформера структурує токенізовані 32-крокові патчі у двовимірній сітці:
- Причинна часова увага (Causal Temporal Attention): обробляє історію по горизонталі всередині кожного ряду для запобігання витоку даних.
- Повна міжваріантна увага (Full Variate Attention): працює по вертикалі між різними рядами, вловлюючи крос-кореляції.
Замість повільної ітеративної генерації TimesFM-3 застосовує маскування неперервних патчів. Цільові ряди маскуються на горизонті прогнозу, тоді як майбутні відомі фактори залишаються доступними, що дозволяє виконати прогноз за один прямий прохід разом із 9 квантилями ймовірності (від 10-го до 90-го процентиля).
Результати бенчмарків та доступність
На бенчмарках Gift-Eval, FEV-Bench та Time модель TimesFM-3 посіла перше місце серед базових моделей як за точковою точністю, так і за ймовірнісними метриками, випередивши Chronos-2, Toto 2.0 та TimesFM-2.5. Ваги моделі доступні на GitHub і Hugging Face, а невдовзі з'явиться підтримка в BigQuery через команду AI.FORECAST.
Спробуй за 2 хвилини
git clone https://huggingface.co/google/timesfm-3
pip install timesfmbash
✓ Коли використовувати
- Прогнозування кількох взаємопов'язаних метрик із відомими майбутніми подіями чи промо-акціями.
- Zero-shot пайплайни, де навчання окремої моделі під кожен ряд є занадто ресурсомістким.
- Завдання, які потребують оцінки ймовірнісних меж невизначеності разом із точковим прогнозом.
✕ Коли НЕ варто
- Прості одноваріантні задачі, де базові статистичні евристики або легкі моделі ARIMA дають достатню точність.
- Потоковий аналіз у реальному часі з вимогами до затримки менше однієї мілісекунди.
Що зробити сьогодні
- Клонуйте репозиторій TimesFM-3 або завантажте чекпоїнт із Hugging Face для тестування мультиваріантних рядів.
- Підготуйте майбутні відомі фактори (акції, свята) як динамічні коваріати для однопрохідного інференсу.
- Порівняйте затримку однопрохідного прогнозування з існуючими авторегресійними пайплайнами.
Джерела