google/timesfm-3.0-pytorch
시계열 예측timesfm-non-commercial-license-v1.0
Variate Attention과 Iterative RevIN을 결합한 Google의 pretrained 시계열 예측 모델
학습 방식 · GiftEvalPretrain을 기반으로 Wikipedia Pageviews와 Google Trends, synthetic·augmented data를 추가해 사전 학습했으며, GiftEvalPretrain에서는 fev-bench와 겹치는 데이터셋을 제외했습니다.
TL;DR
Google Research가 개발한 pretrained 시계열 예측 foundation model로, 별도 Fine-tuning 없이 시계열 입력에서 미래 구간을 예측하는 TimesFM 3.0 공식 PyTorch 가중치입니다. Stacked Mixing Transformer에 Variate Attention과 CPM Iterative RevIN을 결합하고, 입력을 32 길이 패치와 64 길이 예측 패치로 처리합니다. 20개 Transformer layer, model dim 1280, 16 heads 구조를 사용하며 GiftEvalPretrain, Wikipedia Pageviews, Google Trends, synthetic·augmented data로 사전 학습됐습니다.
핵심 포인트
- 32 길이 입력 패치와 64 길이 예측 패치로 시계열을 나눠 미래 구간을 생성합니다.
- Stacked Mixing Transformer에 Variate Attention을 결합해 여러 변량의 관계를 처리합니다.
- CPM Iterative RevIN을 적용하고 20개 Transformer layer와 16 heads로 구성했습니다.
- GiftEvalPretrain, Wikipedia Pageviews, Google Trends와 synthetic·augmented data로 사전 학습했습니다.
211
LIKES
0
DOWNLOADS
0 / 0
조회수
관련 토론
아직 관련 토론이 없습니다.
댓글
댓글을 작성하려면 로그인이 필요합니다.