Domain Generalization for Time-series Forecasting via Feature Alignment

Abstract

This thesis presents a novel feature alignment framework for domain generalization of time-series forecasting models, with a specific focus on N-BEATS and its variants. The proposed framework transforms N-BEATS into a robust representation learning architecture by leveraging marginal feature probability measures derived from the intricate interplay of residual and feature extracting operators within each stack of the N-BEATS. These measures are aligned across stacks using the Sinkhorn divergence, an efficient approximation of the optimal transport distance. The training objective of the proposed framework consists of two key components: a forecasting loss, derived for empirical risk minimization, and an alignment loss, computed using the Sinkhorn divergence. This dual loss structure enables the model to learn invariant features stack-wisely across multiple source data sequences while preserving N-BEATS's inherent interpretability. Comprehensive experimental evaluations, accompanied by in-depth ablation studies, convincingly demonstrate the exceptional forecasting and generalization capabilities of the proposed model. The results illustrate the framework's potential in effectively addressing domain generalization challenges in time-series forecasting.

본 연구는 시계열 예측 모델의 도메인 일반화를 위한 특징 정렬 프레임워크를 제안한다. 제안된 프레임워크는 N-BEATS와 그 변형 모델을 기반으로 하며, 내부에서 유도된 확률분포에 표현 학습 방법론을 적용하여 도메인에 무관한 공통적인 특징을 학습할 수 있도록 한다. 구체적으로, 제안된 프레임워크는 Sinkhorn 다이버전스를 사용하여 특징 확률분포 간 거리를 계산하고, 이를 기반으로 이중 손실 함수를 설계한다. 이 손실 함수는 시계열 예측 오류와 특징 정렬 오류를 동시에 최소화하도록 설계되어, 기존 모델의 해석 가능성을 유지하면서 도메인 일반화 성능을 향상시킨다. 실험 결과, 제안된 프레임워크는 다양한 실세계 데이터와 다양한 상황에서 시계열 예측 모델의 도메인 일반화 성능을 향상시킬 수 있음을 확인하였다. 이는 제안된 프레임워크가 도메인에 무관한 공통적인 특징을 학습함으로써, 새로운 도메인으로의 일반화에 효과적임을 의미한다.