이번 세미나는 시계열 데이터에서 필연적으로 발생하는 Distribution Shift, 그리고 비정상성의 문제점을 해결하기 위해 Test-Time Adaptation(TTA)를 통해 분포 변화를 완화시킨 TAFAS라는 방법론을 제안한 “Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation”라는 논문에 대한 발표를 중심으로 진행되었습니다. 해당 방법론은 기존 다른 분야에서와는 달리 시계열 예측 분야에서는 Ground Truth에 늦게라도 접근이 가능하다는 점을 활용해 부분적으로 관측 가능한 값, POGT를 정의해 Loss 연산 과정에 포함시킵니다. 실제 시계열 데이터들이 Distribution Shift로 인해 학습과 테스트 내 정상 데이터들의 분포도 다를 수 있는 문제점들이 발생하는데, TTA가 이를 해결하기 위한 가장 직관적인 방법이라고 여겨지며, 시계열 데이터가 가지는 특성을 활용한 특별한 TTA 방법론을 제안한 것이 좋은 의의를 가진다는 생각이 들었습니다. 또한 GCM을 적용하는 과정에서도 기존 모델이 사전 학습한 정보를 보존할 수 있도록 설계된 점이 납득 가능하다고 생각합니다. 좋은 발표 해주셔서 감사합니다.

이번 세미나에서는 시계열 데이터의 비정상성 문제를 Test-time Adaptation으로 해결하는 방법론을 제시한 ‘Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation’ 논문에 대해 소개해 주셨습니다. TAFAS 논문은 Test-time Adaptation이라는 기존 비전 영역에서 활발히 연구된 개념을 시계열 예측에 맞게 창의적으로 확장하였습니다. 시계열 예측에서 Ground Truth는 미래에 도달하면 결국 관측 가능하다는 점에 착안하여, 완전한 정답이 관측되기 전 일부만 파악 가능한 POGT(Partially-Observed Ground Truth)를 활용해 예측 모델을 테스트 시점에 동적으로 적응시키고자 하였습니다. 특히 PAAS(Periodicity-Aware Adaptation Scheduling)를 통해 주기성을 고려한 적응 시점을 자동으로 결정하고, GCM(Gated Calibration Module)으로 국소 및 전역 분포 불일치를 동적으로 보정하며, 마지막으로 관측되지 않은 미래 예측값을 조정하는 PA(Prediction Adjustment)를 통해 전체 예측의 일관성과 정확도를 높인 점이 인상깊었습니다. 특히 GCM이 예측기 전체를 재학습하지 않고도 의미 있는 분포 보정이 가능하다는 점에서, 실사용 측면에서도 매우 실용적인 접근이라고 생각되었습니다. TAFAS는 단순한 TTA 기법의 확장에 그치지 않고, 시계열 예측 특유의 temporal dependency와 delayed feedback이라는 고유한 속성을 반영해 설계되어 향후 발전 가능성이 높다고 생각합니다. 흥미로운 주제로 좋은 발표해 주셔서 감사합니다.

이번 세미나에서는 “Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation” 논문을 통해, 시계열 예측에서 Distribution Shift 및 비정상성 문제를 Test-time Adaptation 방식으로 해결하고자 한 TAFAS 방법론을 소개받을 수 있어 매우 흥미로웠습니다. 특히 시계열 데이터의 특성을 적극적으로 활용하여, 예측 시점 이후에는 Ground Truth에 도달할 수 있다는 점에 착안해 POGT(Partially-Observed Ground Truth)를 도입하고, 이를 Loss 계산에 통합한 부분이 인상적이었습니다. 또한, PAAS로 주기성을 반영한 적응 시점 결정, GCM을 통한 동적 분포 보정, PA를 통한 미래 예측값의 조정 등 시계열 도메인에 특화된 적응 전략을 제시한 점이 기존 TTA 기법과 차별화된 강점이라고 생각합니다. 특히, GCM을 활용해 모델의 기존 지식을 보존하면서도 실제 배포 환경에서 발생하는 분포 변화에 유연하게 대응할 수 있는 실용적인 접근이라는 점에서 의미가 크다고 느꼈습니다. 시계열 예측 분야에서 Test-time Adaptation의 새로운 가능성을 보여준 연구로, 앞으로의 발전도 기대됩니다. 좋은 발표 감사합니다.

이번 세미나는 "Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation"으로 진행되었습니다.
Train데이터와 Test데이터 사이의 distribution shift 문제를 해결하기 위해서 test time 에서의 variant semantics을 사전 학습된 예측 모델에 도입함으로써, 변화하는 test 분포를 반영하고자 하는 목적을 갖고 있습니다.
기존에도 test-time adaptation 관련된 연구는 있었지만, 이는 시계열 데이터에 적용할 때 달라지는 가정이 있기 때문에 이 위배되는 가정을 시계열 도메인에서 해결하기 위한 아이디어를 사용했습니다.
시계열 예측을 위해서 모델 training에 대해 방법론을 제시한 것이 아니라 test 시 모델 출력을 보정하는 연구라는 점에서 기존에 알고 있던 내용과 달라 새로웠습니다.
다양한 foundation 모델에 연구에서 제안하는 TAFAS를 적용하는 것 만으로도 장기 시계열 데이터 예측에 효과가 있다는 점이 흥미로웠습니다.
좋은 발표 감사합니다.

이번 세미나는 시계열 예측에서 발생하는 Distribution Shift와 비정상성 문제를 해결하기 위해 Test-time Adaptation(TTA)을 활용한 TAFAS 방법론을 다룬 논문 발표로 진행되었습니다. 예측 이후 일부 Ground Truth에 접근 가능하다는 시계열 데이터의 특성을 활용해 POGT를 정의하고 Loss 계산에 반영한 점이 인상적이었습니다. 또한 PAAS, GCM 등의 기법을 통해 주기성과 기존 지식 보존을 동시에 고려한 설계는 기존 TTA 방식과 차별화되는 강점으로 느껴졌습니다. 시계열 도메인에 특화된 실용적인 TTA 접근법으로 의미 있는 기여라고 생각합니다.

시계열 데이터의 distribution shift를 지속적으로 다루어주셔서 관련 동향에 대해 조금이나마 함께 파악할 수 있어 유익하게 느껴집니다. Periodicity-Aware Adaptation Scheduling과 Gated Calibration Module이라는 2가지 방법론을 도입했는데, 둘 다 복잡하지 않은 구조와 논리를 갖고 있으면서도 설득력있는 time adaption을 수행한 듯해 인상적이었습니다. Distribution shift의 해결을 위해서는 FFT 등을 사용한 decomposition이 반필수일 듯해, 연구의 접근법이 합리적이라 느꼈습니다. 벤치마크 데이터셋 외에도, shift가 보다 두드러지는 다른 데이터셋을 사용했을 때 제안된 모델의 상대적인 adaption 성능이 얼마나 부각될 수 있을지 궁금해졌습니다.

이번 세미나에서는 시계열 예측에서 distribution shift 문제를 해결하기 위한 test-time 적응 기법을 제안한 논문 TAFAS: Test-time Adaptive Forecasting for non-stationary time Series를 중심으로 진행되었습니다. 본 연구는 시계열 데이터의 비정상성으로 인해 발생하는 분포 변화에 대응하기 위해, 테스트 시점에서 사전관측 가능한 부분적인 ground truth를 활용하는 Periodicity-Aware Adaptation Scheduling(PAAS) 기법을 도입하여 적응 시점을 효율적으로 조절합니다. 이를 통해 기존 entropy 기반 TTA 방식의 한계를 극복하고, regression 특성에 맞게 MSE 기반의 loss로 모델을 미세 조정하며, 다양한 시계열 데이터셋에서 일반화 성능 향상과 빠른 적응 효과를 실험적으로 입증하였습니다.