이번 세미나는 “Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors” 논문에 대하여 소개해주셨습니다. 해당 논문은 시계열의 정상성이 지켜지지 않는 경우 발생하는 distribution shift 문제를 해결하고자 시계열 특성을 time-variant / invariant 특징으로 분리한 후 time-variant 에 대하여 Koopman theory를 기반으로 Koopman operator를 적용하여 dynamic 데이터를 다루는 방법을 제안하였습니다. 시계열의 특징을 분해하여 concept drift를 다루는 재밌는 아이디어라 생각되었고 분석 부분에서 degree of variation으로 두 시계열 특징의 차이를 보이거나 eigen decomposition을 통해 eigen value의 분포를 보임으로써 제안 방법의 효과를 나타낸 점이 인상깊었습니다. 좋은 발표 감사합니다.

오늘 세미나에서는 비정상 시계열 데이터의 동역학을 효과적으로 분석하고 예측하는 'Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors' 모델에 대해 소개해 주셨습니다. 해당 논문에서는 Koopman 이론을 바탕으로 설계된 Koopa 모델이 도입되어, 시계열 데이터의 변동성을 고려한 동역학적 요소를 정교하게 학습할 수 있는 구조를 선보였습니다. 특히, Koopa는 각 블록이 독립적으로 동역학을 학습할 수 있도록 잔차 연결을 활용하여, 이전 블록의 동역학이 후속 블록에 영향을 끼치지 않도록 하는 설계가 인상적이었습니다. Fourier 필터를 통한 시간 변동성 및 비변동성 요소의 분리 방법은 비정상 데이터의 내재된 패턴을 명확히 해석할 수 있었고, 그 결과 Koopa 모델이 기존의 다양한 시계열 예측 모델들보다 우수한 성능을 보여주며, 특히 비선형 동적 시스템을 포착하는 능력에서 높은 효율성을 입증하였습니다. 해당 연구는 비정상 시계열 데이터를 처리하는 데 있어서 실질적인 방법론적 진보를 이루었으며, 향후 다양한 실제 적용 분야에서 사용할 수 있을 것이라 생각합니다. 중간에 질문으로 나온 Measurement Function을 Kernel Trick으로 볼 수 있는지에 대한 질문도 매우 흥미로웠습니다. 수식식으로 매우 어려운 논문이었는데 최대한 이해하기 쉽게 설명해주셔서 감사합니다.

금일 세미나는 시계열 데이터의 distribution shift 문제를 해결하고자 Koopman Theory를 기반으로 하는 모델 구조를 제안한 “Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors”을 중심으로 진행되었습니다. Koopman theory는 특정 분포를 다른 분포로 변환하는 함수 대신 원본 차원을 고차원으로 변환하여 선형 연산자를 통해 처리할 수 있다는 이론입니다. 이에 맞추어 본 논문에서는 정상 및 비정상 데이터를 나누어 모델링하고 있었습니다. 정상 데이터에 대해서는 이전 시점의 hidden representation을 다음 시점 예측에 사용한다는 점이 인상적이었으며 비정상 데이터는 현재 시점의 hidden representation을 이용하여 autoencoder 현태의 과업을 수행하는 것이 인상적이었습니다. 특히, 이론만 접했을 때는 모델링으로 구현하는 것이 복잡할 것으로 예상하였으나 단순 mlp 레이어를 통해 동작할 수 있다는 점을 실험적으로 증명한 것이 흥미로웠습니다. 다양한 모델 구조들이 제시되고 있으나, 결국 탄탄한 이론을 배경으로 이를 구현하고 증명하는 작업이 좋은 연구로서 필수적이라는 점을 다시 한번 생각해볼 수 있었습니다. 좋은 발표 감사드립니다.

오늘 세미나에선 "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors" 논문을 중심으로 진행되었습니다. 해당 연구는 Koopman 이론을 활용해 시계열 데이터의 distribution shift 문제에 접근하는 새로운 방식을 제시했습니다. 특히, 시계열 데이터를 시간 변동성(time-variant)과 시간 불변성(time-invariant) 특징으로 나누어 처리하는 접근법을 제안합니다.. Koopman operator를 이용해 고차원에서 선형 동역학을 모델링함으로써, 복잡한 비선형 시계열도 효과적으로 다룰 수 있다는 의의를 강조합니다. 이를 통해, 동역학 데이터의 다양한 변화를 캡처하고, concept drift를 효율적으로 관리할 수 있는 시계열 연구를 확인할 수 있었습니다. 다소 어려운 내용임에도 깔끔하고 친절한 발표자료 덕분에 잘 이해할 수 있었습니다. 좋은 발표 감사합니다.

금일 세미나는 Koopman theory를 바탕으로 Non-stationary time-series에 대해 분석을 수행한 'Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors'라는 논문을 소개해 주셨습니다. 해당 논문에서는 Non-stationary time-series에 내재된 다양한 Dynamics를 분해하고 적절한 Koopman operator를 채택하고자, 시계열을 예측 가능 구성 요소와 예측 불가능 구성 요소로 나누어 이전 Block에서 적용된 Dynamics의 Residual을 Input으로 받아 계층적으로 Operator를 학습하는 방식으로 진행되고 있습니다. Time-variant KP의 경우 Localized dynamics 추정을 위해 Snapshot을 바탕으로 Segment-wise로 직접적인 변화를 묘사하며, 반대로 Time-invariant KP의 경우 Global Dynamics를 직접적으로 묘사하도록 하기 위해 고차원 공간으로 Projection하였다가 원복하도록 구성하고 있습니다. 해당 논문을 보면서 DLinear의 단점을 보완하고자 설계하였다는 Motivation을 많이 받았으며 MLP 기반의 방법론이기 때문에 매우 효율적인 모습 또한 인상적이었던 것 같습니다. 어려운 내용에 대해 발표자분의 깔끔한 자료덕분에 쉽게 이해할 수 있었던 것 같습니다. 좋은 발표 감사합니다!

이번 세미나에서는 “Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors” 논문을 소개해주셨습니다. 이 연구는 비정상 시계열 데이터에서 Koopman 이론을 활용하여 동적 변화를 분석하는 새로운 접근을 제시합니다. 논문에서는 시계열 데이터를 예측 가능한 부분과 그렇지 않은 부분으로 구분하며, 각 단계에서 이전에 적용된 동적인 변화의 잔여 부분을 입력으로 사용하여 Koopman 연산자를 계층적으로 학습합니다. 시간 변동성이 있는 Koopman 연산자는 지역적 동역학을 추정하기 위해 개별 세그먼트에 걸쳐 스냅샷을 사용하며, 시간 불변성 Koopman 연산자는 전역 동역학을 직접적으로 표현하기 위해 고차원 공간에 투영 후 복원하는 방식을 채택합니다. 이를 통해 DLinear 모델의 한계를 극복하려는 동기와 MLP 기반의 효율적인 접근 방식이 인상적이었습니다. 발표자의 명확한 설명 덕분에 복잡한 내용도 잘 이해할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 “Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors”에 대해 소개해 주셨습니다. 해당 연구는 시계열 데이터에서 모델 학습 시에 학습한 분포와 추론 시점의 분포가 다른 경우 혹은 시간이 지남에 따라 분포가 지속적으로 변화하는 Distribution Shift에 대응하고자 동역학의 Koopman 이론을 활용했습니다. 즉, Non-stationary한 시계열 데이터에 내재된 Time-variant/invariant 요소를 퓨리에 필터로 분해하는 방법론을 제안했습니다. 시계열 분석 방법론에서는 Stationary를 가정하는 방법론이 많은 것으로 알고 있습니다. 하지만, 학부 시절 및 대학원 과정 동안 제가 보았던 실제 시계열 데이터들은 대다수가 Non-Stationary였기에 이번 세미나가 해결하고자 하는 문제가 현실과 맞닿아 있다고 느껴졌습니다. 비록 완벽히 이해하지는 못했지만, 발표자 분의 친절한 설명 덕분에 핵심은 이해할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors 라는 논문을 다루었습니다. 해당 논문은 비정상 시계열 데이터의 동적 특성을 분석하고 예측하는 새로운 접근법을 제안합니다. 특히, 시계열 데이터를 시간 변동성(time-variant)과 시간 불변성(time-invariant) 요소로 나누어, 각각의 특성을 효과적으로 모델링합니다. 또한, Koopman 이론을 활용하여 고차원 공간에서의 선형 연산을 통해 비선형 시계열 데이터의 복잡성을 단순화하는 방법론이 매우 인상적이었습니다. 처음 접하는 개념과 이론들이 있었지만 설명을 쉽게 해주셔서 이해할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 “Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors”에 대해 소개해주셨습니다. 해당 연구는 koopman이라는 이론을 바탕으로 time-variant 및 time-invariant 성분의 특성에 맞게 별도의 모델링을 수행하는 방법론이었습니다. 전체적인 구조는 여러 개의 koopa block으로 구성되어 각 block마다 고유한 하나의 dynamic을 학습하는 방식으로, 계층적으로 operator를 학습합니다. 이를 통해 다양한 dynamic을 적절히 처리할 수 있다는 장점을 갖고 있는 방법론입니다. koopa block의 주요 요소로는 fourier filter, time-variant KP, time-invariant KP가 있습니다. fourier filter는 각 데이터를 window 크기로 입력 받아 time variant 특성 여부를 통해 두 가지로 분류하는 역할을 수행합니다. 데이터에 fast fourier transform을 수행하여 전체 window에서 공유하고 있는 특성을 frequency로 선정하기 위함이며, 전체 window에서 공유한다는 것은 곧 모든 window에서 크게 변화하지 않는다는 의미로, invariant component라고 할 수 있습니다. time-variant KP는 이전 시점의 patch를 바탕으로 바로 다음 시점의 patch를 도출하는 것으로 localized dynamics 추정을 목적으로 합니다. time-invariant KP는 variant와 다르게 input의 특징을 output이 직접적으로 묘사하도록 하는 것으로, global dynamics 표현을 목적으로 하고 있습니다. 매 세미나마다 시계열 연구에 대한 새로운 포인트를 소개해주셔서 흥미롭게 듣고 있습니다. 좋은 발표 감사드립니다.

이번 세미나는 동역학의 Koopman 이론을 바탕으로 Non-stationary time-series를 분석하여 시계열 예측을 수행하는 “Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors” 논문을 중심으로 진행되었습니다. 해당 논문에서는 Fourier Filter를 기반으로 시계열 데이터 내 존재하는 다양한 Dynamics를 Time-Variant한 부분과, Time-Invariant한 부분을 나누고, 이를 동역학 분야에서 비선형 동적 시스템을 분석하는 수학적 도구인 Koopman theory를 바탕으로 따로 모델링하여 시계열 예측을 수행합니다. 동역학이라는 것이 굉장히 낯선 개념이긴 하지만, 설명을 듣고 난 이후에는 시계열 데이터가 가지는 특성과 잘 어울린다는 생각이 들었고 여러 개념들을 가져와 적용할 수 있을 것 같다는 생각이 들었습니다. 또한 시계열 관련 논문들에 대한 세미나를 들으면서 자주 듣는 Distribution Shift라는 코어한 문제점을 해결하기 위해 해당 개념을 적용했다는 점에서, 연구를 하는 과정에서 꼭 비슷한 분야에서만 고민할 것이 아닌 더 넓은 범위에서 고민해보는 것도 색다른 해결책을 찾을 수 있을 것이라는 생각이 들어 흥미로웠습니다. 좋은 발표해주셔서 감사합니다.

이번 세미나는 시계열 데이터의 Time Dependent Variance를 해결하기 위한 방법론을 제시한 Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors를 중심으로 진행되었습니다. Test-time adaptation과 동일한 motivation을 가지고 있으나, 본 연구는 Training Phase에서도 그 속에서 정상성을 가지지 않는 데이터들이 있을 수 있고, 이를 Dynamic systems에서 사용하는 이론인 Koopman Theory를 이용하여 해결하고자 하였습니다. 동역학 시스템에서 사용되는 개념을 딥러닝 연구에 접목시키는 연구가 최근들어 자주 보이는 것 같고, 본 논문도 그들과 궤를 비슷하게 가져간다고 느꼈습니다. 특히, Koopman Theory는 모사하고 싶은 (Possibly Non-linear) Sequence Function F(x)를 또다른 Measurement Function g를 통해 고차원의 선형 사상에 Projection하여 Linearity를 확보하고자 하는 것이 핵심입니다. 이는, 목적은 다르지만 'HiPPO recurrent memory with optimal polynomial projections' 논문에서도 그러하였듯, controllable한 g를 통해 F를 다루기 쉽도록 projection하여 사용한다는 철학을 가지고 있는 것으로 보입니다. 특히, 두 논문 모두 엄밀한 수학적 배경에 근간을 두고 있지만, 굉장히 단순한 시스템(MLP)을 통해 구현해낼 수 있다는 공통적인 장점을 보유하고 있었습니다. 예상되는 훈련/추론 시간의 증가가 우려되긴 하지만, 시계열 데이터의 큰 숙제 중 하나인 Time-variance를 도전적으로 해결하고자 하였고, 좋은 성능을 보였다는 점에서 큰 의의가 있는 논문인 것 같습니다. 재밌는 논문 잘 설명해주셔서 감사합니다.

이번 세미나에서는 "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors" 논문을 중심으로 진행되었습니다. 이 연구는 비정상 시계열 데이터를 효과적으로 예측하기 위해 Koopman 이론을 활용한 새로운 모델을 제안합니다. Koopa 모델은 시계열 데이터를 시간 변동성과 시간 불변성 요소로 분리하여 각각의 동역학을 독립적으로 학습합니다. Fourier 필터를 사용해 데이터의 주파수 특성을 분석하고, Koopman Predictors를 통해 고차원 공간에서의 선형 변환을 적용하여 복잡한 비선형 동역학을 간단하게 모델링합니다. Koopa는 각 블록이 계층적으로 동역학을 학습할 수 있도록 설계되어 있으며, 이전 블록의 잔차를 활용하여 다음 블록이 학습을 이어받는 구조입니다. 이로 인해 모델이 다양한 시간적 변화를 효과적으로 포착하고, 예측 성능을 극대화할 수 있습니다. 또한, 이 모델은 기존의 많은 시계열 예측 모델들보다 효율적이며, 학습 시간과 메모리 사용량을 크게 절감하는 장점을 가지고 있습니다. 이번 발표는 비정상 시계열 데이터를 다루는 데 있어서의 새로운 접근을 소개해주었습니다. 특히, 복잡한 이론적 배경을 단순화하여 실용적으로 구현한 점이 인상적이었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors"이라는 논문에 대한 소개를 중심으로 진행되었습니다. 이 논문은 비정상 시계열 데이터의 동적 특성을 효과적으로 학습하고 예측하는 방법을 제안합니다. Koopa 모델은 Koopman 이론을 기반으로 설계되어, 시계열 데이터의 시간 변동성(Time-variant dynamics)과 시간 불변성(Time-invariant dynamics)을 분리하여 각각의 동적 요소를 정밀하게 학습합니다. Koopa 모델은 여러 계층으로 구성된 블록 구조를 가지고 있으며, 각 블록은 독립적으로 동역학을 학습합니다. 이 과정에서 잔차 연결을 사용하여 각 블록마다 독립적인 동역학 학습을 통해 모델의 예측 성능을 향상시킵니다. 또한, Fourier 필터를 통해 시간 변동성 요소와 비변동성 요소를 분리하여 비정상 시계열 데이터의 내재된 패턴을 명확히 해석할 수 있습니다. 동역학에 대한 기반 지식이 없다보니 이론과 방법론이 어려웠는데, 최대한 쉽게 설명해주셔서 Koopa 모델의 구조에 대해 이해할 수 있었습니다. 좋은 발표 준비해주셔서 감사합니다.

이번 세미나는 Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors를 주제로 진행되었습니다. 본 논문에서 제안하는 Koopa 모델은 Koopman 이론을 바탕으로 설계되었으며, 시계열 데이터의 변동성을 고려한 동역학적 요소를 정교하게 학습하는 것을 목표로 하고 있습니다. 특히, 각 블록이 독립적으로 동역학을 학습할 수 있도록 설계된 점과 Fourier 필터를 활용한 시간 변동성 및 불변성 요소의 분리 방법이 인상적이었습니다. 이를 통해 Koopa 모델은 기존 시계열 예측 모델들보다 뛰어난 성능을 보이며, 특히 비선형 동적 시스템을 포착하는 능력에서 높은 효율성을 입증했습니다. 좋은 발표 감사합니다.

이번 세미나는 "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors"을 소개해주셨습니다. 해당 연구는 비정상 시계열 데이터의 변동성과 동역학적 특성을 효과적으로 학습하고 예측하기 위한 혁신적인 접근 방식을 제안했습니다. 특히, Koopman 이론을 바탕으로 설계된 Koopa 모델이 시계열 데이터를 시간 변동성(time-variant)과 시간 불변성(time-invariant) 요소로 분리하여 처리하는 방식은 매우 인상적이었습니다. Fourier 필터를 활용해 시계열 데이터의 내재된 패턴을 명확히 해석하는 방법은 기존의 예측 모델들보다 뛰어난 성능을 보여주었습니다. 또한, 각 블록이 독립적으로 동역학을 학습할 수 있도록 잔차 연결을 사용하는 설계는 이전 블록의 동역학이 후속 블록에 영향을 미치지 않도록 하여, 더 정교한 학습이 가능하다는 점에서 인상적이었습니다. 새로운 접근 방법을 제안하기 위해 인공지능 외에 다른 학문에서 비슷한 동작을 하는 원리를 충분히 적용할 수 있다는 인사이트를 얻을 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors" 논문에 대해 소개해주셨습니다. 이 연구는 비정상 시계열 데이터를 분석하고 예측하기 위한 새로운 방법론을 제안합니다. 특히, 시계열 데이터를 시간 변동성과 시간 불변성 요소로 나누어 각각의 특성을 효과적으로 모델링합니다. Koopman 이론을 활용해 고차원 공간에서의 선형 변환을 통해 비선형 시계열 데이터의 복잡성을 단순화하는 방식이 인상적이었습니다. Fourier 필터를 사용해 데이터를 분석하고, 여러 Koopman 블록을 통해 계층적으로 학습하는 구조가 매우 독창적이었습니다. 설명이 명확하고 이해하기 쉽게 전달되어, 복잡한 이론적 배경을 실용적으로 이해할 수 있었습니다. 비정상 시계열 데이터의 특성에 맞춘 혁신적인 접근법을 소개해주셔서 감사합니다. 좋은 발표 감사합니다!

해당 세미나는 "Koopa: Learning Non-stationary Time Series Dynamics with Koopman Predictors"라는 논문을 바탕으로 진행되었습니다. 본 논문은 Non-stationary time-series를 분석하고자 동역학의 Koopman 이론을 바탕으로 시계열 예측을 수행하는 방법론을 적용한 것이 큰 특징입니다. Koopman theory란 Non-statioanry time-series에 내재되어 있는 Time-variant dynamics를 효과적으로 고려하고자 설계된 이론입니다. 특히 Stack으로 이루어진 Koopa block을 계층적으로 사용하여 dynamic을 학습하고, residual connection으 바탕으로 한 번 더 분석하여, 각 block마다 고유한 하나의 dynamic만을 학습하도록 설계됩니다. 또한 Fourier filter를 바탕으로 time-variant와 time-invariant 요소를 분해하는 방법을 제안하고 있습니다. 마지막으로 요소에 알맞는 Koopman operator 설정 방법을 제안하며 Koopman 이론을 time-series 연구의 문제점이 녹일 수 있게 정교하게 설계된 것이 인상깊었습니다. 좋은 발표 준비해주셔서 감사합니다.