본 세미나는 박진우 발표자님께서 "MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting"라는 논문을 바탕으로 진행해주셨습니다. 해당 논문의 task는 Time-series forecasting task를 수행하기 위해 단기간 Pattern과 여러 기간 사이 나타나는 상관관계를 고려하는 Multi-scale Branch 구조와 local-global module을 제시하였습니다. 특히 Data 내 pattern을 local featrue(short-term)과 global correlation(long-term)으로 구분 한 후, convolution 기반 방법을 활용하여 모델링하고 있습니다. 해당 세미나를 들으면서, trend data에는 간단한 linear regression을 적용하여 trend를 모델링하고, 기존 transformer 기반의 forecasting 방법론들에서 사용하는 self-attention을 lsometric convolution이라는 간단한 방법으로 대체하는 것이 크리티컬하다고 생각하였습니다. 연구를 하고 성능을 높이기 위해 복잡한 모델과 구조를 사용하는 것이 아닌, 간단하지만 역할과 목적에 맞는 적합한 방법을 사용한다는 점이 구조의 단순화와 성능 향상을 동시에 일으켰다고 생각했습니다. 따라서 앞으로 어떤 연구를 할 때도, 단지 최신 모델 최신 구조가 아닌 오래된 모델이라도 내가 작은 단위 module에서 풀고자 하는 적합한 모델을 적용하고 실험해보는 것이 필요할 것 같습니다. 마지막으로 기존 transformer 기반의 time-series forecasting 방법에서 벗어나 문제점을 지적하고, convolution과 단순한 linear regression을 통해 시계열의 pattern을 분해하여 적용하는 모델을 제시해주셔서 흥미로웠습니다. 좋은 발표 준비해주셔서 감사합니다.

금일 세미나 시간에는 박진우 석박통합과정이 Time-series Forecasting 과 관련하여 “MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting” 논문을 주제로 세미나를 진행하였습니다. 해당 논문에서 활용되는 Isometric Convolution은 과거 dilated convolution 과 causal convolution 구조에서 발전된 구조로, 이를 통해서 local feature와 global correlation을 모두 고려하기 위한 해당 논문의 motivation에 맞게 Global Temporal Inductive bias를 반영 가능하고 단순 self-attetion보다 좀더 더 일반화된 성능을 가진다고 논문에서는 주장하고 있습니다. 또한, 다양한 크기의 kernel size=stride를 적용하여, 다양한 temporal pattern 추출을 모델링하고자 하였습니다. 세미나를 통해서 해당 논문을 전반적으로 파악한 후에 드는 개인적인 생각은 과거 연구실에서 수행했던 TCN기반의 전력수요 예측관련 연구에서 transformer의 모델링을 적용한다면 이러한 연구로 이어졌을 것 같다는 생각을 개인적으로 해보았습니다. 해당 연구에서도 커널 사이즈를 달리 하여 다양한 temporal pattern 추출을 목표로 하였는데, 많은 유사성을 가지고 있어 개인적으로는 세미나를 들으면서 기시감이 들었습니다. 심신미약상태 임에도 불구하고, 원할 하게 세미나를 진행한 발표자에게 감사의 인사를 전하며 후기 마치도록 하겠습니다. 감사합니다.

이번 세미나는 시계열 도메인의 Long Term Forecasting 태스크에서 장/단기 패턴을 잘 포착할 수 있는 모델 구조를 제안한 "MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting"을 중심으로 진행되었습니다. 해당 논문은 입력 데이터 전처리부터 Fluctuation을 완화하고, Long Term 패턴을 부각시키고자 Moving Average 및 Average Pooling 등을 사용하고 있습니다. 또한, 해당 과정에서 Convolution layer의 Kernel 크기를 두가지로 구분하여 다양한 패턴을 포착하고자 합니다. 더불어 Trend와 Seasonal을 분해하여 모델링하는데, Trend 모델링 과정에서는 회귀식으로 사용하거나 평균을 이용하는 방법론을 취하고 있습니다. Multi-Scale을 고려하는 Seasonal 모델링 과정은 Convolutional 레이어와 Activation/Norm 레이어를 적절히 배치하는 모습을 보이고 있습니다. 최근까지도 시계열 도메인에서는 모델 구조의 변경을 통해 성능을 향상시키는 연구가 다수 보이는데, 여전히 모델링 관점에서 시계열 도메인의 특징을 포착할 수 있는 범용적 구조가 확립되지 못한 모습이 인상적인 것 같습니다. 결국 Seasonality와 Trend를 잘 융합하기 위한 연구들이 진행되고 있는데, 단순 Transformer 구조를 활용할 수 있는 방안은 없을지 궁금해지는 발표였습니다. 좋은 발표 감사드립니다.

이번 세미나에서는 ‘MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting’ 논문을 소개해주셨습니다. 해당 논문에서는 Convolution 기반의 Time-series forecasting model을 제시하고 있으며, Trend와 Seasonality를 분리하기 위해 여러 개의 kernel size로 Average pooling 하는 Multi-scale hybrid decomposition부터 시작하고 있습니다. 하나의 Time-series data 내에서도 다양한 temporal pattern이 존재하고 이를 고려한 Multi-scale Branch 구조를 제시하여 다양한 pattern들을 포착하고자 하였으며, 단일 pattern 내에서는 Local feature와 Global correlation로 나누어 interperiod와 intraperiod 정보를 모두 고려하기 위한 Local-global module을 제시하고 있습니다. 또한, 기존 Transformer 기반 모델에서는 global correlation을 구하기 위해 self-attention을 사용하였지만 이를 Isometric convolution으로 대체함으로써 보다 간단한 방법으로 global correlation을 대체하고 있음을 알 수 있었습니다. 해당 논문을 보면서 들었던 생각은 논문의 저자가 Transformer 기반 모델을 심도 있게 분석해 보며 각 기능을 단순화하거나 대체하고 그 효과를 입증하고자 노력하였음을 여실히 느꼈고, 개인적으로는 Trend-cyclical prediction block에서 trend를 계산하는 기존 transformer 기반 모델의 관행에 물음표를 던지며 regression으로 trend를 다루는 것을 보면서 관행에 익숙하였던 나머지 물음표를 저 스스로 제한하고 있지 않았나라고 반성하게 되었던 것 같습니다. 앞으로 적극적으로 기존 틀을 과감히 깨부수고 다양한 실험을 해보는 등 자신감을 가질 수 있게 될 것 같습니다. 끝으로, 저와 같은 신입생들을 위해 background를 자세하게 알려주셔서 감사할 따름이며 발표자의 개인 견해를 들어보며 ablation의 중요성을 느끼는 등 앞으로 논문을 해석하는 능력에 있어 많은 도움을 받았습니다. 좋은 발표를 준비해 주셔서 발표자분께 정말 감사드립니다.

이번 세미나는 MICN 논문을 주제로 진행되었습니다. 해당 논문은 시계열의 다양한 temporal pattern을 포착하기 위한 방법론을 제안합니다. 이를 위하여 DLinear에서 사용한 것처럼 시계열을Seasonal과 Trend로 decompose하여 forecasting을 수행합니다. 그 중, seasonal block이 다양한 kernel size의 conv1d를 활용하는 특징을 가집니다. 이는 다양한 range의 temporal dependencies를 포착하기 위함입니다. Transformer 기반의 방법론이 주를 이루는 최근 LTSF 연구에서 비교적 기본에 충실한 논문으로 이해를 하였습니다. 실험 단계에서 다양한 결과를 제안하지만, 동일 시기에 작성된 D-Linear, PatchTST와의 비교 실험이 없기 때문에 필연적으로 outdate된 결과가 아닐까 생각하였습니다. 다양한 range의 temporal pattern을 잘 학습하자는 motivation 자체는 PatchTST와 동일하나, 두 저자가 각기 매우 다른 방법으로 풀어낸 방식이 매우 인상적이었습니다. 구체적으론, PatchTST는 Channel Independence와 Transformer Encoder backbone을 활용하여 Seasonal과 Trend를 학습하였고, MICN은 Conv1D를 활용하였습니다. 두 방법론의 우위를 떠나, 같은 motivation을 다르게 풀어낼 수도 있다는 점을 유의해야하겠다는 생각이 들었습니다. 자세하고 구체적인 설명 덕분에 내용을 잘 이해할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나는 ‘MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting’ 논문을 주제로 진행되었습니다. 이 논문은 시계열 예측의 새로운 패러다임을 제시하며, 다양한 temporal pattern을 감지하기 위한 고유한 접근 방식을 도입하였습니다. 특히, Local과 Global context를 융합하여 효과적인 예측 성능을 보여줌으로써 기존 방법론들과의 차별점을 두고 있습니다. Transformer와 Convolution 기반의 방법론이 어떻게 시계열 분석에 효과적으로 적용될 수 있는지에 대한 통찰력을 제공하였습니다. 발표 중에는 여러 실험적 결과와 그 해석을 통해 해당 모델의 장점과 적용 가능성을 깊게 이해할 수 있었습니다. 세세한 내용 설명과 함께 제시된 시각 자료 덕분에 논문의 핵심 내용을 명확히 파악할 수 있었습니다. 좋은 발표 감사합니다.

Time-Series Forecasting은 Temporal Dependencies, Correlation Between Variables, Distribution Shift를 모두 고려하였을 때 좋은 성능을 기록한다는 특징을 가집니다. 이 중 Temporal Dependencies, 즉 서로 다른 시간에 존재하는 data point 간의 의존성을 개선한 모델이 바로 MICN(Multi-scale Local and Global Context Modeling for Long-term Series Forecasting)입니다. MICN의 전체 네트워크 구조는 Multi-scale Hybrid Decomposition을 거쳐 여러 가지 패턴의 Trend와 Seasonal series 분리한 뒤, Seasonal Prediction Block/Trend-cyclical Prediction Block을 통해 각각을 예측할 수 있는 단계를 거칩니다. 이를 통해 Prediction length가 길거나 뚜렷한 주기성이 존재하지 않는 다양한 데이터 셋에서도 Forecasting을 잘 수행할 수 있음을 보여주었다는 점이 인상 깊었습니다. Transformer를 기본으로 사용하는 다른 분야와는 달리 시계열 예측 분야에서는 단순히 Convolution 기반 모델을 사용해서도 이렇게 좋은 성능을 보일 수 있음에 매우 놀라웠고 추세나 계절성을 분리해서 별도로 예측했다는 점도 흥미로웠습니다. 본 발표를 통해 최근 Transformer 기반 파라미터 수가 많고 거대한 모델이 많이 개발되고 있는데 단순한 모델만을 가지고도 뛰어난 성능을 내는 방법도 항상 충분히 고민해봐야겠다고 생각하게 되었습니다. 좋은 발표 해주셔서 감사합니다.

이번 세미나는 ‘MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting’ 논문을 주제로 하여 진행되었습니다. 본 논문은 time series forecasting task를 더욱 잘 수행하기 위해 time series data 내의 다양한 패턴들, 즉 단기간에 나타나는 pattern과 여러 기간 사이에 걸쳐 일어나는 pattern 사이의 상관관계를 함께 고려해야 한다는 주장을 시작으로 실제로 그러한 상관관계를 잘 modeling 할 수 있는 architecture를 제안하는 순으로 내용이 전개됩니다. 처음에 fluctuation을 완화하기 위해 moving average를 사용하면서도 서로 다른 pattern을 가지는 trend와 seasonal series를 분리하기 위해 서로 다른 커널 사이즈를 가진 average pooling을 사용합니다. 이후 분리된 trend는 모델링 과정에서는 회귀식으로 사용하거나 평균을 이용하는 방식을 택하고 있습니다. 분리된 seasonal 특성은 보다 복잡한 과정을 거치게 되는데 multi scale의 seasonality들은 convolution, activation, normalization 레이어를 거친 뒤 병합되어 사용됩니다. 이러한 다양한 pattern과 pattern들의 상관관계를 잘 활용할 수 있는 구조를 설계함으로써 훌륭한 예측성능을 보여주고 있는 논문이라는 생각이 들었습니다. 본 발표 이후 질의응답을 들으면서 time series 데이터를 다루는데에 있어서 computer vision이나 nlp 분야에 비하여 concensus가 아직 세워지지 않았구나라는 생각을 하게 되었고, 앞으로 어떤 방향으로 연구가 흘러갈지 궁금해지면서 더욱 분야에 대한 관심이 생기게 되었습니다. 이렇게 많은 것을 느끼게 해주신 발표자님께 감사드립니다.

이번 세미나에서는 시계열 데이터가 가지고 있는 Temporal Dependencies, 그러니까 서로 다른 시간에 존재하는 데이터 포인트간의 의존성을 다루는 논문인 “MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting” 에 대해 다뤄 주셨습니다. 시계열 데이터의 경우 근접한 데이터가 아니더라도 주기성 혹은 계절성 이라는 특징으로 멀리 떨어져 있는 데이터와도 의존성, 패턴이 존재합니다. 이러한 패턴은 시계열 데이터 내에서 다양하게 존재하는데 해당 논문은 이러한 패턴을 학습하고 Forecasting에 활용하고자 합니다. 이를 위해 Local feature와 Global correlation으로 구분하고 여러가지 패턴과 트렌드를 분리할 수 있는 Multi-Scale hybrid decomposition block을 제안합니다. 결국 시계열 데이터가 가지고 있는 다양한 패턴을 학습하기 이전에 시계열 데이터의 특징을 잘게 쪼개고 이를 학습하는 것으로 보였습니다. 매번 시계열 관련 방법론을 볼 때 어떻게 시계열 데이터를 모델이 잘 이해 할 수 있게 분해, 변형을 준다는 느낌을 받았고, 이 논문 역시 비슷한 방향을 가진 논문이라 생각했습니다. 이미지 역시 이미지 본연의 특징을 잘 학습시킬 수 있도록 분해, 변형하는 식의 연구 또한 가능하지 않을까 하는 생각이 들었습니다. 좋은 발표 감사합니다!

해당 세미나에서는 “MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting” 논문을 소개해 주셨습니다. 본 발표에 앞서 background 부분에서 time-series forecasting, temporal convolution network 등을 상세히 다루어 주셔서 이해에 많은 도움이 되었습니다. temporal dependencies 관점에서 time-series forecasting task를 잘 수행하기 위해서는 단기간 내 발생하는 다양한 pattern과 여러 기간에 걸쳐 발생하는 상관관계를 함께 고려해야 특정 시점의 semantic한 정보를 잘 포착할 수 있습니다. 이때, MICN에서는 하나의 sequence 내 다양한 pattern을 포착하기 위해 multi-scale branch 구조를 이용하고 있습니다. Multi-scale Hybrid Decomposition을 이용하여 잘못된 entangled feature representation을 학습하는 상황을 방지하고 있으며, trend-cyclical prediction block, seasonal block 등을 이용하고 있습니다. multi-scale branch에서는 self-attention 기능을 대체하고자 casual convolution의 변형인 isometric convolution을 이용하고 있으며, 전체 series의 global correlation을 측정하고 있습니다. 좋은 발표 감사합니다!

이번 세미나에서는 MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting라는 논문을 다루었습니다. 이 논문에서는 transformer 기반 방법론이 long-term time-series forecasting에서 높은 성능을 보이지만, global correlation을 계산하는 attention 메커니즘의 계산 복잡도가 너무 높고, CNN구조처럼 local feature에 특화된 모델링이 불가능하다는 점을 지적합니다. 이를 해결하기 위해 이 논문에서는 시계열 데이터의 pattern과 trend 등의 전체적인 특성을 파악하기 위해 local feature와 global correlation을 결합하는 방법을 제안합니다. 이를 위해 multi-scale branch 구조를 제시하고, 각 패턴은 downsampling convolution등의 기법을 통해 추출됩니다. MICN은 시퀀스 길이에 선형적으로 비례하는 계산 복잡도를 보이면서도 성능면에서도 효과적인 모델이라는 것을 실험을 통해 확인할 수 있었습니다. 해당 모델의 핵심 개념을 단계적으로 나누어 설명해주셔서 쉽게 이해할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 “MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting”이라는 논문에 대해 소개해주셨습니다. 해당 논문에서는 Temporal Dependency 측면에서 Time-series Forecasting을 더 잘 수행하기 위해서는 Time-series Data 내의 다양한 패턴을 모두 고려할 수 있어야 하며, 단기간에 걸쳐 나타나는 패턴과 여러 기간 사이에 나타나는 상관관계를 함께 고려한다면 특정 시점의 Semantic Information을 더 잘 포착할 수 있음을 주장했습니다. Trend-cyclical 파트와 Seasonal 파트를 분리하여 별도로 예측하는 Convolution 기반 모델인 MICN은 Different Pattern을 위한 Multiple scale Branch와 Local Feature and Global Correlation을 위한 Local-global Module을 이용했습니다. 실험 결과 다양한 벤치마크 데이터셋에서 높은 성능을 달성해 효과성을 보였습니다. 또한 Self-attention이 아닌 Isometric Convolution을 통해 Global Correlation을 반영하고자 한 점이 인상적이었습니다. 좋은 발표 감사드립니다.

이번 세미나는 MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting 논문에 대해서 소개해 주셨습니다. 본 논문에서는 Multi-scale Isometric Convolution Network(MICN)이라는 방법론을 제안합니다. MICN은 long-term time-series forecasting을 위해 제안된 방법 입니다. 해당 방법론은 서로 다른 시간에 존재하는 data point 간의 의존성인 temporal dependancies를 고려하기 위해 local feature와 global correlation을 함꼐 고려할 수 있는 구조를 제안합니다. 핵심이 되는 부분은 Multi-scale Hybrid Decomposition 이며 시계열 데이터에 여러 kernel size를 적용하여 seasonal과 trend에 대한 영역으로 구분합니다. 두 시계열 특성을 구분함으로써 잘못된 entangled feature representation을 학습하는 것을 방지하게 됩니다. 또한 seasonal branch에서는 MIC layer를 적용하여 local module과 global module을 거치게 되어 본 연구의 목적에 맞는 방향으로 학습이 진행됩니다. 세미나를 통해 질의응답 시간을 거치며 자료도 보완되고 자세한 설명이 이해하는데 많은 도움이 되었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 MICN이라는 방법론에 대해 소개해주셨습니다. MICN은 Multi-scale Isometric Convolution Network의 약자로 시계열 데이터의 local & global feature를 잘 뽑기위한 모델을 제안했습니다. 시계열 모델에서 요즘 주로 쓰이고 있는 transformer 모델 구조의 경우 local feature를 뽑는데 한계점이 있음을 지적하며 convolution network를 제안하였는데 multi-scal hybrid decomposition을 통해 trend와 seasonality를 분리하여 별도로 예측하도록 함과 동시에 여러 개의 kernel size를 사용하여 local & global feature를 추출하고자 하는 것이 핵심 내용이었습니다. 오늘 세미나를 통해 시계열 데이터가 가지는 특징에 대해 다시 한 번 상기해볼 수 있었습니다. MICN은 계산 복잡도 측면에서 효율성도 챙기면서 성능면에서도 비교 모델들보다 앞 선 결과를 보여 시계열 데이터에 있어서 multi-scale은 무시할 수 없는 개념이라는 것을 다시 한 번 깨달았습니다. 좋은 발표 감사드립니다.

본 세미나는 MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting 이라는 주제의 논문에 대한 리뷰로 진행되었습니다. 본 논문에서 제안하는 구조인 MICN은 time series forecasting task를 위해 제안된 구조로 성공적인 forecasting을 위해서는 장/단 기간의 pattern을 모두 고려해야 한다는 아이디어에서 출발합니다. 이를 해결하기 위해 하나의 seqeuence 내에서 다양한 pattern을 포착하기 위한 구조인 Multi-scale Branch 구조를 제시하였습니다. 구체적으로 local, global pattern을 각각 추출하기 위하여 local feature, global correlation으로 구분하여 정의하고, convolution based 방법론을 통해 pattern을 모델링하였습니다. Time series forecasting model의 경우 global pattern과 local pattern을 모두 모델에 반영하기 위한 구조를 제안하고 있는데 본 논문에서 제안하는 구조인 MICN 역시 비슷한 흐름으로 진행되었습니다. 당분간의 연구 역시 해당 point를 위주로 진행될 것이라 예상 됩니다. 좋은 발표 감사합니다!

이번 세미나는 시계열 데이터 예측 과업을 주제로 진행되었습니다. 논문의 제목에서도 알 수 있듯이 해당 방법론은 단/장기간 각각의 패턴을 파악하고 이들의 상관관계도 함께 고려하는 것에 초점이 맞춰져 있습니다. 이를 Multi-scale이라는 용어로 표현하고 있는 것입니다. 다른 시계열 데이터 예측 세미나에서도 자주 언급되었던 것 중 하나인 Temporal Dependency는 서로 다른 시간에 존재하는 instance 간의 의존성도 함께 고려해야하는 것을 의미합니다. 단/장 기간에 따른 패턴과 함께 본방법론은 Decomposition을 통해 계절성과 추세성을 분리한 후 각각 다른 모듈로 진행한 후 후에 결합하는 방식을 채택합니다. 앞서 언급한 Mult-scale은 계절성 예측 과정 중에서 여러개의 convolution 연산을 통해 구현됩니다. 시계열 데이터 예측의 핵심은 데이터를 얼마나 잘 파악하느냐에 따라 결정되는 것으로 보입니다. 즉, 시계열 데이터 고유의 특성을 끊임없이 탐색하며 우리가 알고 있는 여러 가지 도구들(딥러닝, 머신러닝 등)과 어떻게 연결짓는지가 연구의 중요점이 될 듯 합니다. 흥미로운 주제 준비해주심에 감사합니다.

이번 세미나에서는 "MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting" 논문을 소개해 주셨습니다. 본 논문은 다양한 시계열 패턴을 모델링하여 장,단기 패턴을 모두 잘 포착하기 위한 새로운 구조를 제안한 연구입니다. 특히 Multi-scale 구조와 local-global 모듈을 함께 사용한 구조로 전처리 단계에서 부터 Moving Average 와 Average Pooling를 사용해 값의 변동을 완화하고 장기 패턴을 도드라지도록 처리하였습니다. 덕분에 기존의 Transformer 기반 모델보다 훨씬 간단한 방식만으로 성능 향상을 달성할 수 있었습니다. 이러한 논문의 결과는 문제에 맞는 적절한 모델을 선택하는 것이 중요하다는 것을 보여줌과 동시에 시계열 데이터를 위한 범용적인 구조가 완성되지 않았다는 것을 보여준다고 생각이듭니다. 좋은 발표 감사합니다.

이번 세미나는 “MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting”으로 진행되었습니다. 해당 논문은 local feature 와 global featrue를 capture하기 위한 구조를 제안했습니다. 트랜스포머기반의 모델은 local feature를 뽑는 데에 한계를 가지고 있어 convolution 기반의 구조를 제안하였습니다. 여러개의 커널 사이즈를 사용함으로써 local과 global 특징을 효과적으로 뽑을 수 있었습니다. 이 부분을 multi-scale hybrid decomposition이라 하며 seasonal과 trend로 구분하여 특징을 뽑았다고 볼 수 있습니다. seasonal 부분에서는 MIC layer를 적용하여 local module과 global module을 모두 거쳐 해당 방법의 목적과 잘 맞는 방법론임을 알 수 있습니다. MICN은 기존의 트랜스포머의 quadratic 계산 복잡도와 달리 선형적으로 증가하는 계산복잡도를 가지며 성능적으로도 효과적이었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 "MICN: Multi-scale Local and Global Context Modeling for Long-term Series Forecasting"에 대해 소개해주셨습니다. 해당 논문에서는 시계열 데이터의 특성 중 하나인 시간에 따른 의존성을 다루고 있으며, 서로 다른 시간 간의 데이터 포인트 간의 상관성을 모델링합니다. Temporal dependencies 관점에서 time-series forecasting task를 더욱 잘 수행하기 위해, 다양한 패턴을 학습하고 예측에 활용하기 위해 Local feature와 Global correlation을 구분하고 Multi-Scale hybrid decomposition block을 제안합니다. 특정 시점의 semantic information을 잘 포착하고자 단기간의 pattern과 여러 기간 사이의 상관관계를 함께 고려합니다. 매 발표마다 본문 이전에서 매우 자세한 시계열에 대한 기본 개념과 논문 이해를 위한 여러 중요한 요소들을 매우 자세하게 설명해주시어 항상 이해에 많은 도움이 되는 것 같습니다. 좋은 발표 준비해주셔서 감사드립니다.

이번 세미나는 multi-scale로 접근하여 성능 향상을 한 MICN을 주제로 진행되었습니다. MICN은 time-series forecasting task를 위한 방법론 입니다. 기존의 forecasting 방법론이 한번의 decomposition을 수행했던 것과 달리 여러 사이즈의 moving average를 통해 multi scale을 갖도록 하였으며 trend 예측은 mean로 했던 이전 방법론과 다르게 regression model을 추가로 사용하였습니다. seasonal 파트에서는 1Dconv를 통해 downsampling을 하여 local한 정보를 causal conv의 변형으로 isometric conv를 통해서는 global 정보를 학습하고자 한 점이 특징입니다. 이전 방법론들과의 접근 자체가 크게 다르지는 않지만 multi-scale로 접근했다는 점과 self-attention을 대체하기 위한 isometric conv를 사용한 점이 인상 깊었습니다. 임베딩 과정에서 transformer 구조의 Input에 대해 중복된 계산을 초래할 수 있다고 언급하며 transformer 기반의 한계점으로 지적하고 있으나 encoder의 input과 decoder의 input의 용도가 다르기 때문에 중복된 계산이라는 지적은 동의하지 않았습니다. 좋은 발표 감사합니다.