해당 세미나 시간에는 Multimodal Time-series anomaly detection과 관련하여 GNN과 CNN을 동시에 활용한 “MST-GAT: A multimodal spatial temporal graph attention network for time series anomaly detection.” 논문을 주제로 노건호 석사과정이 세미나를 진행해주었습니다. 우선 multi-modal time-series anomaly detection이라는 용어부터 생소해서 단어부터 낯설었지만, 여기서 말하는 multimodal 이란 데이터의 형태가 다양한 멀티모달이 아닌 동일한 시계열 형태의 데이터이지만 수집하는 센서 혹은 과정, 장소, 유형 등이 달라 그 데이터의 패턴이 다른 시계열들을 해당 논문에서는 multimodal로 해석하고 있었습니다. 즉, 동일한 시계열 형태의 데이터이지만, 온도나 압력 등 그 성질을 달리하는 데이터타입을 묶어서 하나의 modality로 해석한다는 점이 흥미로웠습니다. 일반적으로 시계열에서의 이상치 탐지방법론을 분류하자면 크게 두가지 형태인 reconstruction-based와 prediction-based로 나누어서 학습모델 프레임워크를 구성하게 되는데, 해당 논문에서는 이 두가지 방식을 모두 활용하여 각각의 loss를 결합하여 학습을 수행한다는 점이 재미있었고, 이를 통해 각각 방식의 장단점을 서로 어느정도 보완할 수 있을 수는 있다고 생각됩니다. 여러 시계열 타입의 변수 간의 관계를 해당 논문에서는 GNN기반의 GAT를 통해서 반영하고자 한 것 같습니다. 특히나, 각각의 modality간의 관계와 modality안에서의 관계를 각각 intra-modal attention과 inter-modal attention을 달리 구성하여 학습한 점이 인상적이였고, 실제로 Ablation 실험 결과에서도 이러한 modality 그래프를 달리 구성하여 학습한 것이 실제로 의미 있는 성능 향상으로 이어진다는 것도 흥미로웠습니다. 개인적으로 그래프를 연구하는 입장에서 이렇게 시계열 이상치 탐지에서도 적극적으로 활용할 수 있다는 것이 저에게 동기부여를 주었던 뜻깊은 시간이었던 것 같습니다. 재미있는 세미나시간을 선물해주신 발표자에게 감사합니다.

오늘 세미나는 "MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection" 논문을 주제로 진행되었습니다. 해당 논문은 단변량 시계열 이상치 탐지를 그래프를 통해 수행합니다. 구체적으로, modal 간의 관계를 집중하여 이상치 탐지를 수행하는 방법론을 제안합니다. 변수간의 상관관계를 그래프 구조로써 모델링하기 위해 Intra-Modal, Inter-modal attention을 제안합니다. 이때 효율적인 연산을 위해 target 노드와 연관성이 깊은 Top-K개의 이웃 노드에 대해서만 Multi-head attention을 연산하게 됩니다. 3개의 attention 연산 결과는 concatenate된 뒤 최종 layer를 통과하게 됩니다. 변수간의 상관관계 포착에 있어 그래프 구조가 확연한 장점이 있을 것으로 예상하는데 이를 시계열 이상치 탐지 영역에 적용하면 유의미한 성과가 있지 않을까 생각했습니다. 다만, 최초 제출일과 출판일 간의 시간차가 다소 있어서 그런지 baseline이 다소 과거의 모델인 점이 아쉬웠습니다. 덕분에 그래프 구조의 기초에 대해서 조금이나마 이해할 수 있었던 것 같습니다. 좋은 발표 감사합니다.

이번 세미나에서는 MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection 이라는 논문을 다루었습니다. MST-GAT는 다양한 modal 데이터로 구성된 다변량 시계열 데이터에 대하여, spatial-temporal dependency를 동시에 반영하기 위한 방법론입니다. MST-GAT는 modal간의 관계를 spatial dependency로 정의하고 이를 모델링하기 위해 intra-, inter- modal attention을 위한 M-GAT attention 모듈을 제안합니다. 또한 MST-GAT는 시계열 데이터의 시간적 정보를 모델링하기 위해 M-GAT를 통해 얻은 representation에 대해 1d convolution을 수행합니다. 개인적으로 loss 최적화 부분이 인상깊었지만 전체적인 실험 구성이 아쉬웠던 것 같습니다. 좋은 발표 감사합니다.

이번 세미나에서는 “MST-GAT: A multimodal spatial-temporal graph attention network for time series anomaly detection”이라는 연구를 소개해주셨습니다. 해당 연구는 시계열 이상치 탐지 Task를 위해 제안된 방법론으로, 시계열 데이터 내에 서로 다른 Modal의 변수들이 존재하는 상황을 가정하고 있습니다. 모델 구조적으로는 (1) 서로 다른 모달리티 간의 관계를 모델링하기 위해 다른 모달리티에 해당하는 변수 사이에서만 수행하는 Inter-Model Attention, (2) 동일한 모달리티 간의 관계를 모델링하기 위해 동일한 모달리티 변수 내에서만 수행하는 Intra-Model Attention, (3) Modalit-independent한 Spatial 정보를 모델링하기 위한 Multi-head Attention으로 구성됩니다. 실험 결과 중 동일한 Modal에 해당하는 변수 간에는 Embedding의 코사인 유사도가 높고 다른 Modal 변수와는 낮은 모습을 히트맵을 통해 직관적으로 보인 것이 인상적이었습니다. 다만, GAT 과정에서 사용될 이웃 노드를 정의하기 위해 코사인 유사도를 산출하는 과정이 소요되는데 해당 과정에서 많은 연산량이 필요할 것 같다는 생각이 들었습니다. 논문에 대한 소개 이후 발표자 분의 개인 의견도 함께 공유해주신 덕에 논문 내용을 더 잘 이해할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection 논문을 다루어 주셨습니다. MST-GAT의 핵심은 다변량 시계열 데이터 각 변수들의 관계를 그래프 구조로 학습하여 변수 modal간의 관계를 중심으로 이상치 탐지를 수행하는 것입니다. 본 논문에서 이용하고 있는 데이터의 경우 다양한 모달리티가 포함되어 있는 시계열 데이터라는 점이 인상적으로 다가왔던 것 같습니다. 전반적인 모델의 방법론은 다음과 같이 graph structure learning, Multimodal Graph Attention Network (M-GAT), Temporal Convolution Network, Joint Optimization으로 이루어지게 됩니다. M-GAT는 multi-head attention, intra-modal attention, inter-modal attention, 3개의 attention으로 구성되게 되며, 각각은 모달리티에 독립적인 spatial 정보, 같은 모달리티간의 관계, 다른 모달리티 간의 관계를 모델링 해주게 됩니다. Temporal Convolution Network에서는 spatial dependency 이외의 temporal dependency 또한 모델링할 수 있도록 1-d convolution을 수행하고 있습니다. 또한 prediction 기반, reconstruction 기반 anomaly detection 각각의 장점을 함께 활용하기 위해 두 task의 loss를 동시에 최적화되도록 하고 있습니다. 멀티모달 데이터를 활용한 추후 연구와 관련하여 의견을 공유해주신 부분이 인상깊은 발표였습니다. 좋은 발표 감사합니다!

이번 세미나는 MST-GAT: A multimodal spatial?temporal graph attention network for time series anomaly detection 논문을 바탕으로 진행되었습니다. 해당 논문에서는 다변량 시계열 데이터에서의 이상치 탐지 문제를 Graph의 범위로 확장하고 있는데, 이는 이상치가 전체 센서에서 발생하지 않고, 특정한 부분에서만 발생하기 때문에 센서 간의 Spatial 한 관계에 따라서 탐지할 수 있는 이상치가 다르다는 가정을 바탕으로 연구를 진행하고 있기 때문입니다. 해당 논문에서는 각 변수 간의 상관관계가 어느 정도 유사한 모습을 보이는 변수들을 같은 Modal로 간주하여, 각 Modal 간의 관계에 집중하여 이상치 탐지를 수행하고 있습니다. 이를 위하여 먼저 다변량 시계열 데이터가 Raw input으로 들어온다면 이를 먼저 Graph structure로 Embedding 하는데, 여기서 모든 변수가 각각 Graph의 Node를 구성함으로써 변수 사이의 상관관계를 Modeling 함과 동시에 시계열 데이터의 정보 역시 Embedding 해줍니다. 이후 Spatial dimension에서의 M-GAT를 진행해주는데, 여기서 동일한 Modal 내에서만 Attention을 수행하여 같은 Modality 간의 관계를 모델링하는 Intra-Modal attention과, 다른 Modal 사이에서만 Attention을 수행함으로써 다른 Modality 간의 관계를 모델링하는 Inter-Modal attention을 수행하게 됩니다. Spatial dependency 이외의 Temporal dependency 또한 모델링 할 수 있도록 1-d convolution을 거친 후, Joint Optimization을 거침으로써 최종 Output을 도출합니다. 여기서 Joint Optimization은 시계열 이상치 탐지에서 Reconstruction 기반 모델과, Forecasting 기반 모델들이 가지는 장점을 고루 이용하고자 사용하는 방법이었습니다. 결론적으로 MST-GAT 시계열 데이터의 각 변수의 관계를 Graph 구조로 학습하여 변수 Modal 간 관계를 중심으로 이상치를 탐지하고 있었습니다. 시계열 데이터 모델링에 대하여 연구를 하고 있지만, Modal이라는 개념은 처음 접해보는 개념으로 향후 연구에도 해당 개념을 이용할 수 있겠다는 생각이 들었습니다. 좋은 발표 정말 감사드립니다.

이번 세미나는 MST-GAT: A multimodal spatial temporal graph attention network for time series anomaly detection 논문으로 진행되었습니다. 해당논문은 Graph 를 이용하여 각 변수(센서)에 대한 정보와 시계열 정보를 함께 사용하는 방법론 입니다. Graph Structure learning 을 진행하는점과 Prediction loss 와 reconsturction loss 두가지를 사용하는점은 기존 논문에서 진행했던 방법과 유사했고, Attention 을 걸리게 하는 방식에서 차이가 있었습니다. 과정에서 intra , inter modal 에 대한 attention 을 진행하는데 이는 사전에 정의되어있는 modal 에 대한 정보를 바탕으로 top k 를 뽑는 것 입니다. 실제 데이터셋에는 modal 에대한 정보들이 많고, 이를 활용하는 연구들이 많았는데, 이를 직접적으로 이용했던 방식 같습니다. 개인적으로 여러가지 방법론에 대한 사전 구성을 잘 하였고, 데이터셋에대한 깊은 고찰을 하여 나온 결과로 생각되고, novelty 가 그렇게 크진 않은것 같은데 어떠한 연구를 진행할 때, 데이터셋의 특징을 좀 더 잘 고려하고 문제점을 개선하려는 부분에 대한 노력이 연구결과로 발전할 수 있음을 느꼈습니다. 감사합니다.

이번 세미나는 MST-GAT: A multimodal spatial-temporal graph attention network for time series anomaly detection 논문을 바탕으로 진행되었습니다. 본 논문은 다변량 시계열 데이터에서 변수들 간의 관계를 그래프 구조로 나타내어 이상치 탐지에 활용하는 방법에 대해 설명하고 있습니다. 여기서 구조적 접근은 주요한 변수 간의 상관관계와 Modal 사이의 관계를 고려하여 Intra-modal 및 Inter-modal Attention 기법을 통해 구현되어 있습니다. 이러한 방식을 통해 멀티모달 데이터로부터 더 정확한 이상치 탐지 기능을 제공하고자 합니다. 시계열 데이터의 특성과 고려되어야 할 다양한 요소들이 잘 포함되어 있어 연구방법론이 탄탄한 것으로 보입니다. 또한 논문에서는 Prediction 기반 및 Reconstruction 기반 방법 양쪽의 장점을 모두 고려하여 이상치 탐지 프레임워크의 효과적인 구현을 제안하고 있습니다. 폭넓은 관점에서 본 논문은 시계열 데이터 분석과 그래프 구조에 대한 연구가 유기적으로 결합되어 새로운 시각을 제공하게 되어 인상적입니다. 흥미롭고 유익한 세미나였으며, 좋은 발표 정말 감사드립니다.

본 세미나는 노건호 발표자님께서 "MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection"이라는 논문을 바탕으로 진행해주셨습니다. 해당 논문의 task는 Time-series Anomaly Detection으로 해당 도메인에서 Graph 구조를 활용해, 센서들 사이의 spatial 상관관계를 처리 과정에 의한 관계를 반영하고, 유사한 정보를 탐지할 수 있도록 하고 있습니다. 특히 센서 간 Spatial 관계에 따라 탐지할 수 있는 이상치를 Graph 간 관계를 반영한다는 아이디어가 critical하다고 느꼈습니다. 해당 논문의 기여점은 3가지가 있는데 먼저 첫 번째는 Spatial-temporatl dependencies를 동시에 반영한다는 것, 두 번째 Predction based와 Reconstruction based의 장점을 활용해 두 task loss를 동시에 최적화 할 수 있도록 한다는 점, 세 번째 이상 상황에서 각 변수의 anomaly score를 비교하는 것으로 해석가능성을 확보한다는 점이 있습니다. 해당 세미나를 들으면서 센서 간 이상치를 정의하는 방법과, 이상치를 탐지하는 방법을 여러가지 method를 한 번에 결합하는 것이 중요하다고 느꼈습니다. 특히 세미나 마지막에 발표자분의 개인 의견을 말씀해주시면서 다른 multi-modal로의 연결 방법도 제시한 점이 매우 좋았습니다. 마지막으로 시계열 이상치 탐지와 Graph가 어떻게 쓰이는지 감이 안 왔는데, 본 세미나를 들으면서 이해가 되었고 좋은 발표 준비해주셔서 감사합니다.

해당 세미나는 ‘MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection’으로 진행되었습니다. 시계열 데이터에서 정의하는 multi modal은 단변량 시계열 데이터의 집합으로 바라볼 때, 멀티모달이라 할 수 있으며 모달간의 관계를 잘 모델링 하는 것이 태스크를 수행하는 데에 중요한 요소였습니다. prediction-based 이상치 탐지는 Point anomaly를 잘 탐지하고, reconstruction-based 이상치 탐지는 contextual anomaly를 잘 탐지할 수 있다는 장점이 있습니다. background에서 언급된 MTAD-GAT은 prediction-based 이상 탐지 방법을 이용하는 반면, MST-GAT은 두가지를 모두 활용하여 입력 데이터를 재구성하고 다음 스텝의 특성을 예측해 이상점수를 계산합니다. MTAD-GAT은 동일한 모달내에서 상관관계를 반영하지만, MST-GAT은 서로 다른 모달에서의 상관관계까지 고려한 방법입니다. MST-GAT은 graph structure를 구성한 후 spatial dependency뿐만 아니라 temporal dependency 또한 모델링이 될 수 있도록 1-d convolution까지 수행합니다. anomaly score를 비교함으로써 해석 가능성까지 확보되어 좋은 방법론이라는 생각이 들었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 시계열 이상 탐지 Task에서 graph 를 이용하는 방법인 MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection 에 대해 다뤄주셨습니다. 해당 논문에서 다루고자 하는 이상 탐지는 일반적인 시계열 이상 탐지와는 달리 여러 시스템에서 발생 되는 시계열 데이터를 복합적으로 다루고 이상을 탐지하고자 합니다. 따라서 여러 시스템 간의 관계 영향이 중요하기 때문에 그래프가 필요하다고 이야기 하고 있습니다. 다양한 모달 간의 spatial한 관계를 학습하기 위해 M-GAT 모듈을 제안하였으며 데이터 modal 간의 관계를 ntra-, inter- modal attention으로 학습하는 것이 특징입니다. 이상 탐지라는 과업이 실제 application과 가까운 과업이기 때문에 실제에서 나타날 수 있는 시나리오를 가정하고 그에 맞는 방법을 고안한다는 점이 눈여겨 볼 부분이었다고 생각합니다. 좋은 발표 감사합니다!

금일 세미나는 실제 데이터 수집 시점의 공간 및 시간 정보를 활용한 Time Series Anomaly Detection 연구인 "MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection"을 주제로 진행되었습니다. 그 동안 연구실에서 진행된 시계열 도메인의 AD 관련 연구는 변수 간의 공변량 및 시간 축의 상관관계를 모델링하기 위해 집중해오고 있었습니다. 하지만 실제 적용 관점에서 공정 및 센서 데이터 수집은 공간적 관계가 이미 구축되어 있을 수 있습니다. 이러한 공간 관계는 각 센서 간 좌표 및 거리 등의 관계로 표현될 수 있고, 해당 논문은 이러한 관계가 그래프 구조로서 모델링에 반영될 필요가 있다는 점을 강조하고 있습니다. 실제로 Anomaly는 특정 변수에서만 발생할 수 있고, 시간이 흐르면서 근접 변수로 영향을 미칠 수 있으므로, 그래프 구조를 통한 모델링은 매우 합리적인 접근법이라고 생각되었습니다. 실제로는 각 변수 별 관계를 모델링하기 위해 고정된 그래프 구조를 사용하지 않고, Positional Encoding을 이용하여 그 관계도 모델이 학습할 수 있도록 하는 점이 인상적이었습니다. 직관에 기반한 문제제기 뿐만 아니라 실제 실험 겨로가에 있어서도, 다른 방법론에 비해 우월한 성능을 보이면서 그 유효성을 입증하고 있습니다. 특히 흥미로웠던 점은 모델이 각 변수 간의 상관관계를 자연스럽게 학습한다는 점을 Time Series Embedding 간의 유사도 Heat Map을 통해 표현하고 있는 부분이었습니다. 실제로 공정 데이터는 수많은 센서를 통해 수집된 데이터를 이용하게 되는데, 해당 분석을 통해 실제 공정 개선에 필요한 인사이트를 도출할 수 있는 방법으로 발전이 가능할 것으로 보입니다. 좋은 발표 감사드립니다.

본 세미나에서는 MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection이라는 주제의 논문에 대한 리뷰를 진행하였습니다. 본 논문에서 정의하고 있는 'modal'은 time series data에서 변수 간의 자료형이 다른 것으로 정의됩니다. 다양한 modal로 구성되어있는 time series data에 대해 각 변수들의 관계를 graph 구조로 학습해, 변수 modal 간 관계를 중심으로 이상치 탐지를 수행하자는 motivation으로 본 논문이 시작되었습니다. GNN을 time seires anomaly detection에 사용한 첫번쨰 연구이며, 모든 변수 node가 연결되어 있는 complete graph를 통해 attention weight를 학습할 수 있는 GAT를 사용합니다. 또한 Prediction based, Reconstruction based anomaly detection 각각의 장점을 함께 활용하기 위해 두 task모두 수행하고, loss 모두 반영합니다. 실험결과 baseline model 중 가장 높은 성능을 기록하여 해당 모델의 우수성을 입증하였습니다. 각 변수간의 modality를 통해 GNN을 사용한 부분이 인상적이었던 연구였습니다. 좋은 발표 감사합니다.

이번 세미나에서는 "MST-GAT: A multimodal spatial-temporal graph attention network for time series anomaly detection"라는 논문을 소개했습니다. MST-GAT은 다양한 형태의 데이터로 구성된 다변량 시계열 데이터에 대해 공간적-시간적 정보를 함께 모델링하기 위한 방법으로 개발되었습니다. 이를 위해 데이터 modal들 간의 관계를 공간적인 정보로 정의하고, 이를 모델링하기 위해 intra- 및 inter-modal attention을 사용하는 M-GAT (Modal Graph Attention) 모듈을 제안했습니다. 또한, 일반적인 시계열 데이터의 시간적 정보를 모델링하기 위해 M-GAT를 통해 얻어진 표현에 1차원 컨볼루션을 수행하는 접근 방법을 사용합니다. 이를 통해 MST-GAT은 다변량 시계열 데이터에서의 이상 감지 문제에 유용한 성능을 보여주는 방법론입니다. 좋은 발표 감사합니다.

이번 세미나는 그래프 네트워크로 이상치탐지 과업을 진행하는 것을 주제로 진행되었습니다. 소개해주신 방법론의 제목은 MST-GAT로 GAT(Graph ATtention network)를 이용함에 있어 다변량 시계열 데이터를 multimodal로 간주한 것이 핵심입니다. Multimodal에 대해서는 분야 및 과업 마다 상이할 수 있는 점이 맹점이지만 본 논문에서는 각 변수의 항목, 가령 온도와 압력 등을 서로 다른 modality로 간주합니다. 더불어 제조 시스템에서는 변수간 관계를 그래프로 나타낼 수 있게 되고 만약 이상치가 존재할 시에는 특정 영역에서만 부분적으로 발생할 수 있습니다. 이에 본 방법론은 변수 간 관계를 나타낸 그래프와 변수에 해당하는 modality를 고려하여 이를테면 heterogeneous 그래프로 나타내어 동일한 modality 간, 서로다른 modality 간, 그리고 전체의 변수간 Attention을 모두 고려하는 것이 중요한 특징입니다. 이상치 탐지 과업은 예측기반과 재구축기반의 방법으로 구분되는데 본 방법론은 두 방식을 모두 채택하였습니다. 따라서 최종 노드의 표현(node embeddings)을 VAE의 입력값으로 이용하여 reconstruction loss를 구하고, 동시에 MLP의 입력값으로 이용하여 prediction loss를 구하게 됩니다. 앞서 언급한 바와 같이 multimodal 보다는 Heterogeneous graph라는 표현을 썼으면 좀 더 와닿을 수 있었으며 그래프 네트워크의 특성을 더 강조할 수 있었을 것이라는 생각이 듭니다. 발표자 분께서 해당 연구주제를 계속해서 잘 탐구하시면 좋을 것 같습니다. 감사합니다.

이번 세미나는 그래프를 통해 각 modal간 관계를 중심으로 이상치 탐지를 수행하는 MST-GAT: A multimodal spatial–temporal graph attention network for time series anomaly detection를 주제로 진행되었습니다. 해당 논문의 가장 큰 특징은 시계열의 변수들 중 같은 modal 끼리를 묶어 진행하며 동일한 modal 내에서 attention을 수행하는 intra-modal attention과 다른 modal 끼리 attention을 수행하는 inter-modal attention을 수행한다는 점입니다. 즉, intra-modal attention에서는 같은 modality를 같는 변수들끼리의 관계를, inter-modal attention에서는 다른 modality 간의 관계를 모델링하고자 하였습니다. attention을 수행할 때 intra에서는 동일 modal 끼리, inter에서는 다른 modal 끼리 이웃이 되도록 adjacency matrix를 정의하고 node embedding cosine similarity가 top-k인 node만 연결한 후에 attention을 수행합니다. 이렇게 변수, 센서간의 spatial dependency를 모델링하고 1d convolution을 통해 temporal dependency를 학습하게 하였습니다. 일반적으로 다른 유형의 데이터를 modal로 접근하는데 비해 여기서는 유사한 시계열끼리 modal로 엮었다는 점이 특이점인거 같습니다. 새로운 접근 방법이어서 흥미롭게 들었습니다. 다만 모델링 전에 사전에 modal을 정의해야한다는 점, 즉, 유사도를 어떻게 계산하고 어떻게 같은 modal로 묶어 주는지에 따라 결과가 크게 다를 것 같다라는 생각을 하였습니다. 좋은 발표 감사합니다.