금일 세미나에서는 shapelet을 활용하여 multivariate time series classification task를 푼 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification에 대해 살펴보았습니다. 이전 연구들에서는 shapelet 생성을 위해 완전 탐색을 사용하였지만 이를 다변량 데이터에 사용하기에는 비용이 너무 비쌉니다. 이를 위해 clustering을 기반으로 한 새로운 방법을 제안한 것이 인상적이었습니다. Shapelet을 통해 주기성이 있다는 특성을 가지고 있는 time series 데이터를 다루는 방식이 매우 합리적이라는 생각이 들었습니다. Shapelet을 생성하는 방식과 slide window를 지정하고 움직이는 방식에 대한 탐색은 꾸준히 이루어지지 않을까 생각됩니다. 그간 한 주제에 대해서 퀄리티 높은 발표들을 진행해주셔서 해당 분야에 대한 팔로우를 잘 할 수 있었습니다. 감사합니다.

본 세미나에서는 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification이라는 주제의 논문에 대한 리뷰를 진행하였습니다. 본 논문에서 제안하는 ShapeNet은 다변량 시계열 분류 (Multivariate time series classification) 과업을 수행하는 학습 프레임워크 제안합니다. 다변량 시계열 데이터에서 shapelet을 embedding vector로 잘 표현하는 방법과 서로 다른 class를 잘 구분지을 수 있는 유의미한 shapelet을 찾는 방법을 제안하여 classification의 성능을 높인 것을 contribution으로 뽑을 수 있습니다. 본 논문에서 사용하는 개념인 shaplet이 굉장히 흥미로웠습니다. 세미나를 통해 제가 이해했던 shaplet의 개념은 결국 time series data의 class를 구분할 수 있는 결정적인 모양이 되는 부분 이었습니다. 이를 embedding으로 사용하여 학습하면 더 높은 classification 성능을 달성 할 수 있다는 것을 실험을 통해 증명하였습니다. shapelet이라는 개념을 처음 접해봤기 때문에 굉장히 생소했지만, 그림을 통해 설명을 쉽게 해주셔서 이해가 수월했습니다. 재미있는 주제로 세미나를 진행해 주셔서 감사합니다. 좋은 발표 감사합니다.

이번 세미나에서는 shapelet을 활용해 다변량 시계열 데이터로 부터 유효한 embedding vector를 얻을 수 있도록 학습하는 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification에 대해 소개해주셨습니다.

Shapelet은 Class를 구분짓는 중요한 특성을 갖는 짦은 Sequence입니다. 다변량 시계열 데이터에서는 추출하고 비교하는 데 더 많은 연상량을 요구하며 변수마다 다른 모양, 길이를 가질 수 있다는 문제가 존재합니다.

그래서 해당 논문에서는 클러스터링 기반으로 하여 shapelet을 선택하는 방법론을 제안했으며 Causal dilated Convolution을 이용해 다른 길이의 변수라도 동일한 embedding space에 나타낼 수 있도록 했습니다. 푸리에 변환이나, 웨이블릿 변환 처럼 시계열 데이터에 직접적인 변형을 가하는 것이 아니기 때문에 설명력 부문에서 강점이 있다는 것이 인상적이었습니다.

이번 세미나는 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification 이었습니다. 해당 논문은 댜변량 시계열 분류 태스크를 중점적으로 다루는 논문으로 처음으로 shaplete 개념을 딥러닝 기반 다변량 시계열 분류 태스크에 도입했습니다. shapelet이란 시계열 데이터 분류 시 중요한 특성들을 가지고 있는 짧은 시퀀스를 의미합니다. 본 논문은 shapelet candidate 중에 실제 shapelet을 잘 탐색하기 위한 Unsupervised Representation Learning 방법론을 제안하고 있습니다. 이때 클러스터링을 통해 각 shapelet candidate을 생성하고, Encoder를 통해 candidate 중에 실제 shapelet을 선택하게 됩니다. 직관적으로도 왜 Shapelet이 중요한지 알 수 있었는데, 이러한 Shapelet을 연속적인 데이터인 time seriese에서 산출하기 위한 여러가지 방법론들이 매우 흥미로웠습니다. 결국 시계열 데이터는 어떻게 하면 관심이 있는 Subsequence를 선택하고, 이를 Embedding하냐의 문제로 항상 귀결되는 것 같습니다. 다양한 요소가 매우 많은 논문이었는데, 친절히 설명해주셔서 잘 따라갈 수 있었던 것 같습니다. 감사합니다.

이번 세미나는 다변량 시계열 데이터 분류 과업을 주제로 진행되었습니다. 소개된 방법론은 ShapeNet으로 Shaplet을 이용하여 reprensentation이 조금 더 효과적으로 학습될 수 있도록 한 것이 큰 특징입니다. Shapelet이란 시계열 데이터의 일부로(subsequence)로 원 데이터의 클래스를 잘 나타내는 혹은 대표할 수 있는 특징을 가지고 있어야 합니다. 이에 하나의 데이터로 부터 만들어낼 수 있는 shapelet의 길이를 가질 수 있고 더욱이 변수별 shapelet은 다양성이 클 것입니다. 본 방법론에서는 이렇게 다양한 길이와 모양의 shapelet을 하나의 embedding 공간에 나타낼 수 있도록 하여 일련의 과정을 거쳐 비슷한 shapelet을 필터링 한 후 최종적으로 남은 shapelet으로 해당 클래스를 예측하게 됩니다. 특히 같은 embedding 공간에서의 representation learning이 진행될 때 triplet loss를 활용하여 효율적인 학습이 이루어질 수 있도록 하였습니다. 여러가지 아이디어를 과정 과정 속에 잘 적용한 점이 인상 깊습니다. 발표자분께서 말씀하신 것 처럼 학습시간이 다소 오래걸릴 것으로 예상되며 클러스터링 과정이 존재함에 따라 불가피하게 하이퍼파라미터를 설정해야하는 점도 한계점으로 생각됩니다. 유익한 내용 준비해주셔서 감사합니다.

이번 세미나는 ShapeNet: A Shapelet Neural Network Approach for Multivariate Time Series Classification 논문을 바탕으로 진행되었습니다. Multivariate time series에서는 개별 변수의 특징을 모델링하여 representation에 활용하는 것이 downstream task에서의 유의미한 성능 향상을 이끌 수 있는데, 이때 ShapeNet에서는 Multivariate time series에서 class를 구분하는데 결정적인 특성을 담고 있는 짧은 Sub-sequence인 Shapelet을 이용합니다. 해당 논문에서는 Multivariate time series에서 Shapelet을 임베딩 Vector로 잘 표현하는 방법과 서로 다른 class를 잘 구분 지을 수 있는 유의미한 Shapelet을 찾는 방법을 제안하고 있습니다. 이때 4가지의 과정을 거치면서 Classification을 진행하게 되는데 먼저 주어진 Input에 대해 변수별로 임의의 길이를 가지는 Shapelet window size로 슬라이딩하면서 서로 다른 길이의 Shapelet candidate를 생성합니다. 이때 각 Shapelet은 어떤 변수로부터 뽑힌 것인지, 어떤 class에 속하는 것인지에 대한 두 가지의 label을 부여받습니다. 이후 도출한 각 Shapelet candidate들의 길이는 다양하기에, 이를 일정한 크기로 Embedding 하기 위하여 Mdc-CNN을 제안하고 있습니다. Mdc-CNN은 다양한 Receptive field를 반영하게 해주면서 현재 시점의 Representation 도출에 미래 시점의 정보가 사용되는 것을 막아주는 역할을 합니다. 이후 도출된 임베딩을 바탕으로 Original sub-sequence를 참고해서 Final shapelet을 선택합니다. 이는 결과적으로 다양한 변수로부터 추출된 다양한 길이의 shapelet embedding 중 유의미한 것을 골라내는 과정입니다. 최종적으로 선택된 Final shapelet은 Transformation 과정을 거쳐 일정한 크기의 Dimension Representation으로 표현할 수 있고, 이를 Classifier에 넣어서 최종적으로 classification을 진행합니다. Shapelet이라는 방법을 처음 접하여서 이해하는데 어려움이 많았고, Representation을 뽑는데 이렇게 복잡한 과정을 거쳐서 뽑아낸 것이 크게 유의미할까 라는 생각도 들었지만, Background부터 그림을 이용하여 하나하나 자세히 설명해주셔서 이해하는데 어려움이 없었던 것 같습니다. 좋은 발표 정말 감사합니다.

이번 세미나에서는 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification이라는 논문을 다루었습니다. 논문 제목에서 알 수 있듯이 다변량 시계열 분류 task를 풀기 위해 shapelet이라는 개념을 적용시킨 모델을 제시합니다. Shapenet은 먼저 서로 다른 길이의 shapelet candidate를 생성합니다. 그 다음 이렇게 서로 다른 길이의 shapelet candidate을 unified space에서 표현하기 위해 mdc-cnn을 통해 embedding합니다. 이 embedding 중에서 high quality의 final shapelet을 선택하고 transformation을 통해 최종 MTS representation을 도출합니다. 성능도 우수하고 처음으로 딥러닝 다변량 시계열 분류 task에 shapelet을 도입했다는 점에서 contribution이 있습니다. shapelet이라는 굉장히 생소한 방법론이었는데, 세미나 초반 부분에서 shapelet의 개념을 천천히 설명해주시고 본 논문에서 제안하는 모델의 step들을 자세하게 설명해주셔서 잘 이해할 수 있었습니다. 좋은 발표 감사합니다.

금일 세미나는 "ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification"라는 주제로 진행되었습니다. 본 발표에서는 처음으로 딥러닝 기반 multivariate time series classification에 shapelet을 적용한 ShapeNet이 소개되었습니다. 먼저 본 연구에서는 class를 구분하기 위한 결정적인 특성을 담고 있는 짧은 subsequence인 shapelet이라는 개념이 중심이 되었습니다. ShapeNet에서는 cluster-wise triplet loss function을 제안하여 서로 다른 길이로 생성된 shapelet candidate를 하나의 unified embedding space로 표현하는 방법을 통해 shapelet을 multivariate time series classification에 활용하였습니다. 요즘 시계열 데이터 분석에서 discriminative representation을 학습하기 위해 clustering을 활용하는 방법론들이 많이 보이는데 ShapeNet도 이러한 방식을 통해 shapelet을 잘 적용했다는 생각이 들었습니다. 새로운 개념과 흥미로운 적용 방법에 대해 들을 수 있는 유익한 시간이었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 다변량 시계열 분류 task를 위한 ShapeNet 방법론을 제안한 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification논문을 소개해 주셨습니다. 본 논문은 딥러닝 기반 다변량 시계열 분류 task에 shapelet를 활용한 논문으로 여기서 shapelet이란 class를 구분하는 데에 결정적인 특성을 담고 있는 짧은 subsequence를 의미합니다. 즉, shapelet transform을 통해 시계열 데이터를 classification하기 좋은 subsequence로 변환하고 보다 편하게 분류를 수행하고자 하는 것입니다. 그러나 다변량 시계열 데이터의 경우 변수가 많기 때문에 적절한 shapelet을 추출하기가 계산적으로 부담이 커 기존에는 사용되기 어렵기 때문에 ShapeNet에서는 우선 shapletet 후보를 구성하고, 그들을 clustering하여 Cluster-wise triplet loss를 학습하는 것을 통해 shapelet embedding을 도출합니다. 추가로 다양한 길이의 shapletet 후보에 대해 global max pooling layer와 linear layer를 도입하여 모두 같은 공간으로 embedding 되도록 합니다. 최근 다양한 분야의 representation 학습 방법론에 triplet loss를 사용하기 위한 시도가 자주 보이는데, 본 논문에서도 Cluster간 다른 sampling 통해 loss를 구성한 것이 인상적이었습니다. 좋은 발표 감사합니다.

이번 세미나는 ShapeNet: A Shapelet Neural Network Approach for Multivariate Time Series Classification 논문을 주제로 진행되었습니다. 해당 연구는 처음으로 딥러닝 기반 다변량 시계열 분류 Task에 Shaplet을 활용한 연구입니다. ShapeNet에서는 변수별로 Shapelet 후보군을 생성한 뒤, Mdc-CNN 상단에 Global Max Pooling과 Linear Layer를 추가해 이 Shapelet 후보군들의 길이를 동일하게 만들어주었습니다. 이후 K-Means Clustering과 대표성이 있고 다양한 Shapelet을 선택하기 위한 utility function을 이용해 최종 Shapelet들을 선택합니다. 마지막으로 최종 선택된 Shapelet들을 바탕으로 Shapelet Transformation을 통해 MTS Representation을 도출하여 SVM 등의 Classifier를 이용한 분류를 수행합니다. Shapelet, Mdc-CNN 등 해당 세미나를 통해 처음 접하게 된 용어 및 방법론들이 있었지만 Figure 및 설명을 자세하게 해주셔서 이해에 많은 도움이 되었습니다. 좋은 발표 감사합니다.

이번 세미나는 time series classification 과업에서 SVM와 Naive bayes classifier를 결합하여 shapelet transformer을 제안한 ShapeNet을 주제로 진행되었습니다. 원본 시계열 데이터와 유사한 subsequence인 shapelet을 통해서 서로 다른 class를 구별할 수 있도록 하였습니다. 먼저 서로 다른 길이의 shapelet candidate를 추출하는데 어떤 변수에서 뽑혔으며 어떤 class에 속하였는지 labeling을 해줍니다. 해당 candidate들은 길이가 다양하기 때문에 Dilated Causal CNN을 통해 일정 길이 벡터로 변환하고 cluster-wise triplet loss function을 통해서 negative와는 멀리 positive와는 가깝게 군집화하도록 하였습니다. 이렇게 shapelet embedding이 도출되면 k-means clustering을 통해 각 cluster centroid와 가까운 candidate를 선택하고 utility function을 통해서 주요 shaplete embedding을 선택하게 됩니다. 이렇게 선택된 embedding을 바탕으로 final shapelet을 구성한 뒤 분류 작업을 수행하게 됩니다. shapelet에 대한 설명이 이해하기 쉬었으며, 시계열 분야에 있어 여러 방면으로 사용 가능성이 있을 것으로 생각됩니다. 좋은 발표 감사합니다.

이번 세미나는 ShapeNet: A Shapelet Neural Network Approach for Multivariate Time Series Classification 논문을 주제로 진행되었습니다. 본 논문에서는 시계열 데이터에서 SHAPELET 이라는것을 이용하게되는데 이전에 shapelet 관련 연구를 보았었고, 이는 시계열의 noise 를 많이 줄여줄 수 있는 방법론으로 알고 있었습니다. 인코더에서는 shapelet subsequence 들이 하나의 통합된 임베딩이 되도록하고, cluster wise triplet loss 를 사용합니다. shapelet 의 사용에서 가장 중요한 것이 cluster 혹은 유사한 shapelet 에 대한 정보인데 이를 잘 다룬 논문인 것으로 확인됩니다. 감사합니다.

이번 세미나는 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification라는 논문에 대해 다루어주셨습니다. 해당 논문에서 제안한 모델은 다변량 시계열 데이터의 분류 문제를 다루는데, introduction 부분에서 어떤 점이 선행 연구들과 비교하여 개선되었는지 설명해주셔서 발표를 따라가기 수월하였습니다. 첫 째 기존의 연구들은 다변량 시계열 데이터에 적용하기에는 너무 많은 연산량을 필요로 했는데, 이를 clustering으로 해결하였고, 둘 째 서로 다른 길이를 갖는 shapelet을 하나의 벡터로 표현할 수 있는 encoding 기법을 제안하였습니다. 마지막으로는 SVM 분류기를 사용하여 결과에 대한 해석을 제공할 수 있도록 하였습니다. 시계열 데이터는 주기성을 갖기 때문에 shapelet을 통한 방법론이 매우 적합하다고 생각하여 관심이 있었는데, 이번 발표에서 소개해주신 논문을 통해 최종적으로 representation vector를 추출하는 과정까지의 흐름을 자세하게 알 수 있어 좋았습니다. 좋은 발표 감사드립니다.

금일 세미나에서는 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification 논문을 다루어 주셨습니다. 본 논문에서는 딥러닝 기반 다변량 시계열 분류 task에 있어 shapelet을 응용하여 해당 과업을 수행하는 학습 프레임워크를 제안하고 있습니다. Shpaelet은 short discriminative time series subsequences를 의미하며 해당 subsequence에는 classification에 있어 중요한 특성들이 담겨 있습니다. 제안하고 있는 프레임워크에서는 우선 시계열 데이터에 대해 다른 길이를 가지는 shapelet candidate들을 생성하고 변수와 class에 대한 2종류의 라벨을 부여하여 shapelate candidates-label 쌍을 구축하게 됩니다. 다음으로 Multi-length-input Dilated Causal CNN (Mdc-CNN)을 이용하여 다양한 길이를 갖는 shapelet을 unified 공간으로 임베딩하여 일정 길이의 벡터를 도출합니다. Mdc-CNN 학습시에는 unsupervised representation learning을 이용하고 있으며 cluster-wise triplet loss function을 통해 negative sample을 이용하여 학습을 수행하지 않는 등의 문제점을 갖고 있던 기존 T-loss를 보완하고자 하였습니다. shapelet candidate embedding을 바탕으로 최종 시계열 representation을 도출할 때 , 대표성이 있고 다양성을 가지는 final shapelet을 선택하고 이를 바탕으로 shapelet transformation을 적용하여 다변량 시계열 데이터를 새로운 임베딩 space로 표현하게 되며 representation을 도출하게 됩니다. 마지막으로 classifier를 학습하고 classification 과업을 수행하게 됩니다. 해당 학습 프레임워크 이용시 빠르게 수렴하며 안정적으로 학습이 이루어지는 모습 통해 제안 방법론의 우수성을 확인할 수 있습니다. background 부분과 코드와 실제 논문의 차이점까지 짚어주신 부분을 통해 꼼꼼히 발표를 준비하셨다는 점이 느껴졌으며, 수식 부분이 많았지만 깔끔하게 정리해 주셔서 이해에 많은 도움이 되었습니다. 또한 자료 구성에 있어서도 많이 배워갑니다. 좋은 발표 감사합니다!

이번 세미나는 "ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification"에 대한 소개를 해주셨습니다. 이번 세미나에서 Shapelet에 대하여 처음 알게되었습니다. Shapelet은 class를 구분하는데 결정적인 특성을 담고 있는 짧은 subsequence를 말하는데 이번 논문에서는 시계열 데이터의 각 변수마다 서로 다른 길이로 추출된 shapelet의 길이를 하나의 embedding space에 나타낼 수 있도록 하였습니다. Shapelet을 활용하는 점에서 모델의 interpretability를 보일 수 있다는 점이 좋았습니다. 좋은 논문 소개 감사합니다.

이번 세미나는 다변량 시계열 분류 task에서 Shaplelet 개념을 도입하여 새로운 구조를 제안한 논문 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification을 주제로 진행되었습니다. 일반적으로 다변량 시계열 데이터는 시퀀스의 길이와 형태가 다양하다는 측면에서 통합된 공간으로 임베딩하는 일이 까다롭습니다. 본 논문에서는 이러한 shapelet candidates의 다양성을 통합하기 위한 비지도 기반의 representation learning 방법론과 학습된 임베딩을 통해 유의미한 shapelet 벡터를 추출하는 방법론을 제안합니다. 이를 통해 최종적으로 일정 길이의 repesentation을 도출하게 되고, shapelet의 특성이 반영된 임베딩 벡터와 서로 다른 class 간 구분을 용이하게 하여 classification 성능을 높였다는 contribution을 가집니다. 딥러닝 기반 시계열 분류 task에서 shapelet이라는 개념을 처음 도입한 논문인 만큼, 새로운 concept을 소개하기 쉽지 않으셨을텐데 이번에도 역시나 꼼꼼하고 세세한 설명 덕에 잘 따라갈 수 있었습니다. 유익한 세미나 진행해주셔서 감사합니다.

이번 세미나는 AAAI 2021에 억셉된 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification 논문으로 진행되었습니다. 해당 논문은 논문 제목에서도 알 수 있다싶이 다변량 시계열 분류 task의 논문이며, 특히 딥러닝 기번 다변량 시계열 분류 task에 처음으로 shapelet이란 개념을 응용한 논문입니다. 여기서 shapelet이란 short discriminative time series subsequences로, class를 구분하는 데에 결정적인 특성을 담고 있는 짧은 subsequence를 뜻합니다. 해당 논문은 다변량 시계열 데이터셋으로부터 추출된 shapelet candidates을 임베딩 벡터로 잘 표현하기 위한 Mdc-CNN Encoder를 제안했으며, Mdc-CNN의 unsupervised representation learning을 위해 cluster-wise triplet loss를 제안했습니다. 또한 학습된 shapelet 임베딩을 바탕으로 서로 다른 class를 잘 구분지을 수 있는 유의미한 shapelet 벡터를 추출하는 Multivariate Shapelet Transformation을 통해 최종 representation을 도출하였으며 이렇게 2가지 큰 방법론을 제안하여 시계열 분류 성능을 높였다고 합니다. 중간중간 발표자의 해석을 설명해주셔서 이해에 큰 도움이 되는 발표였던 것 같습니다. 좋은 발표 감사합니다.

이번 세미나에선 ShapeNet: A Shapelet-Neural Network Approach for Multivariate Time Series Classification 라는 연구에 대해 소개되었습니다. ShapenNet은 논문의 제목에 명시된 것처럼 Shapelet을 다변량 시계열 데이터에 적용한 연구이며, SVM과 Naive Bayes classifier를 결합하여 사용하기 위한 shapelet transformation을 사용합니다. 전체 구조를 보면 서로 다른 길이의 shapelet candidates의 구성, shapelet embedding 도출, 주요 shapelet embedding 추출까지의 단계를 통해 최종 선택된 shapelet에 shapelet transformation을 적용하여 최종적인 MTS representation을 도출하는 형태입니다. 단계 별로 다양한 candidate의 길이를 처리하기 위한 Dilated Causal CNN과 representation learning에 cluster-triplet loss 를 사용하여 학습하는 부분 등이 종합적으로 Shapelet의 성능향상에 기여했다는 생각이 들었습니다. 생소한 개념이 많이 소개되었는데 단계적으로 잘 정리된 세미나였던 것 같습니다. 좋은 발표 감사합니다.