이번에는 온라인으로 대한산업공학회 춘계학술대회에 참여하게 되었습니다. 제주도에 참여하지 못해 아쉬웠지만, 여러 연구원들의 다양한 아이디어를 공유 받을 수 있는 유익한 시간이었습니다. 이러한 기회를 주신 교수님께 감사드리며, 저는 이번 여름에 개인 연구를 잘 마무리해서 추계 학술대회에서 발표할 수 있도록 해보겠습니다.

[주기성을 갖는 단변량 시계열 데이터를 위한 이상탐지 방법론 (윤기오, 전여진, 이예슬, 백준걸 (고려대학교 산업경영공학부))]

본 발표에서는 반도체 생산 시스템에서 발생하는 시계열 데이터의 이상 탐지 성능 고도화를 위한 연구가 소개되었습니다. 여기서는 InceptionTime이라는 모델을 응용하고 있는데, 이 모델은 CNN을 기반으로 앙상블하여 시계열 데이터의 local 및 global 패턴을 파악할 수 있도록 고안되었습니다. 특히, bottleneck layer를 활용해 연산량과 파라미터 수를 적게 가져가며 다양한 크기의 kernel size를 통해 시계열 데이터의 특성을 효율적으로 추출하였습니다. 이 모델을 기반으로 많은 실험을 진행하였는데, 이 연구에서는 데이터셋 구성 부분이 핵심인 것 같습니다. 모델 train 시에 이상 유형 개수를 다르게 하여 학습한 이상 유형 개수에 따라 이상탐지 성능이 달라지는지 확인을 하였고, window size는 데이터 주기보다 크게 설정하고 이상 구간 포함 비율에 따라 별도로 성능 측정을 하였습니다. 또한, data augmentation을 통해 강건한 성능을 보일 수 있도록 했습니다. 시계열 데이터는 특히나 주기성, 트렌드, 패턴 등 데이터셋 마다 매우 상이하기 때문에 최적의 하이퍼파라미터 셋을 찾고 성능을 도출하는 것이 의미가 큰데, 그와 관련한 많은 실험을 진행한 것이 인상깊었습니다. 새로운 모델 설계는 아니라 아쉬웠지만, 데이터의 면밀한 분석을 통해 성능 고도화를 했다는 점이 현업, 현실적인 관점에서 의의가 있는 것 같다고 생각했습니다.

[이미지 기반 다변량 시계열 데이터 변환을 통한 제조 불량 분류 및 원인 인자 탐색 (이보경, 김창욱 (연세대학교 산업공학과))]

본 연구에서는 시계열 데이터를 이미지로 변환하여 이상탐지를 하는 모델을 제안하고 있습니다. 시계열 데이터를 이미지화하기 위해 우선, 서로 다른 길이의 시계열 데이터를 일정 길이로 만들어 줄 수 있는 Piecewise Aggregate Approximation (PAA)라는 방법론을 사용하였고, 이 후, Gramian Angular Field (GAF)라는 기법을 사용하여 temporal dependency와 correlation을 고려한 이미지를 얻어냅니다. 다변량 시계열에서 이 기법을 사용하면, channel dimension이 변수 개수만큼인 3d tensor가 생성되게 됩니다. 이 이미지 입력을 바탕으로 중요 변수를 추출하기 위해 grouped convolution을 수행하며 추출된 feature map으로부터 FC layer를 통과하여 classification을 수행하게 됩니다. 특히, FC Layer의 가중치는 각 변수 별 feature map의 특징 값이 특정 class에 미치는 중요도로 해석이 됩니다. 제안된 방법론의 효과를 ablation study를 통해 잘 보여주었으며, 특히 시계열 데이터를 이미지화하는 과정에서 변수 차원을 유지시켜 주도록 한 아이디어가 신선했습니다.

[그래프 분류를 위한 FixMatch 기반 준 지도 학습 네트워크 (고은지, 이영재, 허종국, 김성범 (고려대학교))]

본 연구에서는 그래프 구조의 데이터에 대한 분류 방법론으로 FixMatch를 응용한 방법론을 제안합니다. 제안하는 방법론은 GCN(Graph convolutional network) 모델을 기반으로 대량의 unlabeled data와 소량의 labeled data가 있을 때 적용 가능한 준지도학습 방법론을 기반으로 하고 있습니다. 특히 FixMatch 방법론을 따라 supervised loss와 consistency loss를 사용하였습니다. Supervised loss로는 weakly augmentation된 label 데이터에 대해 cross entropy loss를 적용한 것을 사용하고 consistency loss로는 weakly augmentation 된 데이터와 strong augmentation된 데이터 간의 유사한 예측값 출력을 위한 cross entropy를 사용합니다. 다만, logits에 대한 특정 threshold 값을 정해서 threshold 이상의 logits 값들에 대해서만 consistency loss를 도출하도록 설계하여 모델 학습이 진행됨에 따라 supervised loss의 비중보다 consistency loss 비중이 더 커질 수 있도록 했습니다. 적은 하이퍼 파라미터로 분류 성능을 잘 낼 수 있도록 방법론을 잘 응용한 것 같았지만, loss 구성 부분에서 기대했던 점진적 학습 방법 부분에 대한 정성적인 평가나 정량적 평가가 있었다면 더 좋았을 것 같다는 생각이 들었습니다.