대학원 입학 이후 처음으로 여수 엑스포 컨벤션센터에서 진행된 2024 대한산업공학회 춘계학술대회에 참여하였습니다. 이번 학회를 통해 산업공학을 전공하는 다른 연구자 분들이 어떤 문제점을 정의해서 이를 해결하기 위해 어떤 방식으로 고민하고, 연구하고 있는지를 살펴볼 수 있는 좋은 경험을 하고 왔습니다. 개인적으로 가장 인상깊었던 연구 발표는 다음과 같습니다.

[1] Out-of-Model-Scope Detection for Outdoor Video Denoising via Knowledge Distillation(강지연, 이상민 - 광운대학교 인공지능응용학과)

해당 발표는 기존 Object Detection 분야에서 테스트 데이터셋에서 훈련 데이터셋과는 다른 분포를 가지는 데이터를 식별하여 OOD 데이터로 간주하는 OOD Detection이 가지는 모호함을 보완하기 위해 데이터 중심이 아닌, 모델의 예측 결과를 중심으로 데이터를 식별하는 Out-of-Model-Scope(OMS) Detection을 Knowledge Distillation 방식을 통해 Video Denoising에 적용하는 연구로 구성되었습니다. OOD와 OMS를 이상치 탐지에 적용하는 경우, ID+OMS / ID+IMS / OOD+IMS / OOD+OMS 네 가지 유형의 데이터로 구분되는데, 이 중 3번 유형에 해당하는 데이터에 대한 탐지를 잘 이루어내는 것이 중요합니다. 또한 Konwledge Distillation을 통해 잘 예측된 지식전달로 레이블이 없는 이미지에 대해서도 강건한 객체 탐지를 유도합니다. 이번 학회 발표를 들으면서 Knowlege Distillation을 적용하는 경우를 많이 봤는데, 이를 더 공부해서 개인적인 연구에서도 응용해보고싶다는 생각을 하게 되었습니다.

[2] 프롬프트 최적화 기법 기반의 Few-Shot 비전-언어 모델 이상치 탐지(최지우, 김창욱 - 연세대학교 산업공학과)

해당 발표는 CLIP 기반의 이상치 탐지 모델에 적합한 프롬프트를 최적화(Prompt Tuning)하는 과정을 학습을 통해 자동화하고자 하는 연구로 구성되었습니다. 최근 이상치 탐지 분야에서 대량의 이미지-텍스트 쌍 데이터를 대량으로 학습하여 이미지 내의 다양한 Semantic한 개념을 학습해 좋은 일반화 성능을 보이고 있는 VLM, 특히 CLIP 기반의 모델을 적용하는 사용하는 경우가 생기고 있습니다. 이때 CLIP에 사용할 이상치 탐지에 적합한 프롬프트를 사전에 ‘잘’ 정의하는 것이 성능 향상에 많은 영향을 끼칩니다. 따라서 해당 연구에서는 Local Feature Extraction, Deep Prompts, Feature Space Augmentation, Memory bank 등을 적용한 새로운 Method를 제안하여 MVTec AD Dataset에 대해 기존 PatchCore보다 높은 AUROC 성능을 보였으며, CLIP 기반의 Few-Shot 이상치 탐지 모델인 WinCLIP과도 비슷하거나 혹은 특정 Shot 개수에서는 더 좋은 성능을 보였습니다. 해당 발표를 보며 VLM을 이상치 탐지에 사용하는 과정에서 사전에 틀이 정해져있는 프롬프트를 학습을 통해 변경하는 것으로도 좋은 성능 향상을 유도할 수 있다는 것과, CLIP을 사용하는 경우에 프롬프트의 역할이 중요하다는 것을 알 수 있었습니다.

[3] Semi-supervised fault diagnosis framework using data augmentation for rotating machinery(박윤영, 유재홍 - 인천대학교 산업경영공학과)

해당 발표는 신호 데이터에 대해 부품 혹은 설비 시스템의 상태 정보를 토대로 시스템의 상태를 진단하는 고장 진단(Fault Diagnosis), 그중에서도 현재 설비 시스템에 발생된 고장 유형을 분류하기 위한 방법론을 나타내는 고장 분류에 관한 연구로 구성되었습니다. 신호 데이터 기반 고장 분류 모델은 신호 데이터의 특징 추출 방식과 레이블 수집이 어렵다는 문제점을 가지고 있는데, 해당 연구에서는 이를 단시간 푸리에 변환(Short-time Fourier Transform)과 준지도 학습 모델을 사용함으로써 해결하고자 했습니다. 준지도 학습 모델에서는 임시 레이블링과 데이터 증강에 기반하는 MixMatch와 FixMatch를 사용했는데, 결과적으로 레이블 데이터만 사용하는 CNN 모델과 차원 축소 기반의 HCAE, 임시 레이블링 기반의 Pseudo Labeling과 비교했을 때 레이블 데이터의 수가 아주 부족한 상황에서도 다른 기법에 비해 우수한 분류 정확도를 보였습니다. 특히 FixMatch의 경우 모델 성능 변화의 민감도를 줄이고, 보다 빠른 학습 속도를 보여 레이블 정보가 부족한 상황의 설비 고장 분류에 효과적으로 활용될 것으로 기대됩니다. 최근 연구 흐름에서는 레이블 데이터가 아예 없는 상황에서의 비지도 학습 기반 모델들이 활발하게 연구되고 있는데, 소량의 레이블 데이터를 학습에 사용하는 준지도 학습 기반 모델들에도 관심을 가질 수 있었습니다.

이번 학회에서 자신의 연구에 대해 발표하고, 이에 대해 공유하는 다른 연구자분들의 모습을 보며, 개인적으로도 좋은 연구를 하고 싶다는 좋은 동기부여가 되었으며 특히 비슷한 관심 분야를 가지고 있는 사람들의 발표를 보면서 많은 부분을 배울 수 있었습니다. 앞으로 저 또한 학회에서 많은 연구자분들 앞에서 좋은 연구를 발표할 수 있게끔 더 노력할 것입니다.