번호 | 제목 | 작성자 | 작성일 | 추천 | 조회 |
공지사항 |
Paper Reviews 2019 Q3
관리자
|
2020.03.12
|
추천 0
|
조회 11519
|
관리자 | 2020.03.12 | 0 | 11519 |
공지사항 |
Paper Reviews 2019 Q2
관리자
|
2020.03.12
|
추천 0
|
조회 10164
|
관리자 | 2020.03.12 | 0 | 10164 |
공지사항 |
Paper Reviews 2019 Q1
관리자
|
2020.03.12
|
추천 0
|
조회 11242
|
관리자 | 2020.03.12 | 0 | 11242 |
515 |
[Paper Review] Multi-Scale Finetuning for Encoder-based Time Series Foundation Models (1)
Hyeongwon Kang
|
2025.07.29
|
추천 0
|
조회 90
|
Hyeongwon Kang | 2025.07.29 | 0 | 90 |
514 |
[Paper Review] Recent Research Trends in Video Anomaly Detection (2)
Jaehyuk Heo
|
2025.07.27
|
추천 0
|
조회 95
|
Jaehyuk Heo | 2025.07.27 | 0 | 95 |
513 |
[Paper Review] Introduction to PINN (Some basic concepts and research directions) (9)
Hankyeol Kim
|
2025.07.18
|
추천 0
|
조회 169
|
Hankyeol Kim | 2025.07.18 | 0 | 169 |
512 |
[Paper Review] TimeCMA: Towards LLM-Empowered Multivariate Time Series Forecasting via Cross-Modality Alignment (10)
Sieon Park
|
2025.07.14
|
추천 0
|
조회 204
|
Sieon Park | 2025.07.14 | 0 | 204 |
511 |
[Paper Review] Exploring Intrinsic Normal Prototypes within a Single Image for Universal Anomaly Detection (9)
Subeen Cha
|
2025.07.10
|
추천 0
|
조회 180
|
Subeen Cha | 2025.07.10 | 0 | 180 |
510 |
[Paper Review] Theory of Everything (About Sequence Modeling with DL Models…) (14)
Jaewon Cheon
|
2025.06.27
|
추천 0
|
조회 363
|
Jaewon Cheon | 2025.06.27 | 0 | 363 |
509 |
[Paper Review] Evaluation of Multilingual Image Captioning: How far can we get with CLIP models? (16)
Minjeong Ma
|
2025.06.07
|
추천 0
|
조회 414
|
Minjeong Ma | 2025.06.07 | 0 | 414 |
508 |
![]()
Minjeong Ma
|
2025.06.02
|
추천 0
|
조회 38
|
Minjeong Ma | 2025.06.02 | 0 | 38 |
507 |
![]()
Kiyoon Jeong
|
2025.06.02
|
추천 0
|
조회 38
|
Kiyoon Jeong | 2025.06.02 | 0 | 38 |
506 |
![]()
Woongchan Nam
|
2025.06.02
|
추천 0
|
조회 33
|
Woongchan Nam | 2025.06.02 | 0 | 33 |
이번 세미나는 'Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization'에 대해 소개해주셨습니다. 본 논문에서는 fine-grain된 이미지 이상치를 탐지하기 위한 two-stage coarse-to-fine framework을 제안합니다. 프레임워크의 첫 번째 단계에선 이미지의 global context를 포착하고 align하는 작업을 수행합니다. 해당 alignment의 목표는 batch 내 이미지를 비슷한 방향 위치로 맞춰주는 것입니다. 이후 pretrained ConvNet을 사용하여 feature extracting을 수행합니다. 프레임워크의 두 번째 단계인 Fine-Alignment 단계로, 같은 이미지에서 두 개의 sample을 생성한 뒤 autoencoder에 입력하여 생성한 출력의 픽셀 단위 코사인 유사도를 최대화하는 방식의 non-contrastive learning을 수행합니다. 이미지 이상치 탐지 과정에서 이미지의 방향을 통일화하여 각 이미지의 픽셀 단위 semantic을 잘 학습할 수 있도록 보장한 점이 흥미로웠습니다. 단, 학습 단계에서 loss function을 제안하는 framework에 적합한 loss를 잘 사용했으나, anomaly score에는 단순한 reconstruction loss라 볼 수 있는 distance matrix만을 사용한 점이 다소 아쉬웠습니다. 자세한 설명과 꼼꼼한 자료 덕분에 이해하기 쉬웠던 것 같습니다. 좋은 발표 감사합니다.
이번 세미나에서는 이미지 이상치 탐지 방법론인 FYD를 제안하고 있는 Focus Your Distribution: Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 에 대해 다뤄주셨습니다. 해당 방법론은 정상 샘플의 분포를 학습하고 고해상도 이미지에서 미세하고 세밀한 이상치를 탐지하기 위한 coarse-to-fine alignment를 사용합니다. coarse alignment 단계에서는 Image level과 feature level에 대해 alignment를 실행하고 fine alignment에서는 pixel-wise non-contraastive learning 이용하여 정상 샘플의 Feature distribution을 학습하게 됩니다. 세부적으로 보면 Coarse Alignment에서는 정상 이미지의 pixel 분포를 정규화 하는 것을 목표로 하며, 이를 위해 Affine transformation을 사용하고 있습니다. 이를 이용하여 batch 내 이미지들이 모두 비슷한 방향과 위치를 갖도록 하며, 변형 이후 batch 내의 이미지를 random 하게 pairing 한 뒤 l2거리를 최소화 하는 방향으로 loss를 계산하게 됩니다. Affine transformation과 batch 내의 이미지 간의 l2를 이용하여 한 방향으로 정렬하는 것이 가능하다는 것이 상당히 놀라웠으며, 이를 통해 정상 데이터의 분포를 학습하고자 한 의도 또한 놀라웠습니다. 실험에서는 기존 벤치마크 데이터셋만을 사용하는 것이 아닌 Disturbed Dataset을 적용하여 현실적인 시나리오에 맞췄다는 것이 또한 인상적이었던 것 같습니다. 방법론 자체가 많은 요소로 구성되어 있고, 실험 또한 상당히 많은 것으로 보이는데, 발표자분 께서 하나씩 잘 설명해주셨던 것 같습니다.
해당 세미나 시간에는 “Focus Your Distribution: Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization” 논문을 주제로 이미지에서의 이상치 탐지 방법론에 대해서 다루어 보았습니다. 해당 연구는 크게 두가지의 step을 통해 fine-grain된 이미지 이상치를 탐지하고 localize를 수행하였습니다. 첫 스텝인 coarse alignment 단계 에서는 image, feature level 수준에서 이미지의 global context를 포착하고 align을 시키고자 하였으며, 두 번째 스텝인 fine alignment 단계에서는 Pixel-wise 수준으로 Non-contrastive learning을 통해 semantic 하게 의미있는 정상 이미지의 representation을 통해 해당 이미지의 embedding position에 대해 feature 유사도를 최대화하는 방식으로 학습을 진행하였습니다. 해당 연구에서 흥미로웠던 부분은 세미나시간에서는 언급되지 않았지만 각각의 단계에서 활용되는 distance 방법이 모두다 상이하였다는 점입니다. 정상이미지의 pixel 분포를 정규화 하는 coarse alignment 단계에서는 l2 distance를 사용하였으며, 정상이미지의 compact한 sphere representation 학습을 목표로 하는 fine-alignment 단계에서는 negative cosine 유사도를 활용하였습니다. 최종적으로 이미지의 anomaly score를 도출하는 inference 단계에서는 정상분포와의 mahalanobis distance를 통해 이상치 여부를 판별하였습니다. 제안하는 FYD 프레임워크 안에서 각 단계에서의 feature 특성이 상이하기 때문에, 서로 다른 distance 방식을 적절히 사용한 점이 인상적이었습니다.
금일 세미나는 "Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization"라는 주제로 진행되었습니다. 본 발표에서는 coarse alignment를 통해 fine-grain 된 이상치를 탐지하기 위한 coarse-to-fine 구조의 모델 FYD가 소개되었습니다. 개인적으로 이미지를 random하게 pairing하고 L2 거리를 최소화하는 ICA 방식을 제안하여 global context 포착하고 align 시키는 coarse alignment를 수행한 부분이 매우 직관적이라는 생각이 들었습니다. 더불어 feature-level affine transformation을 활용하여 feature representation의 분포를 다시 한 번 align한 점에서 이미지로부터 feature를 잘 추출하기 위해 논문에서 노력한 점을 알 수 있었습니다. 다만 non-contrastive learning을 수행한 fine alignment 단계에서 BYOL과 같은 대표적인 모델들과 다르게 하나의 encoder를 공유한 점에 대해 별도의 설명이 없는 점은 아쉬웠습니다. 좋은 발표 감사합니다.
이번 세미나에서는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 라는 논문을 다루었습니다. FYD는 실제 이미지에서 이상치 데이터는 전체 이미지 pixel 중에서 fine-grain한 경우가 많기 때문에 coarse alignment와 fine alignment 과정을 통해 정상 이미지의 compact distribution을 학습하는 것을 목적으로 하는 모델입니다. Coarse alignment 과정에서는 image level alignment와 pixel level alignment를 통해 image의 pixel별 위치를 regularization하는 작업이 수행됩니다. Fine alignment 과정에서는 배치 내 모든 이미지의 위치간 feature similarity를 최대화하는 작업이 수행됩니다. 또한 해당 방법론은 non-contrastive learning 방법을 활용하여 robust하고 general한 feature 학습이 가능하도록 합니다. 해당 방법론은 다양한 실험 세팅과 실제 산업 이미지에 대해서 효과적인 이상치 탐지 성능을 보였습니다. FYD의 구조적 단계가 많았는데 그림을 통해 단계별로 설명해주셔서 쉽게 이해할 수 있었습니다. 좋은 발표 감사합니다
이번 세미나는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization를 주제로 진행되었습니다. 본 논문은 image의 feature map을 도출하기 전에 두 가지 level의 coarse alignment를 진행하는 과정을 사용하였습니다. 먼저 image level의 alignment를 위해 affine transformation을 통해 이미지들을 회전시켜 정렬해주는 과정을 거치게 됩니다. 이를 pixel wise L2 loss를 통해 similarity를 계산하고 충분한 iteration을 통해 alignment를 진행합니다. 다음으로는 feature level의 alignment를 위해 pretrained cnn layer와 affine transformation을 통해서 scale, rotation, translation을 수행하여 줍니다. 이렇게 정렬된 이미지들 중 두 개의 sample을 autoencoder에 입력하여 코사인 유사도를 최대화하는 non-contrastive learning 방법을 사용하였습니다. 이미지를 정렬하여 최대한 유사한 환경에서 비교하여 이상치 탐지를 한다는 점이 인상 깊었으나, alignment를 두번 진행하는 이유에 대해서 와닿지 않았으며 alignment를 위한 time cost가 증가할 것 같은데 이에 대해서 언급하지 않은 점이 아쉬웠습니다. 좋은 발표 감사합니다.
이번 세미나는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 논문을 바탕으로 진행되었습니다. 해당 논문에서 제시하는 FYD Model은 Fine-grain된 이상치를 탐지하기 위하여 Image-level과 Feature-level에 대하여 alignment를 실행하는 Coarse alignment Part와, Piexl-wise non-contrastive learning을 진행하는 Fine alignment의 Two-stage framework로 구성되어 있습니다. 먼저 Coarse Alignment 부분은 Image-level에서 Coarse Alignment를 진행하는 ICA module과, Feature-level에서 Coarse Alignment를 진행하는 FCA module로 이루어져 있는데, 먼저 ICA에서는 정상 이미지의 Pixel 분포를 정규화하는 것을 목표로 하여서 Output 이미지들을 모두 비슷한 방향과 위치로 맞춰주는 Affine Transformation을 진행하여 이후 학습을 더 수월하게 끔 만들어 줍니다. 이후 FCA를 통하여 High-level Coarse alignment를 진행해주면서 전체적인 이미지의 Alignment를 진행합니다. 다음으로 Fine Alignment 파트에서는 이상치와의 거리를 이용하지 않고, Semantic한 측면에서 더욱 의미가 있는 정상 이미지의 Representation을 학습하기 위하여 Non-contrastive learning 방법을 이용하는데, 이때 Symmetry operation을 통하여 Robust하고 Generalizable한 Feature를 학습하는 방식으로 전체 학습 과정이 이루어지고 있었습니다. Background에서부터 기초적인 부분을 자세하게 설명해주셔서 최종적으로 모델의 전체적인 구조를 이해하는데 수월했던 것 같습니다. 좋은 발표 정말 감사드립니다.
이번 세미나의 주제는 이미지 이상치 탐지였습니다. 현재 재구축(reconstruction) 기반의 방법론들이 이미지 이상치 탐지 방법론의 한 계열을 담당하고 있습니다. 이때 Autoencoder 또는 GAN 등이 많이 응용되고 있는 점도 쉽게 알 수 있습니다. 허나, 재구축 기반의 방법론들의 가장 큰 문제는 이상치가 포함된 이미지 조차도 재구축을 잘 한다는 것입니다. 이를 보완하여 나타난 계열이 바로 representation을 이용하는 것입니다. 정상이미지 및 그의 patch로 부터 특정 벡터를 추출하여 분포를 모델링하게 됩니다. 결과적으로 이렇게 모델링 된 분포의 비교를 통해 정상과 abnormal data를 구분 짓고자 하는 것이 핵심이 됩니다. 소개해주신 Focus Your Distribution(이하 FYD)도 이와 같은 계열의 방법론으로 Coarse alignment 와 fine alignment로 구성되어 있습니다. Coarse Alignment를 통해 이미지의 전반적인 context를 포착하여 representation을 생성하는 것이고 Fine alignment에서는 생성된 representation을 이용하여 pixel단위의 non-contrastive learning 방식으로 self-supervised learning이 진행됩니다. 최근 몇몇의 세미나에서 Coarse/Fine alignment에 대한 개념을 종종 보았는데 끊임없이 아이디어가 개선 되어 오는 점이 인상깊습니다. 한편, 같은 주제의 세미나에서 계속적으로 등장하는 이야기지만 실험에 활용되는 데이터셋이 한정적인 점은 아쉽게 느껴집니다. 이미지 이상치 탐지는 다른 분야들과 비교해서도 실용성이 가장 높은 과업이지만 실험에 활용되는 데이터들은 현실과 좀 거리가 있지 않은가 생각됩니다. 흥미로운 내용 준비해주셔서 감사합니다.
이번 세미나는 ‘Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization’으로 coarse alignment와 fine alignment 두 단계로 나누어서 진행됩니다. coarse alignment stage에서는 Image-level과 feature-level로 이미지의 global context를 잘 학습하기 위해서 similarity를 이용하여 loss를 구합니다. fine alignment stage에서는 pixel-level로 semantic 정보를 포착하기 위해 simsiam 구조를 가져와 학습합니다. 모든 임베딩 position에 대해 feature 유사도를 최대화 하는 방향으로 학습되고 인코딩 이미지 FCA의 두개의 이미지를 이용해서 유사도를 구하게 됩니다. FCA를 이용하여 이미지 분포를 compact하는 효과가 있습니다. ICA와 FCA에 대한 효과는 해당 논문 실험 부분에 잘 담겨 있었습니다. ICA module을 통해서 이상치를 더 잘 localization할 수 있었고, FCA를 통해서 feature alignment 과정의 효과를 극대화 할 수 있었습니다. 세미나 앞의 background에서 많이 사용되는 anomaly 방법론들을 정리해주셔서 도움이 많이 되었습니다. 좋은 발표 감사합니다.
이번 세미나는 이상치 탐지 관련 방법론인 FYD을 제안한 ‘Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization’라는 논문에 대해 다루어주셨습니다. 해당 논문에서 제안하는 방법론의 핵심은 데이터의 image-level 그리고 feature-level의 정보 두 가지 모두를 잘 활용하여 이상치 탐지를 수행하는 것 이었습니다. 이를 위해 2가지 모듈로 구성되어 있는데, 첫 번째로 coarse alignment 모듈은 이미지의 회전 각을 정렬한 ICA와 여러가지 affine transformation 수행하는 FCA로 구성되어 있었고, 이를 통해 정규화된 이미지 feature에 대해 fine alignment 단계에서 non-contrastive learning을 진행하여 모델이 정상 이미지의 representation을 학습하도록 하였습니다. 본 논문에서 주장한 것 처럼 이미지 이상치 탐지를 잘하기 위해서는 image-level 그리고 feature-level 이상치 모두를 잘 탐지할 수 있어야 하는데, 그런 관점에서 매우 직관적으로 방법론을 설계했다는 생각이 들었습니다. 다만, 기본적으로 모듈 자체가 2개의 파트로 구성이 되어있고, rotation이나 affine transformation을 진행하면서 time-cost가 좀 있지 않을까 하는 생각이 들었고 좀 더 효율적으로 할 수 있는 방법이 있지 않을까 하는 아쉬움이 있었습니다. 좋은 발표 감사드립니다.
이번 세미나는 이미지 이상치 탐지 분야의 논문 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization을 주제로 진행되었습니다. 본 논문은 fine-grained 이상치를 탐지하기 위해 두 단계로 이루어진 coarse-to-fine 프레임워크를 제안합니다. coarse와 fine, 두가지 alignment로 구성된 프레임워크는 각각 image-level과 feature-level에 대해 alignment를 실행하고 pixel-wise non contrastive learning을 수행합니다. 새로운 pretext task를 가정하여 이상치 샘플에 대한 별도의 가정 없이 compact한 정상 feature들로 self-supervised learning을 진행한다는 특징을 가집니다. 이미지 이상치 탐지 분야에서는 이미지 내 세세한 이상치 영역을 감지해야하므로 global context와 pixel 단위의 local context를 분리하여 representation을 학습하는 본 방식이 효과적으로 작용한 것이라 생각했습니다. 유익한 발표 진행해주셔서 감사합니다.
이번 세미나는 이미지 이상치 탐지 분야의 논문인 'Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization'을 주제로 진행되었습니다. 본 논문은 두 단계로 구성된 coarse-to-fine 프레임워크를 제안하여 fine-grained 이상치를 탐지하는 데 초점을 맞추고 있습니다. 이 프레임워크는 coarse alignment와 fine alignment로 구성되어 있으며, 각각 image-level과 feature-level에서의 alignment와 pixel-wise non-contrastive learning을 수행합니다. Coarse alignment에서는 이미지의 global context를 포착하고, fine alignment에서는 semantic 정보를 포착하기 위해 학습이 진행됩니다. Industrial 분야에 특화된 Image Anomaly의 접근은 흥미로웠지만, 논문에서 주장한 바와 달리 방향성이 틀어진 데이터 셋에 대한 성능 향상이 미비한 점이 아쉬웠습니다. 흥미로운 주제를 다루어졌던 유익했던 발표였습니다. 감사합니다.
이번세미나에서는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 논문을 주제로 진행되었습니다. 본 논문은 두 단계로 구성된 coarse-to-fine 방법론을 사용하며, fine-grained 이상치를 탐지합니다. coarse alignment 는 정상이미지의 픽셀 분포를 정규화 하는것을 목표로 하고, batct 내 이미지들에 대해 비슷한 방향과 위치로 맞추며, 이에대허 angle 값을 산출합니다. Fine-alignment module 는 이상치와의 거리를 이용하지 않고 semantic 하게 의미 있는 정상 이미지를 학습하고, 모든 정상 이미지의 모든 임베딩 position 에 대해 feature 유사도를 최대화 합니다. 해당 분야에서 데이터에 특화되는 방법론 일 것 같다는 생각을 많이했고, 새로운 관점에서 시도한 방법론 같습니다. 감사합니다.
이번 세미나는 Image 분야의 Anomaly Detection 태스크에서 픽셀 단위의 분포를 이용하는 “Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization” 이었습니다. 해당 논문은 정상 데이터를 통해 학습을 진행할 때, 이미지의 회전 및 위치를 교정하고, 이를 바탕으로 픽셀 단위의 분포를 획득하는 방법론을 취하고 있습니다. 구체적으로 Coarse와 Fine Grained 정보로 나누어 위치를 보정합니다. 우선 Coarse Alignment는 학습되지 않은 Conv Layer와 Affine Matrix를 이용하여 이미지의 대략적인 위치를 맞추는 ICA 모듈이 학습되고, 6개의 파라미터를 이용하여 픽셀 단위의 미세 조정을 수행하는 FCA를 순차적으로 수행합니다. 이때, Alignment가 진행된 정상 이미지 간에는 동일한 위치가 공유될 수 있도록 손실함수를 구성하고 있습니다. 또한, 이렇게 Alignment가 맞춰진 데이터에 대해 이미지의 Contextual 정보를 이용하여 동일한 위치의 분포를 획득할 수 있는 Fine Alignment Stage에서는 실제 이미지의 정보를 활용할 수 있도록 두 정상 이미지 간 Encoder를 통과한 Representation 간 픽셀 단위 유사도가 높아지도록 학습합니다. 이미지 분야의 Anomaly detection에서 그동안 Semantic 단위로 연산을 수행한 것에 비해, 직접적으로 위치를 보정하여 픽셀 단위의 유사도를 비교하는 방법론은 매우 새로웠지만, 실제 Anomaly Localization과 직관적으로 유사한 모델링이 가능한 방법론이라는 점에서 좋은 연구라고 생각합니다. 이미지의 데이터 특성에 맞춘 방법론들이 향후 많이 발전될 수 있을 것으로 보입니다. 좋은 발표 감사드립니다.
본 세미나에서는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 라는 주제의 논문에 대한 리뷰를 진행하였습니다. 본 논문에서는 fine-grain된 이상치를 탐지하기 위한 two-stage coarse-to-fine framework인 FYD (Focus Your Distribution)을 제안하였습니다. Two-stage는 이미지의 global context 포착하고 align 시키는 coarse alignment와 semantic하게 의미있는 정상 이미지의 representation을 이용하여 학습을 진행하는 fine alignment로 구성됩니다. 구체적으로 coarse alignment에서는 정상 이미지의 pixel 분포의 정규화를 목표로 하며 batch 내 이미지들의 방향과 위치를 맞춰주는 역할을 수행합니다. Fine alignment에서는 non-contrastive learning을 통해 이상치와의 거리를 이용하지 않고, semantic하게 의미 있는 정상 이미지의 representation을 학습합니다. Negative sample (이상치)을 사용하지 않았기 때문에 non-contrastive learning으로 명명된 것으로 예상됩니다. Stage를 지나갈때 마다 더 작은 level의 학습을 진행한 것이 이상치 탐지 성능에 좋은 영향을 끼친 것이 아닐까 개인적인 생각이 들었습니다. 이미지 이상치 탐지 분야의 다양한 background를 제공했던 세미나여서 전반적인 흐름을 이해하기에 좋았습니다. 좋은 발표 감사합니다.
이번 세미나에선 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 라는 연구에 대해 소개되었습니다. 논문에선 미세한 이상 영역을 탐지하기 위해 coarse-to-fine의 2-stage 학습 프레임워크를 제안하고 있고 각각은 정상 데이터에 대해 image, feature level alignment를 수행하도록 학습됩니다. Image-level alignment는 main figure에서 제시한 예시처럼 이미지에 transformation을 가하여 동일한 형태로 맞춰주는 역할을 하는데 이를 통해 이후 진행되는 pixel-wise similarity 에서 동일한 영역의 feature 유사도를 비교하는 task가 의미를 가지게 되는 것 같습니다. EMA를 사용한 distillation 학습과 predictor를 추가로 구성한 부분이 self-supervised learning 분야의 연구 아이디어들과 유사하다 생각되는데 이는 unsupervised setting에서 데이터의 representation을 학습한다는 점에서 두 분야의 연구 방향성이 공통점을 가지기 때문이라고 생각합니다. 제안 아이디어와 관련 수식의 의미에 대해 이해하기 쉽지 않은 논문이라 생각되는데 짧은 시간동안 잘 설명해 주셔서 유익한 세미나가 되었던 것 같습니다. 좋은 발표 감사합니다.
해당 세미나는 김선우 발표자님께서 "Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization"이라는 논문을 바탕으로 진행되었습니다. 해당 논문은 Anomaly detection task에서, fine-grain된 이상치를 탐지하기 위한 two-stage coarse-to-fine framework를 제안하고 있습니다. 기존 Reconstruction based Anomaly detection의 한계점은 이상치도 잘 재구축하는 문제가 발생하고 있습니다. 따라서 pretext task를 가정하여, 이상치 샘플에 대한 가정 없이 compact한 정상 feature들에 대해 self-supervised learning을 진행하여 기존 문제점을 개선하고 있습니다. 특히 이상치를 coarse alignment와 fine alignment로 나눠, global context와 semantic(localize)한 정보를 동시에 포착하는 특징이 있습니다. 구체적으로 coarse alignment에는 image-level과 feature-level에 대해 alignment를 실행하고, fine alignment에는 pixel-wise non-contrastive learning를 이용하고 있습니다. 추가적으로 robust한 feature 분포를 학습하고 있어, NLP 분야에서도 text에 대한 Embedding을 전체적으로 한 번 반영하고 local하게 한 번 반영하여 개선하는 방법에 대해서도 생각해보았습니다. 마지막으로 Anomaly detection 방법론에 대해 익숙하지 않았는데, 자세한 설명과 방법론들을 구체적으로 설명해주셔서 이해하기 쉬웠습니다. 좋은 세미나 준비해주셔서 감사합니다.
이번 세미나에서는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 논문을 소개해 주셨습니다. 본 논문은 이미지 이상탐지 도메인에서 보다 fine-grain된 이상치 탐지를 수행하기 위한 방법론을 제안한 논문으로 two-stage coarse-to-fine framework를 제안하였습니다. 인상적이었던 점은 단순히 이미지에 이상탐지를 수행하는 것이 아니라, 각 level에서 alignment를 수행한 것입니다. 쉽게 말하면 이미지 내의 객체들을 모두 동일한 위치, 방향으로 맞춰놓는 것으로 이상탐지의 성능을 향상 시키는 것으로, coarse 단계에서는 pixel wise L2 loss를 통해 lmage level 정렬을 수행하고, fine 단계에서는 pretrained cnn layer와 affine transformation을 통해 각 feature에 대해 정렬을 수행합니다. 본 과정은 한번에 수행되는 것이 아니라, iteration을 반복하며 수행되는 것으로 적정한 수준은 설정이 필요해 보입니다. 가끔 이미지 데이터를 다뤄보면, 분석의 핵심 대상이 되는 object를 detect하는 것이 선행되어야 하는 경우가 많은데, 본 논문에서 제안한 alignment 방식은 다양한 task의 detection 과정에 적용되는 것이 가능해 보입니다. 어색한 도메인에 대한 방법론이었지만 훌륭한 슬라이드 덕분에 잘 이해할 수 있었습니다. 좋은 발표 감사합니다.
이번 세미나에서는 “Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization”이라는 연구에 대해 소개해주셨습니다. 해당 논문에서는 Image Anomaly Detection 시 Fine-grained Defect를 탐지하기 위한 Coarse-to-Fine Anomaly Detection 패러다임을 제시했습니다. 기본적으로 해당 방법론은 Coarse Alignment와 Fine Alignment 라는 두 단계로 이루어져 있습니다. 먼저, Coarse Alignment 단계 중 Image-level Coarse Alignment에서는 정상 이미지의 Pixel 분포를 정규화하는 것을 목표로 Batch 내 이미지들에 대해 비슷한 방향과 위치로 Align을 시켜줍니다. 그리고 Feature-level Coarse Alignment에서는 Image-level이 아닌 Embedding 삼에서의 Coarse Alignment를 위해 Feature-level Affine Transformation을 통해 임베딩 분포를 Align 시켜줍니다. 이후, Fine Alignment Stage에서는 Pixel-wise Non-Contrastive Learning을 통해 정상 이미지의 모든 임베딩 Position에 대해 Feature 유사도를 최대화하는 방식으로 Train을 하게 됩니다. 제가 아는 Anomaly Detection 관련 방법론들은 모두 Contrastive Learning 방법론을 이용해 최종적으로 Anomaly Detection을 수행했는데, 해당 방법론에서는 정상 이미지의 모든 임베딩 Position에 대한 Feature 유사도를 최대화하는 방식을 이용하는 점이 인상적이었습니다. 해당 분야에 대한 배경 지식이 부족함에도 발표자 분의 발표 자료 구성이 좋아 이해에 많은 도움을 받을 수 있었습니다. 좋은 발표 감사드립니다.
이번 세미나는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 논문으로 진행되었습니다. 제가 바로 직전 세미나에서 발표했던 Text-Table QA 관련 분야의 논문도 다양한 Granularity를 다루는 논문이었는데, 해당 논문도 그렇고 요즘 많은 분야에서 Fine-grained, Coarse-grained를 구분지어 모델 학습을 구상하는 것 같습니다. 해당 논문은 제가 발표했던 논문처럼 Granularity별로 Alignment를 맞춰주는 과정에서 발생하는 2가지 Loss로 학습이 진행되는데, 가장 먼저 Coarse Alignment 과정에선 batch내에 정렬이 안되어 있는 이미지들을 비슷한 방향과 위치로 맞춰주고, Fine Alignment 과정에선 동일한 이상치와의 거리를 이용하지 않고 semantic하게 의미 있는 정상 이미지 representation을 학습합니다. 두 단계의 coarse-to-fine 프레임워크를 통해 정상 이미지의 robust한 feature 학습한다는 점이 매우 흥미로웠던 논문이었으며, 다른 분야에서도 이처럼 다양한 granularity를 활용하는 논문이 나올 것 같다는 생각이 들었습니다. 항상 직관적인 figure와 장표를 발표를 준비해주셔서 이해에 도움이 많이 되는 것 같습니다. 좋은 발표 감사합니다!!!
이번 세미나는 Focus Your Distribution : Coarse-to-Fine Non-Contrastive Learning for Anomaly Detection and Localization 논문을 주제로 소개해주셨습니다. 이번 논문에서는 이미지의 coarse한 부분과 fine-grained 부분을 같이 고려하여 이상치 탐지를 수행하는 모델을 제안합니다. 인상적이었던 부분은 이미지의 alignment를 고려하여 rotation matrix를 학습하는 과정이었습니다. 이후에 비슷한 연구로 registration을 기반으로 모든 class에 대하여 pre-task로 학습한 후 각 class 별 fine-tuning을 수행하는 방식이 있었는데 베슷한 내용이어서 재밌게 들었습니다. 좋은 발표 감사합니다.