번호 | 제목 | 작성자 | 작성일 | 추천 | 조회 |
공지사항 |
Paper Reviews 2019 Q3
관리자
|
2020.03.12
|
추천 0
|
조회 11292
|
관리자 | 2020.03.12 | 0 | 11292 |
공지사항 |
Paper Reviews 2019 Q2
관리자
|
2020.03.12
|
추천 0
|
조회 9919
|
관리자 | 2020.03.12 | 0 | 9919 |
공지사항 |
Paper Reviews 2019 Q1
관리자
|
2020.03.12
|
추천 0
|
조회 10998
|
관리자 | 2020.03.12 | 0 | 10998 |
510 |
[Paper Review] Theory of Everything (About Sequence Modeling with DL Models…) (10)
Jaewon Cheon
|
2025.06.27
|
추천 0
|
조회 132
|
Jaewon Cheon | 2025.06.27 | 0 | 132 |
509 |
[Paper Review] Evaluation of Multilingual Image Captioning: How far can we get with CLIP models? (16)
Minjeong Ma
|
2025.06.07
|
추천 0
|
조회 298
|
Minjeong Ma | 2025.06.07 | 0 | 298 |
508 |
![]()
Minjeong Ma
|
2025.06.02
|
추천 0
|
조회 36
|
Minjeong Ma | 2025.06.02 | 0 | 36 |
507 |
![]()
Kiyoon Jeong
|
2025.06.02
|
추천 0
|
조회 33
|
Kiyoon Jeong | 2025.06.02 | 0 | 33 |
506 |
![]()
Woongchan Nam
|
2025.06.02
|
추천 0
|
조회 33
|
Woongchan Nam | 2025.06.02 | 0 | 33 |
505 |
![]()
SangMin Lee
|
2025.06.02
|
추천 0
|
조회 34
|
SangMin Lee | 2025.06.02 | 0 | 34 |
504 |
[Paper Review] Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems (14)
Siyul Sung
|
2025.05.31
|
추천 0
|
조회 376
|
Siyul Sung | 2025.05.31 | 0 | 376 |
503 |
[Paper Review] Restructuring Vector Quantization with the Rotation Trick (16)
Woojun Lee
|
2025.05.20
|
추천 0
|
조회 343
|
Woojun Lee | 2025.05.20 | 0 | 343 |
502 |
[Paper Review] Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation (16)
Jinwoo Park
|
2025.05.16
|
추천 0
|
조회 327
|
Jinwoo Park | 2025.05.16 | 0 | 327 |
501 |
[Paper Review] SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning (18)
Hun Im
|
2025.05.15
|
추천 0
|
조회 312
|
Hun Im | 2025.05.15 | 0 | 312 |
이번 세미나는 Anomaly Detection에 대해 다루어 주셨습니다. 이번 세미나를 듣고 Anomaly Detection 관점에서 가장 어려운 것이 어떤 anomaly에 대한 정보도 주어지지 않을 때라고 생각했고, 그것을 푸는 것이 가장 실용적이라고 생각했는데, few-shot anomaly detection이 오히려 더 실용적일 수 있다는 생각이 들었습니다. 예전에 Outlier Detection 관련 논문에서 Outlier Exposure라는 논문을 접했을 때, 기존 데이터 이외에 다른 데이터를 활용하기 때문에 약간 반칙이 아닌가 생각하였었습니다. 그런데 이번에 소개해주신 논문들처럼 활용가능한 소수의 anomaly data가 존재하고 이를 활용하여 성능을 높일 수 있다면 그것이 더욱 실용적일 수 있겠다고 생각이 바뀌었습니다. 오늘 소개해주신 각 논문들에서 어떻게 anomaly data를 효율적으로 활용하여 representation learning을 진행하는지 알 수 있었고 추후 더 관심을 가지고 공부해야겠다는 생각이 들었습니다. 좋은 세미나 감사드립니다.
이번 세미나에서는 소수의 데이터로 (few-shot) 이상치 탐지하는 연구를 소개해주셨습니다. Ranking 기반의 딥러닝 모델은 outlier 임계값을 기준으로 positive/negative sample을 생성해 triple loss로 학습하는 방식의 모델을 제안하였습니다. 두번째 제안모델에서는 사전에 이상치 모델을 학습한 후 랜덤샘플링을 통한 subset 데이터의 gaussian prior를 기준으로 이상치 모델을 재학습하는 과정이 이루어졌습니다. 세번째 연구에서는 강화 학습으로 접근하여 Q-learning을 사용한 이상치 탐지를 하는 연구를 소개해 주셨습니다. 시뮬레이터를 만드는 과정에서 positive, unlabeled data, negative 에 대한 외적 reward를 1, 0, -1로 설정, 내적 reward는 iforest에서 생성된 이상치 스코어로 표현한점이 인상 깊었습니다. 좋은 발표감사합니다.
금일 세미나는 anomaly detection에 관한 세 가지 논문을 리스트하여 소개해주셨습니다. 가장 핵심된 내용은 정상 데이터 만을 학습에 사용하는 것이 아닌 기존에 가지고 있는 소수의 얻기 힘든 anomaly data를 효율적으로 또는 효과적으로 잘 사용할 수 있는 방법에 대한 내용이었습니다. 이번 세미나를 통해 배운점은 기존 방식과는 달리 anomaly data를 사용하는 것이 현실에 적용할 수 있는 실용적인 방법이 될 수 있겠다 라는 점입니다. 이전에는 비정상 데이터를 가지고 학습하는 것이 cheating 또는 비현실적인 접근이라 생각되었지만 이번 발표에서 소개해 주신 내용대로 anomaly data를 활용하여 representation을 학습하는 방법이 보다 정상 데이터와 비정상 데이터를 잘 표현할 수 있는 방법이라 생각되었습니다. 좋은 발표 감사합니다.
금일 세미나는 Few-Shot Anomaly Detection를 주제로 진행되었습니다. 평소 anomaly detection에 관심을 갖고 있던 터라, 흥미를 갖고 들을 수 있었습니다. 제목처럼, “Few-shot”이기 때문에, pre-trained모델을 토대로 일부의 labeled sample을 토대로 추론이 진행되는 방법론인가 하는 생각을 갖고 세미나를 듣게 되었습니다. 발표자분께서 관련 주제의 최초 제안 논문과 후속 연구를 함께 발표해주셔서 깊이 있는 내용을 들을 수 있었습니다. 처음에 소개해주신 Learning representation of ultrahigh-dimensional data for random distance-based outlier detection 연구는 representation learning과 outlier detection방법론을 통합한 연구입니다. 두번째 연구는 scoring에서 벗어난 방법론을 보여줍니다. End-to-End 모델 구조를 갖게끔 하는 연구입니다. Anomaly score에 대해 interpretability를 갖는 점도 인상깊었습니다. 전반적으로 이상치 탐지와 관련해 연구들이어서 흥미롧게 들었습니다. 좋은 발표 감사드립니다.
금일 세미나에서는 Few Shot Anomaly Detection이라는 주제로 Guanson Pang이라는 저자가 작성한 3가지 논문과 그 내용에 대해 소개되었습니다. 첫 번째 논문은 소수의 labeled outlier를 이용하여 랭킹 기반 모델을 통한 representation learning frame work인 RMODO와 REFEN에 대한 내용이었습니다. 본 연구를 통해 비록 적은 량이지만 labeled anomaly를 이용하여 초고차원의 데이터의 차원축소를 효과적으로 수행함을 입증하고 있습니다. 두 번째 논문에서는 Deviation Loss를 이용한 FNN 모델의 방법론이 제시되었는데 이는 일반적인 FNN 네트워크를 통해 계산되는 Anomaly score와 정규분포를 가정하여 해당 파라미터인 평균과 분산을 이용하여 구한 Gaussian prior-based reference score의 차이를 통해 학습이 이루어지는 방법입니다. 실험 결과가 극적으로 향상된 부분이 의심쩍지만 간단한 구조와 아이디어로 개선점을 제안한 것이 인상깊었습니다. 세번째 논문에서 소개된 방법론은 강화학습을 기반으로 한 이상치 탐지 모델이었습니다. 강화학습을 이용한 이상치 탐지 방법론은 처음 접하는 것이기에 강화학습을 잘 이해하고 있다면 새로운 방법론을 형성하는데 충분히 적용할 수 있음을 확인할 수 있었습니다. 끝으로 한 저자의 동일 주제의 여러 연구들을 한 번에 확인을 할 수 있었던 유익한 시간이었습니다. 소중한 시간 내어 준비해주신 발표자 분께 감사의 말씀드립니다.
금일 세미나 주제는 Deep Few-shot Anomaly detection입니다. 첫번째 논문은 고차원 데이터, 불균형한 데이터에 대해 representation을 잘 생성할 수 있는 RAMODO 프레임워크를 제안했습니다. 이 프레임워크에서는 data를 inlier candidate와 outlier candidate으로 나누고 각각에 대해 저차원의 hidden representation을 생성한 후, positive candidate과 negative candidate에 대해 score를 구해 이상치 탐지를 수행합니다. 세부적으로 REFEN이라는 방법론을 사용하는데 적은 수의 Labled outlier를 사용하여 triplet sampling의 quality를 보장했습니다. 두번째 연구는 end to end로 학습되는 deviation networks를 제안하여 anomaly scoring network로부터 산출된 anomaly score와 가우시안 분포의 reference score를 비교하여 probability 값이 특정 threshold 보다 낮으면 anomaly 로 판단할 수 있도록 했습니다. 세번째 연구에서는 강화학습 기반의 anomaly detection 방법을 제안하였는데, 강화학습을 통해 label된 anomaly의 패턴을 잘 기억하고 unknown anomaly는 탐색할 수 있도록 구조를 설계하였습니다. 강화학습에서 사용될 수 있는 label abnormality가 제한적이라는 것에 한계가 있지만, 지속적으로 모델이 업데이트되고 발견하지 못한 anomaly까지 탐색할 가능성을 부여한다는 점에서 현실 문제 해결에 응용될 수 있는 잠재성이 가장 크지 않나 생각했습니다. 요즘 triplet loss 아이디어와 유사한 방법론들이 꽤 많이 보이는데 이번 발표를 통해서 anomaly 부분에서는 어떻게 positive, negative pair를 구축하여 사용했는지 한 사례를 볼 수 있어 유익했습니다. 좋은 발표 감사합니다.
금일 세미나는 Deep Few Shot Anomaly detection 관련 3가지 논문들을 다루어 주셨습니다.
[1] Learning representation of ultrahigh-dimensional data for random distance-based outlier detection, KDD 2018
기존 연구들의 Representation 학습 방법은 Unsupervised 방식이며, 현실세계에 사용가능한 Few labeled Outlier를 사용하지 않는다는 문제점을 안고 있습니다. 이에 본 논문에서는 Ranking Model-based representation learning framework 제안함으로써 Representation Learning과 Outlier detection (random distance-based outlier detection)을 통합하였습니다. 이는 labeled anomalies를 활용한 REFEN 기법을 통해, 초고차원 데이터를 저차원 상으로 mapping시키고 이를 활용하여 성능을 향상시킬 수 있었습니다.
[2] Deep Anomaly Detection with Deviation Networks, KDD 2019
본 논문은 이전 연구의 한계를 Representation Optimization에 집중하여 Anomaly Scoring을 간접적으로 최적화의 한계가 있다는 점과, Unsupervised Learning을 차용하기 때문에 Anomalies를 데이터의 Noise로 판단한다고 지적합니다. 이를 극복하기 위해 저자는 Anomaly Scoring Network를 활용하여 anomaly score를 산출하고, 이를 Gaussian Prior-based reference score과 함께 사용하여 Z-Score 기반 Deviation Loss를 정의하여 Anomaly Score 학습을 수행합니다. 이는 anomaly score를 직접적으로 최적화할 수 있으며 end-to-end로 학습할 수 있는 프레임워크라는 장점이 존재합니다.
[3] Toward Deep Supervised Anomaly Detection Reinforcement Learning from Partially Labeled Anomaly Data, KDD 2021
마지막 논문은 labeled anomalies를 활용하여 기존의 Semi(Weakly) supervised approaches의 한계점들을 강화학습을 통해 극복하고자 시도한 논문입니다. 저자는 강화학습을 도입함으로써 Labeled anomaly data를 활용하여 현실적인 ‘supervised’ anomaly detection 문제를 해결하였고, 제한된 anomaly들을 활용하여, known abnormalities를 학습하였으며, Rare unlabeled anomalies를 자체적으로 탐색하여 unknown abnormalities를 확장할 수 있도록 하였습니다. Known Abnormality 학습 뿐만 아니라, Unknown Abnormality에 대한 고려 및 처리가 필요하다는 관점은 동의하며 신선한 접근이었던 것 같습니다.
좋은 발표 감사합니다.
본 세미나에선 Unsupervised Anomaly Detection 대신 수중에 있는 Labeled Anomaly Data를 최대한 활용하는 방법에 대하여 소개합니다. 첫 번째 논문인 RAMODO는 초고차원의 데이터를 저차원상으로 표상을 나타내고 Random Sample된 정상 데이터들 간의 거리 기반 Scoring function으로 Anomaly를 측정합니다. 두 번째 논문은 기존의 딥러닝 기반 이상치 탐지의 문제가 표상 학습 후 다운스트림 과제를 수행하는 것에 있어 이상치 탐지를 직접적으로 학습하지 않는 것이기에 최적의 방식은 아닌 점을 지적합니다. 이를 극복하기 위해 end2end 학습으로 이상치를 탐지하며 정상 데이터 분포가 Label이 달린 이상치들이 멀어질 수 있도록 조정합니다. Unsupervised 방법론은 Unlabeled data가 증가할수록 성능이 하락하지만, 본 기법은 Anomaly의 비율이 높아도 안정적인 성능을 나타냅니다. 강화학습을 활용한 이상치 논문까지 세 가지 논문을 소개하였으며, Few Shot이라는 단어로써 Unsupervised보다 자신이 갖고 있는 자원을 최대한 활용하는 방향에 대한 관점을 얻을 수 있었습니다. 발표 감사합니다.
본 세미나에서는 few shot anomaly detection 이라는 큰 주제 안에서 순차적으로 이루어진 연구들에 대해서 살펴보았습니다. 기존에 통용되던 few-shot learning 개념 보다는 소수의 레이블을 사용하겠다는 의미로 받아들였습니다. 첫 번째 연구에서는 데이터를 inlier, outlier로 구분하고 또 이를 positive, negative로 예측하면서 abnormal score를 산출합니다. 이 과정에서 triplet loss가 사용되는데 정말 범용적으로 효과있게 사용되는 loss임을 다시 한 번 알 수 있었습니다. 두 번째 연구에서는 기존의 연구들이 abnormal score를 직접적으로 학습하지 않는 다는 문제를 제기하며 end-to-end 방식의 새로운 구조를 제안합니다. 구체적으로는 가우시안 분포를 사용하여 reference score를 사용하게 되는데 논리 흐름이 합리적이라고 생각 되었습니다. 끝으로 마지막 연구에서는 강화학습을 사용하여 anomaly detection을 진행하는 아이디어를 제안합니다. 개인적으로 강화학습이 문제 정의에 따라서 사용하기에 여전히 어려움이 많은 영역이라 생각하는데 본 연구를 통해서 많은 후속 연구들이 탄생하지 않을까 기대 됩니다. 세 논문 모두 KDD라는 매우 우수한 학회에서 발표된 것이 놀라웠고 앞으로 어떤 연구가 진행될지 궁금합니다. 감사합니다.
이번 세미나에서는 'Few Shot Anomaly Detection' 이라는 주제로 세 가지 논문에 대해 소개되었습니다. 세 논문은 모두 동일 저자의 논문이며 소수의 labeled anomalies를 사용하여 anomaly detection의 성능을 높였다는 공통점이 있습니다. 첫 번째 논문은 representation learning과 outlier detection을 통합한 RAnking MODel based framewOrk(RAMODO)와 labeled outlier를 사용할 수 있는 REPEN 방법론을 제시합니다. 그리고 첫 번째 연구를 기반으로 두 번째 논문에선 labeled anomalies를 같이 학습에 사용하여 anomaly score도 직접적으 최적화 할 수 있는 end-to-end 방식을 제안하였고, unlabeled data에 존재하는 anomalies를 강화학습 기반 모델을 통해 활용하는 방법이 세 번째 논문에서 제시됩니다. Few shot anomaly detection이라는 주제로 동일한 저자의 연구흐름에 따라 소개된 세미나여서 기존의 문제들을 하나씩 개선해나가는 일련의 과정이 잘 정리된 세미나였던 것 같습니다. 좋은 발표 감사합니다.
금일 세미나는 "Few-Shot Anomaly Detection"라는 주제로 진행되었습니다. 본 발표에서는 일부 labeled anomalies를 활용하여 이상치 탐지를 수행하는 few shot 이상치 탐지의 개념이 소개되었고, 최초로 few shot deep anomaly detection을 제안한 논문과 해당 연구의 후속 연구들도 소개되었습니다. 개인적으로는 금일 소개된 다양한 방법론들 중 마지막에 소개된 DPLAN이 가장 흥미로웠습니다. DPLAN은 Deep Reinforcement Learning을 활용하여 기존의 Semi/Weakly supervised anomaly detection approaches의 한계점을 보완한 방법론입니다. 해당 방법론에서 DQN을 Anomaly Detection에 적용하기 위하여 agent, environment, reward function을 적절하게 설정한 점이 흥미로웠고, rare unlabeled anomalies를 explore하면서 unknown abnormalities를 확장한 점이 인상 깊었습니다. 좋은 발표 감사합니다.
이번 세미나에서는 학습 과정에서 적은 양의 Anomaly가 존재하는 상황에 활용할 수 있는 Few-how Anomaly Detection 방법들에 대해 소개해 주셨습니다. 우선적으로 해당 방법들이 매우 실용적이라는 생각이 들었습니다. Anomaly는 정상 데이터의 분포에서 자연적으로 발생하기 매우 어려운 데이터에 해당하기에, 항상 그 양이 적으며, 발생 시에 시스템에 큰 문제를 일으킬 수 있기에 수집 자체가 어려운 데이터입니다. 이렇게 적은 수의 Anomaly Data가 존재하기 때문에, 적절한 모델링에 어려움을 겪을 수 있습니다. 금일 세미나에서는 Representation Learning, Deviation Network, Reinforcement Learning을 활용하여 Anomaly Data가 적은 상황에 적절하게 모델을 설계하는 방법을 소개해 주셨습니다. 실용적인 시각에서 바라보는 연구들은 매우 흥미롭고, 연구에 관한 사고를 넓혀주는 것 같은 생각이 듭니다. 좋은 발표 감사합니다.
금일 세미나는 "Few-shot Anomaly detection"이라는 주제로 3가지 논문을 소개해 주셨습니다. 첫번째 논문인 "Learning representation of ultrahigh-dimensional data for random distance-based outlier detection"는 기존연구들이 Unsupervised 방법을 취함으로써, labeled Outlier를 사용하지 않아 성능이 낮은 한계를 극복하기 위하여 label 기반 Ranking Model-based representation learning framework을 제안하였습니다. 이 논문의 핵심은 초고차원 데이터를 저차원 상으로 mapping함으로써 Anomaly를 추출했다는 점입니다. 두번째 논문인 "Deep Anomaly Detection with Deviation Networks"는 anomaly score를 직접적으로 최적화 할 수 있는 Z-Score 기반 Deviation Loss를 정의하였고 end-to-end 방식을 적용하여 성능을 향상시켰습니다. 마지막 논문인 "Toward Deep Supervised Anomaly Detection Reinforcement Learning from Partially Labeled Anomaly Data"에서는 강화학습을 도입하여 known abnormalities를 학습하는 것 뿐만아니라 unlabeled anomalies를 자체적으로 탐색하여 unknown abnormalities를 확장하는 방법에 대해서 다루었습니다. 다양한 방법들을 꼼꼼히 정리해 주셔서 유익한 시간이었습니다. 발표 감사합니다.
Labeled anomaly detection 분야에서 distance based outlier detection은 거리 계산 과정에서 시간복잡도가 높은 이슈가 있다고 합니다. 이를 개선하기 위해 제안된 random distance based method가 나왔지만, 높은 차원에서 발생하는 연산 문제는 계속 존재했습니다. 첫 번째 ramodo 모델에서는 저차원 projection을 통해 cost를 낮추고, triplet sample을 추출하여 outlier score를 계산합니다. Triplet approach의 특성 상 샘플의 퀄리티가 중요한데 uniform + importance sampling으로 보완합니다. 후속 연구로는 적은 수의 anomaly를 효과적으로 학습할 수 있는 네트워크 구조를 제시하고 이후에는 강화학습을 통해 unlabeled anomaly를 찾을 수 있는 환경을 구축합니다. 하나의 task를 지속적으로 발전시키는 과정에서 적용한 방법론의 폭이 넓은 것 같아 인상깊었습니다. 발표 잘 들었습니다.
이번 세미나는 Deep Few-shot Anomaly Detection을 주제로 진행되었습니다. 동일 주제, 같은 저자의 세가지 논문에 대해 설명해주셨습니다. 첫번째 논문은 RMODO와 REFEN 방법론을 사용하여 고차원 데이터를 저차원으로 잘 representation하고, 적은 수의 labled outlier를 사용하여 이상탐지 성능을 향상시켰습니다. 두번째 논문은 anomaly score를 직접적으로 최적화하는 방법론을 제시하였습니다. End to End anomaly scoring network를 통해 anomaly score와 가우시안 분포의 reference score를 이용하여 deviation loss를 구성하였습니다. 세번째 논문은 강화학습을 이용한 DPLAN 모델을 제안하였습니다. simulation environment에서 observation sampling function을 통해 다음 observation을 생성할 때, labeled data 뿐만 아니라 unlabeled data 또한 sampling 되도록 하여 unlabeled data를 탐색하고자 하였습니다. 같은 저자의 동일 주제에 대한 연구의 흐름을 볼 수 있어 좋았으며, 특히 강화학습을 이용한 anomaly detection에 관심을 가지고 있는 저에게는 도움이 많이 되는 내용인 것 같습니다. 좋은 발표 감사합니다.
금일 세미나에서는 few shot learning 을 anomaly detection 으로 적용한 세미나 였습니다. 해당 논문에서는 anomaly data 자체가 희소 라벨이기 때문에 few shot 방법론을 적용한 것으로 확인했습니다. anomaly detection 자체가 대부분 임베딩 , 혹은 representation 을 생성하는 단계에서 차이를 두기위해 구조를 짜는 경우가 많은데 해당 방법론에서는 labeled outlier 자체를 사용하여 이상탐지를 하는 방향으로 접근햇습니다. 사실 위와 같은 접근이 우선적으로 수행되었겠지만, anomaly detection 이 추구하는 방향이 새로운 outlier 에 대한 사전대응이라고 생각한다면, 과연 좋은 실제 성능이 나타날 것인가에 대한 의문이 있습니다. 3가지 논문에서 다양한 방법론으로 unlabeld data, labeled annomaly data 를 샘플링하는 접근을 보여주었고, few shot learning이 하려는 접근을 이해할 수 있었습니다. 새로운 관점의 세미나라 재밌게 잘 들었습니다. 감사합니다.
이번 세미나에서는 Few-shot 이상치 탐지를 주제로 3가지 논문이 소개되었습니다. 먼저 첫번째 논문 Learning representation of ultrahigh-dimensional data for random distance-based outlier detection(KDD 2018)은 일부 라벨링된 이상치 데이터로 few shot 이상치 탐지를 수행한 첫 연구입니다. 기존에는 비지도 기반의 Representation 학습 방법론에 관한 연구들이 진행되었던 반면, 본 연구에서는 현실에서 사용 가능한 소수의 라벨링 이상치 데이터를 사용하기 위하여 Ranking Model-based representation learning framework(RAMODO)를 제안하였습니다. 이는 REPEN 방법론을 통해 구현되며 representation learning과 outlier detection의 통합으로 초고차원의 데이터를 저차원에 효과적으로 나타낼 수 있어 안정적인 성능을 기록합니다. 이어지는 두번째 논문 Deep Anomaly Detection with Deviation Networks(KDD 2019)은 representation 최적화에 집중한 비지도 기반의 학습 방식의 한계를 극복하기 위하여 이상치 점수를 직접 최적화하는 end-to-end 프레임워크를 제안하였습니다. 구체적으로 가우시안 prior과 z-score 기반의 deviation loss가 정의된 anomaly scoring network를 구축하였습니다. 마지막 논문 Toward Deep Supervised Anomaly Detection Reinforcement Learning from Partially Labeled Anomaly Data(KDD 2021)에서는 소수의 라벨링된 이상치 데이터가 비지도 기반 방법론에서 성능향상에 주요한 역할을 수행할 수 있다는 점을 들어 강화학습 방법론을 도입하여 이상치 탐지를 위한 에이전트, 환경, 보상 함수를 정의하였습니다. 라벨링된 데이터로 supervised task를 처리하고 abnormality를 학습하여 라벨링되지 않은 이상치 데이터를 탐색(Explore)할 수 있도록 했습니다. 개인적으로 강화학습이 다양한 task에 적용되는 방식에 관심을 가지고 있는데 이상치 탐지 분야에서도 강화학습 방법론이 활용될 수 있다는 점에서 인상 깊게 들었습니다. 논문 3개를 하나의 흐름으로 묶어 발표해주신 점 또한 도움이 많이 되었습니다. 유익한 발표 진행해주셔서 감사합니다.
금일 세미나는 few shot anomaly detection에 대한 발표였습니다. Few shot anomaly detection이란 prior knowledge로 labeld된 소수의 outlier를 사용하는 방법론입니다. 이를 바탕으로 본 세미나에서 다룬 첫번째 논문에서는 Ranking Model-based 프레임워크인 RAMODO를 주장하였습니다. 해당 방법론은 inlier와 outlier을 나누어 outlier thresholding을 취해준 후, 각 파티션에서 데이터를 랜덤으로 고린 후, 각 inlier와 outlier에 대한 representation을 표현한 후 outlier-score based ranking loss를 나타낸 모델입니다. 이 모델에서 더욱 발전된 REFEN이라는 방법론은 random nearest neighbor distance-based outlier score를 활용했다는 점과 소수의 labeled outlier를 활용했다는 점이 특징적입니다.
두번째 논문은 anomaly score를 end-to-end로 학습하는 방법론에 대한 논문입니다. Anomaly scoring network를 사용하여 anomaly score를 산출한 후, input 값에서 random sampling한 후, normal objects의 anomaly score이 random sampling한 input들의 평균에 가까워 지도록 deviation loss를 정의합니다.
세번째 논문은 deep reinforecement learning을 기반으로 한 anomaly detection 방법론입니다. 일반화된 "abnormality"를 학습하기 위하여 labeled anomaly data에 있는supervisory info를 모두 사용한다는 점, 그리고 학습된 abnormality를 지속적으로 정제하기 위하여 unlabeled known / unknown anomalies를 탐험(explorer)하는 특징이 있는 방법론입니다.
이번 세미나의 두번째 그리고 세번째 논문의 방법론은 기존에 시도하지 않은 새로운 방법론을 주장한 논문으로서, 좁은 길을 달리고 있는 이상치 탐지 방법론에 새로운 길을 열어주는 방법론으로서, 이상치 탐지를 자동적으로, 그리고 소수의 labeled data로 수행할 수 있는 효율적인 방법론을 배울 수 있었습니다. 발표 감사합니다.
이번 세미나는 Deep Few-shot Anomaly detection 을 주제로 3가지 논문에 대해 소개해주셨습니다. Few shot anomaly detection 이란 Training 과정에서 발생한 매우 적은 수의 labeled anomalies 를 잘 활용하자는 것을 의미합니다.
첫번째 논문에서는 Few labeled Outlier를 활용하기 위해 Ranking Model-based representation learning framework 를 제안하며, 해당 Framework (RAMODO) 는 REPEN method로 구현됩니다. 이를 통해 Outlier detector 를 위한 Optimal stable representation 을 제안하며, labeled anomalies 데이터 활용을 위한 방법론을 보여줍니다.
두번째 논문에서는 Representation Optimization 의 집중하여 Anomaly Scores를 직접적으로 최적화를 수행하는 Deviation Networks 방법론을 제시합니다. 해당 방법론은 Gaussian prior, Z-Score 기반 편차 Loss를 정의하여 Anomaly Score 학습 수행하는 것으로 적은양의 Anomalies가 추가되어도, 높은 성능 향상을 나타낼 수 있음을 보여줍니다.
마지막 논문은 Semi / Weakly supervised approaches 의 한계점을 극복하기 위해 Deep Reinforcement Learning 기반의 Anomaly Detection (DPLAN)를 제안합니다. Agent(Labeled, unlabeled 데이터로 부터 생성된 simulate environment 와 상호 작용하며 이상 탐지 수행), Environment(Agent 가 새로운 형태의 Anomalies를 찾을 수 있도록 unlabeled data를 explore 하도록 구성), Reward(supervisory information을 활용하여 exploration-exploitation 의 균형 달성) 3가지를 통해 현실적인 supervised anomaly detection 문제를 해결해주고 있습니다.
Anomaly detection 에 있어 outlier anomalies를 다양한 방법론을 통해 활용하고, 기존의 한계점을 극복해가는 접근법이 흥미로웠던 세미나 였습니다. 좋은 발표 감사드립니다.
오늘 세미나는 few-shot anomaly detection에 대한 내용으로 이루어졌습니다. 이상치 탐지 과업의 경우 이상치에 대한 정보가 많이 주어지지 않기 때문에 비지도 학습 기반의 방법론이 주로 연구되었는데 오늘 소개해주신 방법론들은 이상치에 관한 적은 양의 정보라도 활용하여 더 좋은 성능을 내고자 하였습니다. 첫 번째 논문의 경우 ranking model 기반의 representation learning을 사용한 이상치 탐지 기법을 제안하였고, 두 번째 논문은 deviation network를 사용하여 이상치 점수와 reference score를 비교하여 이를 기준으로 이상치를 탐지하고자 하였습니다. 마지막으로 세 번째 연구는 강화학습을 통해 이미 알고 있는 anomaly의 패턴을 학습하여 unkown anomaly를 탐색하고자 하였습니다. 개인 연구를 진행하면서 눈으로 봤을 때 알 수 있는 각기 다른 이상치들이 가진 공통적인 패턴을 반영한다면 이상치를 더 잘 탐지하지 않을까라는 생각을 했는데 이번에 공유해주신 연구들 또한 이미 알고 있는 이상치 정보를 최대한 활용하려고 했다는 점에서 인상깊었습니다. 좋은 발표 감사합니다.
이번 세미나는 "Few-Shot Anomaly Detection"를 주제로 진행해주셨습니다. 기본적인 Anomaly detection과 fewshot 기반의 anomaly detection이 갖는 차이라고 하면, 현실적인 관점에서 과연 anomaly 데이터를 많이 수집할 수 있는가, 아니라면 few-shot 방법론을 통해서 anomaly detection 모델을 구축해보자 입니다. 관련하여 세가지 논문을 소개해주셨는데, 첫번째 논문(Learning Representation of Ultrahigh-dimensional Data for Random Distance-based Outlier Detection)의 경우 RAnking MODel based framewOrk(RAMODO)라는 방법론을 제안하는데, 이는 레이블이 된 이상치를 사용할 수 있는 방법론입니다. 두번째 논문은 Deep Anomaly Detection with Deviation Networks라는 논문으로, 직접적으로 anomaly score에 대해 최적화를 수행하는 방법론을 제시했고 가우시안 prior 등에 기반한 loss를 정의하여 Anomaly Score에 대한 학습을 수행합니다. 마지막 논문은 Toward Deep Supervised Anomaly Detection Reinforcement Learning from Partially Labeled Anomaly Data인데, 기존 semi supervised, 혹은 weak supervised 기반의 방법론이 갖는 한계점을 극복하고자 Deep Reinforcement Learning 기반의 Anomaly Detection 방법론을 제안하였습니다. 현실적인 상황에서는 anomaly data 또한 수집/이용이 어려울텐데, 그러한 관점에서 세가지 논문 모두 굉장히 흥미로운 내용이었습니다. 좋은 발표 감사합니다.
금일 세미나는 few shot anomaly detection을 위한 여러 논문들에 대한 소개로 진행되었습니다. 논문에서는Ranking model-based frameworo(RAMODO) 모델을 제안하며, outlier detection을 수행하여 inlier 데이터와 oulier 데이터로 분리한 후, 저차원의 representation을 각각 추출하여 position/negative candidate에 대한 score를 기준으로 anomaly를 탐지해냅니다. 학습과정에서는 REFEN 모듈을 통해 triplet loss를 활용하게 된느데, anomaly detection에서도 triplet loss를 사용할 때에 좋은 성능을 보이는 것을 알 수 있었습니다. 두번째 논문에서는 기존 연구가 representation optimization 측면에서 한계를 가지며 unsupervised learning으로 학습한 모델은 anomaly를 데이터 noise로 판단해버린다는 점을 지적하며 학습 시 이상치를 활용하여 직접적으로 score를 최적화할 수 있는 모델을 소개합니다. 세번째 논문에서는 Deep Q-learning with Partially Labeled Anomalies(DPLAN)을 제안하며, abnormal pattern을 학습하기 위해 labeled anomaly data에 있는 정보를 사용하고, 지속적으로 unlabeled known/unknown anomlies를 활용하여 abnormal pattern을 정제하도록 강화학습을 적용합니다. few shot anomaly detection을 주제로 연관된 3편의 논문을 소개해주셔서 흐름을 잉해하는 데에 도움이 되었습니다. 유익한 발표 감사합니다.