이번 세미나에서는 Generative Adversarial Minority Oversampling 이라는 제목의 논문이 다뤄졌습니다. 본 논문에서는 class imbalance 상황에서 end-to-end로 oversampling을 수행할 수 있는 방법론을 제안합니다. GAN 구조를 응용해 convex generator, multi-class classifier network, discriminator를 도입해 oversampling을 수행합니다. 특히, convex generator는 소수의 class로부터 새로운 샘플을 생성하는데 discriminator를 잘 속이면서도 생성된 샘플로 misclassifying될 수 있도록 하여 majority의 oversampling을 방지하면서 boundary distortion을 방지했습니다. GAN 구조를 활용해 Class imbalance 상황에 대한 oversampling 기법을 제안한 논문을 접할 수 있어 흥미로웠습니다. 좋은 발표 감사합니다.

이번 세미나에서는 Generative Adversarial Minority Oversampling라는 논문을 다루었습니다. 본 논문에서는 data imbalance 문제를 해결하기 위한 oversampling 기법을 제안합니다. 기존에 많이 사용되던 smote와 같은 oversampling 방법론들은 overfitting이 발생하고 end to end로 수행하기 어렵다는 단점이 있습니다. 이에 본 논문의 방법론인 GAMO는 GAN을 활용하여 이러한 문제들을 해결합니다. GAMO의 핵심은 convex generator인데, convex generator는 adversarial oversampling과 convex combination을 통해 데이터를 생성합니다. 또한 conditional discriminator를 추가하여 소수 클래스의 data 분포만을 다르고 다른 data 분포 영역을 침범하지 않게 데이터를 생성하여 data imbalance 문제를 해결합니다. data imbalance를 다루는 흥미로운 내용의 방법론이었던 것 같습니다. 좋은 발표 감사합니다.

이번 세미나는 ICCV 2019년도에 공개된 Generative Adversarial Minority Oversampling 논문으로 진행되었습니다. 본 논문은 데이터 불균형이 발생한 상황에서 기존의 GAN 구조를 기반으로 oversampling을 수행할 때, majority class에 bleed가 생겨 boundary distortion이 발생하는 것을 개선하고자 GAN 구조에 classifier를 추가하여 oversampling을 수행하는 구조를 제안했습니다. 논문에서 제안한 GAMO (Generative Adversarial Minority Oversampling) 구조는 Convex Generator + Conditional Discriminator + Classifier Network로 구성되며, Convex Generator로 데이터 생성에 제한을 두어 minority class 분포내 convex data가 생성되고, Conditional discriminator로 majority class 범위에 oversampling 되는것을 방지할 수 있습니다. Generator와 Classifier Network의 경쟁적인 학습 관계를 통해 class boundary에 oversampling 데이터가 생성되어 GAN의 한계였던 boundary distortion을 방지할 수 있게 되는 것이 주요 contribution인 것 같습니다. oversampling 기법은 SMOTE 이후론 들어본 적이 없는데 새로운 방법을 접해볼 수 있었던 좋은 발표였습니다. 감사합니다.

금일 세미나는 "Generative Adversarial Minority Oversampling"라는 주제로 진행되었습니다. 본 발표에서는 data imbalance를 해결하기 위해 제안된 기존의 GAN 기반 oversampling 방법론들의 문제점인 boundary distortion을 개선한 GAMO가 소개되었습니다. 해당 방법론은 기존에 제안된 conditional GAN 기반의 oversampling 방법에서 generator를 convex generator로 변경하고 Classifier network를 추가하여 class boundary에 oversampling 데이터가 생성되게 함으로써 boundary distortion를 완화하였습니다. 개인적으로 Classifier와의 adversarial oversampling을 진행하는 과정에서 소수 클래스의 데이터를 생성하기 위해 이전 데이터의 convex combination으로 데이터를 생성하는 convex generator 개념이 흥미로웠습니다. 좋은 발표 감사합니다.

이번 세미나는 GAN을 통해 oversampling을 수행하여 data imbalanced 문제를 해결하고자한 Generative Adversarial Minority Oversampling(GAMO)를 주제로 진행되었습니다. GAMO는 convex generator를 통해 소수의 클래스 데이터에 대해 생성하게 하고 discriminator는 real과 fake를, classifier network인 M network를 통해서는 분류를 진행합니다. convex generator는 cTMU와 IGU로 구성이 되어 있는데 cTMU는 각 class 분포의 intermediation space로 매핑하는 역할을 하여 클래스 사이의 boundary 가까운 곳에 해당하는 minority class data를 생성하게 하였고, IGU는 해당 클래스 data의 convex weight를 학습하여 instance를 생성하는 역할을 하였습니다. GAN을 사용하여 단순히 데이터를 생성하는 방법으로 data imbalance 문제를 접근하는 방법에 대해서는 항상 생각하였는데 분류가 어려운 boundary에 가까운 data를 생성하게 하는 접근 방식이 인상 깊었습니다. 좋은 발표 감사합니다.

이번 세미나는 Generative Adversarial Minority Oversampling이었습니다. ML 분야에서 대표적으로 사용되는 Oversampling 방법론은 기존의 학습된 모델을 구축하여 이용하는 SMOTE 일 것입니다. 하지만 이러한 방법론은 모델과 함께 학습되면서 최적화 되는 것을 선호하는 DL 분야에 적합하지 못한 접근법이라 할 수 있습니다. 이에 해당 논문에서는 CGAN 구조를 이용하여 Generator를 도입할 것을 제안합니다. Convex Hull Point와 소수 클래스를 입력값으로 하는 Generator는 실제 소수 클래스 데이터와 유사한 데이터를 생성하도록 학습하게 됩니다. 이때 분류 모델은 초기에는 생성된 데이터로 인해 소수/다수 클래스를 분류하지 못하면서 점차 생성 모델은 Decision Boundary에 인접하여 소수 클래스를 생성하게 됩니다. 최근 대학원 수업을 수강하면서 좋은 Decision Boundary 의 조건들을 고민하게 되는데, Decision Boundary에 인접하여 소수 클래스를 생성할 수 있도록 학습 과정을 유도한 것이 매우 흥미로웠습니다. GAN 모델이 비단 단순 데이터 생성 뿐 아니라, ELECTRA와 같이 분류 모델을 위해서도 훌륭한 구조인 점을 다시 한번 확인 할 수 있었던 기회였습니다. 좋은 발표 감사합니다.

이번 세미나에서 소개한 논문은 “Generative Adversarial Minority Oversampling”이라는 제목의 논문으로 생성 모델 중 하나인 GAN을 이용해 Oversampling을 하여 Imablanced 문제를 해결하고자 합니다. Data Imbalance는 데이터 셋에서 각 클래스 간 데이터 비율이 크게 차이가 나는 경우를 의미하며 이에 대한 해결책으로 크게 샘플링을 통한 해결, 모델 조정을 통한 해결이 존재합니다. 해당 논문은 Sampling을 통한 해결 중 에서도 소수 클래스의 Oversampling을 통해 문제를 해결하고자 합니다. 기존에도 GAN을 이용한 oversampling 방법이 존재 하였지만 다수 클래스에 편향된 boundary를 가지거나 소수 클래스의 데이터가 다수 클래스 범위 안에 생성되는 듯한 문제가 존재 하였습니다. 해당 논문은 Conditional Discriminator를 고려한 목적함수를 제안함으로써 앞서 문제들을 다루고자 했습니다.

이번 세미나에서는 Generative Adversarial Minority Oversampling이라는 주제의 논문에 대한 리뷰를 진행하였습니다. class가 imbalanced 된 상황에 대해 end-to-end로 oversampling을 할 수 있는 구조를 제안하였습니다. 일반적인 GAN구조에서 oversampling시 majority class에 bleed가 생겨 boundary distortion이 발생하는 것을 개선하기 위해 classifier를 구조에 추가하였습니다. Generator와 classifier의 경쟁적 학습을 통해 boundary distortion 문제를 해결하였습니다. GAN을 사용하여 imbalanced data 처리를 하는 구조를 처음 접해보았는데, 굉장히 내용이 참신하게 다가왔습니다. GAN이 정말 다양한 곳에 쓰일 수 있구나 라는 것을 한번 더 느낄 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 Generative Adversarial Minority Oversampling를 주제로 세미나를 진행해주셨습니다. ICCV 2019에 나온 논문으로 데이터 개수가 적을 때 적용하는 기법인 oversampling 방법론을 제시하였습니다. GAN을 통한 oversampling은 이후 다양한 분야에서 적용되어 왔기에 흥미로운 세미나였습니다. 본 방법론에서 oversampling을 위해 제안한 loss가 매우 직관적이였고, classifier 구조를 추가한 부분이 흥미로웠습니다. 이런 oversampling 기법은 많은 분야에 적용이 되는데, 이렇게 데이터의 class가 불균형한 경우 뿐만 아니라 OOD detection과 같이 탐지하고자 하는 데이터 자체가 없는 경우에도 GAN을 활용하여 OOD를 모방하는 데이터를 생성하는 기법에도 응용될 수 있겠다는 생각을 하였습니다. 뿐만아니라 adversarial defense 관련해서도 GAN을 이용한 oversampling을 통해 adversarial training에서의 robustness를 향상시킨 연구 결과가 있었는데 그 분야에 해당 방법론을 응용하면 어떨까라는 생각을 하였습니다. 좋은 발표 감사드립니다.

이번 세미나에서는 Generative Adversarial Minority Oversampling를 주제로 진행되었습니다. GAMO는 convex generator를 통해 소수의 클래스 데이터에 대해 생성하게 하고 discriminator는 real과 fake를, classifier network인 M network를 통해서는 분류를 진행합니다. 연구실에서도 이전에 GAN을 이용한 Oversampling 이 NLP 쪽에서 많이 다루어졌었던 것으로 기억합니다. 그 때와는 달리 Data imbalance 문제쪽에서 Decision Boundary 와 관련된 부분에서 진행된 발표가 흥미로웠습니다. 좋은발표 감사합니다.

이번 세미나에선 Generative Adversarial Minority Oversampling 라는 연구가 소개되었습니다. 특정 소수 class로 인한 불균형 데이터 문제는 많은 도메인에서 소수 class가 분류 & 검출하고자 하는 주요 class인 경우가 많아 중요한 문제라고 알고 있습니다. 이를 개선하고자 세미나에서도 여러번 소개된 적이 있는 방법론이 SMOTE기반 방법론들입니다. 하지만 SMOTE는 end-to-end 학습이 어렵다는 점 때문에 딥러닝에선 잘 활용되지 않고 있고 GAN 기반의 생성모델들이 그 자리를 대신하고 있습니다. 논문에서도 GAN기반의 oversampling 방법론을 제안하고 있고 기존의 연구들이 oversampling 시 majority class에서 성능이 저하되던 문제를 해결하고자 convex 분포 내에서 minority class를 생성하게 했다는 점이 주요 아이디어인 것 같습니다. 추가적으로 conditional discriminator를 사용하여 majority class 범위 내에서 데이터가 생성되는 것을 방지한 점 또한 minority class의 분류 성능 및 전체 분류 성능을 높이는 데 주요한 점이라 생각됩니다. 좋은 세미나 발표 감사합니다.

이번 세미나에서는 ICCV에 소개된 논문 Generative Adversarial Minority Oversampling을 소개해 주셨습니다. 본 논문은 제목에서 알 수 있듯이 class 불균형 상황에서 oversampling하는 방식을 개선한 논문으로, 기존의 GAN구조에서 oversampling시 overfitting되거나 boundary distortion이 발생할 수 있다는 것을 지적하며 classifier를 추가한 oversampling 방식을 제안합니다. 마치 GAN의 Generator와 Discriminator가 경쟁적으로 학습한 것과 같이 Generator와 classifier의 경쟁적인 학습을 하게 되어 boundary distortion 없이 새로운 데이터를 생성할 수 있다고 합니다. 지난 김호영 석사과정의 세미나에선 Imbalanced Data를 처리하는 방식으로 loss를 조절하는 방법에 대해 배웠는데, 이번 세미나에서는 data 자체를 oversampling하는 기법에 대해 소개해 주셔서 흥미롭게 들을 수 있었습니다. 좋은 발표 감사합니다.

금일 세미나에서는 Generative Adversarial Minority Oversampling 논문을 다루어 주셨습니다. 기존의 경우에는 데이터 sampling을 하거나 모델을 조정하면서 데이터 불균형 문제를 해결하고자 하였습니다. 본 논문에서는 GAMO(Generative Adversarial Minority Oversampling)을 제안하고 있는데 기존의 GAN 구조에 classifier network(M)를 추가한 형태로 이루어져 있습니다. GAN 구조에서 Generator는 M 네트워크가 잘 분류하지 못하도록, D 네트워크는 실제와 정상을 잘 구분하지 못하도록 학습시키고 있습니다. Convex Generator는 소수 클래스의 데이터를 생성하기 위해 이전 데이터의 convex combination으로 데이터를 생성하고 있습니다. 해당 논문은 GAN 기법을 이용하여 oversampling을 통해 class 불균형 문제를 해소하면서 클래스간 분류 성능을 높이는 기법을 다루고 있습니다. 최적화 문제에서 base는 다수 클래스에 편향된 boundary를 가지며, 다수 클래스는 잘 구분하지만 소수 클래스는 오분류를 하고 있습니다. cTMU는 각 class의 조건하에 표준 정규분포로부터 intermediate space로 mapping을 하는 것이며, IGU는 cTMU의 space에서 클래스 데이터의 convex weight를 학습하여 instance를 생성하는 것입니다. 단계적으로 잘 설명해주셔서 흐름을 잘 따라갈 수 있었던 것 같습니다. 좋은 발표 감사합니다!

이번 세미나는 “Generative Adversarial Minority Oversampling”이라는 주제로 진행되었습니다. 소개해주신 연구에 대해 설명해주시기 전, Background에서 Class의 분포가 불균형한 Data Imbalance 문제의 해결 방안 중 Cost Sensitive Learning, SMOTE 등에 대해 설명해주셨습니다. SMOTE 기법을 이용해 Oversampling을 한 경험은 있었으나, 소개해주신 방법의 가장 기초가 되는 GAN을 이용한Oversampling은 접해보지 못해서 흥미로웠습니다. GAMO는 GAN에서 한 단계 진보한 CGAN을 Base로 Classifier Network 추가, Convex Generator, Conditional Discriminator라는 변화를 주어 Decision Boundary와 인접한 Minority Class를 생성합니다. Oversampling 결과를 GAN, CGAN, CGAN에 Convex G와 Classifier Network만 추가한 경우, GAMO 각각에 대해 시각 자료를 함께 첨부해주셔서 설명해주신 내용을 이해하는데 많은 도움이 되었습니다. 좋은 발표 감사합니다.

이번 세미나는 GAN을 활용하여 oversampling을 수행한 논문 Generative Adversarial Minority Oversampling을 주제로 진행되었습니다. 본 논문은 클래스 간 데이터 비율의 차이가 큰 Data Imbalane 상황에서 해결책으로 활용될 수 있는 소수 클래스 oversampling 기법을 다루고 있으며, 기존 GAN 구조에서 수행한 oversampling의 경우 다수의 class로 인해 발생하는 boundary distortion을 개선하고자 GAMO라는 기법을 제안합니다. 기존의 GAN 구조에서 classifier를 추가하여 generator는 classifier가 분류를 제대로 수행하지 못하게끔, Discriminator가 real,fake를 잘 구분해내지 못하게끔 학습을 진행합니다. 이때, adversarial oversampling을 활용하여 클래스 간 경계 근처에 minority 클래스 데이터를 생성하면서 classifier의 분류 능력을 하락시킵니다. 또한, convex generator로 생성 과정에 제한을 두어 소수 클래스 분포 내 convex combination으로 데이터를 생성합니다. 이렇듯 generator와 classifier의 적대적 학습으로 boundary distortion을 완화할 수 있으며 conditional discrimator를 통해 다수 class 범위에서 oversampling되는 것을 방지합니다. 현업 관점에서 마주할 데이터는 대부분 unlabeled, imbalanced일 것이기 때문에 이러한 문제를 해결하기 위한 oversampling과 같은 연구들에 최근 관심을 가지게 되었는데, 본 세미나를 통해 oversampling에 대한 컨셉과 최근 연구 동향을 이해할 수 있어 좋았습니다. 유익한 세미나 진행해주셔서 감사합니다.

이번 세미나는 Generative Adversarial Minority Oversampling 논문을 바탕으로 진행되었습니다. 해당 논문에서는 현실에서 이상탐지 등을 진행할 때, 정상과 이상의 Data imbalance로 인하여 존재하는 문제를 GAN을 이용한 Over sampling으로 해결하고자 하는 방법론에 대해서 말하고 있습니다. 현실 세계에는 정상 데이터보다 훨씬 적은 수의 이상 데이터만이 존재하여, 해당 데이터들 만을 바탕으로 어떠한 과업을 진행한다면 새로운 이상 데이터가 들어왔을 경우 이를 정상으로 오분류 하는 것처럼 여러 가지 문제가 생길 수 있습니다. 이에, 소수 Class인 이상치를 oversampling하여 해당 문제를 해소할 수 있습니다. 이러한 문제를 해결하는 대표적인 방법으로 Danger에 속하는 소수 Class에 대해서만 이용하여 새로운 데이터를 만드는 Borderline SMOTE 방법이 있지만, 이는 End to End로 학습할 수 없다는 단점이 존재합니다. 이에, 해당 논문에서 제시하는 GAN을 이용한 Oversampling 기법을 사용합니다. 이를 통하여 우리는 최종적으로 생성 데이터를 만들게 되는데, 이때 생성 데이터의 분포가 실제 데이터셋의 분포와 가까워지도록 학습하게 됩니다. 해당 논문에서 제시하고 있는 GAMO 모델은 기존의 GAN 구조에서 Classifier network와 D network를 추가하여, 각각 Generator가 class를 잘 구분하지 못하도록, Real과 Fake 구분을 잘 못하도록 학습하게 됩니다. 이를 통하여, 해당하는 소수 클래스들의 Data 분포만을 따르지 않고 다른 Class들의 분포영역을 침범하도록 학습을 진행하게 되어 이상적인 소수 데이터 Sampling을 진행할 수 있게 됩니다. 직관적으로 잘 이해할 수 있었으며, 현실 세계의 중요한 문제인 Imbalance data 문제를 해결하는 다양한 방법에 대해서 알 수 있었습니다. 좋은 발표 감사드립니다.

이번 세미나는 "Generative Adversarial Minority Oversampling" 논문에 대한 소개를 해주셨습니다. 해당 논문에서는 oversampling을 위한 방법으로 GAN을 활용하여 기존 방법에서 발생하는 문제점을 해결하기위해 새로운 방식인 GAMO를 제안하였습니다. 해당 방법에서 기존 oversampling을 수행하는 방법들에 대하여 majority class의 범위로 생성되지 않게 제한할 수 있도록 convex generator로 생성 과정에서 제한을 두어 minority class 분포 내에서 convex combination으로 데이터를 생성할 수 있게 하였습니다. 해당 과정을 통하여 기존 oversampling에서 발생하는 boundary distortion을 완하하였습니다. GAN을 통해 다양한 제약을 두어 oversampling을 하는 것이 인상깊었던 논문이었습니다. 좋은 발표 감사합니다.

이번 세미나는 Generative Adversarial Minority Oversampling를 주제로 진행되었습니다. 소개해주신 방법론인 GAM는 GAN 기반 방법론에 classifier를 추가하고, generator가 과도하게 데이터를 생성하지 못하도록 convex hull point에서만 데이터를 생성할 수 있게 가정합니다. 발표를 들으며 Convex generator와 classifier M만 사용하면 되지 않을까라는 생각이 들던 찰나 비교 실험을 보여주셔서 conditional discriminator에 대한 효과를 확인할 수 있었습니다. 특히 이를 통해 class별 데이터 분포가 이상적으로 분리되는것을 확인할 수 있었습니다. 좋은 발표 감사합니다.

이번 세미나에서는 2019년 ICCV에 나온 Generative Adversarial Minority Oversampling에 대해 살펴보았습니다. 일반적으로 이상 데이터는 그 수가 정상 데이터에 비해 매우 적기때문에 분류 문제로 접근하기 어렵습니다. 이러한 상황에서 upsampling을 많이 시도하는데 기본적인 방식은 overfitting이 심하게 발생하는 문제가 있습니다. 본 연구에서는 이러한 문제를 완화하기 위해 GAN을 통한 upsampling 방식을 제안합니다. 기본적인 아이디어는 decision boundary의 변화에 있습니다. Data의 수가 균형적이지 않은 경우에는 majority class에 편향되어 매우 naive한 decision boundary를 가지게 되는데, 제안하는 GAN loss를 통해 이를 최대한 majority class 쪽으로 밀어주어 이러한 문제를 해결하고 있습니다. 논문의 Figure 1은 매우 직관적이고 재미있는 결과라고 생각하였습니다. 다만 개인적으로는 GAN이라는 것이 데이터의 분포를 학습하여 새로운 데이터를 생성하는 생성 모델인데, 데이터의 수가 적은 minority class의 분포를 학습하고 생성하는 것이 맞는지에 대한 고민이 필요하지 않을까라는 생각을 하였습니다.

이번 세미나는 Oversampling을 주제로 다루어졌습니다. 개인적으로 산업공학 수업에서 Oversampling을 정식으로 배운적이 없어 늘 아쉬움이 남았고 꼭 한 번 정확하게 살펴보고자 하는 생각이 있었습니다. Oversampling이란 데이터의 라벨이 불균형을 이룰 때 소수의 라벨에 대한 데이터를 증가시키는 방법입니다. Oversampling의 가장 유명한 방법인 SMOTE는 데이터의 수를 실제로 증가시키는 것이 맞지만 일반 분류 문제의 학습을 진행할 때 loss 함수의 장치를 주는 방법도 불균형을 다룰 수 있는 쉬운 방법입니다. 이에 소개해주신 방법론은 GAN을 이용한 oversampling을 실시합니다. GAN의 구조에 Classifier를 추가하여 Generator와 Deiscirminator의 학습을 도와주게 되며 최종적으로 학습된 Generator로 새로운 데이터를 생성합니다. GAN을 학습하는데 시간이 많이 소요될 것이라 예상되지만 쉽게 적용할 수 있는 방법인 것 같습니다. 나중에 기회가 된다면 충분히 한 번 시도해볼 법 합니다. 유익한 세미나 준비해주셔서 감사합니다.