Adversarial Auto Encoder for Novelty Detection in Multi-modal Normality Case via Disentangled Latent Space
적대적 오토 인코더를 활용한 멀티 모달 노말리티 사례에서의 이상치 탐색 기법

DC Field Value Language
dc.description학위논문(박사) -- 서울대학교대학원 : 자연과학대학 협동과정 계산과학전공, 2021.8. 강명주.-
dc.description.abstractNovelty detection is one of the essential elements to reduce the uncertainty of the deep learning model. Novelty detection using deep generative models such as autoencoder, generative adversarial networks mostly takes image reconstruction error as a novelty score function. However, image data, high dimensional as it is, contains a lot of different features other than class information which makes models hard to detect novelty data. The problem gets harder in the multi-modal normality case. In particular, novelty detection using class information becomes more difficult in unlabeled datasets as in real words. To address this challenge, we propose a new way of measuring novelty scores in multi-modal normality cases using orthogonalized latent space. Specifically, we employ orthogonal low-rank embedding in the latent space to disentangle the latent space features using mutual class information. With the orthogonalized latent space, the novelty score is defined by the angle change of each latent vector.

Also, we propose a self-labeling adversarial auto-encoder to maximize the mutual information between image and latent vector even in unlabeled situations by using unsupervised classification networks. The proposed algorithm was compared to state-of-the-art novelty detection algorithms using a Generative model such as RaPP and OCGAN. Experimental results show that ours outperforms those algorithms.
dc.description.abstract이상 탐지는 딥 러닝 모델의 불확실성을 줄이는 데 필수적인 요소 중 하나다. 오토인코더, 생산적 적대 신경망과 같은 심층 생성 모델을 사용한 대부분의 이상 탐지 방법은 이미지 재구성 오류를 이상 점수로 사용한다. 그러나 이미지와 같은 고차원 데이터에는 클래스 정보 외에 많은 다른 특징들이 있어 이미지 재구성 오류로 이상 데이터를 탐지하기 어렵다. 멀티-모달 정규성 사례에서 이상 탐지 문제는 더욱 어려워진다. 특히, 클래스 정보를 사용하는 이상 탐지는 레이블이 없는 현실의 문제들에서 한계가 있다. 이러한 한계를 해결하기 위해 우리는 직교화된 잠재공간을 사용하여 멀티-모달 정규성 사례에서 이상 점수를 측정하는 새로운 방법을 제안한다. 구체적으로, 우리는 상호 클래스 정보를 사용하여 잠재 공간 특징을 분리하기 위해 잠재 공간에 직교화된 낮은 계수 임베딩 방법을 사용한다. 직교화된 잠재 공간에서 이상 점수는 각 잠재 벡터의 각도 변화로 정의된다.
또한 비지도 분류 네트워크를 사용하여 레이블이 없는 상황에서도 이미지와 잠재 벡터 간의 상호 정보를 극대화할 수 있는 자체 레이블링 적대적 오토인코더를 제안한다. 제안된 알고리즘은 최근 가장 좋은 결과를 보여주고 있는 RaPP 및 OCGAN과 비교한다. 실험 결과는 우리가 제안한 방법이 다른 방법들에 비해 좋은 결과를 보여준다는 것을 확인시켜준다.
dc.description.tableofcontents1 Introduction 1

2 Related Works 6

3 Preliminaries 12
3.1 Anomaly Detection and Novelty Detection 12
3.2 Unimodal Normality Case and Multimodal Normality Case 13
3.3 Unsupervised Anomaly Detection 14
3.4 Auto-Encoder 15
3.5 Adversarial Auto-Encoder 15
3.6 Generative Advesarial Network (GAN) 16

4 Problem setting 18
4.1 Limitation of novelty detection using image reconstruction error 18
4.2 Our Senario and approach 20

5 Proposed Method : OAAE 25
5.1 Proposed network 25
5.2 Orthogonal Low-rank Embedding 26
5.3 Supervised Orthogonal Adversarial Auto-Encoder 27
5.3.1 Full objective 28
5.4 Unsupervised Orthogonal Adversarial Auto-Encoder 30
5.4.1 Unsupervised classification 32
5.4.2 Self-Labeling OAAE via SCAN (SLOAAE) 34
5.4.3 Unsupervised Soft Orthogonalized Adversarial Auto-Encoder (USOAAE) 36

6 Experiments 38
6.1 Implementation detail 38
6.2 the Area Under a ROC Curve (AUROC) 39
6.3 Results on Image Datasets (MNIST, FashionMNIST and CIFAR10) 40
6.3.1 MNIST, Fashion-MNIST and CIFAR10 40
6.3.2 Results 42
6.3.3 Analysis of novel class in latent space 46
6.4 Results on Other Datasets 53
6.4.1 OTTO and SNSR 53
6.4.2 Results 54
6.4.3 Analysis of novel class in latent space 55
6.5 Ablation study 57

7 Discussion 62

8 Conclusion and Future works 64
8.1 Conclusion 64
8.2 Future works 66
8.2.1 OAAE without unsupervised classification 66
8.2.2 Low-level feature skip connection 66
8.2.3 Joint distribution discriminator 67
8.2.4 OAAE for time-series data 67
dc.format.extentix, 69-
dc.publisher서울대학교 대학원-
dc.subjectDeep Learning-
dc.subjectNovelty detection-
dc.subjectAnomaly detection-
dc.subjectOut-of-distribution detection-
dc.subjectAdversarial auto-encoder-
dc.subjectOrthogonal embedding-
dc.subjectLatent space-
dc.subjectMutual information-
dc.subject이상치 탐지-
dc.subject적대적 오토인코더-
dc.subject직교 임베딩-
dc.subject잠재 공간-
dc.titleAdversarial Auto Encoder for Novelty Detection in Multi-modal Normality Case via Disentangled Latent Space-
dc.title.alternative적대적 오토 인코더를 활용한 멀티 모달 노말리티 사례에서의 이상치 탐색 기법-
dc.contributor.AlternativeAuthorSungkwon An-
dc.contributor.department자연과학대학 협동과정 계산과학전공-
Appears in Collections:
College of Natural Sciences (자연과학대학)Program in Computational Science and Technology (협동과정-계산과학전공)Theses (Ph.D. / Sc.D._협동과정-계산과학전공)
Files in This Item:
  • mendeley

Items in S-Space are protected by copyright, with all rights reserved, unless otherwise indicated.