Nowadays, Deep Neural Networks (DNNs) have achieved numerous success in various computer vision tasks such as image classification, image segmentation and object detection. Since DNNs are over-parameterized, they are prone to overfitting when corrupted labels are included. This phenomenon is named as memorization of noisy labels. In this paper, we propose ENLAS (Ensemble of Loss Magnitude and Alignment Score): Robust Learning via Ensemble Framework for Handling Noisy Labels. ENLAS is mainly composed of three parts: 1) Feature extractor, 2) Gaussian-Mixture-Models, 3) Importance factor. ENLAS takes advantage of both loss magnitude and alignment score by ensemble without additional hyperparameter. In addition, the quality of feature extractor is maintained regardless of noise ratio by utilizing gradually increasing threshold. Under the proposed framework, we conduct experiments with respect to various noise rate in CIFAR-10 and CIFAR-100. Experimental results validate that ENLAS outperforms other baseline methods on various benchmark datasets.
오늘날 심층 신경망은 이미지 분류, 이미지 분할 및 객체 탐지와 같은 다양한 컴퓨터 비전 분야에서 많은 성공을 거두었다. 과모수화된 심층 신경망은 라벨 노이즈가 포함되면 과적합 되기 쉽다. 이러한 현상을 라벨 노이즈 암기라고 한다. 본 논문에서, 우리는 ENLAS : 라벨 노이즈 상황에서 앙상블 구조를 활용한 강건 학습 방법론을 제안한다. ENLAS는 1) 특징 추출, 2) 가우시안-혼합-모형, 3) 중요도 계수의 세 부분으로 구성된다. ENLAS는 추가 하이퍼파라미터 없이 손실값과 정렬 점수의 앙상블을 이용한다. 또한, 점진적으로 증가하는 임계값을 활용하여 노이즈 비율에 관계없이 특징 추출기의 성능을 유지한다. 제안된 프레임워크에 따라, 우리는 CIFAR-10과 CIFAR-100의 다양한 노이즈 비율에 관한 실험을 수행한다. ENLAS는 다양한 데이터 세트와 노이즈 비율에서 기존 방법론을 능가한다.
