In recent years, image classifiers based on deep neural networks have received a great attention due to the outstanding performance. However, the strong dependency on training resources makes the data-driven image classifiers vulnerable to variations of image domain characteristics. One simple yet naive solution for resolving this issue is to mining a large number of labeled images for every image domain of interest, but tremendous expenses are compelled for this approach. To address this problem via an algorithmic approach, in this thesis, I present a comprehensive study on domain adaptation (DA) for deep learning-based image classifiers. DA is a transfer learning methodology that aims to enhance the performance of deep neural networks in a label-scarce domain (target domain) by leveraging knowledge in a label-sufficient domain (source domain). Among various DA categories, I focus on semi-supervised domain adaptation (SSDA) and few-shot supervised domain adaptation (SDA). Both tasks commonly assume that a large number of labeled source images are given for training, and the two tasks are different in the composition of accessible data in the target domain. First, SSDA assumes that a large number of target images are accessible for training, but only a few examples among them are labeled. For SSDA, I propose a selective pseudo labeling scheme for assigning pseudo labels of high reliability to unlabeled target images. In addition, based on the observation that pseudo labels are inevitably noisy, a label noise-robust learning scheme is applied, which alternately updates the network and the set of pseudo labels. Second, SDA considers the case that only a small number of labeled images are available for training without any additional unlabeled image. For SDA, deep features are extracted and projected towards a hyper-spherical space via l2-normalization. Afterwards, an additive angular margin loss is embedded so that the features of both domains are compactly grouped on the basis of the shared class prototypes. To further reduce the domain discrepancy, a pairwise spherical feature alignment loss is incorporated. Experimental validations were conducted on various DA datasets and the results demonstrate that both of the proposed SSDA and SDA methods outperform other previous state-of-the-art methods.
최근 심층 신경망 기반 영상 분류기는 우수한 인식 성능으로 인해 큰 주목을 받아왔다. 하지만, 이러한 데이터 기반 영상 분류기는 학습 데이터에 대한 의존성이 크기 때문에 도메인 변화에 취약하다는 문제가 있다. 이를 해결하기 위한 방안으로 관심 도메인에서의 대규모 학습 데이터를 확보하는 것을 들 수 있으나, 이 방법에는 데이터 확보에 많은 시간과 비용이 소요된다는 단점이 있다. 이러한 문제를 알고리즘적인 접근법으로 해결하기 위한 시도로, 본 학위논문에서는 심층 신경망 기반 영상 분류를 위한 도메인 적응 기법에 대해 다룬다. 도메인 적응은 전이 학습의 일종으로써, 데이터의 양이 부족한 도메인(타겟 도메인)에서의 성능 향상을 위해 데이터의 양이 충분한 도메인(소스 도메인)에서 획득 가능한 지식을 활용하는 기법을 지칭한다. 다양한 도메인 적응 기법들 중, 본 학위논문에서는 지도 및 준지도 도메인 적응 기법을 다룬다. 두 기법 모두 소스 도메인에서 다수의 영상과 레이블이 주어지는 상황을 가정하며, 타겟 도메인에서 주어지는 데이터의 양과 종류는 서로 상이하다. 우선, 준지도 도메인 적응 기법은 타겟 도메인에서 다수의 영상이 주어지며, 그 중 일부에만 레이블이 함께 주어지는 상황을 가정한다. 준지도 도메인 적응과 관련하여, 본 학위논문에서는 레이블이 없는 영상에 대해 선택적으로 가상 레이블을 부여하여 학습에 활용하는 방법을 제안한다. 또한, 가상 레이블은 잘못된 정보를 포함하고 있을 수 있다는 점에 착안하여, 네트워크와 가상 레이블을 번갈아가며 업데이트하는 학습 방법론을 제안한다. 둘째로, 지도 도메인 적응은 타겟 도메인에서 오직 소량의 영상과 레이블만 주어지는 상황을 가정한다. 지도 도메인 적응과 관련하여, 본 학위논문에서는 딥 네트워크의 출력인 특징 벡터에 l2 정규화를 적용하여 초구 공간으로 변형하는 방법을 제안한다. 초구 공간 상에서 소스와 타겟 도메인 특징 분포를 정렬하기 위해 각 도메인별로 각도 마진 함수를 설계하여 학습에 반영한다. 또한, 두 도메인 간의 특징 분포 불일치 현상을 경감시키기 위해 초구 공간 상에서 짝 정렬 함수를 도입하여 학습에 적용한다. 제안하는 기법의 우수성을 입증하기 위하여 다양한 환경과 조건에서의 실험을 진행하였으며, 실험 결과 제안하는 지도 및 준지도 도메인 적응 기법이 기존 기법들에 비해 우수한 성능이 도출됨을 확인하였다.
