The recent advances in artificial intelligence technology have been attributed to the exponential increase in the amount of data. On the other hand, however, it is becoming more difficult to categorize or label the data for training of artificial intelligence model. In this sense, machine learning algorithms in low-supervised situation with little or no labeled data are becoming increasingly important. This thesis proposes sparse supervision machine learning algorithms using only a few labeled data or utilizing unlabeled data. In the first part of thesis, we focus on the few-shot learning method that trains the model to classify new classes with only a few labeled data. The proposed few-shot learning model has the ability to quickly adapt to new tasks through a linear projection of the feature space. In the second part, we focus on the few-shot segmentation, which aims to conduct semantic segmentation for a new class with only a small amount of data. We propose a few-shot segmentation method utilizing existing semantic segmentation model by transforming the unfamiliar novel feature into more comprehensible form based on the few labeled data. Finally in the third part, we focus on the self-supervised learning method that trains the useful representation using the unlabeled data. We propose an contrastive self-supervised learning method utilizing the nonlinear feature transformation via the self-attention technique to overcome the limitation of the existing contrastive self-supervised learning methods.
최근 데이터의 양의 폭발적인 증가에 따라 인공지능 기술의 발전 또한 함께 이루어 지고 있다. 그러나 다른 한편으로는, 인공지능의 학습을 위해 데이터를 분류하고 레이블링 하는 작업의 난이도 또한 증가하고 있다. 따라서, 적은 양의 레이블링된 데이터만으로 인공지능 모델을 학습시키는 저지도 상황에서의 기계학습 기술의 중요성이 점점 더 커지고 있다. 이 논문에서는 적은 양의 레이블링 된 데이터를 이용하거나, 레이블링 된 데이터를 이용하지 않고 인공지능 모델을 학습시키는 다양한 저지도 기계학습 기술을 제안한다. 학위 논문의 첫번째 파트에서는 새로운 종류의 클래스들을 분류하는 모델을 적은 양의 데이터로 학습시키는 소수샷 학습을 다룬다. 제안하는 소수샷 학습 기술은 피처 공간의 선형적 투영을 통해 새로운 태스크에 빠르게 적응할 수 있는 능력을 갖는다. 두번째 파트에서는 새로운 클래스에 대해 적은 양의 데이터로 의미 분할을 수행할 수 있는 소수샷 분할 문제를 다룬다. 적은 양의 데이터를 이용해 새로운 피처를 이해하기 쉬운 형태로 변환하는 피처 변환 기술을 바탕으로 기존 의미 분할 모델을 소수샷 분할에 활용하는 방법을 제안한다. 마지막으로 세번째 파트에서는 레이블링 되지 않은 데이터를 이용해 유용한 표상을 학습하는 자기지도학습을 다룬다. 대조학습을 통한 자기지도학습 기법의 한계를 셀프 어텐션 기법을 이용한 비선형적 피처 변형을 통해 해결하는 방법을 제안한다.
