Data scarcity is one of the prominent challenges in training deep neural networks. This dissertation investigates the critical challenge of data scarcity for real-world applications, where data can be scarce, unbalanced, and distributed irregularly over time or across domains. It presents novel methodologies to mitigate the issues of time-level and class-level data scarcity which impede the effectiveness of deep learning models. To address the temporal aspect of data scarcity, we leverage the potential of neural ordinary differential equations for generating frames in video data, enabling smoother and continuous video generation. Moreover, we propose innovative ensemble and adapter techniques to combat class imbalance problem, ensuring more robust and equitable performance across classes with varying instance frequencies. These approaches are geared towards improving model performance in various real-world scenarios. The dissertation promises a comprehensive exploration of these methods, aiming to significantly enhance the capabilities of deep learning in data-constrained environments.
딥 뉴럴 네트워크를 훈련시키는 데 있어 데이터 부족은 주요한 도전 과제 중 하나입니다. 본 논문은 실제 응용 분야에서 데이터가 부족하고, 불균형하며, 시간적으로나 도메인 간에 불규칙적으로 분포될 수 있는 심각한 데이터 부족 문제를 다룹니다. 본 논문에서는 딥러닝 모델의 효과성을 저해하는 시간적 수준과 클래스 수준의 데이터 부족 문제를 완화하기 위한 새로운 방법론을 제시합니다. 먼저, 데이터 부족의 시간적 측면을 다루기 위해, 우리는 신경 상미분 방정식을 이용하여 비디오 데이터의 프레임을 생성함으로써 더 부드럽고 연속적인 비디오 생성을 가능하게 합니다. 또한, 다양한 인스턴스 빈도를 가진 클래스 간에 더욱 강력하고 공정한 성능을 보장하기 위해 클래스 불균형 문제를 해결하기 위한 혁신적인 앙상블 및 어댑터 기술을 제안합니다. 이러한 접근 방식은 다양한 실제 시나리오에서 모델 성능을 향상시키기 위한 것입니다. 본 논문은 이러한 방법들을 종합적으로 탐구하였으며, 데이터 제약 환경에서 딥러닝의 능력을 크게 향상시키기를 목표로 합니다.
