As the usage of deep learning models rapidly grows in real-world industries, the need for time-series explainable modeling increases in order to support human's complex decision-making process. In this thesis, I introduce practical problems that arise when applying explainable models to real-world industries and discuss how uncertainty modeling, active learning, counterfactual inference-based approaches tackle these challenges with three perspectives. First, to tackle the limited learning environment with quantity and quality of real-world data, I introduce uncertainty-aware network that provides reliable future prediction and explanations that considers the notion of uncertainty. Second, in order to improve model explainability which agrees more with real-world practitioners, I propose an interactive attention learning framework. Lastly, I extend the conventional explainable approach to scenario-based explainable framework which provides scenario-based forecasting explanations based on the condition of desired counterfactual questions, which enables to help complex decision-making process of real-world practitioners by providing actionable information.
본 논문에서는 시계열 설명가능 학습 프레임워크를 의료 분야의 장단기 질병 예측, 의료 응급 상황 예측, 금융 분야의 주가 및 부동산 가격/지표 예측, 컴퓨터 비전 분야의 동작 인식 태스크과 같이 실제 산업에 적용하면서 발생하는 다양한 실용적인 문제를 소개하고 이를 극복하는 기계 학습 방법론들을 제시한다. 첫째, 불확실성 모델링을 통해 제약된 데이터 환경에서 모델이 내린 결정과 그에 따른 설명 및 이유에 대한 신뢰도를 향상시키는 방법론을 제시한다. 둘째, 실제 산업의 전문가의 경험과 지식에 기반한 능동 학습으로 모델의 판단 정확도를 향상시키고 전문가가 이해할 수준의 설명성을 확보하는 방법론을 제시한다. 셋째, 모델의 인풋과 아웃풋에 근거하는 상관 관계에 기반한 사후 설명의 성격의 모델 설명성에서 더 나아가 이행가능한 설명성을 제공하는 시나리오 기반 설명가능 방법론을 제시한다. 본 논문에서는 불확실성 모델링, 능동 학습, 주의집중 학습, 시계열 궤도 예측, 반사실적 추론 기법 등과 같은 다양한 기계 학습 기법을 활용하여 실제 산업에 발생하는 문제들을 효과적으로 해결할 수 있음을 보인다.
