In this thesis neural network based model for unsupervised modeling of task-oriented dialogue data is proposed. Task-oriented dialogue system recently gained a lot of interest from both academic and industrial areas for its potential for being natural and intuitive interface for applications based on artificial intelligence. However, traditional approaches for modeling task-oriented dialogue had some restrictions concerning with expressiveness of model and scalable training with large amount of data. We propose Slot Entity Memory Network model which is a generative model based on neural networks. Being sufficiently expressive to cope with complex and diverse natural language utterances using neural networks, it can be trained without any human annotated labels on task-oriented dialogues. By incorporating task-oriented dialogue structure in neural network model, Slot Entity Memory Network can help system developers to understand what the model had learned from data. We train the proposed model with CamRest676 dataset and report quantitative and qualitative results with analysis of dialogue structure that model has learned.
본 학위 논문은 비지도 목적 지향 대화 모델링을 위한 신경망 기반 모델에 대한 내용을 다루고 있다. 목적 지향 대화 시스템은 최근 인공지능을 활용한 여러 서비스에 활용될 수 있는 자연스럽고 직관적인 인터페이스로서 학계와 산업계의 많은 관심을 받고 있다. 하지만 목적 지향 대화를 모델링하는 기존의 모델의 경우 모델의 표현력이나 많은 양을 데이터로의 학습에 있어서의 확장성 문제에 대한 한계를 가지고 있었다. 따라서 본 학위 논문에서는 신경망에 기반한 생성 모델인 슬롯 개체 메모리 네트워크 모델을 제안한다. 자연어 문장의 복잡함과 다양성을 다루기 위해 표현력이 뛰어난 신경망 모델로 이루어져 있으며 생성 모델이기에 전문가가 따로 표기한 데이터가 없어도 학습이 가능하다. 목적 지향 대화 고유의 구조를 신경망 모델로 구현하여 대화 시스템 개발들에게 모델이 데이터로부터 어떠한 내용을 학습했는지 비교적 쉽게 알 수 있도록 도울 수 있다. 제안한 모델을 CamRest676 데이터에 대해 학습하였으며 정성적, 정량적 결과를 모델이 학습한 대화 구조 분석과 함께 보고한다.
