Dialog state tracker is one of the crucial components of dialog system that infers the user’s intention based on the language understanding. Since it is trusted (and empirically shown recently) that the performance in dialog state tracking translates to that of the dialog system, various tracking methods have been proposed for improvements. Despite the dominance of generative models in the early days, most of the trackers in last few years
adopted the discriminative ones since the additional information advantage the choice of discriminative models. However, it is undoubted that generative models, such as the Bayesian filtering, offer more intuitive parameters and wide applicability, which are beneficial in practice. In this paper, we show that the proper parameterization and the
novel optimization technique may lead the Bayesian filtering model as robust as any other state-of-the-art models. We first describe the design of tracker balancing between its expressive power and the number of parameters. Then, we present a two-step gradient descent algorithm that optimizes complex loss function of parameterized tracker to near global. As a result, the tracker optimized by our algorithm performs competitively among other top-performing trackers participated in Dialog State Tracking Challenge 1 and 2.
사용자 발화로부터 사용자의 의도를 유추하는 대화상태 추적은 대화 시스템의 중요한 부분 중 하나이다. 대화 상태 추적의 성능 향상이 곧바로 대화 시스템의 성능으로 이어지기 때문에, 여러 추적 방법들이 제시되어 왔다. 초창기에는 많은 생성모델 기반 대화 상태 추적기들의 연구가 있었으나, 최근 몇년간 대부분의 대화 상태 추적기는 추가적인 정보로부터 성능 이득을 쉽게 볼 수 있는 판별모델을 기반하여 연구되었다. 그러나, 베이지안 필터링과 같은 알고리즘을 사용하는 생성모델 기반 추적기들은 성능은 떨어질지 몰라도 더 직관적인 구조와 매개변수, 그리고 넓은 응용성을 가짐으로서 실제 사용에 있어서 장점을 가진다. 본 논문에서는 적절한 매개변수화와 새로운 최적화 알고리즘을 사용한다면 생성모델 기반 추적기도 다른 추적기 모델들만큼 강력할 수 있다는 것을 보인다. 첫 번째로 표현력과 매개변수의 숫자의 균형을 맞추는 추적기 모델을 설계하고, 복잡한 추적기의 목표 함수를 전역 최저점에 가깝게 최적화하는 두 단계 기울기 하강 알고리즘을 제시한다. 결과적으로, 본 논문의 대화 상태 추적기는 대화 상태 추적 대회인 DSTC 1과 2에 출전한 다른 추적기들보다 더 좋은 성능을 보여준다.
