The vast amount of time-series documentation that occurs over time requires efficient and effective analysis. In this paper, we propose a topic model for time series documents by applying neural variational inference to analyze dynamic topics. The proposed model capture the topic change over time using LSTM, which is a kind of Recurrent Neural Network. The model introduces attention network to increase the prediction accuracy so that the past information can be used positively. As a result, our proposed model shows better performance than the existing topic models for three time series documents.
시간의 흐름에 따라 발생하는 많은 양의 시계열 문서는 효율적이고 효과적인 분석을 요구한다. 본 논문에서는 시계열 문서에서 시간에 따라 변화하는 토픽을 분석하기 위해 딥러닝 기반의 variational inference를 적용하여 시계열 문서에 대한 토픽 모델을 제안하였다. 본 논문에서 제안한 모델은 순환 신경망의 일종인 LSTM을 이용하여 시간에 따라 토픽이 변화하는 것을 모델링하였다. 또한, 모델의 예측 정확도를 높이기 위해 attention network를 도입하여 과거의 정보를 적극적으로 이용할 수 있게 하였다. 그 결과 본 논문에서 제안한 모델은 세 개의 시계열 문서에 대하여 기존의 토픽 모델보다 좋은 성능을 보였다.
