Development of attention modules has improved the efficiency of neural networks by selectively encoding contextual information for inputs and outputs, regardless of size, length, or condition. Some recent studies have reported that successful control of attention increases classification performance for both training and test datasets. Building on these recent insights, this paper proposes two novel methods of attentional control for efficient processing of time-series data: a reinforcement learning (RL)-based attentional control algorithm that selects appropriate modular models according to contextual changes over time and a method for regularizing attentional control by embedding a novel alignment loss in causal sequence-to-sequence problems. Each attentional control method was tested on two such problems: EEG cognitive load classification and speech synthesis. The results confirm that these models outperform conventional methods.
주의집중(attention) 모듈이 발달함에 따라, 신경망(neural network) 모델은 상황에 맞는 문맥 부분을 집중하여 읽어, 크기, 상황 등이 다른 입력, 출력 데이터가 들어오더라도 정확도가 높은 추론(inference)이 가능하게 되었다. 최근, 주의집중 모듈을 조절하여 보다 원하는 상황에 보다 집중하게 학습하게 하여 정확도를 높이거나 효율적으로 학습을 더하게 하는 방법이 제시되고 있다. 이 연구에서 우리는 최근 연구에 영감을 얻은 새로운 시계열 데이터를 위한 집중조절 방법을 제시한다. 자세하게는, 분류 문제에서 강화학습 기반으로 상황에 따라 바뀌는 문맥을 주의 집중 모듈로 효율적인 모델을 선택하는 방법과 시퀀스에서 시퀀스 생성 문제에서는, 주의 집중 네트워크에서 주의집중 모듈의 손실 값을 정의하여 직접적으로 학습되거나 추론 된 주의 집중 지지선(alignment)을 조절하는 방법을 제안한다. 우리는 각각의 방법의 성능을 EEG 신호 인지 부하 분류 문제와 음성 합성 문제에 적용하여 증명하였으며, 이의 효율적인 활용방안도 같이 제시하고자 한다.
