서지주요정보
Attentional control methods for time-series data classification and synthesis = 시계열 데이터 분류와 합성을 위한 주의집중조절 방법
서명 / 저자 Attentional control methods for time-series data classification and synthesis = 시계열 데이터 분류와 합성을 위한 주의집중조절 방법 / Jungbae Park.
저자명 Park, Jungbae ; 박중배
발행사항 [대전 : 한국과학기술원, 2019].
Online Access 원문보기 원문인쇄

소장정보

등록번호

8036835

소장위치/청구기호

학술문화관(문화관) 보존서고

MBIS 19023

휴대폰 전송

도서상태

이용가능

대출가능

반납예정일

리뷰정보

초록정보

Development of attention modules has improved the efficiency of neural networks by selectively encoding contextual information for inputs and outputs, regardless of size, length, or condition. Some recent studies have reported that successful control of attention increases classification performance for both training and test datasets. Building on these recent insights, this paper proposes two novel methods of attentional control for efficient processing of time-series data: a reinforcement learning (RL)-based attentional control algorithm that selects appropriate modular models according to contextual changes over time and a method for regularizing attentional control by embedding a novel alignment loss in causal sequence-to-sequence problems. Each attentional control method was tested on two such problems: EEG cognitive load classification and speech synthesis. The results confirm that these models outperform conventional methods.

주의집중(attention) 모듈이 발달함에 따라, 신경망(neural network) 모델은 상황에 맞는 문맥 부분을 집중하여 읽어, 크기, 상황 등이 다른 입력, 출력 데이터가 들어오더라도 정확도가 높은 추론(inference)이 가능하게 되었다. 최근, 주의집중 모듈을 조절하여 보다 원하는 상황에 보다 집중하게 학습하게 하여 정확도를 높이거나 효율적으로 학습을 더하게 하는 방법이 제시되고 있다. 이 연구에서 우리는 최근 연구에 영감을 얻은 새로운 시계열 데이터를 위한 집중조절 방법을 제시한다. 자세하게는, 분류 문제에서 강화학습 기반으로 상황에 따라 바뀌는 문맥을 주의 집중 모듈로 효율적인 모델을 선택하는 방법과 시퀀스에서 시퀀스 생성 문제에서는, 주의 집중 네트워크에서 주의집중 모듈의 손실 값을 정의하여 직접적으로 학습되거나 추론 된 주의 집중 지지선(alignment)을 조절하는 방법을 제안한다. 우리는 각각의 방법의 성능을 EEG 신호 인지 부하 분류 문제와 음성 합성 문제에 적용하여 증명하였으며, 이의 효율적인 활용방안도 같이 제시하고자 한다.

서지기타정보

서지기타정보
청구기호 {MBIS 19023
형태사항 v, 60 p. : 삽도 ; 30 cm
언어 영어
일반주기 저자명의 한글표기 : 박중배
지도교수의 영문표기 : Sang Wan Lee
지도교수의 한글표기 : 이상완
수록잡지명 : "Solving the Memory-based-Memoryless Trade-off Problem for EEG Signal Classification.". IEEE SMC 2018. IEEE, 2018.,
학위논문 학위논문(석사) - 한국과학기술원 : 바이오및뇌공학과,
서지주기 References: p. 47-57
주제 Attentional control
deep neural network
time-series learning
EEG classification
speech synthesis
주의집중조절
심층 신경망
시계열 학습
EEG 신호 분류
음성 합성
QR CODE qr code