In this dissertation, applications of recurrent neural networks are addressed in two subclasses of discrete-time dynamical systems; finite state automata and discrete-time chaotic systems. Firstly, a new class of recurrent neural networks is proposed and proven to be capable of identifying any discrete-time dynamical system. The proposed network is exploited in the encoding, identification, and extraction of finite state automata. An encoding scheme of finite state automata, which gives a guideline of the identification procedure and makes the extraction procedure straightforward, is provided. Computer simulations show that the identification of finite state automata using the proposed network, trained by the hybrid greedy simulated annealing with a modified cost function in the training stage, generally exhibits better performance than the conventional identification procedures. Secondly, we consider the identification and generation of discrete-time chaotic systems with the two-layered recurrent neural network. The number of layers in the network used in the identification procedure is smaller than the numbers of layers in the networks employed in the conventional identification procedures. Different from the conventional generation procedures, the generation procedure in this dissertation is based on the Li-Yorke theorem. Simulation results demonstrate that the identification of discrete-time chaotic systems using the two-layered recurrent neural network, trained by the Levenberg-Marquardt algorithm shows satisfactory performance compared to the
conventional identification procedures.
이 논문에서는 회귀 신경망을 이산 시간 동적 시스템의 두 갈래인 유한 상태 자동기계와 이산 시간 혼돈계를 다루는 데 적용했다. 첫째로, 얼개가 새로운 회귀 신경망을 제안하여, 그것이 어떤 이산 시간 동적 시스템도 동정화할 수 있음을 보였다. 제안한 신경망을 써서 유한 상태 자동기계를 부호화, 동정화, 그리고 추출하는 문제를 다루었다. 유한 상태 자동기계를 부호화하는 기법을 제안하여, 그것을 바탕으로 동정화 기법을 세웠다. 또한 부호화 기법을 제안한 덕에 손쉽게 유한 상태 자동기계를 추출할 수 있었다. 제안한 신경망에 고친 비용함수를 쓰고 혼합 그리디 모의 담금질 방법으로 학습시키면 유한 상태 자동기계를 동정화하는 성능이 일반적으로 다른 기법보다 더 낫다는 것을 모의실험으로 보였다. 둘째로, 두 층 회귀 신경망을 써서 이산 시간 혼돈계를 동정화하고 생성하는 문제를 다루었다. 동정화 기법에서 쓴 신경망의 층 수는 다른 동정화 기법에서 쓴 신경망의 층 수보다 적었다. 다른 생성 기법과 달리 이 논문의 생성 기법은 리-요크 정리를 바탕으로 하였다. 두 층 회귀 신경망을 레벤버그-마쿼트 방법으로 학습시켜 이산 시간 혼돈계를 동정화하면 다른 기법과 견주어 만족스러운 성능을 낸다는 것을 모의실험으로 보였다.
