The development and analyses of artificial neural networks have played a vital role in the rapid growth of artificial intelligence. Among various designs of artificial neural networks, recurrent neural networks has facilitated the processing of continuously fed input like a real brain, significantly contributing in the analyses of sequential data such as spoken audio. Yet the difficulty in training the network parameters has remained a major limitation of recurrent neural networks. Reservoir computing has emerged to circumvent this difficulty, initially by utilizing a randomly configured recurrent neural network with the least effort of training. More recently reservoir computing has been attempted using dynamic physical substrates instead of artificial neural networks, in the pursuit of higher efficiency in time and energy. These physical reservoir computing has been experimentally implemented with various substrates including electronic circuits, mechanical bodies and biological neurons. Optical reservoir computing has also emerged along other approaches, offering exceptionally high potential in the computational speed.
In this thesis, we realize a reservoir computing platform based on the scattering of light, as well as searching and suggesting the optimal design that secures a high ratio of the cognitive capability to the reservoir dimension. The working principle of the scattering-based reservoir system is to harness the spreading of optical information in scattering, in analogy with how information propagates into a larger dimension in biological and artificial neural networks. Reservoir computing based on light scattering offers a unique benefit in that the reservoir can be realized with a very large dimension. To further maximize this advantage, it is necessary to be able to obtain high performance at a given dimension, and we search for the suitable design parameters based on our knowledge in the control and measurement of light scattering. The parameters of interest include the intensity of measurement, characteristics of the scattering medium, ratio of the input nodes, and the weight of input signals. We identify a sharp criticality of performance in the intensity of measurement, as well as locating a consistent range of the two input-related parameters that display high computational performance. Based on these findings, we achieve a reservoir computing system that is effective in complicated problems including the prediction of a chaotic time-series and audio recognition.
인공신경망의 개발과 분석은 최근 이루어진 인공지능 분야의 급속 성장에 핵심적인 역할을 해왔다. 그 중 순환신경망은 실제 뇌와 같이 연속적으로 입력되는 정보를 처리하는데에 최적화되어 음성과 같이 서로 관계를 가진 일련의 데이터 분석에 기여해왔다. 순환신경망의 큰 제한점으로는 학습의 어려움이 있으며 이를 우회하기 위해 고안된 기술이 저수지컴퓨팅으로, 무작위적으로 초기화된 순환신경망을 최소한의 학습 후 사용하는 것으로 시작되었다. 더욱 최근에는 더 높은 시간 및 에너지 효율을 추구하기 위해, 가상의 신경망이 아닌 동역학적 물리계를 이용해 저수지컴퓨팅을 구현하는 시도가 있었다. 이러한 물리적 저수지컴퓨팅은 전자회로, 기계적 구조체, 신경세포 군집 등 다양한 기질을 바탕으로 실험적으로 구현된 바 있으며, 연산의 속도 면에서 높은 잠재력을 지닌 광학적 저수지컴퓨팅도 제안되었다.
본 학위논문에서는 빛의 산란을 이용해 저수지컴퓨팅을 구현하고, 구현한 시스템의 규모 대비 인지능력이 높게 확보되는 최적 설계를 탐색 및 제안하였다. 구체적인 원리는, 빛이 산란되어 퍼지는 현상을 저수지컴퓨팅이나 실제 뇌에서 한 뉴런이 여러 뉴런으로 신호를 전파시키는 과정처럼 사용하는 것이다. 빛의 산란을 기반으로 한 저수지컴퓨팅은 다른 물리적 저수지컴퓨팅에 비해 거대한 규모로 구현할 수 있다는 고유한 장점이 있다. 이러한 장점을 더 극대화하기 위해서는 같은 규모에서도 더욱 효율적인 연산 능력을 확보해야 하며, 본 연구에서는 광 산란을 제어 및 측정하는 지식과 기술을 바탕으로 규모 대비 연산 능력이 높은 설계 파라미터를 탐색하였다. 탐색의 범주에는 측정 강도, 산란매질의 종류, 입력 노드의 비율, 입력 신호의 강도 등이 있었으며, 측정 강도에서 예리한 임계성을 확인하였고 입력과 관련된 두 파라미터에서도 고성능을 위한 범위가 일관되게 나타나는 것을 관측하였다. 이러한 고성능을 확보하는 설계 파라미터를 바탕으로 구현한 저수지컴퓨팅은 카오스 시계열의 예측 및 음성인식과 같은 복잡한 문제에도 효과적인 접근을 할 수 있었다.
