The response of nonlinear systems to noise is very interesting research topic. Especially, stochastic resonance (SR) has attracted large attention during the last two decades. The basic result of SR shows that the response of a nonlinear system is optimized at a certain finite level, neither very weak nor very strong, of noise. Here, optimized response means that a system detects very weak signal aid by optimal noise and can show most coherent motion aid by optimal noise. The SR phenomena have emerged in many fields, from physical to biological systems. In particular, SR has been studied very extensively due to an application in information process of neuroscience.
In this thesis, we investigate the response of neural network to noise for two neuron models with numerical method. Previous studies have been conducted on regular or fully random network mainly. But it is well known that biological neural network present a clear clustering in their neurons but have small distances between each pair of neurons. This kind of network is known as small-world network. Therefore, throughout this work, we employ Watts-Strogatz small-world network as a connection topology.
Firstly, we investigate the coherence resonance (CR) of Hodgkin-Huxley neurons. It is found that increasing the randomness p of the network topology leads to an enhancement of temporal coherence and of spatial synchronization. Especially, it is found that (1) spatial synchronization increase as characteristic path length L shortens and (2) firing frequency increases as clustering coefficient C decreases. We introduce constant-clustering network. In such a network, synchronization increases as L shortens, but firing frequency remains constantly. This result leads to more confidence of above relations.
Secondly, we study the effect of spatially correlated noise on CR in neural network of Fitz Hugh-Nagumo neurons, where the noise correlation decays exponentially with distance between neurons. For intermediate coupling strength, CR is considerably improved just by a small fraction of long-range connections. In this case, adding more long-range connections continuously increases the CR. For other coupling strengths, i.e. weak or strong coupling, a small fraction of long-range connections does not change the CR. But abrupt change (growing up or down for weak or strong noise, respectively) in CR occurs following the drastic fracture of the clustered structures in the network. This abrupt change is more pronounced as the spatial correlation length of noise increases. It shows that spatially correlated noise plays a significant role in the phenomenon of CR enforcing the role of the clustered structure of the system.
비선형계가 잡음에 반응하는 현상은 상당히 흥미로운 연구주제이다. 이중 최근 20년간 확률공명 (stochastic resonance) 현상에 많은 관심이 꾸준히 집중되고 있다. 잡음이 너무나 미약한 상황도 아니고 너무나 심한 상황도 아닌 적당한 수준에서 특정 계가 최적의 반응을 보여준다는 것이 확률공명의 기본 특징이다. 최적의 반응이라는 것은 잡음에 가려진 신호를 가장 잘 감지하는 것, 혹은 운동의 주기성이 가장 좋다는 것 등을 뜻한다. 확률공명 현상은 물리계에서 생물계에까지 두루 발견되고 있다. 특히 신경과학에서 정보처리 과정에서 잡음의 효과에 대한 연구로 확률공명 현상이 각광받고 있다.
본 논문에서는 두 가지 신경세포 모델을 이용해 잡음에 대한 신경망의 집단적 반응을 컴퓨터 시늉을 통해 살펴보았다. 기존의 연구는 주로 평범한 연결망에서 수행되어 왔다. 그러나 현실적으로 신경세포들은 짧은 연결 거리를 갖고 이웃 뉴런들끼리 뭉쳐서 연결되어 있음이 보고되고 있다. 따라서 우리는 신경세포들의 연결 구조로 왓트(Watts)와 스트로가츠(Strogatz)가 제안한 좁은세상 (small-world) 그물망을 사용하였다.
첫 번째, 호지킨-헉슬리(Hodgkin-Huxley) 신경 세포망의 잡음에 대한 반응을 관찰하였다. 좁은세상 그물망의 무작위도(p)가 커짐에 따라 신경 세포들의 동기화가 증가하였고, 발화 간격의 주기성 또한 증가하였다. 특별히 동기화와 발화의 시간 간격은 각각 그물망의 평균 연결 거리(characteristic path length)와 뭉침 정도(clustering coefficient)에 주로 상관관계가 있음을 보았다. 동기화는 신경 세포들 간의 평균 연결 거리가 짧아질수록 증가하였다. 발화의 간격은 세포들 간에 뭉침 정도가 클수록 짧아졌다. 이러한 상관관계를 더욱 확신하기 위해 우리는 뭉침 정도는 일정하게 유지하며 연결 거리만 변화시킬 수 있는 그물망을 제한하였다. 이 그물망위에서 세포의 발화 간격은 일정하게 유지되는 반면 세포들 간의 연결 거리가 줄어들수록 동기화가 증가하는 것을 확인하였다.
두 번째 거리에 따라 상관관계가 지수적으로 줄어드는 잡음이 그물망의 구조에 어떤 역할을 보태는지 고찰하였다. 복잡한 호지킨-헉슬리 모델 대신 단순화된 모델인 피츠후그-나구모(Fitz Hugh-Nagumo) 모델을 이용하였다. 중간정도의 연결 강도에서 약간의 원거리 연결은 세포들의 발화 간격의 주기성을 상당히 증가시켰다. 더욱 많아지는 원거리 연결에 대해서도 계속적인 주기성의 증가를 보여주었다. 약한 혹은 강한 연결 강도에서 약간의 원거리 연결은 발화 주기 특성에 거의 영향을 주지 않았다. 그러나 원거리 연결이 더욱 증가하여 그물망의 뭉침 정도가 급격히 깨지는 순간부터 발화의 주기성은 급격히 변화하였다. 약한 연결 강도에서는 주기성이 급격히 증가하였고, 강한 연결 강도에서는 주기성이 급격히 감소하는 상반된 결과를 보여주었다. 이러한 변화는 잡음의 공간적인 상관관계가 길수록 더욱 극명하게 나타났다. 공간적인 상관관계를 갖는 잡음이 신경망의 뭉침 구조의 특징을 더욱 공고하게 유지시켜 주는 역할을 한다는 것을 확인하였다.
