Both the human brain and recent deep neural networks (DNNs) successfully perform object recognition. However, the visual pathway consists of far fewer hierarchical stages compared to those in DNNs. The structural factor that achieves efficient visual function of the brain is still elusive. Here, we suggest that cortical long-range horizontal connections (LRCs) observed in the early visual cortex enable cost-efficient object recognition in shallow network. First, to validate our hypothesis, a shallow network with convergent feedforward connections and LRCs from neural connectivity data of tree shrew was designed. To investigate effect of LRCs for object recognition, the network was trained for CIFAR-10 image classification by changing network connectivity. We found that addition of LRCs to the shallow feedforward network significantly enhances the classification performance, even to comparable to much deeper network. Second, from gradient-based optimization by pruning the connections, we confirmed that LRCs could spontaneously emerge by balancing between minimizing total connection length and maximizing classification performance. After the optimization, a certain portion of long-range connections survived. Deletion of survived LRCs led to significant reduction of classification performance, which implies LRCs are important for object recognition. Third, to investigate how LRCs contribute to image processing, datasets with local or global structure of input images were generated by modifying handwritten digit dataset. We observed that the network with sparse LRCs and dense feedforward connections can consistently classify images with different local and global information. Lastly, we found that performance enhancement by LRCs is strongly correlated with small-worldness of network, and that this can explain the species-specific existence of LRCs in the visual cortex. In summary, we suggest that long-range horizontal connectivity may be a key factor allowing the visual cortex to implement cost-efficient object recognition under physical constraints.
최신의 시각인지 심층신경망 모델은 사물인식 성능에서 사람 수준에 도달하였다. 하지만 비슷한 기능을 하더라도, 사람의 시각피질은 심층신경망에 비해 훨씬 적은 계층으로 구성되어 있다. 이러한 자원효율적인 시각기능을 가능하게 하는 두뇌의 구조가 무엇인지는 아직 밝혀지지 않았다. 이에, 본 연구는 두뇌의 일차시각피질에 존재하는 장거리 수평적 연결성이 효율적 사물인식 기능을 가능하게 할 것이라 제안하고자 한다. 우리는 신경망 시뮬레이션을 통해, 수평적 장거리 연결이 얕은 신경망에 더해지면 사물인식 성능이 다수의 계층을 추가한 깊은 신경망 수준으로 향상되면서도 총 연결 개수는 훨씬 적게 유지할 수 있음을 보였다. 또한 신경망의 사물인식 성능을 향상시키면서 연결 길이의 합을 최소화하도록 신경망 구조를 최적화시키면 장거리 연결성이 자발적으로 발생함을 보였다. 마지막으로, 장거리 연결성이 추가되면 신경망 전체가 작은 세상 연결망이 되어 부분 정보와 전체 정보를 모두 인식하는 것으로 사물인식 성능을 향상시킴을 보였다. 마지막으로, 우리는 두뇌가 작은 포유류에서 장거리 연결성이 발견되지 않는 이유를 제시하였다. 본 연구를 통해 수평적 장거리 연결이 두뇌와 같이 물리적 제약이 있는 신경망에서 자원 효율적인 사물인식을 가능하게 하는 구조임을 제안한다.
