Convolutional neural networks (CNNs) have been successfully applied to a variety of vision tasks, and most of this success comes from research on network structure. However, in spite that convolution is the most important component of CNN, little research has been done about convolution itself, and attempts have been made recently to overcome the limitation of existing convolution. The shape of conventional convolution is restricted, and it is assigned at the stage of configuration of network structure. Usually, extending the size of convolution or stacking more convolution is used for enlarging the receptive field of the network, but this approaches might reduce the efficiency of network due to increases of network depth or the number of parameters. In this dissertation, we describe methodologies for improving the performance of the network through manipulating convolution. The performance of the neural network can be evaluated in terms of accuracy and speed. The earlier part of this paper, we describe the research related to the improvement of accuracy and the studies about improving the speed of the network in the latter part.
컨볼루션 신경망은 다양한 시각 과제에 대해 적용되어 큰 성공을 거두었다. 이것은 주로 네트워크 구조에 대한 연구에서 비롯되었는데, 컨볼루션 연산이 컨볼루션 신경망의 가장 핵심적인 구성요소임에도 불구하고 컨볼루션에 대한 연구는 많이 진행되지 않았으며, 최근에서야 기존 컨볼루션의 한계를 극복하고자 하는 시도들이 이루어지고 있다. 기존의 컨볼루션은 수용영역의 모양이 한정적이고, 그 모양은 네트워크 초기에 임의로 고정하여 사용하게 된다. 보통 네트워크의 수용용역을 확장하기 위하여 컨볼루션의 크기를 크게 하거나 네트워크의 깊이를 깊게 하는 방식을 사용하는데, 이와 같은 방식은 네트워크의 크기 또는 매개변수의 양을 증가시키기 때문에 비효율적이다. 본 논문에서는 컨볼루션 연산에 대한 조작을 통하여 신경망의 성능을 향상시키는 기법에 관하여 기술하였다. 신경망의 성능은 정확도와 속도의 관점으로 평가될 수 있는데, 본 논문의 앞부분에서는 신경망의 정확도 향상과 관련된 연구를 기술하고, 후반부에서 신경망의 속도를 향상시키는 연구에 대해 기술하였다.
