Robot vision is an essential research field that enables robots to perform various tasks by recognizing objects as humans do. Deep convolutional neural networks (DCNNs) have shown many promising results in recent years, there are still critical obstacles that cause degradation in their performance: increase in the number of trainable parameters and computational complexity. Moreover, the classification accuracy of the machine learning algorithms already exceeds that of a well-trained human, and the results are rather saturated. As the applications of deep learning networks become more complex, the size of the model increased rapidly. Nevertheless, deep learning networks are being deployed to lightweight devices such as mobile devices and automobiles. Hence, in recent years, many studies have been conducted in the direction of reducing the weight of the model and applying it to mobile devices. Lightweight model design is designing a model with fewer parameters and computations while maintaining a similar level of performance. If the amount of computations is reduced, it enables deployment of the DCNN on low-power devices and secure real-time performance, and if the number of parameters is reduced, resources required for model storage and transmission are reduced. Therefore, it is very valuable to research lightweight model design. For this purpose, we propose a multipath lightweight deep network using randomly selected dilated convolutions. The model we refer to as the basic structure is DenseNet (including CondenseNet, CondenseNetV2) based because the information of the previous layer is concatenated and the features are reused. The main differences between the proposed network and other network architectures are the existence of multipath networks and the large receptive field effect. The proposed network consists of two sets of multipath networks (minimum 2, maximum 8), where the output feature maps of one path are concatenated with the input feature maps of the other path so that the features are reusable and abundant. We also replace the 3 × 3 standard convolution of each path with a randomly selected dilated convolution, which has the effect of increasing the receptive field. The proposed network lowers the number of floating point operations (FLOPs) and parameters by more than 50% and the classification error by 0.8% as compared to the state-of-the-art. We show that the proposed network is efficient.
로봇 비전은 로봇이 인간처럼 사물을 인식하여 다양한 작업을 수행할 수 있도록 하는 필수적인 연구 분야이다. 심층 신경망은 최근 몇 년 동안 크게 발전하였으며 특히 물체 인식률에서 매우 유의미한 결과가 나타나고 있다. 하지만 훈련 가능한 매개변수의 수 또는 계산 복잡성의 증가와 같이 성능을 저하시킬 수 있는 심각한 문제점들이 여전히 존재한다. 게다가 기계 학습 알고리즘의 분류 정확도는 이미 잘 훈련된 인간이 분류하는 정확도를 뛰어 넘은 것이 보편화 되어 포화 상태에 접어들었다. 시간이 지날수록 심층 신경망의 깊이와 구조는 더욱 복잡해져가고 있고, 그에 따라 모델의 크기는 빠르게 증가하는 추세이다. 최근에 장치들은 모바일 기기나 자동차 등과 같이 경량화 되고 있다. 따라서 모델의 크기를 줄이고 모바일 기기에 적용하는 경량화 모델에 대한 많은 연구가 진행되고 있다. 경량화 모델 설계는 유사한 수준의 성능을 유지하면서 더 적은 수의 매개변수와 계산으로 모델을 설계하는 것이다. 만약 연산량이 줄어든다면 저전력 기기에 심층 신경망을 배치할 수 있어 실시간 성능을 확보할 수 있으며, 매개변수 수가 줄면 모델 저장 및 전송에 필요한 자원이 줄어들 수 있다. 따라서 경량 모델 설계를 연구하는 것은 매우 중요하다고 할 수 있다. 이를 위해 우리는 무작위로 선택한 팽창한 합성곱 신경망을 사용하는 다중경로 경량 심층 신경망을 제안한다. 우리는 이를 위해 컨덴스넷을 포함한 덴스넷의 구조를 가진 심층 신경망을 기본 구조로 사용한다. 이는 이전 계층의 정보를 연결하여 사용하는 특징을 가지기 때문이다. 우리가 제안한 심층 신경망과 다른 심층 신경망 구조의 주요 차이점은 다중 경로 심층 신경망의 존재 그리고 큰 수용 영역 필드 효과 유무이다. 제안된 심층 신경망은 두 개의 쌍으로 구성된 다중 경로로 구성되며 최소 2개에서 최대 8개의 경로를 가진다. 한 경로의 출력 특성 맵이 다른 경로의 입력 특성 맵과 연결되어 합쳐져 특성이 재사용 가능하고 풍부하다. 우리는 또한 보편적으로 사용하는 3 × 3 표준 합성곱을 무작위로 선택된 팽창 합성곱으로 대체하여 수용 영역을 증가시키는 효과를 얻는 방법을 제안한다. 제안한 심층 신경망은 총 연산량 및 매개변수의 수를 가장 최신의 뛰어난 심층 신경망에 비해 50% 이상, 분류 오류를 0.8% 낮추는 것을 확인하였다. 이는 우리가 제안한 심층 신경망이 효율적이고 효과적인 것을 보여준다.
