Smart cities are rising as solution to many issues caused by rapid growths in urbanization and urban population. The video surveillance systems play an important role in smart city areas. Among many DL-based applications employed by the surveillance systems, the vehicle re-identification is highly important in security and traffic control. In the work of re-identification algorithm development, many existing methods aim to accelerate the convolutional neural networks (CNNs), that indirectly accelerate the CNN-based vehicle re-identification systems. They typically exploit the neural network pruning because of its competitive performance and compatibility. However, a common limitation of previous approaches is that they only determine the pruning degree of network layers individually, leading to a modest efficiency in the acceleration.
In this thesis, we overcome this limitation by developing an adaptive pruning scheme for CNN acceleration. Our scheme focuses on calculating the pruning degree across multiple network layers, instead of individual layers as the old methods. It can operate in an automatic manner and allow to aggressively accelerate the CNNs in vehicle re-identification systems. The pruned models produced by our scheme are applied in vehicle re-identification systems of smart city environments.
In terms of evaluation, we conducted two experiments. The first experiment was to compare our pruned model performance with the previous method. We utilized the VGG16 trained on CIFAR10 dataset as the baseline, and set up three different target computation saving costs of 25%, 50%, and 75%, respectively. The experimental results showed that our scheme obtained a higher accuracy while saving the comparable amount of computation cost.
In the second experiment, we applied the pruned models produced by our scheme to a vehicle re- identification system in the smart city environment. We employed two CNN model architectures (i.e. VGG Net and Residual Net) and utilized different pruning degrees (from 10% to 60%) to verify the applicability of our proposed approach. The results proved our proposed scheme was able to save up to 50% of execution time in the CNN feature extraction module, while maintaining a desired accuracy of the overall system.
스마트 도시는 도시화와 도시 인구의 빠른 증가로 인해 많은 문제에 대한 해결책으로 형성이 된다. 비디오 감시 시스템은 스마트 시티 지역에서 아주 중요한 역할을 한다. 감시 시스템에 사용되는 많은 DL 기반 응용 프로그램 중에서 차량 재식별은 보안 및 교통통제에서 매우 중요하다. 재식별 알고리즘 개발 작업에서 기존의 많은 방법은 CNN 기반 차량 재식별 시스템을 간접적으로 가속화하는 CNN (Convolutional Neural Network)을 가속화하는 것을 목표로 한다. 그들은 일반적으로 경쟁적인 성능과 호환성으로 인해 신경망 정리를 이용한다. 그러나, 종래의 접근 방식의 공통된 한계는 이들이 네트워크 계층의 가지 치기 정도만을 개별적으로 결정하여, 가속 효율이 적당하지 않다는 점이다.
이 논문에서 우리는 CNN 가속을 위한 적응 형 가지 치기 체계를 개발함으로써 이 한계를 극복한다. 우리의 계획은 이전 방법으로 개별 레이어 대신 여러 네트워크 레이어에서 잘라내는 정도를 계산하는 데 중점을 둔 것이다. 자동 방식으로 작동 할 수 있으며, 차량 재식별 시스템에서 CNN을 적극적으로 가속화 할 수 있다. 우리 계획에 의해 생산 된 가지 치기 모델은 스마트 도시 환경의 차량 재 식별 시스템에 적용된다.
평가 측면에서 우리는 두 가지 실험을 수행하였다. 첫 번째 실험은 정리 된 모델 성능을 이전 방법과 비교하는 것이었다. 우리는 CIFAR10 데이터 셋에 대해 훈련 된 VGG16을 기준으로 삼았고 각각 25 %, 50 %, 75 %의 3 가지 목표 계산 비용을 설정했다. 실험 결과에 따르면 우리의 체계는 계산 비용을 절약하면서, 더 높은 정확도를 얻었다.
두 번째 실험은 스마트 시티 환경에서 차량 재식별 시스템에 생성 된 푸루된 모델을 적용했다. 우리는 두 가지 CNN 모델 아키텍처 (예: VGG Net 및 Residual Net)를 사용했으며, 제안 된 접근 방식의 적용 성능을 평가하기 위해 서로 다른 프루닝 정도 (10% ~ 60%)를 사용했다. 결과는 제안 된 체계가 CNN 기능 추출 모듈에서 실행 시간의 최대 50%를 절약하면서 전체 시스템의 원하는 정확도를 유지할 수 있음을 증명하였다.
