With today's ubiquitous deployment of video cameras and other edge devices, progress in edge computing is happening at an incredible speed. Yet, one aspect of real-time video analytics at the edge that is still underdeveloped is the support for processing multi-tenant, multi-application scenarios with a limited set of resources. Existing systems either fail to provide the necessary performance or rely too heavily on edge or cloud servers to handle the workload. This work proposes a new approach, inspired by both Function-as-a-Service and microservices architecture in order to efficiently place and execute video analytics pipelines on edge devices. The main contributions of this work are the ability to dynamically add and run new applications on already deployed systems, and the capability to horizontally distribute pipelines across other neighbouring edge devices. We prototype an implementation that we evaluate using multiple concurrent applications per device. Experimental results show that our system provides more flexibility for on-the-fly reconfiguration than existing works do, with up to 20% improvement in latency and 3.9x increase in throughput.
오늘날, 비디오카메라와 엣지 디바이스의 유비쿼터스적 배치와 함께 엣지 컴퓨팅은 엄청난 발전 속도를 보여주고 있다. 그러나 엣지에서의 실시간 비디오 분석에서, 제한된 자원으로 다수 사용자 및 애플리케이션 환경에서의 프로세싱을 지원하는 연구는 충분히 이루어지지 않았다. 기존 시스템들은 요구되는 성능을 제공하지 못하거나, 작업을 수행하기 위해 엣지 또는 클라우드 서버에 지나치게 의존한다. 우리 연구는 효율적으로 엣지 디바이스에 비디오 분석 파이프라인을 배치하고 실행하기 위해 FaaS와 마이크로서비스 아키텍처를 활용하는 새로운 방식을 제안한다. 이 연구의 주된 기여는 이미 설치된 시스템에 새로운 애플리케이션을 동적으로 추가하고 실행할 수 있으며, 이웃한 다른 엣지 디바이스에 수평적으로 파이프라인을 분배할 수 있다는 것이다. 우리는 디바이스마다 다수의 동시 애플리케이션을 사용하여 성능을 측정할 수 있는 프로토타입을 구현하였다. 실험 결과에 따르면 우리 시스템은 기존 연구들보다 즉각적인 재구성에 더 높은 유연성을 제공하며 지연 시간은 최대 20% 줄였고 처리량은 3.9x 증가했습니다.
