Nowadays, the computational intensity of mobile applications has increased so that the applications are often to be offloaded to an edge cloud for better user experience. Even if the application is offloaded to the edge cloud and can exploit better computing power, using only the CPU may not be enough to deliver the service in real-time. This has led to more attempts to utilize hardware accelerators (e.g., GPU, FPGA) for edge clouds. Especially, an FPGA has an advantage in processing streaming data due to its pipeline benefits, so that it is drawing attention as an accelerator in the edge. However, the characteristics of edge clouds, FPGAs, and Docker-Kubernetes environments should be considered when applying FPGAs to a Docker-Kubernetes based edge cloud. The most important problem is that a specific setup is needed to utilize the FPGA inside the Docker container. This setting should vary depending on the environment of each node, so applying the FPGA to a Docker-Kubernetes cluster, which can have nodes in a variety configures, requires a software module that can provide the setting adaptively to the environment of each node. Besides, it is important to utilize an FPGA more efficiently in edge clouds, that are not as resource-rich as the central cloud. In this perspective, researches on virtualized FPGA (vFPGA) that shares an FPGA across multiple applications has been conducted, but research on resource allocation schemes which takes into account the performance degradation caused by vFPGA's internal interference is insufficient. In addition, in an edge computing environment where many service providers are likely to deploy a variety of services, providing a standardized interface for communication with vFPGA is essential. However, the existing vFPGA studies do not provide the standard interface so that it cannot be directly applied to the edge cloud.
In this thesis, we proposed and implemented an edge computing structure, including a software module that enables an FPGA as an application accelerator in a Docker-Kubernetes environment. The structure includes a module that enables applications inside the Docker container to be accelerated through the FPGA, a module that informs the type and status of the FPGAs in each node, and a vFPGA system that provides OpenCL as a communication interface. A resource scheduling scheme that takes into account vFPGA's internal interference for more efficient use of the resource in edge computing environments was also proposed. Throughout, we showed that in the proposed edge computing system, the service latency can be reduced by more than 50% compared to existing resource scheduling schemes by using the resource scheduling scheme.
근래 모바일 애플리케이션의 연산 집약도가 높아져 더 나은 사용자 경험을 위해 애플리케이션을 에지 클라우드로 오프로드해야 하는 경우가 많아지고 있다. 응용이 에지 클라우드에 오프로드되어 모바일 장치보다 더 뛰어난 연산 능력을 사용한다 해도 CPU를 사용하는 것만으로는 서비스를 실시간으로 제공하기에 충분하지 않을 수 있다. 이러한 점을 고려하여 GPU, FPGA 등 하드웨어 가속기를 에지 클라우드에 활용하려는 시도가 늘어나고 있다. 그 중 FPGA는 파이프라인의 이점을 이용한 스트리밍 데이터 처리에 강점을 가져 특히 에지 서버에서의 응용이 주목받고 있지만 FPGA를 도커-쿠버네티스에 기반한 에지 컴퓨팅 환경에 적용할 때는 에지 클라우드와 FPGA, 그리고 도커-쿠버네티스 환경의 특성을 고려할 필요가 있다. 가장 중요한 문제는 도커 컨테이너와 FPGA를 동시에 활용하기 위해서는 둘 간의 연결 설정이 필요하다는 것이다. 이 설정은 각 노드의 환경에 따라 가변적이기 때문에 다양한 환경의 노드를 가질 수 있는 도커-쿠버네티스 클러스터에 FPGA를 적용하기 위해서는 이를 각 노드의 환경에 적응적으로 제공해줄 수 있는 소프트웨어 모듈을 필요로 한다. 또한, 중앙 클라우드만큼 자원이 풍부하지 않은 에지 클라우드에서는 FPGA를 더욱 효율적으로 활용하는 것이 중요하다. 이러한 관점에서 여러 응용 간에 FPGA를 공유하는 가상화 FPGA (vFPGA)에 대한 연구가 이루어졌지만, vFPGA 내부 간섭을 고려한 자원 할당 기법에 대한 연구는 미흡하다. 또한, 다수의 서비스를 처리해야 하는 에지 컴퓨팅 환경에서는 vFPGA와의 통신에 표준화된 인터페이스 제공이 필수적이지만, 기존 vFPGA 연구에서는 표준 인터페이스 제공이 미흡해 에지 클라우드에 바로 적용할 수 없는 문제가 존재한다.
본 논문에서는 기존 VM 대비 시동 및 실행 오버헤드가 적은 장점을 가지는 도커-쿠버네티스 환경에서 FPGA를 응용 가속기로서 활용할 수 있도록 하는 주요 기능을 구현하였다. 제안된 구조는 도커 컨테이너 내부의 응용이 FPGA를 통해 가속될 수 있도록 설정하는 모듈과 쿠버네티스에 각 노드에 위치한 FPGA의 종류와 그 상태를 알리는 모듈을 포함하며, 표준화된 규격인 OpenCL을 통신 인터페이스로 제공하는 vFPGA 시스템을 포함한다. 또한, 에지 클라우드 환경에서 더욱 효율적인 자원 활용을 위해 vFPGA 내부 간섭 요소를 고려한 자원 스케줄링 기법을 제안했다. 실험실 환경에서 FPGA가 도커-쿠버네티스에 기반한 에지 컴퓨팅 시스템에서 자원 스케줄링 기법이 기존 자원 스케줄링 기법 대비 50% 이상의 서비스 지연시간 감축을 달성할 수 있음을 보였다.
