With the recent advanced performance of FPGA accelerators in many applications, the demand to use FPGA as a hardware accelerator is increasing. In response to the demand for FPGA, cloud providers offering FPGA-as-a-Service (FPGA) are increasing rapidly. FaaS users reduce purchase and develop- ment costs of FPGA accelerators by borrowing instance with virtualized computing resources, including FPGA and FPGA development tools. With the growth of FaaS, the demand for FPGA virtualization has also increased. The recent studies on FPGA virtualization usually assume plenty of FPGA resources and assign dedicated FPGA board to a user. However, this way of resource allocation limits the sharing of FPGA among users, resulting in inefficiencies of resource utilization and degradation of system per- formance. To avoid the waste of resources, partial reconfiguration (PR) based FPGA virtualization that supports the sharing of FPGA has been proposed. However, PR-based FPGA virtualization is having difficulty to expand the technology due to the lack of standardized interface. Requirements for efficient use of FPGA resources and provision of the standard interface have become more important, as cloud environments have recently shifted from resource-intensive and centralized form to limited-resource and distributed form, like Mobile Edge(Accessible) Cloud.
Because OpenCL has become an industry standard for use of FPGA, this thesis proposes and imple- ments FPGA virtualization (vFPGA) system that supports the execution of OpenCL kernel. Moreover, we propose a run-time management system and dynamic resource allocation scheme to efficiently allo- cate virtualized FPGA resources in vFPGA environments. The proposed dynamic resource allocation scheme, which is called as Reconfiguration Overhead aware Resource Allocation (RORA), minimizes the latency of all services in the system, taking into account the reconfiguration overhead and fitting problem of vFPGA resources. The experimental results showed that the proposed vFPGA system accommodate multiple users at a lower cost than the system with non-virtualized FPGA. Moreover, the proposed dy- namic resource allocation scheme showed the reduction of service latency when it is compared to static allocation.
최근 FPGA 가속기가 여러 응용 분야에서 탁월한 성능을 보임에 따라, FPGA를 하드웨어 가속기로 사용 하고자 하는 요구가 증가하고 있다. 이와 같은 FPGA 사용 요구에 맞추어, FPGA 가속기를 포함한 컴퓨팅 자원을 가상화된 인스턴스 형태로 대여해주는 FPGA as a Service(FaaS)를 지원하는 클라우드 프로바이 더들이 급증하고 있다. 가상자원을 기반으로 한 FaaS의 성장에 따라 FPGA 가상화에 대한 요구가 함께 증가하게 되었다. 그러나 현재까지 제안된 FPGA 가상화 기술들은 풍부한 FPGA 자원을 가정하여 사용자 마다전용FPGA를할당해주는방식의자원할당기법이주로사용되고있다. 이러한방식은사용자간 FPGA 공유를 제한하여 FPGA 자원 활용의 비효율을 야기하며, 이에 따른 긴 서비스 지연 속도를 초래한 다. 효율적인 자원 활용을 통한 서비스 지연 시간 감축을 위해 Partial Reconfiguration (PR) 기반의 FPGA 공유를 지원하는 가상화 기법이 제안되었으나, 해당 연구들은 표준화된 인터페이스 제공이 미비하여 기술 확장에 어려움을 겪고 있다. 효율적 자원 사용과 표준 인터페이스 지원에 대한 요구사항은 최근 클라우드 환경이 자원 집약적인 중앙집중적 형태에서 소규모 자원이 지역적으로 분포하는 모바일 엣지 클라우드와 같은 분산 클라우드 환경으로 변화함에 따라 더 중요시 되고 있다.
본 논문에서는 최근 FPGA 사용에 있어 산업 표준으로 채택되고 있는 OpenCL 기반 분산 클라우드 환경에서의 FPGA 가상화(vFPGA) 시스템을 제안하고 구현 한다. 뿐만 아니라 vFPGA 환경에서 가상화 된 FPGA 자원을 효율적으로 할당하기 위한 런타임 매니지먼트 모듈 및 동적 자원 할당 기법을 제안한다. 제안하는 동적 자원 할당 기법은 vFPGA 자원 특징인 로직 재구성 오버헤드 및 서비스 로직과 vFPGA자원 크기를 고려하여, vFPGA 환경에서의 응용 서비스 지연 시간을 최소화한다. 시험적으로 구현한 vFPGA 시 스템 상에서의 다양한 실험을 통해 제안하는 vFPGA 시스템이 PCIe pass-through와 같이 사용자간 FPGA 를공유하지않는시스템보다적은비용으로많은서비스를수용할수있음을보인다. 또한제안하는동적 자원 할당 기법을 적용함으로서 기존 연구들이 사용한 정적 자원 할당 기법 대비 최대 1.95 배의 서비스 지연 시간의 감축을 얻을 수 있음을 확인 하였다.
