Recently, a manycore system with NUMA (Non-Uniform Memory Access) architecture is being used widely. Especially, due to cost efficiency and resource management capability, service providers consider virtualization on the NUMA system as their underlying target system.However, a data access on the NUMA system may experience different latency depending on node locations of the core issued it and the target data. The virtualization needs some optimizations considering this characteristic to accomplish its goals such as performance isolation, resource utilization, and so on on the NUMA system. Therefore, through this dissertation, we will present a research topic to enhance the virtualization on the NUMA system: "Credit-based Runtime VM Placement on a NUMA system for QoS of data access performance".
$\bullet$ Credit-based Runtime VM Placement on a NUMA system for QoS of data access performance: Each virtual machine (VM) running on the NUMA system may have different data access performance depending on the shared resource contentions and remote access conditions. The data access performance also varies with time due to changeable data access pattern of other VMs and core scheduling and memory placement decisions of a hypervisor. On existing hypervisors, such as Xen, VMware, and KVM, users of VMs cannot recognize or predict their data access performance that they have received or will receive.
In the first part of this dissertation, we attempt to resolve these issues pertaining to
irregular data access performance of VMs running on the NUMA system by relocating virtual CPU and memory of VMs dynamically. A hypervisor with our scheme can provide the illusion of a private memory subsystem to each VM, which guarantees the latency defined at initial time of the VM for incoming data access requests on average. For this purpose, using hardware PMUs, the hypervisor evaluates the average data access latency of each VM. We define a per-VM metric of data access performance, called Mcredit, which is the accumulation of the pre-defined latency subtracted from the average data access latency evaluated. Based on the per-VM Mcredit, our migration algorithm, termed Mcredit-based migration algorithm, can migrate the VCPU or memory of the VM with the largest Mcredit value greater than zero to a proper node, giving the VM improved data access latency.
최근 매니코어 시대가 도래하면서, 비균등한 메모리 구조를 지니는 NUMA 구조가 각광 받고 있다. 이러한 매니코어 시스템을 주로 사용하는 서비스 제공자들은, 가격 경쟁력과 자원관리 효율성을 목적으로 하여, NUMA 구조에 가상화를 적용한 시스템을 서비스의 기저 시스템으로 차용하고 있는 추세이다. NUMA 구조는 데이터 접근시 코어와 메모리 간의 거리 및 자원 접근 충돌 상황에 따라 다른 접근 시간을 지니는 특징을 지니고 있기 때문에, NUMA 구조의 가상화가 각 VM(가상머신)의 성능 보장 및 효율적인 자원 활용 등의 가상화 목표를 달성하기 위해서는 NUMA구조의 특징을 고려한 가상화 기법을 추가로 필요로 한다. 본 학위 논문에서는 가상화를 위해 NUMA 구조를 고려한 스케쥴링 및 메모리 마이그레이션 기법을 제안한다.
$\bullet$ 가상 머신 별 데이터 접근 성능을 계량하여 NUMA 구조에서 데이터 접근 성능 공정성을 제공하는 가상머신 CPU 스케쥴링 및 메모리 마이그레이션 기법: NUMA 시스템은 UMA 시스템과 달리 여러 개의 메모리 데이터 접근 경로를 지닐 수 있으며, 원격 메모리 접근의 여부와 공유 자원 충돌의 정도에 따라 각 경로 별로 메모리 접근에 걸리는 시간이 상이하다. 이러한 특성 하에서 각 VM은 시간에 따라 상이한 메모리 접근 성능을 지닐 수 있는데, 기존의 하이퍼바이저에서는 이에 대한 고려가 없어 각 VM이 랜덤한 메모리 접근 성능을 갖게 된다. 본 연구에서는, 각 VM별 데이터 접근 성능을 보장하기 위하여, 각 VM에게 요구 메모리 접근 성능을 선언할 수 있도록 하고, 실제 각 VM의 메모리 접근 성능을 PMU 를 통해 모니터링 한다. 요구되었던 메모리 접근 성능과 실제 메모리 접근 성능의 차이를 Mcredit이라 정의하고, 각 VM은 각기 다른 Mcredit의 값을 갖는다. 높은 Mcredit의 값을 지니는 VM은 원하는 메모리 접근 성능에 못미치는 메모리 접근 성능을 갖고 있는 것이므로, VCPU 및 메모리 마이그레이션을 통해 이러한 VM들에게 더 좋은 메모리 접근 성능을 지니는 메모리 접근 경로를 사용할 수 있도록 한다. 본 연구의 마이그레이션 알고리즘은 이러한 VCPU 및 메모리 마이그레이션을 통해 가능한 한 모든 VM들의 Mcredit 값을 0 이하로 유지시켜서 모든 VM들이 각각 원하는 메모리 접근 성능을 지닐 수 있도록 하는 것을 목적으로 한다.
