Virtualization has become popular to improve system utilization by consolidating multiple servers into one physical system. In addition to the improved utilization, other benefits of virtualization such as flexible resource management, fault isolation, and support for different operating systems, led to the increased interest in the virtualization.
Virtualization changes the conventional computing structure. In the traditional computing structure, operating systems recognize the physical hardware asymmetry but the operating system in a virtual machine only knows the abstract hardware configuration provided by the hypervisor. In this environment, it is not meaningful that the operating system in a virtual machine recognizes the physical hardware asymmetry provided by the hypervisor. Because the virtual machine can migrate from a source machine to another machine with different hardware status. For example, virtual machines can migrate from a uniform memory access architecture machine to a non-uniform memory access architecture machine. In this situation, the hypervisor needs to be aware of the virtualized environment and provide the generalized abstract hardware to each virtual machine by converting the asymmetric hardware architecture to symmetric virtual hardware architecture. However, current virtualization technology cannot handle non-uniform memory architecture correctly. Thus we propose a scheduling policy which understands the non-uniform memory access architecture in the Xen virtual machine monitor. It is called NUMA-aware scheduling policy.
In the NUMA-aware scheduling policy, the number of memory requests in each node is monitored by the hot page number sampling method. Based on the number of memory requests in each node, each virtual machine selects the favor node with frequent memory requests. The vCPUs in each virtual machine is scheduled in the favor node with a high priority. The NUMA-aware scheduling policy achieves 27% performance improvement in a synthetic memory intensive application, and it shows average 10% performance improvement in PARSEC running with 2 vCPUs, and shows 4% performance improvement in PARSEC running with 4 vCPUs.
가상 머신은 비 효율적으로 이용되는 하나의 물리적 장치에 여러 개의 가상 서버를 위치시켜 시스템의 효율성을 증가시키는데 유용하기 때문에 요즘 많이 사용되고 있다. 게다가 가상화는 자원 이용률의 최대화뿐만 아니라 결함 내성, 이식성, 관리성에 장점을 지니고 있어 컴퓨팅 클러스터를 만들 때 더욱 많은 관심을 가지게 되었다.
한편 단일 코어의 속도 경쟁에 한계를 느낀 컴퓨터 설계자들은 기본 디자인 양식을 고쳐 하나의 칩 안에 여러 개의 코어를 넣는 멀티코어 구조를 채택하게 되었다. 하나의 칩 안에 다수의 코어를 넣는 경쟁 속에, 단일 머신의 성능을 높이기 위해서 단일 머신 내에도 최대한 많은 코어를 담기 위한 노력이 있어왔는데, 하나 이상의 소켓에 멀티코어 칩셋을 설치하는 방법으로 단일 머신 내의 코어 수를 늘리기 시작하였다. 이 덕분에 이전에 단일 코어 여러 개를 메인보드에 설치하여 성능을 향상시키기 위하여 노력하였던 멀티 프로세서 시스템과 유사한 구조를 가지게 되었다. 특히 멀티프로세서 시스템과 달리 여러 개의 멀티 코어가 다중으로 구성되었기 때문에 멀티프로세서 시스템에서 가진 여러 가지 문제점이나 주제들이 더 큰 의미를 가지게 되었는데 그 중 하나가 메모리 비 대칭 메모리 구조이다.
멀티프로세서 시스템 하에서 메모리는 각각의 소켓에 종속되어 설치되었기 때문에 자신의 소켓 내의 메모리 접근 지연시간과 다른 소켓 내로 접근할 때 메모리 접근 시간이 달라지게 되는데, Xen 가상 머신 모니터에서는 가상 코어를 물리적 코어에 배정 할 때 이와 같은 문제를 인식하지 않고 처리를 하게 된다. 그렇기 때문에 적절하지 않은 소켓에 가상 코어를 배정하게 되어 평균 메모리 접근 시간이 길어질 수 있는 문제가 생길 수 있다. 그렇기 때문에 Xen 가상 머신 모니터에서 가상 코어를 스케줄링 할 때 메모리 비 대칭성을 고려하여 스케줄링을 해야 한다.
이 논문에서는, 공유 메모리 구조의 응용프로그램 모음인 PARSEC과 Message Passing Interface기반의 응용프로그램 모음인 NAS Parallel benchmark를 이용하여 기본 Xen 스케줄러 상에서 가상 코어 및 가상 머신의 개수를 변화시켜가며 메모리 비 대칭성이 어디서 어떻게 어떤 영향을 끼치는지 살펴 볼 것이며 왜 메모리 비 대칭성이 가상 머신의 실행 시간에 영향을 미치는지 고찰해 볼 것이다. 마지막으로 잦은 페이지 접근 추출 기법을 통해 메모리 비 대칭성을 스케줄링 할 때 고려하는 NUMA-aware 스케줄링 기법을 제안하고 이것의 효과를 평가 한다.
NUMA-aware 기법을 사용하였을 때, 다른 응용프로그램들의 실행시간에는 영향을 미치지 않고 잦은 메모리를 사용하는 응용프로그램들의 성능을 향상 시킬 수 있었다.
