Cloud computing is one of the most broadly used in computer science and industry today. The cloud computing typically use virtualization technology, and this technique allows servers and data storage to be shared and utilization be improved. It enables multiple guest virtual machines to efficiently share the same physical resources. Virtualization systems need to reduce some defect causing shared resources compared to conventional systems. Especially in a cloud computing environment coupled with billing policies, the important issue is to maintain each performance consistency for guest virtual machines rather than overall system throughput. There are many shared resources to determine the consistency in a physical machine. The shared cache contention on a hypervisor causes performance degradation to virtual machines and reduces system performance consistency. We will mainly discuss the shared last level cache (LLC), one of the traditional computer architecture and operating systems issues that has caused numerous of stall cycles when LLC misses occur. Furthermore, we will discuss improving the overall performance throughput as well as the performance consistency. To address these factors, we describe supposed mechanism called IoVT (Isolation of Virtual-machine Thrashing). The IoVT make separates the LLC into two zones, called isolation zone for thrashing virtual machines and conventional zone in order to maintain LRU based shared cache policy. By using this simple software technique, the conventional cache can reduce interference between guest virtual machines; IoVT was shown to significantly reduce the performance variation. In this paper, we explore the proposed mechanism with experiments on real virtualization systems. By applying IoVT, improve throughput improved by 5.57%, and performance consistency increased by 355%. The results show that our scheme, a simple software technique, can maintain the performance consistency for guest virtual machines compared with conventional LRU based shared cache systems.
클라우드 컴퓨팅이 유연성, 에너지 효율, 확장성의 이유로 관심이 고조됨에 따라 많은 이슈가 되고 있다. 클라우드 컴퓨팅의 핵심기술로 가상화 기술이 사용되는데, 이 기술은 하이퍼바이저라는 새로운 소프트웨어 레이어를 도입하여 실제 물리 머신의 자원을 추상화하고, 이를 통해 다수의 가상 머신의 동작을 가능하게 하며 각 가상 머신 위에서 운영체제를 동작 시킬 수 있는 기술이다. 하지만, 이러한 가상화 기술을 통해 다수의 운영체제들이 자원을 공유하게 되면서 예상치 못하는 성능 저하를 야기시킬 수 있다. 특히 전통적으로 중요한 컴퓨터 아키텍쳐 및 운영체제 분야의 이슈인 공유 캐시의 경우, 다수의 가상 머신 혹은 운영 체제에 의해 제어되지 않은 캐시 사용으로 많은 최종 레벨 캐시 미스를 발생시키면, 성능의 일관성뿐만이 아니라 시스템 전체의 큰 성능 저하를 야기시킨다. 가상 머신간의 간섭은 요금 정책 모델을 기반의 클라우드 컴퓨팅 환경에서는 큰 문제를 야기 시킬 수 있을 뿐만 아니라 시스템 성능에도 밀접한 영향을 미치게 된다. 하지만, 현재 가상화 층에서 공유 캐시의 성능 일관성을 지키기 위한 노력을 하지 않고 있다. 본 연구에서 우리는 IoVT라는 새로운 방법을 통해 가상화 층에서 적절한 제어를 통해 캐시의 성능 향상 및 비일관성을 완화 하려고 한다. IoVT는 이론적 배경과 페이지 컬러링이라는 공유 캐시 분할 기법을 바탕으로 최종 레벨 캐시를 두 개의 공간으로 분할하여 각 가상 머신의 특징에 알맞은 정책을 적용함으로써 기존의 공유 캐시 구조에 비해 성능의 비일관성 완화 및 성능 향상을 달성하였다.
