While today cloud computing service provides guaranteed non-networking computing resources such as CPU and memory, it do not offer the guarantees for intra-cloud network bandwidth. The lack of bandwidth guarantees prevent tenants from predicting performance boundary of their applications, and current pricing schemes do not consider the bandwidth-usage for each individual. Recently, researchers have
presented the cloud datacenter virtualization to provide bandwidth guarantees but, previous solutions have some limitations: The static allocation is inefficient because they are not work- conserving. The static-and-recalibration scheme is impractical because they require complicated support at datacenter to achieve work-conservation.
In this paper, we propose Maestro, a statistical service model for providing intra-cloud bandwidth guarantees. To allow tenants to specify statistical demand, we newly design a virtual datacenter abstraction called, statistical hose-model. Maestro offers statistical bandwidth guarantees instead of deterministic guarantees to satisfy statistical demand. Maestro can (1) save bandwidth (2) and achieve
work-conservation through statistical multiplexing without any enforcement module. Maestro enforces only the SLA inside hypervisor with low complexity.
We simulate each component of Maestro. First, we show an usefulness of statistical hose-model compared with deterministic VDC of Oktopus. Also, we simulate our admission control module with 10,000 tenants in large-scale datacenter which consists of 16,000 physical servers. We show that Maestro can achieve higher acceptance ratio and higher average QoS than static scheme. Also, we show that our SLA enforcement module has less than 1% error.
현재 클라우드 컴퓨팅 사업자들은 CPU, memory와 같은 비네트워크 컴퓨팅 자원과는 달리 사용자의 인트라 클라우드 네트워크의 대역폭을 보장하지 않는다. 이러한 대역폭 보장의 부족은 고객이 자신의 네트워크 어플리케이션의 성능을 예상하는데 어려움을 겪도록 한다. 또한, 사업자들의 과금정책은 각 사용자가 얼만큼의 대역폭을 사용했느냐를 고려하지 못하며, 고객들에게 커다란 경제적 손해를 가져온다.
최근 연구에서는 인트라 클라우드 네트워크의 대역폭 보장 문제를 해결하기 위해 클라우드 데이터 센터의 가상화 솔루션을 제안하였으나 많은 한계점을 드러내고 있다. 일정한 양을 할당하는 방식은 작업보장성을 달성하지 못하여 비효율적인 자원관리를 초래하고, 일정한 양을 할당한 후에 재계산과정을 거쳐 작업보장성을 달성하는 방식은 스위치 혹은 하이퍼바이저에 높은 복잡도의 작업을 요구하여 실용적이지 못하다.
우리는 인트라 클라우드의 대역폭 보장을 위한 통계적 서비스 모델인 Maestro를 제안한다. 고객의 통계적 요구사항을 받아들이기 위하여 통계적 호스모델이라는 새로운 요청방식을 정의하였다. Maestro는 고객이 원하는 만큼을 정확히 보장할 수 있는 방식대신, QoS를 요청받고 100% 이하의 통계적 보장을 제공한다. 이러한 통계적 보장을 이용하여 통계적 다중화를 적용할 수 있으며, 결과적으로 어떠한 후작업 없이 (1) 대역폭을 절약하고, (2) 작업보장성을 달성할 수 있다. Maestro는 사업자와 고객간의 계약이 정확히 지켜지도록 속도를 제한시키는 낮은 복잡도의 후작업만을 요구한다.
우리는 마에스트로의 각 구성요소를 다음과 같이 시뮬레이션하였다. 통계적 호스모델이 기존의 요청방식보다 대역폭에 대하여 더 낮은 민감성을 가지는 것을 보였다. 또한, 진입제어 모듈을 10,000명의 고객과 16,000개의 서버를 가지는 트리 기반의 데이터센터에서 시뮬레이션하여, 더 많은 고객을 서비스할 수 있고, 더 높은 서비스 품질 보장을 제공한다는 것을 증명했다. 통계적 속도 제한 알고리즘은 정규분포 뿐만 아니라 버스티 트래픽에 대해서도 정확히 동작함을 보였다. 또한, 속도제한 알고리즘은 1% 이하의 에러를 가짐을 보였다.
