With the growing importance of in-memory data processing, cloud providers have launched large memory virtual machine services to accommodate memory-intensive workloads. However, it is a challenging task for the cloud providers to expand the large virtual machine services further while retaining the cloud economics. Such large memory services using scaled-up machines are far less cost-efficient than scaled-out services with volume commodity servers. Exploiting memory usage imbalance across cloud nodes, disaggregated memory can provide a cost-effective way to scale memory capacity.
The hypervisor-integrated design has several new contributions in disaggregated memory design and implementation. First, with the tight integration, it investigates a new page management mechanism and policy tuned for disaggregated memory and restructures the memory management procedures which relieves the scalability bottlenecks. Second, exploiting page access records available to the hypervisor, it supports application-aware elastic block sizes for fetching indirect memory pages with different granularities. Third, we propose a new Service-Level Agreement (SLA) model that benefit both cloud consumers and providers, and the performance prediction model necessary to support the new SLA. Fourth, when only partial memory traces are available, a dual counter-based memory profiling is developed to dynamically determine the memory capacity to fulfill the new SLA. Finally, to complement the profiling with partial memory traces, the replacement mechanism in direct memory supports the memory tracing for the LRU group of pages.
With the new SLA support, the possible performance degradation of disaggregated memory over the ideal large memory machine is curtailed within a contracted margin. The experimental results show that the disaggregated memory dynamically chooses the best block configuration and controls a performance degradation compared to the large memory machine, even though the profiler requires lower computation cost than the balanced tree-based reuse distance profiler. Also, it requires only 0.1% of memory footprint of the balanced tree-based reuse distance profiler.
최근 인-메모리 데이터 처리의 증가에 따른 대중화된 메모리 집중적 워크로드들를 지원하기 위해 클라우드 서비스 제공자는 대용량 메모리 가상머신 서비스를 시작했다. 그러나 클라우드 제공자가 클라우드 경제성을 유지한 채 대용량 가상머신 서비스를 제공하는 것은 어려운 작업이다. 본 학위논문은 메모리 용량을 확장을 위한 비용효과적인 방법을 제시한다.
메모리 분리를 위한 가상머신모니터 통합 디자인은 첫째, 긴밀한 통합으로 메모리 분리에 적합하게 조정 된 새로운 페이지 관리 메커니즘과 정책을 제시하고 확장성에 대한 병목 현상의 완화를 위해 메모리 관리를 재구성한다. 둘째, 가상머신모니터 수준에서 접근 가능한 페이지 참조 기록을 활용하여 응용의 메모리 참조 패턴에 기반한 탄성블록을 지원한다. 셋째, 클라우드 소비자와 공급자 양측에게 이익이 되는 새로운 서비스 수준 계약 모델과 새로운 서비스 수준 계약을 지원하기 위한 성능 예측 모델을 제안한다. 마지막으로 부분 메모리 트레이스만을 사용하는 제안된 듀얼 카운터 기반 메모리 프로파일링을 기반으로 서비스 수준 계약을 만족시키기 위한 동적 메모리 구성을 결정한다.
이상적인 대용량 메모리 시스템에 비해 메모리 분리 시스템으로 인한 성능저하는 새로운 서비스 수준 계약 지원으로 인해 계약 내에서 제어되어야 한다. 이를 위해 메모리 분리 시스템이 동적으로 최상의 블록 구성을 선택하고 목표한 성능저하가 제안된 재사용 거리 프로파일러를 통해 비용 효과적으로 제어됨을 제시한다.
