Main memory is an essential component to maximize performance in computing environment such as data center, cloud system, and mobile devices. DRAMs are especially widely used as a main memory for consideration of its’ cost comparing to SRAMs and its’ performance comparing to HDDs or NAND flash memories. As demands for memory capacity grow, for programs such as big data analytics and in-memory databases, predicting the server peak memory usage became entangled. On the other hand, the average memory utilization is 50%, consuming unnecessary power from the unused server memories. Therefore deciding between expanding capacity and saving power becomes predicaments for server systems.
In this dissertation, we propose self-managed memory mechanisms by utilizing compression components;
if capacity is necessary, compression components expand capacity and if capacity expansion is not required the components reduces energy instead. This dissertation first proposes capacity expansion mechanism using memory compression. Unlike prior work which primarily focus on either capacities or decompression latencies, the proposed mechanism increases capacity without decreasing latency.
However expanding capacity by compressing data, regardless of the needs for expanding capacity, induces energy consumption. Therefore, we propose memory energy saving mechanism by reducing the number of refresh operations. Refresh operations consume growing portions of DRAM power with increasing DRAM capacity in systems. To reduce the power consumption of such refresh operations, this dissertation proposes a novel value-aware refresh reduction technique exploiting the abundance of zero values in the memory contents. The proposed refresh architecture transforms the value and the mapping of DRAM data to increase consecutive zero values, and skips a refresh operation for a row containing zero values entirely. The mechanism converts memory blocks to base and delta values, inspired by a prior compression technique. Once values are converted, bits are transposed to place consecutive zeros at the refresh granularity. By reducing the number of refresh operations, we achieved both energy savings and
performance gains
데이터센터, 클라우드 컴퓨팅 서버, 모바일 기기등의 컴퓨팅 기기에서 메인 메모리는 성능을 위한 필수적인 요소로 존재한다. 특히 DRAM은 가격적인 측면에서 SRAM보다 저렴하며 성능적인 측면에서 하드디스크나 NAND 플래시 메모리에 비해 빠르기 때문에 주 메모리로 널리 사용되고 있다. 최근 빅데이터로 인해 데이터가 무한하게 늘어남에 따라 메모리 용량 확장에 대한 요구가 커지고 있으나 무한하게 늘어나는 데이터 처리에 대한 메모리의 최대 필요 용량을 예측하는데 한계가 존재한다. 메모리 최대 사용량 및 필요 용량과는 반대로 메모리의 평균 사용량은 50% 전후에서 결정되어 지나친 메모리의 확장은 불필요한 메모리 전력 소모를 야기한다. 이로 인해 서버 시스템에서 메모리의 용량과 전력 문제를 동시에 해결해야 할 필요성이 대두 되었다.
본 학위 논문에서는 메모리 용량 확장이 필요할 경우 용량을 확보하고, 용량이 필수적이지 않을 경우 에너지를 절감 할 수 있는 자가 관리 메모리 구조를 제안한다. 먼저 용량 확장을 위해 최적화된 메모리 압축 기법을 제시한다. 기존의 압축 기법들의 경우 압축 비율과 압축/해제 속도 중 한 가지에만 최적화 되어있는데 반해, 제안하는 압축 기법은 압축 비율을 높이면서도 프로그램의 성능 저하를 최소화하는 기법이다.
그러나 메모리 용량이 부족하지 않은 경우에도 압축을 수행하는 것은 에너지 낭비를 초래하게 된다. 따라서, 두 번째로 메모리 리프레시 감소를 통한 에너지 절감 기법을 제안한다. DRAM은 용량이 커짐에 따라 리프레시에 더 많은 비율의 에너지를 소모하게 된다. 이를 감하기 위해 본 학위 논문에서는 값 기반 리프레시 절감 기법을 제시하고 이에 대한 효용성을 보인다. DRAM에서 0값에 대해서는 리프레시가 필요없다는 특성을 활용하여, 무손실 압축 모듈을 통해 데이터를 변환하여 0값이 더 많아지게 하고, 이를 적절히 배치하여 리프레시가 필요 없는 영역을 늘리는 기법을 제안하였고 이를 통해 에너지를 절감함과 동시에 추가적인 성능 향상을 도모하였다.
