NAND flash memory has become the essential storage medium for various new-fashioned storage devices, such as smartphones, tablet PCs, Solid State Drives (SSDs), and boasts many useful features. However, NAND flash memory has some idiosyncrasies, such as out-of-place updates and bulk erase operations. It is a key issue to improve the performance of write operations in NAND flash-based storage systems, simply called flash storage systems. In addition to improving I/O performance, in mobile devices, energy saving is another major concern due to limited battery capacity. The performance and energy efficiency of flash storage systems are strongly influenced by the system software, such as operating systems and Flash Translation Layers (FTLs). This dissertation proposes three kinds of novel software-based performance and energy-efficiency improvement techniques for flash storage systems.
First, there have been several studies on reducing the garbage collection overheads of FTL by rearranging write patterns in a sequential form in the operating system and device buffer. However, this one-sided approach cannot deliver completely sequential write patterns to FTL with random write requests, and FTL still suffers from large garbage collection overheads. If the operating system and device buffer can be made aware of the write patterns that FTL desires, the overheads can be alleviated even under random write patterns. This dissertation presents a system-wide cooperative optimization scheme, where the operating system and device buffer preferentially issue the write requests that can reduce the FTL overheads by inquiring into the state of FTL with the newly-defined cooperation interface.
Second, the internal device cache of flash storage devices, such as SSDs, also has a significant impact on I/O performance. The device cache is used for two main purposes: to absorb frequent I/O requests and to store FTL mapping information. In the device cache, we observed that the optimal ratio of the data buffering and mapping spaces changes according to workload characteristics. To achieve optimal performance in flash storage devices, the device cache should be appropriately partitioned between the two main purposes. This dissertation proposes an adaptive partitioning scheme that adopts a cost-benefit model based on ghost caching in order to adaptively tune the ratio of buffering and mapping in the device cache according to workload variation.
Third, for energy saving in hard disk-based storage systems, a flash-based cache can be used for reducing disk activities and prolonging disk spin-down time. During the spin-down time, write requests can be temporarily stored in the flash cache, whereas read requests should be carefully handled to avoid frequent disk spin-ups caused by background applications. This dissertation presents best-effort energy saving techniques that make the best use of the flash-based hybrid storage to provide low energy consumption, even with many background applications running. In addition, the proposed techniques do not impair the predefined lifetime of the hybrid storage by considering the limited block erase and load/unload cycles of the flash memory and hard disk, respectively.
The proposed techniques have been implemented on a real mobile device and on several trace-driven simulators, and were evaluated with widely-used storage benchmarks and realistic I/O workloads. The experimental results demonstrate that the proposed techniques considerably improve the performance and energy efficiency of flash storage systems, compared with previous studies.
낸드 플래시 메모리는 빠른 랜덤 연산과 저전력 등 유용한 특징들을 바탕으로 스마트폰과 SSD 등 다양한 스토리지 장치의 핵심적인 저장 매체로 자리 잡았다. 하지만 낸드 플래시는 덮어 쓰기 연산이 지원되지 않고 지우기 연산이 필요하다는 단점을 갖고 있고 그로 인해 플래시 기반 스토리지 장치에서 랜덤 쓰기 연산의 성능을 높이는 것이 중요한 문제로 부각되었다. 성능 뿐만 아니라 특히 모바일 장치에서는 전력 소비를 줄이는 것이 또 하나의 중요한 과제다. 플래시 기반 스토리지 시스템의 성능과 전력소비는 운영체제와 FTL 등 시스템 소프트웨어의 알고리즘에 따라서 달라지게 되며, 본 논문은 낸드 플래시 기반 스토리지 시스템의 I/O 성능과 전력 효율성을 향상시키기 위한 세 가지 새로운 소프트웨어 기반 기법들을 제안한다.
첫째, 낸드 플래시 기반 스토리지 시스템의 I/O 성능을 향상시키기 위해 호스트의 페이지 캐시와 I/O 스케쥴러, 플래시 스토리지 내부의 디바이스 버퍼와 FTL 등 각 계층간의 협력적인 최적화 기법을 제안한다. 특히, 새로 제안한 인터페이스를 통해 플래시 스토리지의 현재 상태를 조회하여 FTL의 오버헤드를 최소화 할 수 있는 데이터들을 우선적으로 플래시 스토리지에 전송시킴으로써 성능을 향상시킨다. 제안한 기법을 두가지 종류의 플래시 스토리지 장치(eMMC/microSD 기반 모바일 장치와 SSD와 같이 디바이스 버퍼를 가진 장치)에 구현 및 적용하였다. 다양한 스토리지 벤치마크와 실제 시스템의 워크로드를 사용해 성능을 측정한 결과 작업처리량이 늘어나고 대기시간이 줄어드는 효과가 있었다. 예를 들어, SysBench 결과에서 작업처리량이 평균 93.9\% 증가하였다.
둘째, 플래시 스토리지 장치 내부의 DRAM 기반 캐시(디바이스 캐시)의 이용률을 높임으로써 I/O 성능을 향상시키기 위한 연구이다. 일반적으로, 디바이스 캐시의 일부는 데이터 캐시로 나머지는 FTL 매핑 캐시로 사용이 되는데, 본 논문은 이 두 가지 캐시의 최적의 비율을 제공하기 위한 적응적 분할 기법을 제안한다. 가상 캐시를 이용한 비용-편익 모델에 기반하여 비용-편익이 높은 캐시에 더 많은 공간을 할당함으로써 워크로드 특성에 따른 최적의 공간 비율을 자동으로 찾는다. 다양한 실제 워크로드를 사용한 시뮬레이션 결과는 제안한 기법이 고정된 비율을 사용하는 분할기법이 제공하는 최고의 성능에 근접한 성능을 나타냄을 보여준다. 제안한 기법을 통해 플래시 스토리지 장치가 다양한 워크로드를 가진 환경에서 성능 튜닝을 하지 않고도 쉽게 사용될 수 있는 방편을 마련하였다.
셋째, 하드디스크 기반 시스템에서 전력 소비를 줄이기 위해, 디스크가 정지한 동안 플래시 캐시가 I/O 요청을 대신 처리할 수 있는데, 이때 어떤 데이터를 캐시에 저장할 것인지와 언제 디스크를 정지시킬 것인지를 결정하는 것은 중요한 문제다. 본 논문에서는 이 문제를 해결하기 위한 새로운 정책 두 가지를 제안한다. 먼저, 새로운 캐싱 정책의 일환으로, 디스크가 동작중일 때 읽기 요청 뿐만 아니라 쓰기 요청도 캐싱할 후보로 고려하여 캐시의 데이터 무효화 현상을 제거함으로써 디스크의 정지 시간을 연장시킬 수 있는 정책을 제안하였다. 다음으로, 디스크를 적절한 시기에 정지시키기 위한 새로운 정책으로, 캐시의 효율성이 높은 경우에 디스크를 보다 이른 시점에 정지시킬 수 있는 정책을 제안하였다. 제안한 정책들은 제한된 횟수의 디스크의 정지/시작 사이클과 제한된 횟수의 플래시 지우기 연산을 고려하여 지정된 장치 수명을 보장할 수 있도록 설계되었으며 전력 소비가 평균 38.8\% 감소하였다.
본 연구를 통해, 협력적 최적화와 DRAM/Flash 기반 캐시를 활용한 소프트웨어 기반 기법들이 다양한 낸드 플래시 기반 스토리지 시스템의 I/O 성능과 전력 효율성을 크게 향상 시킬 수 있음을 확인하였다.
