Three-dimentional (3D) integration is one of the most promising approaches to increase cache bandwidth and to reduce the wire length and thereby, the delay and transmission power consumption. But, high power density in 3D IC due to high integration incurs significant leakage current increment which leads to high static energy consumption. In deep sub-micron technologies, leakage current problem in 3D-stacked large L2 cache is more serious than in conventional 2D ICs. In this paper, to mitigate the static energy consumption of L2 cache in 3D IC, we firstly propose a selective cache compression approach coupled with SRAM power-gating technique for L2 cache in 3D IC. We select cache lines to be compressed according to the access characteristics in a dynamic manner, which reduces the decompression overheads and thereby reduces the overall energy consumption. We also employ a special temporal buffer between decompression engine and L1 cache to further reduce the energy consumption. The experimental results show that our approach achieves up to 40% (average 22%) energy reduction with negligible performance overhead compared with the conventional cache management policy.
3차원으로 적층된 집적 회로는 기존 2차원 집적회로의 인터커넥션 길이를 줄여줆으로써 고성능이 가능하며, 기능 로직간의 통신 전력을 감소시켜주는 새롭게 대두되는 첨단기술이다. 3차원 집적회로는 TSV(Through silicon via)기술을 이용하여 서로 다른 메모리 기술이나 로직 층의 집적이 가능하며 높은 대역폭의 제공이 가능하다. 하지만 3차원 집적 기술은 단위 공간 당 트랜지스터와 같은 소자들의 밀도가 높으므로 인해 여러 가지 문제가 발생하게 된다. 그 대표적인 예가 높은 전력 밀도로 인해 온도 문제를 일으키며 이는 신뢰성 및 누수 전력의 증가를 초래한다. 누수 전력은 다시 온도의 증가를 일으키는 악순환을 불러 일으키게된다. 프로세서에서 레벨 2 캐쉬가 차지하는 누수 전력의 비율은 사이즈가 커질 수록, 3차원 일수록 또한 미세공정 일수록 전체 누수전력의 상당 부분을 차지한다. 그러므로 3차원 적층 레벨 2 캐쉬의 누수 전력 문제를 다루는 것은 중요한 문제가 될 수 있다.
본 연구에서 3차원 적층 레벨 2 캐쉬의 누수 전력을 최소화하기 위한 방법으로 파워 게이팅 기술과 결부된 캐쉬 압축 방법을 제시한다. 기존의 캐쉬 압축 방식은 캐쉬를 압축 해제하는데 드는 오버헤드를 무시함으로써 인해 이로 인해 기인하는 에너지 증가의 결과를 고려하지 않았다. 즉, 자주 사용하는 데이터를 압축 했을 때는 압축을 해서 얻게 되는 에너지 감소보다 압축을 해제하는데 들어가는 오버헤드가 더욱 크게 되므로 이는 오히려 에너지 증가를 가져오게 된다. 구체적으로 압축을 해제 함으로써 들어가는 에너지 오버헤드는 코어와 레벨 2 캐쉬 층의 누수 전력의 증가분을 말한다. 본 연구에서 제안하는 방식은 자주 사용하지 않는 데이터만 압축을 하고 자주 사용하는 데이터는 압축을 하지 않음으로써 에너지 감소 최소화를 이루는 것이다. 자주 사용하는 데이터와 자주 사용하지 않는 데이터를 구별하는 방법은 태그 필드에 다운 카운터를 두어 구별하는 방법이 있다. 일정한 시간이 지나면 주기적으로 카운터의 값을 1씩 감소시키며 캐쉬 라인에 대한 접근이 있게 되면 다시 원래의 값으로 설정한다. 일정 시간 TI (Time Interval)값이 지나면 카운터 값을 확인하여 `0`의 값을 가지게 되면 캐쉬 라인을 압축해서 저장하여 나머지 부분은 전원을 차단하여 에너지 감소시킬 수 있다. 더불어 Decompression buffer를 두어 추가적으로 누수 전력을 감소시킬 수 있다. TI 값이 지난 후 캐쉬 라인이 압축 되서 저장 되게 되는데 저장 된 이후 곧 바로 그 캐쉬 라인을 엑세스 하게 되면 불필요한 에너지 오버헤드가 생기게 된다. 이러한 오버헤드를 줄이기 위하여 decompression 장치와 레벨 1 캐쉬 사이에 decompression buffer를 두어 이러한 문제를 해결 할 수 있었다.
본 학위 논문에서는 선택적 압축을 통하여 3차원 적층 된 레벨 2 캐쉬의 누수 전력 최소화에 대해 고찰하였다. 캐쉬 압축으로 획득 할 수 있는 에너지 감소와 캐쉬 압축으로 인해 발생하는 에너지 오버헤드 트레이드 오프 관계를 적절히 조절하여 에너지 소모를 최소화 하였다. 실험 결과 무조건 적인 캐쉬 압축을 했을 때 보다 누수 전력을 최대 40% (평균 22%) 감소 시켰다.
