Computing-in-memory (CIM) shows high energy-efficiency through the analog DNN computation inside the memory macros. However, as the DNN size increases, the energy-efficiency of CIM is reduced by external memory access (EMA). One of the promising solutions is eDRAM based CIM to increase memory capacity with a high density cell. Although the eDRAM-CIM has a higher density than the SRAM-CIM, it suffers from both poor robustness and a low signal-to-noise ratio (SNR). In this work, the energy-efficient eDRAM-CIM macro is proposed while improving computational robustness and SNR with three key features: 1) High SNR voltage-based accumulation with segmented BL architecture (SBLA), resulting in 17.1 dB higher SNR, 2) canceling PVT/leakage-induced error with common-mode error canceling (CMEC) circuit, resulting in 51.4% PVT variation reduction and 51.4% refresh power reduction, 3) a ReLU-based zero-gating ADC (ZG-ADC), resulting in ADC power reduction up to 58.1%. According to these new features, the proposed eDRAM-CIM macro achieves 81.5-to-115.0 TOPS/W energy-efficiency with 209-to-295 μW power consumption when 4b×4b MAC operation is performed with 250 MHz core frequency. The proposed macro also achieves 91.52% accuracy at the CIFAR-10 object classification dataset (ResNet-20) without accuracy drop even with PVT variation.
Computing-In-Memory (CIM)는 아날로그 심층신경망 연산을 메모리 마크로 안에서 하면서 높은 에너지 효율을 보여준다. 하지만, 심층신경망 크기가 커짐에 따라 외부 메모리 접근량이 증가하게 되고 인메모리 컴퓨팅의 에너지 효율이 감소한다. 이러한 문제의 해결법으로 eDRAM기반 인메모리 컴퓨팅 기술 (eDRAM-CIM)이 제안되었다. eDRAM은 높은 메모리 셀 밀도를 바탕으로 메모리 용량을 높여 외부 메모리 접근량을 줄일 수 있다. eDRAM-CIM이 SRAM-CIM에 비해 메모리 셀 밀도가 더 높긴 하지만, 신호 대 잡음비 (SNR)이 낮다는 문제점을 갖고 있다. 해당 논문에서는, SNR을 높이면서 에너지 효율도 높인 eDRAM-CIM 마크로를 3가지 피처와 함께 제안하였다. 1) 분할 비트라인 구조 (SBLA)를 활용한 SNR이 높은 전압 기반 연산 방식을 제안하여 SNR을 17.1 dB 높여주었다. 2) 공통 모드 오류 상쇄 회로를 제안하여 PVT와 누설전류에 강건한 연산을 가능하게 하였으며 이를 통해 PVT 변화로 인한 에러를 51.4% 줄여주었고, 메모리 리프레시 전력을 51.4% 줄여주었다. 3) ReLU기반 제로 게이팅 ADC를 제안하여 ADC 전력을 58.1% 줄여주었다. 이러한 새로운 피처들을 통해, 제안된 eDRAM-CIM 마크로는 250 MHz 주파수에서 81.5-115.0 TOPS/W의 에너지효율을 달성하였다. 또한 제안된 마크로는 CIFAR-10 객체 분류를 위한 심층신경망 연산을 할 때 PVT 변화에도 91.52%의 정확도를 달성하였다.
