The proposed AI processor Architecture has high throughput for accelerating the neural network and re-duce the required external memory bandwidth for processing the neural network.
For high throughput, the proposed super thread core (STC) includes 128 x 128 Nano Cores operating at 1.2GHz clock frequency. To reduce the required external memory bandwidth for reading all the kernel and feature data of the neural networks. The unified memory for kernel and feature data is proposed. Also, Using Smart Power-gating (Smart PG), the part of 16,384x NCs is powered and operating. The function-safe architecture is proposed for a fault tolerance system such as the electronics system for the autonomous car. The general-purpose processor core (GPP) is integrated with STC for controlling STC and processing AI algorithm and has the self-recovering cache and dynamic lockstep (DLS) function. the function-safe design has proved the fault performance has ASIL D of ISO26262 standard fault tolerance levels Therefore, the entire AI processor is fabricated in the 28nm CMOS process as a prototype chip. Its peak computing performance amounts to 32TFLOPS at 1GHz with 1.1V supply voltage. The measured 1.07TOPS/W energy efficiency is. a general-purpose processor for control with a function-safe design can have a 99.64% single-point fault tolerance rate.
제안 된 AI 프로세서 아키텍처는 높은 처리량을 위해 제안 된 Super Thread Core(STC)에는 1.2GHz 클럭 주파수에서 작동하는 128 x 128 나노 코어가 포함된다. 신경망의 모든 커널 및 기능 데이터를 읽는 데 필요한 외부 메모리 대역폭을 줄이기 위해 커널 및 기능 데이터를 위한 통합 메모리를 제안했다. 통합 메모리에서 데이터와 명령을 읽고 쓸 때 Power-Gating을 통해 모든 나노 코어의 전원을 끌 수 있다. 기능 안전 아키텍처는 자율 주행 자동차 용 전자 시스템과 같은 내결함성 시스템을 위해 제안되었다. 범용 프로세서 코어는 STC를 제어하고 AI 알고리즘을 처리하기 위해 STC와 통합되어 있으며 자체 복구 캐시 및 동적 잠금 단계 기능이 있다. 기능 안전 설계는 ISO26262 표준을 기반으로 하는 결함 분석을 사용하여 ISO26262 2nd Edition Standard에서 제안되고 채택 된 결함 주입 시스템을 사용하여 ISO26262 표준 결함 허용 수준의 ASIL D가 있음을 증명하였다. AI 프로세서는 28nm CMOS 프로세스에서 프로토타입 칩으로 제작되었다. 1GHz에서 32TFLOPS이고, 1.07TOPS / W 에너지 효율이며, 기능 안전 설계로 제어를 위한 범용 프로세서는 99.64 %의 단일 지점 내결함성 비율을 가질 수 있다.
