In the last decade, the dedicated graphics processing unit (GPU) has emerged as an architecture for high-performance computing workloads. Recently, researchers have also focused on the isolation property of a dedicated GPU and suggested GPU-based secure computing environments with several promising applications. Through implementations and security analysis, they have claimed that a dedicated GPU can be leveraged as a secure processor in the presence of a kernel-privileged attacker. However, despite the security analysis conducted by the prior studies, it has been unclear whether a dedicated GPU can support secure execution environment against a kernel-privileged attacker. In this dissertation, we first investigate the security of dedicated GPUs through comprehensive studies on context information for GPU kernel execution. We show that a kernel-privileged attacker can manipulate the GPU contexts to redirect memory accesses or execute arbitrary GPU codes on the running GPU kernel. Furthermore, we introduce the installation method of stealthy rootkit hidden inside GPU kernel execution through GPU context manipulation.
Based on our security analysis, we propose a new secure isolated on-chip execution model for the dedicated GPU and a novel defense mechanism supporting the security of the on-chip execution. Our solution operates on Nvidia commodity GPUs without any modification of the hardware or GPU driver and without an additional hardware-abstraction layer. With comprehensive evaluation, we assure that the proposed solutions effectively isolate sensitive information in on-chip storages and defend against known attack vectors from a privileged attacker, supporting that the commodity GPUs can be leveraged as a secure processor.
GPU는 고성능 컴퓨팅에서 널리 사용되는 아키텍쳐로 각광받고 있다. 최근 연구들은 GPU의 독립적인 실행 모델을 통하여 특정 응용 프로그램이 GPU 내에서 안전하고 빠르게 실행되는 컴퓨팅 환경을 제안하였고, 구현과 보안 분석을 통해 GPU가 커널 권한을 획득한 공격자로 부터 안전한 프로세서로 활용될 수 있음을 보여주었다. 그러나 이전 연구에서 진행된 보안 분석만으로 GPU 실행환경이 커널 권한의 공격자로부터 안전한지의 여부는 확실하지 않다. 본 학위 연구에서는 GPU 커널 실행을 위한 컨텍스트 정보에 대한 포괄적인 분석을 진행한다. 이를 통해, 커널 권한의 공격자가 GPU 메모리 내의 컨텍스트 정보를 조작하여 실행 중인 GPU 커널을 대상으로 메모리 접근을 우회시키거나 임의의 새로운 GPU 코드를 실행시킬 수 있음을 보여준다. 더나아가, GPU 컨택스트 정보 조작을 통해 GPU 커널 실행 안에 숨겨지는 루트킷 설치 방법을 제안한다.
수행한 보안 분석을 기반으로 하여 최종적으로 GPU에서 안전하게 격리되는 온칩 실행 모델과 온칩 실행의 보안을 지원하는 방어 메커니즘을 제안한다. 이 메커니즘은 하드웨어나 드라이버 수정과 추가적인 하드웨어 추상화 레이어를 필요로 하지 않으며, 상용 Nvidia GPU에서 적용될 수 있다. 제안된 메커니즘의 평가를 통해 본 솔루션이 GPU 온칩 저장소에서 처리되는 민감한 정보를 효과적으로 격리하고 권한있는 공격자으로부터 방어를 제공할 수 있음을 보여준다.
