This dissertation introduces randomization methods, which are one of the ways to protect existing memory vulnerabilities.
Among these randomization methods, we point out a problem with randomizing the layout of an object that randomly changes the layout of a variable of an object.
We propose a complementary method of changing the layout of the variable randomly each time when an object is allocated.
This method solves the problem of the previous one, which is that the layout can be recovered in binary.
However, since the method requires additional arithmetic operations to access object variables, it caused a performance problem.
In this dissertation, we also present a new methodology for selecting objects to be protected using taint analysis and a hardware accelerator to improve performance as a solution for a performance problem.
By utilizing taint analysis to find objects that attackers can control, we reduced the performance slowdown factor by protecting only exploitable objects.
In addition, Hardware accelerator improved the performance by accelerating the arithmetic operations of the defense system.
본 논문에서는 기존의 메모리 취약점 방어 방식중에 하나인 랜덤화를 이용하는 방법에 대하여 소개한다.
랜덤화 방식은 공격의 대상이 되는 중요 정보를 랜덤한 위치에 생성되도록 함으로써 공격자가 해당 정보를 쉽게 얻어내지 못하게 하는 방어 기법이다.
객체의 레이아웃 또한 이러한 중요 정보들 중에 하나로 객체의 레이아웃을 랜덤화하는 기존 연구들이 존재하였다.
하지만, 기존의 연구에서는 객체의 레이아웃을 프로그램을 컴파일시에 랜덤화를 하였기에, 바이너리 상에서 레이아웃을 복구가능한 문제점이 존재한다.
이러한 문제점을 보완하기 위한 방식으로 본 논문에서는 객체가 할당될 때마다 변수 레이아웃을 무작위로 변경하는 방법을 제안한다.
해당 방법은 기존 연구들의 한계를 해결하였으며 실제 소프트웨어에 도입이 가능하다는 것을 보여주었다.
하지만 객체의 변수 접근 시에 연산을 필요로 하는 방식은 성능 저하를 유발한다.
본 논문에서는 성능 향상을 위하여 (i) 오염 분석을 활용한 보호 적용 오브젝트의 선별 방법과 (ii) 하드웨어 가속기를 이용한 성능향상 방법을 제시한다.
오염 분석 방식은 공격자가 제어할 수 있는 객체들을 찾아냄으로써 전체의 객체가 아닌 일부 객체들에만 보호 방법을 적용하여 속도 저하 요인들을 줄였다.
또한 하드웨어 가속기 방식은 보호 방법의 연산과정을 하드웨어로 가속화 함으로써 성능을 향상시켰다.
