In recent years Java™ Virtual Machine (JVM) is widely used for server applications, such as web services and web application servers (WASes). Server workloads like these have different characteristics from other workloads. They are large applications that need large number of threads, processors, sockets, and a large amount of memory. They are interactive in that they should respond to the requests of clients in short time. And they are long running and the working sets increase as time goes on.
To improve the performance of server workloads, a new design of the garbage collection (GC) component of JVM that meets the characteristics of them is required. At first, generational garbage collection algorithm can increase the throughput of garbage collection. And to reduce the working set of server workloads and the memory fragmentation of long running servers, compacting garbage collection algorithm is necessary. But compaction needs copying of a lot of objects and occurs while program activity is stopped. So it is a major contributor to garbage collection pause times. We present a low pause incremental compaction algorithm in a generational garbage collection. It increases the throughput of garbage collection and reduces pause times by compacting a part of the heap occasionally when young generation garbage collection occurs. Experiments show that our algorithm reduces maximum garbage collection pause time stably up to 38%. And the increase of total run time is minimal compared to previous algorithm.
최근 몇년간 자바 가상 머신(JVM)이 웹 서비스(web services)나 웹 애플리케이션 서버(WAS)같은 서버 애플리케이션(server application)을 위해 널리 사용되고 있다. 이러한 서버 애플리케이션은 그밖의 다른 애플리케이션과 다른 특성을 가지고 있다. 그것은 많은 수의 쓰레드(thread), 프로세서(processor), 소켓(socket), 그리고 많은 양의 메모리(memory)를 필요로하는 커다란 애플리케이션이다. 그것은 클라이언트의 요청에 짧은 시간안에 응답해야한다는 점에서 인터액티브하다(interactive). 그리고 그것은 오랫동안 그 수행이 정지하지 않고 시간이 지나감에 따라 그 워킹셋(working set)이 증가한다.
서버 애플리케이션의 성능을 향상시키기 위해서, 그것의 특성에 맞는, 자바 가상 머신의 구성 요소중 메모리 수거기(garbage collector)의 새로운 디자인이 요구된다. 우선, 세대를 구별하는 메모리 수거 알고리즘(generational garbage collection algorithm)이 메모리 수거의 처리능력(throughput)을 향상시킬 수 있다. 그리고, 서버 애플리케이션의 워킹셋과, 오랜 기간 동작하는 서버의 메모리 단편화(memory fragmentation)를 줄이기 위해서, 압축하는 메모리 수거(compacting garbage collection) 알고리즘이 필요하다. 그러나 압축은 많은 수의 객체(object)의 복사를 필요로하고, 프로그램의 수행이 정지된 동안에 일어난다. 따라서 그것은 메모리 수거 정지 시간(pause time)에 상당한 기여를 한다. 우리는, 세대를 구별하는 메모리 수거에서 정지 시간을 줄이는 부분 압축(incremental compaction) 알고리즘을 제시한다. 그것은 어린 세대의 메모리 수거(young generation garbage collection)가 일어날 때, 이따금씩 메모리 동적 할당 영역(heap)의 한 부분을 압축함으로써 메모리 수거의 처리능력을 증가시키고, 정지 시간을 감소시킨다. 실험을 통해, 우리의 알고리즘이 최대 메모리 수거 정지 시간을 38%까지 안정적으로 줄인다는 것을 확인할 수 있다. 그리고, 총 수행 시간은 기존의 알고리즘과 비교해서 아주 작은 정도만 증가한다.
