Virtualization technology is currently being used in various fields from cloud computing to embedded system. The current virtualization techniques employ a virtual CPU(vCPU) scheduling policy to multiplex multiple vCPUs on multiple physical CPUs. However, vCPU scheduling policy exhibits low I/O performance. Main reason for low I/O performance is that the current vCPU scheduling method does not effectively prioritize I/O-intensive vCPUs over CPU-intensive vCPUs, as it lacks worload-awareness. To solve these limitations, this paper proposes the Workload-Aware Credit Scheduler(WACS). Based on the Credit2 scheduler of the Xen hypervisor, WACS is designed to determine the I/O intensity of each vCPU by mixing user time, kernel time, scheduling time, and scheduling return time during a execution of codes in the virtualization environment. WACS quantifies the I/O intensity of each vCPU and utilizes a three-stage credit allocation approach. It divides the credit variable in Credit2 scheduler into three credits variables and employs a three-stage credit usage mechanism. Finally, WACS applies an I/O load balancing mechanism to fairly distribute I/O-intensive vCPUs across multiple cores, ensuring better resource utilization. Compared to the existing proactive scheduling methods, WACS demonstrates significant performance improvements. Specifically, it achieves approximately 97\% improvement in network throughput, 3\% improvement in network average latency, 44.8\% improvement in network tail latency, and 72.7\% improvement in I/O throughput.
가상화 기술은 현재 클라우드 컴퓨팅부터 임베디드 시스템까지 다양하게 사용되고 있다. 현재 가상화 기술은 여러개의 가상CPU를 물리CPU들에 다중화하는 방식인 가상CPU 스케줄링 기법을 활용하는데, 이러한 스케줄링 기법에 의해서 입출력 성능이 낮게 되는 특징을 보인다. 이는 현재의 가상CPU 스케줄링 기법이 워크로드를 인지하지 못하여 입출력 중점 가상CPU를 CPU 중점 가상CPU보다 우선권을 부여하지 않기 때문이다. 이러한 문제를 해결하기 위해서, 이 논문은 Workload-Aware Credit Scheduler(WACS)를 제시한다. Xen 하이퍼바이저의 Credit2 스케줄러 기반으로 설계된 WACS는 가상화 환경에서 코드가 진행할 때 발생하는 유저 시간, 커널 시간, 스케줄링 시간, 스케줄링 반환 시간을 엮어 각 가상CPU의 입출력 정도를 알아낸다. WACS는 각 가상CPU의 입출력 정도를 수치화하여, 선행 스케줄러의 credit 변수를 3가지로 나누고 3단계 credit 사용법을 사용한다. 마지막으로 WACS는 입출력 로드 밸런싱 기법을 적용하여 입출력 중점 가상CPU가 여러 코어에 분배되는 방식을 적용한다. 선행 스케줄링 기법과 비교하여 WACS는 네트워크 처리량은 대략 97\% 성능향상을, 네트워크 평균 지연시간은 3\% 성능향상을, 네트워크 꼬리 지연시간은 44.8\% 그리고 입출력장치 처리량은 72.7\% 성능향상을 보인다.
