With the explosive growth of WWW traffic, there is an increasing demand for the high performance Web servers to provide a stable Web service to users. The cluster-based Web server is a solution to cope with the heavy access from users, easily scaling the server according to the loads. In the cluster-based Web server, a back-end node may not be able to serve some HTTP requests directly because it does not have the requested contents in its main memory. In this case, the back-end node has to retrieve the requested contents from its local disk or other back-end nodes in the cluster.
To reduce service latency, we introduce a new prefetch scheme. The back-end nodes predict the next HTTP requests and prefetch the contents of predicted requests before the next requests arrive. We develop three prefetch algorithms based on some useful information gathered from many clients’ HTTP requests. Through trace-driven simulation, Time and Access Probability-based Prefetch ($TAP^2$) algorithm, which uses the access probability and the inter-reference time of Web objects, shows the best performance among the proposed prefetch algorithms. With $TAP^2$ algorithm, the service latency is reduced by 20.1% in a small sized memory and 1.5% in a large sized memory, comparing with none-prefetch mechanism.
인터넷 사용자가 급속히 증가함에 따라 웹 서비스에 대한 사용자 요구도 증가하고 있다. 최근 연구되고 있는 클러스터 기반 웹 서버는 많은 웹 사용자 요구를 안정적으로 처리할 수 있는 기술로 소개되고 있다. 클러스터 기반 웹 서버는 여러 대의 서버 노드로 구성되어 있는데 각 서버 노드에 들어오는 사용자 요구에 관한 자료가 지역 메모리에 없는 경우, 디스크 접근이나 다른 서버 노드로부터의 자료 전송이 필요하다.
본 논문에서는 클러스터 기반 웹 서버에서 서비스 지연을 감소시키기 위한 서버 노드간 자료 선인출 기법을 제안한다. 즉, 사용자 요구가 들어왔을 때, 다음에 요구될 데이터를 예측하고 각 서버의 지역 메모리에 필요한 자료를 미리 읽어 놓음으로 해서 서비스 지연 시간을 감소시키는 것이다. 시뮬레이션을 통해 본 논문에서 제안하는 세 가지 알고리즘의 성능을 측정한 결과, 각 자료의 접근 확률 (access probability)과 사용자 요구 사이의 지연 시간을 고려하는 선인출 알고리즘인 $TAP^2$(Time and Access Probability-based Prefetch) 방법이 가장 좋은 성능을 보였다. 서비스 지연은 각 지역 메모리의 크기를 작게 하였을 경우 약 20.1%, 크게 하였을 경우 약 1.5% 감소된다.
