The global network traffic is increasing at a fast rate due to the growth of video platform such as Netflix, YouTube, and so on. Most of the content on today's Internet is processed through content delivery networks (CDNs) and a layer-7 proxy is one of the most fundamental technologies for the CDN service. As HTTP/2 recently has become the dominant application-layer protocol, HTTP/2 proxy is also gaining its popularity. However, existing layer-7 proxy consumes a large portion of CPU cycles in just relaying content from back-end servers.
In this dissertation, we propose a SmartProxy which is a networked system design for accelerating a layer-7 proxy by harnessing SmartNICs. Our system is split into host CPU and NIC stacks. The host CPU stack is designed to perform complex tasks working as control plane while the NIC stack carries out simple tasks working as data plane. Our design is to offload payload relaying on SmartNICs and the host CPU determines the HTTP/2 stream-level mapping between clients and back-end servers. Our evaluation demonstrates that SmartProxy accelerates an HTTP/2 proxy by 1.3 to 2.7 times compared to Nginx HTTP/2 proxy.
넷플릭스, 유튜브와 같은 비디오 플랫폼의 발달 등으로 전세계의 네트워크 트래픽이 폭발적으로 증가하고 있다. 대부분의 네트워크 트래픽들은 콘텐츠 전송 네트워크를 통해 처리되는데 콘텐츠 전송 네트워크의 핵심 기술 중 하나는 응용 계층 프록시 서버이다. 최근 HTTP/2의 사용량이 크게 증가하면서 HTTP/2 프록시 서버는 급증하는 네트워크 트래픽을 처리하기 위한 중요한 어플리케이션으로 자리잡고 있다. 하지만, 기존의 HTTP/2 프록시 서버는 백엔드 서버에서 받은 콘텐츠를 사용자에게 전달하면서 많은 씨피유 자원을 낭비하고 있다.
본 연구에서는 이러한 문제점을 해결하고자 스마트닉을 활용해 프록시 서버의 기능을 일부 스마트닉으로 이양하는 새로운 네트워크 시스템인 스마트프록시를 제안한다. 우리가 제안하는 시스템은 호스트 씨피유 스택과 닉 스택으로 분리된 구조이며 호스트 씨피유 스택에서는 상대적으로 복잡한 일들을 처리하는 컨트롤 플레인의 역할을 수행하고 닉 스택은 데이터 플레인으로 동작하며 상대적으로 간단한 일들을 처리한다. 호스트 씨피유 스택에서는 사용자의 요청에 따라 백엔드 서버를 결정하고 클라이언트와 백엔드 서버의 HTTP/2 스트림 레벨의 매핑 정보를 닉 스택으로 전달한다. 닉 스택은 백엔드 서버로 부터 콘텐츠가 도착했을 때, 호스트 씨피유가 알려준 매핑 정보를 바탕으로 닉 메모리에 버퍼링 없이 바로 클라이언트로 콘텐츠를 전달한다. 본 연구에서 제안한 네트워크 시스템을 실제 구현하고 실험한 결과, 기존 HTTP/2 프록시 대비 1.3배에서 2.7배 성능을 향상시킬 수 있음을 확인했다.
