NFV (Network function virtualizations) promises the benefit of the virtual environment -- elastic scaling, fault tolerance, rapid deployment of new services -- by moving network functions from fixed-function middlebox infrastructures to software on virtual machines run on commodity servers. One of the challenges arise from the NFV (Network Function Virtualization) is that the gap between the promise of network function virtualization (NFV) and the practice as is. My dissertation focuses on the scalability, one of such gap; processing throughput should increase linearly with added resources (CPU cores, VMs, processes) without imposing much overhead.
However, building scalable network functions is difficult since they are stateful; Some state needs to be migrated to other instance (VM, core, process) to preserve locality as network traffic is re-balanced (e.g., per-flow structures), while others need to be shared across instances (e.g., aggregated counters, a list of detected hosts). The statefulness is a source of performance overhead such as core/machine-crossing overhead, locking for shared structures as well as making the programming task complex.
In this dissertation, we identify the challenges for achieving a scalable performance of network functions and propose three systems for them. Firstly, based on the observation of the state access patterns of network functions, we build a network function building programming model and framework to support elastic horizontal scalability (S6). It shows linear throughput scaling with 2-3 orders of magnitude lower per-packet added latency than existing state-of-the-art systems. Secondly, we present a hardware assisted flow load-balancing mechanism (Symmetric RSS) to avoid core-crossing overhead and implement a high-performance and multi-core scalable flow monitoring system (MonBot) with the mechanism. Using the system, we conduct large-scale real-time measurement study on the live 3G commercial traffic. Lastly, we design and implement a multi-core scalable network stack (mTCP) to overcome the current kernel's inefficiency. It shows 25 times better connection set-up performance than Linux kernel.
네트워크 기능 가상화 (NFV, Network Function Firtualization)란, 전통적으로 하나의 기능을 위해 디자인된 전용 하드웨어에서 동작하던 네트워크 기능(Network function) 들을 상용 서버에서 서비스되는 가상 머신 위로 옮김으로써, 가상환경에서의 장점 -- 탄력적 확장성, 장애 허용, 새로운 서비스의 빠른 적용 -- 등을 취하는 데 그 목적이 있다. 하지만, 네트워크 기능을 단순히 가상 머신 위로 옮기는 것 만으로는, 네트워크 기능 가상화를 통해 기대하는 이득을 얻을 수 없다. 본 논문에서는 가상화 환경에서 네트워크 기능의 '확장성'에 대해 논의한다. 즉, 리소스 (CPU 코어, 가상 머신, 프로세스)를 투입함에 따라 추가적인 오버헤드 없이 선형적인 패킷처리 대역폭 증가를 얻을 수 있어야 한다.
네트워크 기능은 상태기반(statefulness)으로 동작하기 때문에 확장성을 얻기가 어렵다. 어떤 상태는 네트워크 트래픽의 부하가 재분배되는 과정에서 하나의 인스턴스에서 다른 인스턴스로 이동해야하고, 어떤 상태는 여러 인스턴스로부터 동시에 읽거나 쓸 수 있어야 한다. 이러한 상태기반의 네트워크 기능을 지원하는 것은 인스턴스간에 함수 또는 데이터의 이동을 필요로하는 오버헤드, 공유되는 데이터를 위한 락 오버헤드 등으로 인해 성능 저하의 원인이 된다.
본연구에서는 네트워크 기능들이 확장성있는 성능을 제공하기 위해 어려운 점들이 무엇이 있는지 분석하고, 확장성을 제공하는 세가지 시스템을 제안한다. 첫째로, 현재 널리 사용되고 있는 네트워크 기능을 다수의 가상 머신 및 서버를 사용해 수평적으로 확장할 수 있도록 제공하는 네트워크 기능 프로그래밍 모델 및 프레임워크를 소개하고, 이를 활용한 모니터링 및 침입 탐지 시스템을 소개한다. 둘째로, 하나의 서버 안에서 코어 간의 데이터 공유 오버헤드 없이 양방향 네트워크 플로우를 효과적으로 분석할 수 있는 모니터링 시스템 및 이를 활용한 상용 3G 트래픽 성능 측정 결과를 공유한다. 셋째로는, 멀티코어의 확장성을 얻을 수 있는 TCP 스택을 소개한다.
