Short RTTs less than tens of microseconds, bursty flow arrivals, and a large number of concurrent flows up to thousands in datacenters bring fundamental challenges to congestion control as they either force a flow to send at most one packet per RTT or induce a large queue build-up. The widespread use of shallow buffered switches also makes the problem more challenging with hosts generating many flows in bursts. In addition, as link speeds increase, algorithms that gradually probe for bandwidth take a long time to reach the fair-share. An ideal datacenter congestion control must provide 1) zero data loss, 2) fast convergence, 3) low buffer occupancy, and 4) high utilization. However, these requirements present conflicting goals.
This paper presents a new radical approach, called ExpressPass, an end-to-end credit-scheduled, delay-bounded congestion control for datacenters. ExpressPass uses credit packets to control congestion even before sending data packets, which enables us to achieve bounded delay and fast convergence. It gracefully handles bursty flow arrivals. We implement ExpressPass using commodity switches and provide evaluations using testbed experiments and simulations. ExpressPass converges up to 80 times faster than DCTCP in 10 Gbps links, and the gap increases as link speeds become faster. It greatly improves performance under heavy incast workloads and significantly reduces the flow completion times, especially, for small and medium size flows compared to RCP, DCTCP, HULL, and DX under realistic workloads.
데이터센터 네트워크는 인터넷 또는 기업 네트워크와 비교하면 왕복 지연시간 짧고, 플로우들이 짧은 시간 안에 집중적으로 유입될 수 있으며, 하나의 병목 링크를 수천 개의 플로우가 동시에 공유할 수 있는 등 차별화된 특징들을 가지고 있다. 이러한 특징들은 네트워크 플로우의 윈도우를 1 이하로 만들거나 네트워크 내의 큐 길이 증가를 유발하여 혼잡 제어를 더욱 어렵게 만든다. 데이터센터에서 흔히 사용되는 스위치는 버퍼의 크기가 작아 데이터 패킷 손실이 쉽게 발생할 수 있다는 점도 혼잡 제어를 보다 어렵게 만들고 있다. 게다가, 데이터센터 링크 속도가 빨라지면서 윈도우의 크기를 일정 비율로 늘려가며 사용 가능한 대역폭을 탐지하는 기존의 혼잡 제어 방식은 공정 분배 속도로 수렴하는 데 오랜 시간이 걸린다. 이상적인 데이터센터 혼잡제어는 (1) 데이터 패킷 무손실, (2) 공정 분배 속도로의 빠른 수렴, (3) 짧은 큐 길이, (4) 높은 대역폭 사용률을 동시에 만족 시켜야 한다. 하지만, 이러한 특징들을 동시에 달성하기는 쉽지 않다.
본 논문은 새로운 크레딧 기반 지연 제한 데이터센터 혼잡 제어 방식, ExpressPass를 제안한다. ExpressPass는 크레딧 패킷을 사용하여 데이터 패킷을 전송하기 전에 혼잡을 제어하고, 이를 통해 지연시간을 제한할 수 있고 공정 분배로의 빠른 수렴을 가능하게 하며 플로우가 집중적으로 유입되더라도 큐 길이 증가를 최소화할 수 있다. 현재 판매되고 있는 스위치에 ExpressPass를 구현한 테스트베드와 시뮬레이션을 통해 ExpressPass가 공정 분배 속도로 10 Gbps 링크에서 최대 80배 빨리 수렴함을 확인하였고, 이 차이는 링크 속도가 커질수록 늘어난다. 특히, ExpressPass는 수많은 플로우가 짧은 시간 동안 집중적으로 유입되는 인캐스트 트래픽에서 획기적인 성능향상을 보였고, 실제적인 워크로드를 사용한 시뮬레이션에서 특히 짧은 플로우에 대하여 플로우 완료 시간이 RCP, DCTCP, HULL, DX와 같은 다른 혼잡 제어 방식보다 짧아짐을 보였다.
