A new algorithm is presented in this paper to reduce the computational complexity of the inter-prediction mode decision in the high efficiency video coding (HEVC) encoding. All the encoding processes are conducted on a coding unit (CU) level instead of a prediction unit (PU) and a transform unit (TU) to alleviate the huge computational burden required for PU mode and TU residual quadtree decisions. To eliminate inef-ficient computations of rate-distortion costs, a mode decision method and an early termination scheme based on the number of discrete cosine transform coefficients are exploited. For the further improvement of the processing time, a fast integer-pel motion estimation algorithm with combined early termination schemes is employed. Experimental results show that the proposed algorithm provides the huge improvement on the total encoding time at the reasonable levels of the coding efficiency and visual quality.
최근 개발 된 high efficiency video coding (HEVC) 영상 압축 표준은 이전의 H.264/ AVC 표준과 비교하여50%의 추가적인 압축 효율과 높은 영상 품질을 제공한다. HEVC 표준은 반복적인 영상 데이터를 줄이기 위해 화면 내 예측 및 화면 간 예측 방식을 사용하며, 특히 화면 간 예측 방식을 통해 높은 압축 효율을 얻을 수 있다. HEVC 표준은 보다 정확한 예측을 위해 다양한 크기와 형태의 블록 구조를 지원한다. 최적의 블록 구조를 결정하기 위해, 모든 가능한 구조에 대한 반복적인 부호화 과정이 필요하며, 각 경우에 대한 율-왜곡 압축 비용을 비교하는 과정이 수반되기 때문에, 알고리즘의 복잡도가 매우 높다. 이와 같이 최적의 블록 구조를 결정하는 과정을 모드 결정 (mode decision)이라 부르며, 본 논문에서는 화면 간 예측 방식에서 모드 결정의 복잡도를 줄이기 위한 알고리즘이 제안되었다.
제안된 알고리즘은 불필요한 반복 연산을 줄이기 위해, coding unit (CU) 크기에서 모든 부호화 과정을 수행한다. 즉, 각 CU에 대해 추가적인 prediction unit (PU)이나 transform unit (TU) 분할을 수행하지 않고, CU의 크기 그대로 부호화 과정을 수행한다. 이에 따라 각 CU에 대해 최적의 PU 모드 및 TU residual quadtree (RQT)를 결정하기 위한 반복 연산 과정이 제거되며, 상당히 높은 수준의 압축 시간 개선 효과를 얻을 수 있다.
이와 더불어 반복적인 율-왜곡 비용의 연산을 없애기 위해, 율-왜곡 비용 대신 각 모드에서 얻어진 DCT 블록의 non-zero DCT 계수의 수 (NNZDC)를 비교하여 최적의 모드를 결정한다. 보다 자세히, 각 CU에 대해 지원 가능한 모드들 (merge 모드, merge skip 모드, 일반 2N？2N PU 모드)을 순차적으로 시험하는 과정에서, DCT 및 양자화 이후에 얻어진 NNZDC를 비교하여 최적의 모드를 갱신하며, CU의 분할 여부를 결정하는 CU 모드 결정 과정에서도 분할되지 않은 CU와 분할 된 CU들의 총 NNZDC 합을 비교하여, 최적의 CU 모드를 결정한다. 한편, 모든 DCT 계수가 0인 CU의 경우에는 낮은 율-왜곡 비용을 갖기 때문에, 추가적인 분할 CU 모드를 시험하지 않고 조기 종료를 수행한다.
추가적인 압축 시간의 향상을 위해, 조합된 조기 종료 방식을 적용한 향상 된 움직임 예측 알고리즘을 사용한다. 움직임 예측 과정에서 사용되는 각 블록 탐색 과정에서 비용에 기반한 두 가지 조기 종료 방식을 조합하여 적용함으로써 탐색 시간을 줄이고, 빠른 시간 내에 정확히 예측 블록을 찾을 수 있다.
제안된 알고리즘을 이용하여 low delay P 모드 및 B 모드 simulation 환경에서 각각 88.75% 및 87.15%의 영상 압축 시간 개선 효과를 얻었다. 반면, 영상 압축 효율은 P 모드에서 0.96%, B 모드에서 1.97% 만큼 증가하였으며, 최대 신호 대 잡음비 (PSNR)는 P 모드에서 0.96dB, B 모드에서 0.97dB만큼 감소하였다. 결론적으로 제안된 알고리즘을 통해 적정 수준의 영상 압축 효율과 영상 품질을 유지하면서, 높은 수준의 영상 압축 시간 개선을 얻을 수 있다.
