This research proposed a fast CU mode decision algorithm for intra coding in HEVC. The main idea is simple, but effective early termination on quadtree decision process inspired by the breadth-first search algorithm. RDO process is entailed to ensure the visual quality of encoded video sequences. However, the number of calculation of the RD cost is significantly increased in HEVC standard due to quadtree structure, increase in intra modes, and variable size of CTUs. This phenomena lead to increase in computational complexity in HEVC intra coding. In order to reduce this complexity, we proposed an algorithm for fast CU mode decision for HEVC intra coding based on breadth-first search. By observing the RD cost improvement of the coding tree structure, a new algorithm is proposed and tested.
The proposed technique reduced the encoding time alone at the cost of slight increase in bit rate and negligible PSNR loss. There is a complexity reduction about 66.93% at very less loss in performance with high complexity reduction. The average loss in PSNR is only 0.42dB in comparison with HEVC standard.
본 연구는 빠른 HEVC 인트라 코딩 유닛 모드 결정을 위한 방법을 제안하고 있다. 국제 기준이 H.264/AVC 에서 HEVC 로 변하면서, 새로운 quadtree 구조와 8 개에서 33 개로 증가된 모드, 그리고 CTU 의 사이즈가 여러 크기를 지원하면서 그 복잡성이 현저하게 증가하게 되었다. 특히, 비디오의 품질을 높이기 위한 RDO 과정은 이러한 계산의 복잡도 향상에 더욱 기여를 하고 있다. 러한 문제를 해결하고자, 기존의 HEVC reference software 에서 RD cost 변화량을 관찰하여, 간단하면서 효과적인 breadth-first 검색방법에 기반을 둔 새로운 CU 모드 결정방법을 제안하였다. Breadth-first 검색으로 early termination 이 일어났을 때, RD cost 손해량을 계산하여, RD cost 손해는 크지 않으면서 계산량을 줄일수 있는 조기 결정을 할 수 있는 지점을 찾아내었다.
제안된 방법은 비디오 품질에는 많은 영향을 미지치 않으면서 효과적으로 복잡도를 감소시키는데 성공하였다. 0.4dB 의 BDPSNR 하락이 있었지만, 평균적으로 67%의 복잡도를 감소시킬수 있었다. 기존의 방법은 하나의 알고리즘을 반복적으로 호출함에 반해, 제안된 방법은 실제 하드웨어 구현에도 더 효과적임을 알 수 있다.
