H.264/AVC achieves higher coding performance than the previous video coding standards such as MPEG-2, MPEG-4, and H.263. Especially, its motion estimation (ME) accomplishes considerable coding performance. However, the H.264/AVC encoder requires heavy computational complexity due to the ME with multiple reference frames and variable block sizes. Therefore, in order to reduce the computational complexity, this thesis analyzes statistical characteristics of early termination (ET) methods in unsymmetrical-cross multi-hexagon-grid search (UMHS) and modifies the previous ET methods by using adaptive thresholds, which are based on rate-distortion (R-D) cost. In addition, the thesis proposes a new ET method and multi-octagon search pattern to decrease search points of the multi-hexagon-grid search. Experimental results show that the proposed algorithm reduces computational complexity of encoder while keeping R-D performance of UMHS in various encoding conditions.
H.264/AVC는 현재 범용적으로 사용되고 있는 최신 압축 표준으로서 그간의 축적된 다양한 압축 기술들을 이용하여 MPEG-2, MPEG-4, H.263 등 과 같은 이전 비디오 압축 표준 대비 약 50% 이상의 압축 효율 증가를 가져왔다. 이러한 기술 중 특히 움직임 추정을 통한 압축 성능 향상 방법은 시공간에서 존재하는 중복 정보를 제거 함으로서 높은 압축 효율을 얻을 수 있게 하였다. 하지만 H.264/AVC 부호화기에서 사용하는 움직임 추정방법은 여러 장의 참조 화면과 가변 크기의 블락의 사용하기 때문에 많은 계산량 복잡도를 필요로 한다.
이러한 계산량 복잡도를 줄이기 위해 다양한 방법들이 제안되었으며 이 중 효율적으로 그 복잡도를 줄인 몇 가지 방법들이 H.264/AVC에 채택되었다. 이 중 비디오 시퀀스의 특징을 움직임 추정에 사용하여 효율적으로 복잡도를 줄인 UMHS 방법을 기반으로 이 방법에서 사용하는 조기 종료에 관한 확률적 특성을 관찰하고 율-왜곡 함수를 이용하여 가변 임계값을 수정함으로써 조기 종료 방법을 개선하였다. 이에 더불어 6각형 모양의 탐색 모양 검색에 있어서 불필요한 탐색 점들을 줄이기 위하여 새로운 조기 종료 방법과 다양한 크기의 8각형 움직임 탐색 모양을 제안 하였다.
실험적 결과를 통해 다양한 부호화 조건에서 기존 UMHS 방법의 율-왜곡 성능을 유지하면서 효과적으로 계산량 복잡도를 제거 함을 확인 할 수 있었다.
