H.264/Advanced Video Coding (AVC) is the newest video coding standard which outperforms the previous video standards in terms of coding efficiency. On the other hand the H.264/AVC has a very high computational load, especially for intra and inter prediction blocks. In this paper we proposed fast intra and inter mode decision algorithms in order to decrease the computational complexity. The algorithms aim to decrease the number of modes to be predicted in the worst case, in order to be applicable for the high throughput application for the real time hardware implementation of the H.264/AVC as well. In case of inter prediction, a fast inter mode decision algorithm is proposed. This algorithm decreases the computational complexity around 70% with decreasing the number of search candidates for mode decision from 7 to 4 in the worst case. In case of intra prediction, a fast intra mode decision algorithm for 4x4 blocks is proposed, which decrease 44% intra 4x4 blocks in intra prediction in the worst case. Also for intra prediction part, a high throughput intra prediction block is implemented for H.264/AVC intra prediction block which improves the throughput around 30% for intra prediction block. The intra prediction block implementation has a maximum frequency of 129.5MHz and 19K gate count with 0.18 um CMOS process. The implementation has the processing capability of HDTV 720p 4:2:0 with 41 frame/sec.
H.264/AVC는 가장 최신의 동영상 인코딩 표준안으로서, 인코딩 효율의 측면에서 기존의 표준들보다 훨씬 높은 성능을 보인다. 단, H.264/AVC는 그 인트라 및 인터 예측 블록들에 관해 그 연산량이 극히 많은 단점이 있다. 본 논문에서는 고속의 인트라 및 인터 모드 예측 알고리즘을 제안함으로서 이러한 연산량의 감소를 꾀한다. 제안된 알고리즘은 최악의 경우에 한해서 예측되는 모드들의 숫자를 줄일 수 있기 때문에 고성능의 H.264/AVC 애플리케이션의 구현에 용이하게 사용될 수 있다. 인터 예측의 경우, 제안된 고속의 알고리즘은 연산량을 70프로 가까이 줄일 수 있으며, 이를 통해 최악의 경우에서의 모드의 숫자를 7개에서 4개로 줄일 수 있게 된다. 제안된 인트라 예측 기법의 경우에는 4x4 블록 사이즈의 경우에 적용이 가능한데, 제안된 알고리즘을 적용하는 경우 44 프로 가까이 연산량을 줄일 수 있다. 인트라 예측의 경우, 최대 129.5MHz에서 동작하는 하드웨어로 설계되었으며, 이 경우 처리율은 인트라 예측 블록의 경우 30프로 가까이 성능 향상 효과가 있는 것으로 나타났다. 구현된 하드웨어는 19K의 게이트 수를 가지며, 0.18 um CMOS cell을 이용하여 합성되었다. 구현된 하드웨어의 처리율은 HDTV 720p 4:2:0을 기준으로 초당 41 프레임으로 나타난다.
