In this thesis, we present method for intra prediction mode decision for fast intra coding in High Efficiency Video Coding (HEVC). Proposed method has two steps. In step 1, we reduce the full rate distortion (RD) candidates from the rough mode decision (RMD). For step1, two parts are used internally. Part 1 is reduction of the full RD candidates based on the statistical observation. We observe that among 8 or 3 candidates for each 64x64, 32x32, 16x16 or 8x8, 4x4 Prediction Units (PU), first 3 or 2 candidates can be the final best mode at 90% probability. Therefore, we use 3 or 2 candidates for full RD calculation. Part 2 is the pro-cess that checks whether un-selected 5 or 1 candidate(s) are added as a full RD candidate or not. In this part, we use the using adaptive binary table (ABT) that is made by using the probability of final best mode based on the mode that has the smallest RMD cost. In step 2, full RD candidates from step 1 are used for full RD cost calculation. In this step, threshold is used for early termination of the full RD cost calculation. The threshold value is calculated from Bayes decision with the two Rayleigh distributions that is approximated from the two groups of actual data - one group is the Best RD cost group, the other is the NotBest RD cost group. During full RD cost calculation in RMD cost order, if current full RD cost is smaller than the threshold cost value, then, we terminate the full RD cost calculation process for remained candidates. Experimental results demonstrated that the proposed method outperforms the previous methods, especially about the Bjontegaard distortion-rate (BD-rate) loss compared with the average time saving.
본 논문은 HEVC 에서 후보 모드의 적응적 선택을 통한 화면 내 예측 모드 결정 방법을 제안하고 있다. 제안하는 방법은 크게 2가지의 단계로 이루어진다. 첫번째 단계에서는 RMD(Rough Mode Decision)을 통해서 선택되는 후보들의 갯수를 줄이게 된다. 이때 내부적으로 2가지 방법을 사용한다. 하나는 기존에 64x64, 32x32, 16x16예측 블럭인 경우는 3개, 8x8, 4x4예측 블럭인 경우는 8개의 Full RD 비용을 계산할 후보를 선택하던 것을 통계적으로 각각 2개 또는 3개의 후보에서 최적의 모드가 선택될 확률이 90% 가량 됨을 확인하여, 예측 블럭의 크기에 따라 2개 또는 3개의 Full RD 후보를 선택하는 것이다. 다른 하나는 적응적 바이너리 테이블을 이용하여 1단계의 첫번째 방법에서 선택되지 않는 5개 또는 1개의 Full RD후보에 대해서 최종적으로 Full RD 비용을 계산할 후보에 추가할지의 여부를 결정하는 것이다. 이때 사용하는 바이너리 테이블은 가장 작은 RMD 비용값을 가지는 후보에 대한 최종적으로 최적의 모드로 선택되는 모드의 확률을 35x35 크기의 테이블로 구하고, 각 확률의 값에 대해5% 이상의 확률일 경우 “1”의 값을 갖고 그렇지 않을 경우 “0”의 값을 갖도록 하여 생성하였다. 두번째 단계에서는 첫번째 단계에서 줄어든 후보를 Full RD 비용의 계산에 사용하게 된다. 이 단계에서 실제 데이터를 이용하여 최적 모드들이 갖는 Full RD 비용 그룹과 최적이 아닌 모드들이 갖는 Full RD 비용 그룹이 갖는Full RD 비용의 분포를 Rayleigh 분포로 근사화하고, 이를 Bayes Decision을 통ㅎㅒ Full RD 비용에 대한 임계값을 구한다. 차례대로 구하는 Full RD 비용의 값이 구한 임계값보다 작을 경우 해당 RD 비용이 갖는 모드를 최적 모드로 결정하고, Full RD 비용의 계산을 조기종료하는 방법이다. 이렇게 제안하는 방법의 경우 BD-rate 손실이 다른 유사 방법에 비해 뛰어남을 확인하였으며, 평균 인코딩 단축시간도 더 큰 것을 확인하였다.
