The principal limitation on low rate coding system is the quantization noise in the reconstructed signal and in the prediction loop. This thesis has dealt with the effect of selective loop filtering in MC/DCT hybrid coding system at very low transmission rate.
To overcome the difficulties inherent in such a low rate system, we have investigated the effect of a simple spatial averaging filter within the coding loop in making improvements in both the quality of reconstructed image and the information amount required to be transmitted. And also we have presented an effective method for filter selection that does not require the transmission of side information, using the characteristics of motion vectors for neighboring blocks.
According to simulation results, SNR gain achieved was more than 1 dB and entropy of quantized coefficients considerably reduced with loop filtering. Moreover, motion vector control method performed very closely to the side information control method, especially for low level of threshold in CR. Subjective effect was even more advantageous; various artifacts, e.g., a "dirty window" and discontinuities of image detail between adjacent blocks, were less visible.
예측 방식을 이용하는 저전송율 부호화기에서의 주요한 성능 저하 요인은 재생 영상과 예측 과정에서 첨가되는 양자화 잡음이라 할 수 있다. 본 논문은 MC/DCT 복합 부호화 방식에서 재생 영상의 화질을 높이고 전송 되어야할 정보량을 줄이는데 필수적이라 할 수 있는 루프 필터링의 영향을 고찰하였다.
우선, 저전송율 (64 혹은 384 kb/s) MC/DCT 복합 부호화 방식에서의 성능저하 요인에 대해 살펴보았는데, 이는 양자화 과정에서 첨가될 수 있는 잡음과 조건부보충 방식에서 threshold가 높아짐에 따라 발생할 수 있는 비교적 상관성 (correlation)이 높은 잡음으로 나눌 수 있다. 다음으로, 이러한 성능 저하 요인을 보상하는데 있어 최적인 필터링에 대해 살펴보았다. 최적 필터링은 이동 벡터의 추정 오차를 보상함과 동시에 예측 과정에서 첨가되는 양자화 잡음을 줄일 수 있는 형태로 이루어져야한다. 본 논문에서는, CCITT가 제안한 필터와 유사한, 양자화 잡음을 최대로 줄일 수 있는 필터 형태를 채택하여 이러한 필터가 부호화 효율에 미치는 영향을 고찰하였다.
또한, 예측 루프에서 필터링을 선택적으로 행하기 위해, 필터 선택 방식에 대해 살펴보았다. 추가 정보를 보내야하는 방식이외에도, 인접 블럭의 이동 벡터를 이용하여 현재 블럭의 필터 switching을 함으로써 추가 정보를 필요로 하지 않는 switching 방식을 제안하였다.
실험 결과에 의하면, 선택적 루프 필터링을 했을 때 SNR 이득은 1 dB 이상이었으며, 양자화 된 DCT 계수의 entropy 역시 상당히 줄어들었다. 또한, 조건부 보충 방식에서 threshold가 낮을 경우에, 이동 벡터를 이용하는 선택 방식은 추가정보를 이용하는 선택 방식에 매우 근접하는 것 을 알 수 있었다. 재생 영상의 화질 면에 있어서는, 선택적 루프 필터링을 적용했을 때, "dirty window" 현상과 물체 경계 부근에서의 zig-zag 패턴 등이 거의 보이지 않을 정도로 상당한 개선이 있었음을 알 수 있었다.
