Recent video coding standards produce unwanted spatial and temporal artifacts in reconstructed videos. In this dissertation, the reduction of major coding artifacts, such as ringing and blocking artifacts, is considered. Ringing or mosquito artifacts arise due to the quantization of high frequency discrete cosine transform coefficients. Most of the existing artifact reduction algorithms assume that coding information such as a standard quantization table and the corresponding quantization parameter for each block are available. In many multimedia applications, however, external video inputs are usually supplied without coding information. To effectively reduce the ringing and mosquito artifacts in a decoded input video sequence, it is necessary to control the filter strength block by block. In this dissertation, we present a blind block-based algorithm to estimate the quantization amount and propose a novel post-processing algorithm for ringing and mosquito artifact reduction based on the visibility of artifacts in terms of the human visual system using the estimated quantization amount.
Meanwhile, block-based coding introduces an undesirable discontinuity between neighboring blocks in reconstructed images. This image degradation, referred to as blocking artifacts, arises mainly due to the loss of inter-block correlation in the quantization process of discrete cosine transform coefficients. In this dissertation, we presents a novel post-processing algorithm based on increment of inter-block correlation aimed at reducing blocking artifacts. We first smooth the three lowest frequency discrete cosine transform coefficients between neighboring blocks, in order to reduce blocking artifacts in the flat region, which are most sensitive to the human visual system. We then group each edge block and its matched blocks together and apply group-based filtering to increase the correlation between grouped blocks. This suppresses blocking artifacts in the edge region while preserving details. In addition, the algorithm is extended to reduce flickering artifacts as well as blocking artifacts in video sequences.
Experimental results show that proposed deringing and deblocking algorithms successfully alleviate ringing and blocking artifacts, respectively, in videos coded with low bit-rates, regardless of video contents and resolutions.
영상 데이터는 그 크기가 매우 크기 때문에 영상의 전송, 저장을 위해서 필연적으로 영상의 부호화 과정이 요구된다. 하지만 저 전송률 환경의 영상의 부호화는 재구성된 영상에서 원치 않는 압축 아티팩트를 생성한다. 예를 들면, 고주파 이산 변환 계수의 양자화 에러로 인하여 재구성된 영상의 강한 에지 영역에서 ringing 잡음이 발생된다. 동영상의 경우 이러한 ringing 잡음의 시간 축 변동으로 인해 시간 축으로의 mosquito 잡음이 함께 발생된다. 본 학위 논문의 첫 번째 파트에서는 이러한 ringing 및 mosquito 잡음과 같은 주요 압축 아티팩트의 감소를 위한 후처리 알고리즘을 제안한다. 기존의 압축 아티팩트 감소 알고리즘의 대부분은 표준 양자화 테이블과 각 블록에 해당하는 양자화 파라미터 등의 코딩 정보를 알고 있다고 가정한다. 그러나 외부 비디오 입력이 코딩 정보 없이 공급되는 상황이 다수 존재한다. 이 경우에 효과적으로 압축 아티팩트를 줄이기 위해서는 코딩 정보의 추정을 통한 압축 아티팩트 감소 알고리즘이 필요하다. 본 학위 논문에서는 코딩 정보가 없는 블라인드 환경에서 블록 기반으로 양자화 정도를 추정하고, 시각 시스템의 관점에서의 아티팩트의 시인성에 기초한 ringing과 mosquito 잡음 제거 알고리즘을 제시하였다.
한편, 블록 기반 부호화를 이용하여 재구성 된 영상에서는 블록 경계 부근에서 눈에 거슬리는 불연속을 추가로 발생시킨다. 이러한 블록 현상은 이산 코사인 변환의 양자화 과정에서 블록 간 상관 관계의 손실로 인해 발생되고, 본 학위 논문의 두 번째 파트에서는 이 블록 현상을 줄이기 위한 후처리 알고리즘을 제안한다. 제안하는 알고리즘에서는 시각 시스템에 가장 민감한 평탄 영역 내 블록 현상을 감소시키기 위해, 먼저 이웃한 블록들 사이의 세 개의 최저 주파수 변환 계수의 상관성을 증가시킨다. 이후에 블록 매칭을 통한 에지 블록들의 그룹화를 수행하고, 그룹화 된 에지 블록간의 상관 관계를 높이기 위해 적응적인 그룹 기반 필터링을 적용함으로써 에지 영역 내 블록 현상을 감소시킨다. 추가적으로, 동영상의 경우는 평탄 영역의 flickering 현상을 함께 줄이기 위해 시간 축으로 확장된 알고리즘을 제안하였다.
실험 결과, 제안한 deringing 및 deblocking 알고리즘이 영상 콘텐츠와 해상도에 관계없이 저 전송률로 압축된 동영상에 존재하는 아티팩트들을 성공적으로 감소시키는 것을 확인하였다. 또한 기존 최신 논문의 알고리즘과의 정성적, 정량적 결과 비교를 통하여 제안하는 deringing 및 deblocking 알고리즘의 성능의 우수성을 검증하였다.
