As digital communication has become important, the theory and practice of data compression have received increasing attention. Image compression and speech compression (or image coding and speech coding) are probably currently most important applications of data compression. A fundamental result of Shannon's rate-distortion theory is that better performance is always achievable in theory by coding vectors instead of scalars, even if the scalars have been produced by preprocessing the original input data so as to make them uncorrelated or independent. Vector quantization for image compression suffers from edge degradation in the reproduced images that provides undesirable artifacts near sharp edges or in the texture areas and requires the tremendous computational complexity to search the whole codebook to find the closest codevector for an input vector.
A more fundamental benefit of formulating vector quantization using self-organizing feature map (SOFM) training algorithms that have been developed can be adapted to the problem of training vector quantizers. It is well known that the SOFM algorithm can yield near optimal by approximating the pdf of input signals within finite iteration sequence and it was also reported that the SOFM technique generates codebooks of more uniform utilization than those produced by K-means clustering.
A new learning algorithm is proposed based on the utilization of an image block (or vector) feature measure to minimize the edge degradation in reproduced images. To achieve this minimization, the incoming block is tested by investigating its activity, and a corresponding weighting factor is assigned. The assigned weighting factor is used to determine the learning rate adaptively. The proposed algorithm can provide the edge preserving image without an additional vector classification procedure, which is not applicable to the VQ blocks larger than 4x4.
As a new neural network scheme embedding the edge preserving characteristic, a multiple shell structure of hypercube feature maps (MSSHFM) is also proposed. Such a multiple shell construction of nodes inherently contains a complete tree structure in it and a partial search technique can be used to reduce the computational complexity drastically. Since the quantization cells occupied by hypercube feature maps are distributed approximately according to the feature activity of an input vector, it is possible to adaptively quantize the input vector without using any pre-classifier. The proposed MSSHFM especially provide a good performance in low bit rate coding for the large block size such as 8x8.
벡터 양자화 기법(vector quantization)은 낮은 비트율에서의 영상 (혹은 음성) 압축에 있어서 이론적으로 가장 optimal한 성능을 갖는다고 알려져 있기 때문에 많은 사람들이 통신및 정보의 효율적인 저장등의 목적을 위하여 여러가지 영상 압축 방법들을 연구하여 왔다. 그러나 좁은 대역폭을 갖는 통신선로를 통하여 정보를 교환할 경우 낮은 비트율을 유지하여야 하는데 이를 위해서 벡터의 크기를 증가시키게 된다. 이때 두가지 문제가 발생한다. 하나는 높은 계산량의 복잡도(computational complexity)인데 이는 벡터의 차원과 비트율(bit rate)에 따라 기하급수적으로 증가하는 성질이 있으며 벡터 양자화 기법의 구현에 장애가 되고 있다. 다른 하나의 문제는 영상 압축의 경우 에지의 열화(edge degradation)가 발생하기 쉽다는 것이다. 에지의 열화가 중요시되는 이유는 사람의 시각 특성(human visual system)에 아주 민감하게 영향을 주기 때문이다.
본 논문에서는 자기 조직형 신경회로망 모델인 SOFM(self-organizing feature map)을 이용한 새로운 벡터 양자화 알고리즘이 제안되었다. 제안된 방법에서는 서로 다른 차원의 하이퍼 큐브 SOFM들을 다중쉘 구조로 구성함으로써 상대적으로 낮은 차원의 하이퍼 큐브 SOFM들이 높은 차원의 하이퍼 큐브 SOFM들의 안쪽으로 위치하도록 되어있다. 이와 같은 구조하에서 부분 검색 알고리즘(partial search algorithm)을 사용하는데 그 시작을 항상 제일 안쪽에 위치한 zero 차원의 하이퍼 큐브로부터 정한다. 다중쉘 구조하에서 학습에 의하여 형성되는 코드 벡터들은 낮은 차원의 큐브로부터 높은 차원의 큐브로 갈수록 block feature가 단순한 것으로부터 복잡한 것들이 분포하게 된다. 이때 검색 과정에서 사용되는 distortion measure는 벡터간의 거리와 비트율과 Lagrangian multiplier의 곱과의 합에 의해서 정의된다. 다중쉘 하이퍼 큐브의 각 노드의 최종 index는 그 노드가 속한 하이퍼 큐브의 쉘 index와 그 큐브안의 위치를 나타내는 노드 index 의 결합으로 주어지며 하이퍼 큐브의 쉘 index에 대하여 확률 분포에 의한 엔트로피 코드를 부여하여 필요한 총비트수를 줄일수 있다.
사용되는 코드북의 크기는 다중쉘의 하이퍼 큐브를 계속 증가시킴으로써 늘여 나갈수 있고 벡터의 차원에 따라서 적절한 크기를 결정할 수 있다. 전체적인 계산량은 부분 검색 알고리즘에 의해서 현저히 감소시킬 수 있으며 이는 벡터의 크기에 상관 없이 쉘 크기에 따라서 거의 선형적으로 증가하는 특성을 갖는다. 본 논문에서 제안하는 방법은 기본 코드북을 설계하는 것으로써 기존의 여러가지 coding system에 적용하여 사용되어 성능 향상에 기여할수 있으며 컴퓨터 모의실험을 통하여 그 성능을 검증하였다.
