Wireless communication systems user error correcting code (ECC) techniques for high receiver performance, so receiver requires detector to compensate wireless channel effect and decoder to extract original information from coded information. Hence, the receiver of coded system has concatenated structure with detector and decoder naturally. Since both detector and decoder are required to estimate same original message, it is expected that detector and decoder can show their capabilities with improved quality when they take a signal processing iteratively like turbo engine. This idea causes iterative signal processing (ISP) techniques based on turbo principle.
ISP was first developed as a decoding algorithm of turbo codes. After amazing appearance of turbo codes, ISP became general receiver technique and has applied to various wireless communication systems for improving receiver performance. If soft-decision is possible in receiver, ISP is also possible with iterative receiver structure. In recent, iterative techniques are not optional but essential because it is a applicable to wide area of communication system.
In this thesis, we focus on iterative receiver techniques with maxi-mum a $\It{a posteriori}$ (MAP) algorithm. MAP algorithm is frequently used for soft-decision method in iterative receiver because of high performance. However, Map algorithm requires so high complexity that implementation is very hard. Thus, we propose a new MAP algorithm with reduced trellis search, so complexity decreases. Receiver can achieve exact MAP performance with proposed MAP algorithm.
Since maximum likelihood (ML) detection is not practical in multiple input multiple output(MIMO) channel because of high implementation complexity, trellis-based detection is frequently used for achieving high performance with maximum likelihood sequence detection(MLSD) based on Viterbi algorithm instead of conventional ML. If receiver knows trellis structure of MIMO channel, trellis-based detection like MLSD, MAP detection is possible. However, conventional trellis-based detection is impossible if MIMO channel is rank-deficient. This problem means that receiver cannot achieve ML performance with practical complexity of trellis-based detection. Thus, we propose a new trellis-based detection method in the rank-deficient channel. Proposed method detects signal with decomposed channels from entire rank-deficient channel. With proposed method, receiver can achieve higher performance than ML performance with practical complexity.
터보 부호의 등장 이후로 반복 신호 처리 기술을 기반으로 하는 반복 수신 기법이 주목을 받고 있다. 반복 수신 기법은 높은 수신기 성능을 보장한다. 오류 정정보호를 사용하는 시스템에서 반복 수신기는 검출기와 복호기는 경판정을 이용하여 신호를 검출 및 복호한다. MAP 알고리즘은 경판정을 이용한 신호 검출 및 복호 기법으로 널리 사용되고 있다. MAP 알고리즘은 높은 경판정 성능을 보여주지만 높은 복잡도를 가지고 있어 실제 구현이 어렵다는 단점을 가지고 있다. 이에 우리는 MAP 알고리즘의 높은 복잡도 문제를 해결하기 위해 저 복잡도 MAP 알고리즘을 제안한다. 제안된 방식은 트렐리스 기반의 MAP 알고리즘으로 잘 알려짐 BCJR 알고리즘을 기반으로 한다. BCJR알고리즘은 경판정을 위해 트렐리스상에서 모든 상태 전이를 고려한다. 제안된 방식의 경우, BCJR 알고리즘에서 절반의 상태 전이만을 고려하므로 경판정의 복잡도를 감소시킬 수 있다. 또한 제안 방식은 터보 부호, 자기 간섭 채널, 다중 안테나 시스템 등의 다양한 반복 수신기 구조에 응용이 가능하다. 모의 실험을 통해 제안 방식의 성능을 평가한 결과, 성능면에서 기존 MAP알고리즘과 동일한 고성능을 보여주며 동시에 복잡도면에서 기존 MAP 알고리즘에 비해 낮은 복잡도를 보여준다.
다중 안테나 시스템에서 단말기는 제한적인 하드웨어 환경 때문에 안테나 수의 확장이 자유롭지 못하다. 이러한 제약 때문에 송신기의 안테나 수가 수신기의 안테나 수보다 많은 다중 안테나 시스템이 매우 현실적이고 이러한 rank-deficient 환경에 적합한 신호 검출 기법에 대한 연구가 필요하다. ML 검출 기법은 구현이 어렵기 때문에 실제 다중 안테나 시스템에서 높은 검출 성능을 위해 MLSD 등의 트렐리스기반 검출 기법이 널리 사용되고 있다. 하지만 rank-deficient 환경에서 채널의 트렐리스를 구성할 수 없기 때문에 트렐리스 기반 신호 검출이 불가능하다. 이러한 문제를 해결하기 위해 우리는 rank-deficient 환경에 적합한 트렐리스 기반 신호 검출 기법을 제안한다. 제안된 방식은 rank-deficient 채널을 분리한 후 분리된 채널들로 트렐리스를 구성하여 신호를 검출한다. 분리된 채널의 일부로 신호의 일부를 우선 검출한 후에 나머지 일부 채널로 남은 채널을 검출하게 된다. 이때 우선 검출된 일부 채널을 판정 궤환 방식으로 간섭 제거 후 나머지 신호를 검출한다. 판정 궤환 방식의 오류 전파 영향을 감소시키기 위해 판정기 앞단에 복호기를 추가하여 성능을 향상시킬 수 있다. 제안된 방식은 ML 기법보다 낮은 복잡도로 신호 검출이 가능하다. 반복 수신기에 적용할 경우 제안 방식은 ML 보다 낮은 복잡도로 ML 성능보다 높은 성능을 획득할 수 있다. 모의 실험 결과, 반복 수신 기법을 이용하여 제안 방식이 ML 성능보다 높은 성능을 획득할 수 있고 복잡도도 ML의 그것에 비해 낮은 것으로 확인되었다.
