In this thesis, we propose several low-complexity detection and decoding algorithms for multiple-input multiple-output (MIMO) systems. First, we propose a novel maximum likelihood (ML) symbol detection algorithm, which searches lattice points based on the shortest path algorithm. To reduce the computational complexity, we apply scaling, regularization, and lattice-reduction (LR) techniques to the proposed algorithm. Next, we derive the optimal LR-aided successive interference cancellation algorithm, which updates the mean and covariance of the effective symbol vector at each detection stage. Finally, we propose a LR-aided decoding algorithm for coded MIMO systems. The proposed decoding algorithm nearly achieves the performance of optimal iterative detection and decoding (IDD) with a maximum a-posteriori (MAP) detector even if it has much lower computational complexity.
무선통신 시스템에서 통신용량을 늘리기 위한 방법으로 MIMO (multiple-input multiple-output) 시스템에 대한 연구가 활발히 진행되고 있다. MIMO 시스템에서는 송신단과 수신단 모두에서 여러 개의 안테나를 이용하여 신호를 송수신한다. 따라서 동시에 송신된 여러 개의 신호를 수신단에서 효과적으로 검파 및 복호(detection and decoding)하는 것이 전체 시스템 성능에 중요한 역할을 하게 된다. 이 논문에서는 낮은 계산량으로 최적, 또는 최적에 가까운 성능을 내는 몇 가지의 검파 및 복호 알고리즘을 제안한다.
첫번째로, 최단 경로 탐색에 기반한 최적 심볼 검파 알고리즘을 제안한다. 제안 알고리즘에서는 실수 최소자승해(least-squares solution)로부터 거리가 가까운 순서대로 격자점(lattice point)를 탐색하고, 최우도(maximum likelihood)해가 찾아지면 알고리즘을 종료한다. 이를 최단 경로 탐색 문제로 모델링하여 격자점을 효율적으로 탐색하도록 한다. 또한 계산량을 보다 줄이기 위하여 채널 행렬의 조건수(condition number)를 조절하며, 이를 위하여 scaling, regularization, 격자 축소(lattice-reduction) 기법들을 사용한다. 이를 통하여 얻어진 격자 축소와 최단 경로 탐색에 기반한 제안 알고리즘이 최우도 알고리즘의 성능을 유지하면서 기존의 구복호(sphere decoding) 알고리즘보다 더 낮은 계산량을 갖는 것을 확인할 수 있다.
두번째로, 격자 축소에 기반한 최소평균제곱오차 (minimum-mean-squared-error, MMSE) 순차간섭제거 (successive interference cancellation, SIC) 검파 알고리즘을 제안한다. 이 알고리즘에서는 격자 축소를 이용함으로써 보다 낮은 계산량으로 최적에 가까운 성능을 얻을 수 있다. 이때 순차간섭제거 과정에서 심볼의 평균과 공분산을 갱신함으로써 보다 높은 성능을 얻을 수 있다.
마지막으로, 부호화(coded) MIMO 시스템에서의 복호 방법을 고려한다. 수평 (horizontal) 부호화 되어 있는 MIMO 시스템에서 격자 축소 기법을 이용하여 낮은 계산량으로 복호하도록 하였다. 격자 축소를 적용한 이후에 생성되는 새로운 부호어들을 순차간섭제거를 이용하여 복호하고, 최종적으로 복호된 부호어를 원래의 부호어로 변환한다. 이와 같은 과정을 통하여 최적 방법과 비교해 매우 낮은 계산량으로도 최적에 가까운 성능을 얻을 수 있음을 볼 수 있다.
