A relay-based multiple-antenna wireless communication system can increase system capacity and cell coverage. In addition, that makes it possible to support transmission for multiple users located far from the base station. It is necessary to precode the signal vector at both base station and relay station to support multi-user transmission in downlink cellular systems and those precoding schemes are very similar to conventional precoding schemes in multi-user MIMO (MU-MIMO) downlink. In this thesis, we propose the two novel precoding schemes at base station and relay station. The first one is linear optimal precoders which minimize mean square error (MSE) of received signal. The optimal precoders are obtained by solving an unconstraint optimization problem. This problems are coupled to each other, therefore, closed-form solutions do not exist. Thus, each solution is obtained by the proposed iterative algorithm. The second one is to apply one of the MU-MIMO precoding schemes using the lattice reduction (LR) algorithm and modulo operation to our amplify and forward (AF) MIMO relaying system. We perform the average BER performance comparison between the proposed linear optimal scheme and the conventional precoding schemes such as zero forcing (ZF)-precoding and Wiener precoding. And we also check that the proposed LR-aided precoding schemes have the achievable rate which is superior to that of the conventional ZF-precoding.
다중 안테나 통신 기법은 MIMO (Multiple Input Multiple Output)라 불리는데, 기존의 통신 기법에 비해 채널 용량이 증가되고 시스템 성능도 좋아져서 차세대 이동 통신 시스템의 핵심 기술로 사용될 전망이다. 중계기(relay)는 셀(cell)의 범위와 용량을 확장시킬 수 있어서 최근 활발히 연구가 진행되고 있는 분야이다. MIMO-relaying 시스템에서 다중사용자에게 신호를 전송하기 위해서는, 각 사용자가 다른 사용자들의 신호에 간섭을 받지 않기 위해 기지국이나 중계기에서 보내고자 하는 신호에 미리 신호처리를 해서 사용자들에게 전송해야 한다. 본 논문에서는 이러한 신호처리 방식에 대해 크게 두 가지의 알고리즘을 제시한다. 첫 번째로, 기지국과 중계기에서 보내고자 하는 신호벡터에 매트릭스를 곱한다고 가정한 뒤, 신호의 MSE(mean square error)가 최소가 되도록 매트릭스를 design하는 방식이다. 두 번째 방식은 LR(lattice reduction) 알고리즘과 modulo operation을 이용한 신호처리 방식이다. 기지국과 중계기에서 각각의 채널 매트릭스를 안다고 가정한 뒤, 각각을 LR 알고리즘을 적용시켜 기존의 채널 매트릭스보다 orthogonal한 특성을 갖는 매트릭스로 변환한다. LR 알고리즘을 적용시키면 integer unimodular matrix를 얻을 수가 있는데, 이를 각각 보내고자 하는 신호벡터에 곱한 뒤 modulo operation을 취하고 난 후, 앞에서 구한 변환된 채널 매트릭스의 inverse를 곱하여 전송한다. 이 방식은 기존의 ZF-precoding을 응용한 것인데, 기존의 방식이 채널 상태가 좋지 않을 경우에 성능이 많이 저하되는 단점이 있는 반면 본 방식은 채널 상태가 좋지 않은 경우에도 채널을 좋게 바꿔주는 LR 알고리즘을 적용하였기 때문에 전반적으로 시스템의 성능이 좋아진다. 제시한 두 가지 신호처리 알고리즘의 성능을 평가하기 위해 다양한 시뮬레이션을 수행하였으며, 시뮬레이션 결과 기존의 방식보다 BER성능이나 achievable rate이 좋게 나오는 것을 확인할 수 있었다.
