In this thesis, novel joint beamforming schemes using mean square error (MSE) duality are proposed in order to maximize the sum rate of multiple input multiple output (MIMO) two-way relay systems, where sources exchange information via an assisting relay. It is difficult to solve the sum rate maximization problem directly due to its nonconvexity. In order to manage this difficulty, it is shown that per stream MSE duality holds in MIMO two-way relay systems and iterative algorithms are exploited based on the MSE duality and convex optimization programming. The per stream MSE duality in the MIMO two-way relay systems holds under the power constraints: total power constraint and cross power constraints. First, dual systems of the MIMO two-way relay systems are constructed, where the direction of all channels is reversed and the role of transmit and receive beamformers is switched. Then, it is shown that there exist power allocations such that the same MSE values can be achieved in the primal systems and dual systems. Under the total power constraint, the per stream MSE duality holds when the relay beamformer in the dual systems is Hermitian matrix of the relay beamformer in the primal systems. Under the cross power constraints, the per stream MSE duality preserves when positive real scaling factors are employed in the relays of the primal systems and dual systems. Using this MSE duality, a new iterative algorithm is proposed in order to maximize the sum rate of a two-way relay system consisting of two sources and a relay with multiple antennas. In this algorithm, the optimization problem is reformulated as problem that minimizes the product of the minimum mean square errors (MMSE) using the relation between signal to interference plus noise ratio (SINR) and minimum mean square error because the sum rate maximization problem is intractable. The per stream MSE duality is exploited in order to jointly optimize the beamformers subject to the individual power constraints. Power allocation problem is solved by geometric programming (GP), which obtains the global optimum with polynomial-time complexity through logarithmic transformations of the non-convex problems to convex problems. This algorithm and the per stream MSE duality are extended to MIMO two-way relay systems with multiple pairs of sources. The simulation results demonstrate that the proposed schemes outperform the existing linear schemes in view of the sum rate maximization.
스마트 기기의 대중화가 이루어지면서 무선 셀룰러 통신망을 기반으로 한 데이터 전송률에 대한 요구는 폭발적으로 증가하였다. 이에 발맞춰 초고속, 대용량, 고품질의 서비스를 제공하기 위하여 무선 통신 기술도 다양한 형태로 진화하였다. 미래의 5세대 통신망에서는 다중 안테나를 장착한 중계기 시스템을 이용하여 통신 범위의 확대 및 공간 다양성(spatial diversity)을 얻을 것이라고 전망하고 있다. 이에 중계기 기술을 위한 표준화 작업도 IEEE(institute of electrical and electronics engineers) 802.16j, 802.16m 및 3GPP(3rd generation partnership project) LTE-A(long term evolution advanced) 등에서 활발하게 진행되고 있다.
중계기 시스템이란 송신기가 수신기에게 정보를 보낼 때 중계기의 도움을 받는 시스템으로 하드웨어적인 제약이 있는 실제 시스템에서 가상의 다중입출력 시스템을 구성하다. 즉 중계기가 추가로 독립적인 경로를 제공함으로써 공간 다양성을 얻을 수 있는 것이다. 하지만 하나의 신호를 보내는 동안 두 개의 시간 구간(time slot)이 사용되기 때문에 주파수 효율에 손실이 발생하게 되고 이를 보완하기 위하여 양방향 중계기 시스템에 대한 연구가 진행되었다. 양방향 중계기 시스템에서는 망 부호화(network coding) 기법을 이용하여 자기 간섭(self-interference)을 제거하고 통신에 필요한 시간 구간 수를 줄임으로써 주파수 효율을 증대시킬 수 있다.
이러한 다중 안테나 양방향 중계기 시스템에서 송신전력 제약조건이 존재할 때 합 전송률을 최대화하는 문제는 비볼록(non-convex) 문제로써 전역해(global optimum)를 구하는 것은 쉽지 않다. 따라서 기존 연구에서는 반복 기법(iterative algorithm)을 사용하거나, 채널 대각화 기법(channel diagonalization) 및 신호 배열(signal alignment) 을 기반으로 하여 빔형성기(beamformer)를 설계하였다. 본 연구에서는 비가역 채널(non-reciprocal channel)을 가정한 양방향 중계기 시스템에서 쌍대성을 이용한 빔형성(beamforming) 기법을 제안한다. 먼저, 신호 대 간섭 및 잡음비(signal to interference plus noise ratio, SINR)와 최소 평균제곱오차(minimum mean square error, MMSE)의 관계를 이용하여 합 전송률 최대화 문제를 최소 평균제곱오차의 곱을 최소화 하는 문제로 바꾼 다음, 쌍대성 이론의 특징을 활용하는 방식으로 문제에 접근하였다.
쌍대성은 최적화 문제를 푸는데 있어서 좋은 특징이 있다. 쌍대성을 이용하면 복잡하게 상호 결합되어 있는 송신필터 설계 문제를 서로 분리되어 존재하는 수신필터 설계 문제로 재구성하여 그 해를 비교적 쉽게 구할 있는 것이다. 이를 위하여 본 연구에서는 양방향 중계기 시스템에 해당하는 쌍대 시스템(dual system)을 제안하고 본 시스템과 쌍대 시스템의 평균제곱오차(mean square error, MSE)를 같도록 하는 전력할당(power allocation) 기법과 그에 부합하는 합 전력 제약조건(total power constraint), 상호 전력 제약조건(cross power constraint)에 대해서 살펴보았다. 즉, 다중 안테나 양방향 중계기 시스템에서 각 스트림별 평균제곱오차 쌍대성(per stream MSE duality)을 증명한 것이다. 그리고 이를 이용하여 합 전송율을 최대화 하는 빔형성 기법을 제안하였다.
제안한 알고리즘에서는 송수신기 설계 문제를 각각 발신기의 송신기와 수신기, 그리고 중계기의 빔형성기를 설계하는 부분 문제들로 나누고 반복 기법을 통하여 효율적으로 필터들을 설계하였다. 발신기의 수신기를 설계하는 문제에서는 최소 평균제곱오차 추정자가 최적의 해임을 보였으며, 발신기의 송신기를 설계하는 문제에서는 스트림별 평균제곱오차 쌍대성을 이용하여 닫힌 형태의 해를 구하였다. 발신기의 전력할당 문제는 최적화 기법 중에 하나인 geometric program을 이용하여 최적의 전역해를 구하였다. 마지막으로 중계기 송신 필터는 interior-point method 를 이용하여 준최적 문제를 풀었다. 그리고 제안된 알고리즘을 다중 노드 쌍이 존재하는 양방향 중계기 시스템으로 확장하여 사용자들과 중계기의 송수신 필터를 공동으로 구하는 기법을 연구하였다. 모의 실험 결과를 통하여 제안한 기법이 기존의 방법들에 비해 더 높은 합 전송률을 얻을 수 있음을 확인하였다.
