Increasing demand to the higher throughput network requires the relays in the wireless communication systems. Among several relaying schemes, we look into the simple and practical amplify-and-forward (AF) scheme for implementation. We can generalize the AF scheme into arbitrary linear relaying scheme, but, with time-varying framework, it is difficult to determine the linear combination coefficients. However, by introducing the time-invariant requirement, we could further calculate the coefficients to optimize the achievable rate. In this thesis, we propose filter design algorithms for the linear relay systems. We formulated the achievable rate maximization problem of the linear time-invariant (LTI) relaying, also denoted as filter-and-forward (FF) relaying in this thesis, based on the Toeplitz distribution theorem. The optimization problem is evaluated numerically in the flat-fading channel, and we checked that the FF relaying performs similar to the AF relaying. To verify the validity of FF relaying, the two-hop linear relay system with no direct link is considered in the selective-fading channel. The optimization problem for FF relaying is the function of the filters` power spectrum, and we apply the infinite-dimensional vector space method. The problem is shown to be bi-convex, and the alternating projected gradient method (PGM) is applied to obtain the local optimum source and relay filters. The FF relay changes the frequency response of the overall channel to increase the achievable rate, and outperforms 4\% at SNR=20 dB to the simple AF scheme, shown by the numerical simulations. Additionally, we develop the filter design algorithms for the FF relay systems with the direct link between the source and the relay. In order to capture the time-varying scenario, we apply the joint source and relay filter design to maximize the transmission rate based on the adaptive projected subgradient method (APSM), instead of the PGM. We assume that filters at the source and at the relay by finite-duration impulse response (FIR). The optimization space is reduced to the finite dimension, and have shown numerically that the gain of the proposed algorithm is considerable (upto 12% at SNR =10 dB) compared with the AF scheme in the frequency selective-fading channels.
무선통신에서 제한된 통신 자원으로 더 높은 전송량을 얻기 위한 방안으로 중계기의 사용을 고려하고 있다. 중계기의 다양한 방식 중 선형 중계 방식은 구현에 용이하기 때문에 충분한 연구가 필요하다. 본 학위논문에서는 선형 중계 방식 중 필터 기반의 중계기의 최적화 방법을 고려했다. 2장에서는 시불변 선형 필터를 사용하는 중계 시스템의 전송량 최대화 문제를 유도하였다. 시불변 선형 필터 중계기의 성능을 주파수 평탄 채널에서 계산하였고, 기존 증폭-후-전달 중계 방식 대비 큰 이득이 없음을 확인하였다. 3장에서는 주파수 선택 채널에서 송신기와 수신기의 직접 통신이 불가능한 환경을 고려하였다. 투영 기울기 방식을 사용해서 송신기 필터와 수신기 필터를 번갈아 가며 설계하였다. 계산한 중계기 필터는 전체 채널의 주파수 응답을 변화시켜 전송량 성능을 개선하는 역할을 하고, 계산한 송신기 필터는 이미 형성된 채널에서 가장 높은 전송량을 얻을 수 있도록 전력을 할당하는 역할을 한다. 모의 실험을 통해 시험 채널의 경우 전송량 성능과 전력밀도 함수를 확인하였다. 4장에서는 주파수 선택 채널에서 송신기와 수신기의 직접 통신이 가능한 채널을 고려하였다. 전송량을 증가시키기 위해서 송신기 필터와 수신기 필터를 동시에 설계하는 적응적 설계 방안을 제안하였으며, 이는 적응 투영 기울기 방법에 기반해서 유도하였다. 최적화 공간을 유한 차수로 제한하여 유한 응답 필터를 설계하였다. 모의 실험을 통해서 제안하는 중계 시스템의 성능이 기존 증폭-후-전달 중계 방식 대비 상당한 이득이 있음을 확인하였다. 또한 시변 채널에 대해서도 제안한 적응적 방안이 좋은 필터 갱신 성능을 가지는 것을 확인할 수 있다.
