Cyclic prefixed orthogonal frequency division multiplexing (CP-OFDM) has been used as a waveform for mobile communications, but CP-OFDM has weaknesses in an asynchronous heterogeneous network scenario. To overcome the disadvantage of CP-OFDM, the new waveform is suggested for the next generation of the wireless communications. This dissertation deals with quadrature amplitude modulated filter bank multi-carrier (QAM-FBMC), one of the new waveform candidates that emerged after 5G standardization. To solve the problem of intrinsic interference caused by the conventional FBMC scheme, the QAM-FBMC system uses a non-orthogonal prototype filter. In this non-orthogonal structure, this dissertation studies techniques to solve the problems caused by non-orthogonality. Earlier in this dissertation, we summarize the various expressions of the system model through mathematical expressions of the QAM-FBMC system. After the formulating the system model, we aim to solve the problems of QAM-FBMC, which are occurred by the non-orthogonality. Next, we propose 1) studies on how the non-orthogonal filter of the system is designed to have high signal-to-interference ratio and good frequency limiting characteristics at the same time, 2) studies on how to compensate for performance degradation caused by non-orthogonal filters through interference mitigation, 3) methods of estimating the carrier frequency offset, and compare and analyze the performance mathematically. This studies is expected to increase the possibility that QAM-FBMC will be considered realistic candidate of new waveform.
이 논문에서는 차세대 이동통신용 파형으로 제안된 직교 진폭 변조 필터 뱅크 다중 캐리어 시스템을 다룬다. 기존의 오프셋 직교 진폭 변조 방식 기반에서 발생한 내재 간섭 문제를 해결하기 위해, 이 시스템은 비직교 필터를 사용하고 있다. 이러한 구조에서 이 논문은 비직교 필터로 인해 발생하는 문제점을 해결할 수 있는 기법을 연구한다. 먼저 직교 진폭 변조 필터 뱅크 다중 캐리어 시스템의 설계 의도를 설명하고 송수신 모델을 수학적으로 표현한다. 그리고 1) 시스템의 비직교 필터가 높은 신호 대 간섭비와 좋은 주파수 제한 특성을 동시에 가질 수 있도록 설계하는 방법에 대한 연구, 2) 비직교 필터로 인해 발생한 성능 저하를 간섭 완화를 통해 보상하는 방법에 대한 연구, 3) 주파수 오프셋을 추정하는 방법 등을 제안하고 그 성능을 수학적으로 분석하여 비교하는 연구 등에 대한 결과를 정리한다. 이 연구를 통하여 직교 진폭 변조 필터 뱅크 다중 캐리어 시스템이 차세대 파형으로써 현실적으로 고려될 가능성을 높일 것으로 기대한다.