To support high data rate/large capacity in next-generation communication, beamforming techniques on a massive multiple-input multiple-output (MIMO) system are actively proposed. For designing beamformer, however, a downlink channel state information (CSI) is required. Estimation of the downlink CSI in the massive MIMO system is a challenging task due to an increase in overhead according to the channel size. Therefore, most studies assume a time division duplexing (TDD) system in which the uplink and downlink channels are the same. However, in realistic communication system, non-reciprocity of uplink and downlink channels occurs even in the TDD system due to the influence of hardware such as an radio frequency (RF) chain. Recently, deep learning (DL)-based channel estimation and beamforming techniques have been proposed, thanks to the advantage of being applicable regardless of the type of system and channel. However, the DL-based approach requires the large number of training data for performance above a certain level. In this paper, we aim to train the deep neural network (DNN) for designing the beamformer, and introduce deep transfer learning (DTL) using information from pre-trained DNN to reduce the number of required training data. When DTL-based training method is applied, it is possible to train the DNN to properly adapt to the surrounding channel environment with a small number of channel data. Also, through the simulation, the performance of the DTL-based beamforming in various conditions and systems is confirmed. And the factors affecting the performance of the DTL-based beamforming are analyzed. Furthermore, we propose `step-by-step' DTL as the extended DTL-based method that can flexibly respond to the uncertainties of realistic communication environment. The simulation results show that DTL-based DNN training method not only improves the performance by considering the non-reciprocity between uplink and downlink channels regardless of the system and channel type, but also significantly reduces the number of training data for adapting to realistic hardware influence of a specific base station (BS).
차세대 통신에서 고속/대용량 지원을 위해 거대 다중 입출력 시스템 기반 빔포밍 기법이 활발히 연구되고 있다. 하지만 이를 위해서는 하향링크 채널에 대한 정보가 필요하며, 채널 크기에 따른 오버헤드의 증가로 거대 다중 입출력 시스템에서의 하향링크 채널 추정은 도전적인 과제이다. 따라서 대부분의 연구에서는 상향링크와 하향링크 채널이 동일한 시분할 방식의 시스템을 가정한다. 하지만 실제 통신 시스템에서는 RF chain 등 하드웨어의 영향으로 인해 시분할 방식에서도 상향링크와 하향링크 채널의 non-reciprocity가 발생한다. 최근 들어, 시스템 및 채널의 종류에 상관없이 적용할 수 있다는 장점 덕분에 심층학습 기반 채널 추정 및 빔포밍 기법이 제안되고 있다. 하지만 심층학습 기반 접근 방식은 특정 수준 이상의 성능을 위해서 수많은 학습 데이터가 필요하다. 이러한 한계를 극복하기 위해 본 논문에서는 빔포밍을 위한 심층 신경망 학습을 목표로 하며, 필요한 학습 데이터의 수를 줄이기 위해 사전 학습된 심층 신경망의 정보를 활용하는 심층 전이학습을 도입한다. 심층 전이학습을 적용할 경우, 적은 수의 채널 데이터로 주변 채널 환경에 알맞게 적응하도록 심층 신경망을 학습하는 것이 가능하다. 또한 전산 실험을 통해 다양한 조건과 시스템에서의 심층 전이학습 성능의 경향성을 확인하여, 이를 기반으로 심층 전이학습 기반 빔포밍 기법 성능에 영향을 미치는 요소들을 분석한다. 더 나아가, 실제 통신환경의 불확정성에 대해 유연하게 대응할 수 있는 확장된 심층 전이학습 기법인 단계적 전이학습을 제안한다. 심층 전이학습 기반 심층 신경망 학습 방법은 시스템 및 채널 종류에 상관없이 상향링크와 하향링크 채널 사이의 non-reciprocity를 고려하여 성능을 개선할 뿐만 아니라 기존 심층 신경망 학습보다 현저히 적은 수의 학습 데이터로도 특정 기지국의 실질적인 하드웨어 영향에 적응하여 좋은 성능을 갖는다는 사실을 전산 실험을 통해 보인다.
