This dissertation proposes a Artificial Intelligence (AI) based pilot allocation scheme for network capacity maximization in massive multiple-input multiple-output (MIMO) systems. First, a deep multi-layer perceptron-based pilot allocation scheme (DL-PAS) is proposed for massive MIMO system that use multiple antennas for multiple users in cases of low-density users. The proposed DL-PAS improves the performance in cellular networks with severe pilot contamination by learning the relationship between pilot assignment and the users' location pattern. In this work, we design a novel supervised learning method where input features and output labels are users' locations in all cells and pilot assignments, respectively. Specifically, pretrained optimal pilot assignments with given users' locations are provided through an exhaustive search method as the training data. Then, the proposed DL-PAS provides a near-optimal pilot assignment from the produced inferred function by analyzing the training data. We implement the proposed scheme using a commercial deep multi-layer perceptron system. Simulation-based experiments show that the proposed scheme achieves almost 99.38 % theoretical upper-bound performance with low complexity, requiring only 0.597 ms computational time. In the other topic of this dissertation, we introduce a novel pilot allocation scheme for a massive multiple-input multiple-output system based on deep-convolutional-neural-network (CNN) learning (DC-PAS). This work is an extension of a prior work on the basic deep learning framework of the pilot allocation problem, the application of which to a high-density user nature is difficult owing to the factorial increase in both input features and output layers. To solve this problem, by adopting the advantages of CNN in learning image data, we design input features that represent users' locations in all the cells as image data with a two-dimensional fixed-size matrix. Furthermore, using a sorting mechanism, we construct output layers with a linear space complexity according to the number of users. We also develop a theoretical framework for the network capacity model of a massive MIMO system and apply it to the training process. Finally, we implement the proposed deep CNN-based pilot allocation scheme using a commercial vanilla CNN system, which takes into account shift invariant characteristics. Through simulation-based experiments, we demonstrate that the proposed scheme realizes almost a 98.00 % theoretical upper-bound performance and an elapsed time of 0.842 ms with low complexity in the case of a high-user-density condition.
이 학위 논문에서는 매시브 MIMO 시스템에서 네트워크 용량을 최대화 하기 위한 인공지능 기반 파일롯 할당 스킴을 제안한다. 첫번째로 저밀도 사용자 (low-user-density) 일 경우에 다수의 사용자를 위해 다수의 안테나를 이용하는 대규모 다중 입력 다중 출력 (Massive MIMO) 시스템에 대한 딥러닝 기반 파일럿 할당 알고리즘 (DL-PAS)을 제안한다. 제안된 DL-PAS는 파일럿 할당과 사용자의 위치 패턴 사이의 관계를 학습하여 심각한 파일럿 오염 (pilot contamination) 이 있는 셀룰러 네트워크 성능을 개선한다. 본 연구에서는 입력 기능과 출력 라벨이 모든 셀에서 사용자의 위치이고 파일럿 할당인 새로운 관리 학습 방법을 설계한다. 특히, 주어진 사용자 위치에 대한 사전 훈련된 최적 파일럿 할당을 훈련 데이터로서 전수 검색 (exhaustive search) 방법을 통해 제공한다. 그후 제안된 DL-PAS는 학습 데이터를 분석하여 생성된 추론 함수에서 최적의 파일럿 할당 알고리즘을 제공한다. 본 학위 논문에서는 MLP (multi-layer perceptron) 시스템을 사용하여 제안된 알고리즘을 구현했다. 시뮬레이션 기반 실험에서 제안된 알고리즘이 낮은 복잡성으로 약 99.38 %의 이론상 상한 성능을 달성하고, 0.597 ms의 계산 시간만 소요된다는 것을 보여준다. 두번째로 고밀도 사용자 (high-user-density) 일 경우에 CNN (convolutional neural network) 학습을 기반으로 하는 대규모 다중 입력 다중 출력 시스템에 대한 새로운 파일럿 할당 알고리즘 (DC-PAS)을 소개한다. 고밀도 사용자 조건의 경우 DC-PAS가 DL-PAS 보다 낮은 복잡성을 가진다. 이 작업은 파일럿 할당 문제의 기본 딥러닝 학습 프레임워크에 대한 작업을 적용 시에 입력과 출력 계층 모두의 요인 증가로 인해 고밀도 사용자 환경에 적용하기 어렵다. 이 문제를 해결하기 위해, 이미지 데이터를 학습하는데 있어서 CNN의 장점을 채택함으로써, 본 학위 논문에서는 2차원 고정 크기 매트릭스의 이미지 데이터로 모든 셀의 사용자 위치를 나타내는 입력 기능을 설계한다. 정렬 메커니즘을 사용하여 사용자 수에 따라 출력 레이어를 구성하고, 대규모 다중 입력 다중 출력 시스템의 네트워크 용량 모델에 대한 이론적 프레임워크를 개발하여 학습 프로세스에 적용한다. 마지막으로, 본 학위 논문에서는 데이터의 shift invariant 특성이 있으므로 CNN을 적용하되, 기존의 바닐라 CNN을 보완한 고성능의 심층 CNN 기반 파일럿 할당 스킴을 제안한다. 시뮬레이션 기반 실험을 통해, 본 학위 논문에서는 제안된 알고리즘이 약 98.00 % 이론상 상한 성능을 달성하고, 0.842 ms의 경과 시간이 소요되는 것을 보여준다.