In B5G communications, machine learning is envisioned to be a key enabling technology in developing the communication systems of the future. A major field in machine learning for communications is channel autoencoders and deep-learning-based channel state information feedback schemes which are a modification of channel autoencoders. Channel autoencoders and deep-learning-based channel state information feedback schemes strive to optimize a part of the communication system end-to-end by using artificial neural networks. It is postulated that the non-linearity of the neural networks would enable these machine learning for communication schemes to find new optimal points that no other conventional algorithms were able to achieve, at a lower complexity. In this thesis, we propose two new channel autoencoder structures as well as a new deep-learning based channel state information feedback structure. ConvAE is a channel autoencoder structure and uses residual blocks with convolutional layers. Residual blocks are made of two convolutional layers, two batch normalization layers, and a residual connection. Residual blocks solve the vanishing gradient problem that other conventional convolutional-layer-based networks suffer. This configuration increases performance while decreasing computational complexity at run-time compared to conventional channel autoencoders. To verify the performance of ConvAE, simulations were done under a 2-by-2 Rayleigh fading MIMO channel. These simulations showed that ConvAE was able to surpass the BER and achievable rate performance of the conventional fully-connected-layer based channel autoencoder. ConvAE-Advanced is a channel autoencoder that achieves adaptive transmission across multiple timeslots, using more resources when the communication channel is favorable. ConvAE-Advanced utilizes an unexploited input dimension in ConvAE for adaptive transmission. This unexploited input dimension was utilized by adding a convolutional layer with 1-by-1 kernels to the residual block structure. To verify the performance of ConvAE-Advanced, simulations were done under a 2-by-2 WINNER2 MIMO channel. Simulations showed that ConvAE-Advanced was able to achieve a better BER and rate performance compared to ConvAE. Moreover, ConvAE-Advanced can attain a better BER performance without additional resource usage compared to ConvAE. ChannelAttention is a deep-learning-based channel state information feedback structure and uses residual blocks with self-attention layers. ChannelAttention utilized self-attention layers as well as a larger number of channels compared to the conventional deep-learning-based channel state information feedback scheme, CsiNet. This enabled ChannelAttention to have a larger receptive field size as well as a larger model capacity. The configuration of ChannelAttention improves normalized mean squared error and cosine similarity performance while increasing complexity. To verify the performance of ChannelAttention, simulations were done under a 64-by-64 QuaDRiGa channel model based on the 3GPP 38.901 urban microcell scenario. Simulations show that ChannelAttention surpasses the normalized mean square error and cosine similarity performance of the conventional CsiNet scheme across all compression ratio ranges.
B5G 시대에는 기계 학습이 새로운 통신 시스템을 구성하는 데 큰 역할을 할 것으로 생각되고 있다. B5G 상황에서 기계 학습을 이용하는 기법 중, 대표적으로 크게 연구된 분야는 채널 오토인코더 및 이를 활용한 딥러닝 기반 채널 정보 피드백 구조가 있다. 채널 오토인코더와 딥러닝 기반 채널 정보 피드백 정보는 통신 시스템의 일부를 인공 신경망을 통하여 end-to-end 최적화를 진행하는 구조로서, 인공 신경망의 비선형성을 이용하여 기존의 알고리즘들이 찾지 못했던 새로운 최적점을 찾을 것으로 예상되고 있다. 본 연구에서는 새로운 채널 오토인코더 구조 두 가지와 새로운 딥러닝 기반 채널 정보 피드백 구조 한 가지를 제안하였다.
첫 번째로, ConvAE는 채널 오토인코더 구조로서, 컨볼루셔널 계층들을 레지듀얼 블록 구조를 응용하여 구성하였다. 레지듀얼 블록 구조는 컨볼루셔널 계층 두 개, 배치 정규화 계층 두 개, 그리고 잔여 연결 한 개를 이용하는 구조로서 기존 컨볼루셔널 계층만을 이용한 네트워크에서 널리 발생하는 Vanishing gradient problem 등의 문제를 해결할 수 있다. 이 구성은 기존의 채널 오토인코더에 비해 통신 성능을 증대하면서 통신 과정에서의 복잡도를 줄이는 것으로 확인되었다. ConvAE의 성능을 검증하기 위하여 레일리 채널 기반의 2-by-2 MIMO 시스템 하에서 시뮬레이션을 진행하였다. 시뮬레이션을 통하여, ConvAE는 기존 전연결 계층을 사용한 채널 오토인코더 및 컨볼루션 계층을 이용하는 채널 오토인코더보다 더 좋은 BER 및 높은 Achievable rate 성능을 보임을 확인하였다. 두 번째로, ConvAE-Advanced는 다수 전송 타임슬롯이 존재할 때, 채널 상황이 좋은 타임슬롯에 송신 자원을 집중하기 위한 채널 오토인코더 구조이다. ConvAE-Advanced는 추가적으로 ConvAE에서는 미사용된 채널 차원을 이용하여 송신 자원 집중을 실현하였다. 이 미사용된 채널 자원은 레지듀얼 블록 구조 앞에 1-by-1 필터를 이용하는 컨볼루션 계층을 추가함으로서 활용되었다. ConvAE-Advanced의 성능을 검증하기 위하여 WINNER2 A1 시나리오 기반의 2-by-2 MIMO 시스템 하에서 시뮬레이션을 진행하였다. 시뮬레이션 결과, ConvAE-Advanced가 기존 ConvAE 구조보다 낮은 비트 에러율과 높은 통신 용량 성능을 달성함을 확인하였다. 추가적으로, ConvAE-Advanced는 ConvAE와 비교하여 동일한 양의 무선 자원을 사용하면서 더 나은 비트 에러율 성능을 보임을 확인하였다. 마지막으로, ChannelAttention은 딥러닝 기반 채널 정보 피드백 구조로서, ConvAE에서 사용되었던 레지듀얼 블록 구조와 Self-Attention 레이어를 이용하여 구성하였다. ChannelAttention은 기존 딥러닝 기반 채널 정보 피드백 구조에 Self-Attention layer를 추가하고, 더 많은 수의 채널을 이용함으로서 인공 신경망의 인지 필드의 크기를 늘림과 동시에 인공 신경망의 모델 용량을 증대하였다. ChannelAttention의 구성은 기존의 CsiNet 구조에 비하여 복잡도가 증하지만, normalized mean squared error 및 cosine similarity 성능이 크게 증가하는것으로 확인되었다. ChannelAttention 구조의 성능을 검증하기 위하여, QuaDRiGa 시뮬레이터 기반의 64-by-64 MIMO 시스템 하에서 시뮬레이션을 진행하였다. 시뮬레이션 결과, 송수신 안테나를 각 64개 사용한 3GPP 38.901 UMi 시나리오 하에서 ChannelAttention이 기존 구조인 CsiNet 구조를 시뮬레이션이 진행된 모든 압축률 범위에서 상회함을 확인하였다.
