In this thesis, we try to improve the performance of mobile communication systems by designing encoder and decoder with deep neural networks. Denoising deep autoencoder which is a unsupervised generative model in deep learning is applied to wireless communication systems.
First, we focus on orthogonal frequency division multiplexing (OFDM) system where single symbol is allocated to a single resource. Then, we focus on sparse code multiple access (SCMA) system where multiple symbols are allocated to a single resource. High peak-to-average power ratio (PAPR) has been one of the major drawback of OFDM system. We propose a novel PAPR reduction scheme, PAPR reducing network (PRNet), which is based on the deep autoencoder architecture. In the PRNet, the constellation mapping and demapping of symbols on each subcarrier is determined adaptively through deep learning technique such that both bit error rate (BER) and PAPR of OFDM system can be jointly minimized. Through simulations, we show that the proposed scheme outperforms the conventional schemes in terms of BER and PAPR. We showed that the probability that PAPR is higher than 3 dB is less than 0.1 % and at the same time the BER is improved compared to conventional schemes.
Secondly, SCMA is one of the promising multiple access schemes that can satisfy the criteria of 5G wireless communication system in terms of spectral efficiency and massive connection. Designing the SCMA codebook is a difficult work because of non-orthogonality and multi-dimension traits of SCMA system. We proposed a novel codebook generation method for SCMA system in the perspective of bit error rate (BER) based on deep autoencoder structure. The codebook generator is built with multiple deep neural networks (DNNs) and trained to generate BER minimizing codebook. Also, a DNN based decoder is proposed which is shown to require much less computation time than conventional MPA detector. The proposed codebook is shown to outperform conventional SCMA codebook upto 3 dB SNR.
Lastly, we proposed a deep spread multiplexing (DSM) which is the generalization of SCMA. DSM is able to deal with any number of signal streams and resources. Also, effective methods to train the DNN based encoder and decoder are studied. Through simulations, we showed that the proposed DSM outperforms conventional SCMA upto 2 dB SNR.
본 논문은 인공 지능의 핵심 기술인 심층 신경망을 이용해 디자인한 인코더와 디코더를 통한 이동 통신 시스템의 성능 향상을 목적으로 한다. 딥러닝의 unsupervised generative 모델 중 하나인 denoising deep autoencoder 구조를 응용하여 무선 통신 시스템에 적용하였다.
먼저 하나의 심볼이 하나의 자원에 할당되는 직교 주파수 분할 다중 접속 방식 시스템에 대한 성능 향상을 연구한다. 그리고 여러 개의 심볼이 하나의 자원에 할당되는 희소 코드기반 다중 접속 방식 시스템에 대한 성능 향상을 연구한다. 직교 주파수 분할 다중 접속 방식 시스템에서는 최대 전력 대비 평균 전력 비가 크다는 것이 단점으로 알려져 있다. 이 논문에서는 최대 전력 대비 평균 전력 비를 감소시키는 심층 신경망을 오토인코더 구조를 이용해 설계하고 피알넷이라 명명한다. 피알넷에서는 비트 오류율이 최소화되고 동시에 최대 전력 대비 평균 전력 비를 감소시킬 수 있도록 적응적으로 각 자원의 성상도에 심볼들을 위치시키고 다시 복구하는 방법이 제시되었다. 제안한 방법들을 통해서 얻어진 최대 전력 대비 평균 전력 비와 비드 오류율이 기존 방법들을 통해서 얻은 값들보다 더 향상된 것을 시뮬레이션을 통해서 확인할 수 있다. 제안 방법으로 얻어진 최대 전력 대비 평균 전력의 값이 3 dB보다 적을 확률이 0.1% 이하이고 비트 오류율 또한 기존 방법들에 비해 더 향상되었다.
두번째로 희소 코드 기반 다중 접속 방식 시스템은 주파수 효율성과 다수 연결성이라는 측면에서 차세대 통신 시스템에서의 요구를 만족시킬 수 있는 5세대 무선 통신 시스템에서 매우 유망한 기술로 평가되고 있다. 희소 코드 기반 다중 접속 방식의 코드북을 설계하는 것은 코드북이 비직교성과 다차원이라는 특성을 가지고 있기 때문에 난제로 여겨지고 있다. 이 논문에서는 기존에는 없었던 방법으로 비트 오류율을 최소화하는데 목적을 둔 코드북을 생성할 수 있는 방법을 제안한다. 딥러닝 기술을 이용해 심층 신경망으로 코드북 생성기를 구성하고 비트 오류율을 최소하하는 방향으로 코드북을 학습시킨다. 이렇게 만들어진 새로운 코드북뿐만 아니라 심층 신경망을 구성해서 기존 방법보다 계산 복잡도가 훨씬 적은 디코더를 제안한다. 심층 신경망을 통해 얻어진 코드북은 기본 방법의 코드북들보다 최대 3 dB 만큼의 신호 대비 잡음비의 이득이 있다.
세번째로 딥스프레드 다중화 방식이라는 시스템을 제안한다. 딥스프레드 다중화 방식은 희소 코드 기반 다중 접속 방식 시스템을 일반화한 시스템으로써 다양한 수의 신호 스트림과 자원 수에 대해서 적응적으로 적용할 수 있다는 것이 장점이다.
또한 심층 신경망을 이용한 복호화기와 부호화기를 효과적으로 학습시키는 방법들에 대해서 연구하였다. 시뮬레이션을 통해 제안한 딥스프레드 다중화 방식의 시스템이 기존 희소 코드 기반 다중 접속 방식 시스템보다 가우시안 채널에서 2 dB 성능 향상이 있다는 것을 보였다.
