Due to growing demands of bandwidth-hungry services such as virtual reality, over-the-top services, 4K / 8K videos, and cloud computing services, data traffic has been increasing continuously in an exponential manner. To accommodate such data traffic in a cost-effective way, the intensity modulation/direct detection (IM/DD) systems are still required in optical transport systems for short-distance and optical access applications. However, the square-law detection of DD receiver causes nonlinear waveform distortions at the receiver even though the signal experiences linear phenomena such as fiber’s chromatic dispersion. Therefore, the received signal should be able to compensate for the nonlinear waveform distortions by a nonlinear equalizer.
An artificial neural network (ANN) has attracted a great deal of attention as computing power of digital processors has advanced to process large amounts of data. It has a nonlinear processing ability to approximate even complex nonlinear functions, so they are used for compensation of nonlinear waveform distortions. For proper operation of an ANN-based nonlinear equalizer (NLE), it should be trained with training data similar to real data. Also, in optical communications, a pre-determined sequence is highly desirable. This is because the receiver is far away from the transmitter by more than a few kilometers and it should recover the pre-determined training sequence from the received sequence distorted severely by the channel. For this purpose, a pseudo-random binary sequence (PRBS) is widely used for the training sequence which can be easily generated and has similar statistical characteristics with a truly random sequence. However, the ANN-NLE might suffers from the overfitting problem, where the ANN-NLE estimates the entire PRBS from its part, but does poorly on new input sequences.
In this research, we analyze the requirements of PRBS orders which can train the ANN-NLE without the overfitting with on-off keying (OOK) and pulse amplitude modulation (PAM) signals generated by the PRBSs. For this purpose, we first determine the PRBS order required to avoid the overfitting from the PRBS generation rule by using a linear feedback shift register (LFSR) and an exclusive-OR (XOR) operation. Also, we analyze generation of the PAM signals naturally- and Gray-coded by PRBSs and find the required PRBS orders to train the ANN-NLE without the overfitting. The theoretical analysis is confirmed through simulation. To investigate the PRBS orders required to train the ANN-NLE without the overfitting, we evaluate the performance of the ANN-NLE through simulation and experiment by transmitting 28-Gb/s OOK signal and 28-Gbaud PAM signals in IM/DD systems. From the investigation, we confirm that the overfitting does not occur when the ANN-NLE is trained on OOK and PAM signals generated by PRBSs which are selected under our guideline. When the ANN-NLE suffers from the overfitting in the training process, the BER degradation can be observed. For PAM signals, our guideline can be applied regardless of symbol coding.
We evaluate the performance of the ANN-NLE compared with the performance of linear equalizer and Volterra nonlinear equalizer. For an accurate comparison between equalizers, the ANN-NLE is trained under our guideline to make sure that the ANN-NLE does not suffer from the overfitting. Implementation complexity of the ANN-NLE and Volterra nonlinear equalizer is calculated by the number of real-valued multipliers and the performances of those nonlinear equalizers are compared when they have similar implementation complexity. The results show that the ANN-NLE shows slightly outperforms Volterra nonlinear equalizer when the implementation complexity of the two equalizers are similar.
We believe that our findings would be used to select the PRBS orders for training the ANN-NLE without the overfitting and the ANN-NLE can be applied without the performance degradation in direct detection optical communication systems.
기존의 대역폭을 많이 요구하는 서비스들의 지속적인 성장과 더불어 최근 가상 현실, over-the-top 서비스, 4K/8K 비디오, 그리고 클라우드 컴퓨팅 서비스 등과 같은 수요가 증가하면서 데이터 트래픽이 급증하고 있는 추세이다. 이러한 데이터 트래픽을 경제적으로 수용하기 위해서 단거리 전송 시스템이나 광전달망에서는 여전히 간단한 구조의 송신기와 수신기로 구현되는 세기 변조/직접 검출 시스템이 요구되고 있다. 하지만 직접 검출 수신기의 경우에는 광섬유 색분산과 같은 선형 현상도 제곱법 검출(square-law detection)에 의해서 비선형 신호 왜곡으로 나타난다. 따라서 수신된 신호는 비선형 등화기로 비선형 파형 왜곡을 보상해주어야 한다.
인공 신경망은 디지털 프로세서의 계산 능력이 지속적으로 증가하여 많은 양의 데이터를 처리할 수 있게 되면서 많은 관심을 받고 있다. 인공 신경망은 복잡한 비선형 함수라고 하더라도 모방해내는 비선형 처리 능력을 갖고 있어 이를 이용하여 비선형 왜곡 보상에 사용되고 있다. 인공 신경망 기반의 비선형 등화기의 성능을 제대로 발휘하기 위해서는 이를 실제 데이터와 비슷한 학습 데이터로 학습시켜야 한다. 광통신에서는 송신기와 수신기가 수 km 이상 떨어져 있고 학습 데이터가 광섬유를 통해 전송되는 과정에서 왜곡이 발생하기 때문에 미리 정해져 있는 시퀀스가 요구된다. 이를 위해서는 쉽게 만들 수 있고 순수 랜덤 데이터와 비슷한 통계적 특징을 갖고 있는 유사 난수 이진 시퀀스(Pseudorandom binary sequence, PRBS)가 주로 사용되고 있다. 하지만 PRBS로 인공 신경망을 학습하는 경우에는 PRBS의 일부분으로부터 전체 PRBS를 알아내는 overfitting 문제가 발생할 수 있다.
본 논문에서는 인공 신경망이 PRBS로 생성한 on-off keying (OOK) 신호와 펄스 진폭 변조 방식(Pulse amplitude modulation, PAM) 신호로 overfitting 없이 ANN 기반의 비선형 등화기(ANN based nonlinear equalizer, ANN-NLE)를 학습할 수 있는 PRBS의 차수들에 대한 요구 조건에 대해 분석하였다. 이를 위해서 먼저 선형 피드백 시프트 레지스터(Linear feedback shift register, LFSR)과 exclusive-OR(XOR) 연산을 통해 PRBS를 생성하는 규칙에 대해 분석하고 ANN-NLE가 PRBS로 학습하는 과정에서 overfitting을 피할 수 있는 PRBS의 차수에 대한 요구 조건을 구하였다. 또한 PAM 신호를 PRBS들의 자연 코딩과 그레이 코딩을 통해 생성하는 규칙을 분석하여 ANN-NLE의 학습 과정에서 overfitting을 피할 수 있는 PRBS의 차수들에 대한 요구 조건을 알아보았다. 위의 이론적 분석들은 시뮬레이션을 통해 검증되었다. 또한 OOK 신호와 PAM 신호의 전송에서 ANN-NLE의 학습 과정에서 발생한 overfitting이 ANN-NLE의 성능에 미치는 영향을 분석하였다. 이를 위해서 시뮬레이션과 실험을 통해 28-Gb/s의 OOK 신호와 28-Gbaud의 PAM 신호를 세기 변조/직접 검출 시스템을 통해 전송한 후 BER 결과를 측정하였다. 분석 결과를 통해서 제시한 가이드라인에 해당하는 PRBS를 사용하여 생성한 OOK와 PAM 신호로 ANN-NLE를 학습하는 경우에는 overfitting이 발생하지 않음을 확인하였다. ANN-NLE의 학습 과정에서 overfitting이 발생하는 경우에는 BER 저하 현상이 나타나 성능에 영향을 주는 것을 확인하였다. 또한 PAM 신호의 경우에는 제시한 가이드라인이 PRBS들의 PAM 신호를 생성하기 위한 심볼 코딩 방법과는 상관없이 적용이 가능함을 보였다.
끝으로 ANN-NLE의 성능을 선형 등화기와 볼테라 비선형 등화기의 성능을 비교하였다. 이를 위해서 ANN-NLE를 제시한 가이드라인을 통해 overfitting이 일어나지 않는 조건에서 학습하고 타등화기들과 성능을 비교하였다. ANN-NLE와 볼테라 비선형 등화기의 복잡도를 곱셈의 개수로 계산하고 비슷한 복잡도를 가질 때의 성능을 비교하였다. 복잡도가 유사한 경우 ANN-NLE가 볼테라 비선형 등화기에 비해 조금 나은 성능을 보였다.
본 논문은 OOK와 PAM 신호로 ANN-NLE를 overfitting 없이 학습하기 위한 PRBS의 차수들에 대한 일반적인 가이드라인을 제시함으로써 직접 검출 광통신 시스템에서 ANN-NLE를 성능의 저하 없이 학습할 수 있을 것으로 기대한다.
