This dissertation studies machine learning-aided error correction schemes. Firstly, we propose a novel decoding algorithm for low-density parity-check (LDPC) codes, which addresses performance degradation in a high signal-to-noise ratio (SNR) regime, called the error floor, caused by trapping sets (TSs). When the decoder fails with a TS, it is shown that there exist paths between unsatisfied check nodes (CNs) consisting of erroneous variable nodes (VNs) in the Tanner graph. By analyzing the statistical characteristics of the reliability of these erroneous VNs, we propose a machine learning-based method to detect TSs. The TS errors are resolved by correcting errors within the detected TSs and performing additional decoding trials. Furthermore, based on the interpretation of the trained model, we propose a low-complexity detection method for TSs that effectively mitigates the high computational complexity issues posed by deep neural networks. Performance evaluation demonstrated that the proposed scheme significantly improves the error floor performance of LDPC codes. Secondly, we propose a method for designing rate-compatible codes using an autoencoder. To reduce the training complexity, we concatenate an autoencoder with classical channel codes in such a way that the autoencoder reconstructs only the parity bits of the encoded codeword. In addition, the proposed model employs hierarchical autoencoders, which enables adaptive activation of the trained autoencoders depending on the rate requirements. Training for the proposed model is performed with multi-stage learning, and the trained rate-compatible codes are analyzed as a classical punctured code, which allows us to gain insights into the operation of the trained model. Lastly, we propose a design scheme for polar codes employing reinforcement learning (RL). The proposed scheme is conducted with Reed-Muller codes, i.e., polar codes optimized for the minimum distance, as a base code. Puncturing is first performed for the base code to gain a degree of freedom, called transmission hole, and the puncturing pattern is designed to minimize the loss in the minimum distance. Subsequently, extending is performed to generate additional bits transmitted through these transmission holes without rate loss. Since there exists no efficient tool to analyze the successive cancellation list decoding (SCLD) performance of polar codes, we model the problem of designing extending patterns as a Markov decision process and optimize it with RL techniques. Moreover, we introduce a novel idea to reduce the state and action space of RL, which greatly expedites the design of the extended bits. Performance evaluation shows that the polar codes designed with the proposed scheme have notably improved SCLD performance compared to existing polar code designs.
본 논문은 기계 학습을 활용한 오류 정정 기술에 관한 연구를 수행하였다. 첫째로, 저밀도 패리티 검사 부호의 높은 신호 대 잡음 비 영역에서 트래핑 집합으로 인해 발생하는 오류 마루 성능 개선을 위한 연구를 수행하였다. 오류 마루 영역에서 복호 오류 발생 시, 테너 그래프 상에서 트래핑 집합의 불만족 검사 노드 사이의 오류 변수 노드만으로 구성된 경로가 존재함을 보이고, 오류 변수 노드의 통계적 신뢰도 특성 분석을 통해 기계 학습 기반의 트래핑 집합 검출 방식을 제안한다. 제안하는 방식은 검출된 트래핑 집합을 정정 후 재 복호를 수행하여 오류 마루 문제를 해결한다. 또한, 학습된 기계 학습 모델의 해석을 통해 심층 신경망이 요구하는 높은 연산 복잡도 문제를 해결한 저복잡도 검출 방식을 제안한다. 본 연구는 기존 방식과의 성능 평가를 통해 제안하는 방식이 효율적으로 저밀도 패리티 검사 부호의 오류 마루 성능을 개선함을 보인다. 둘째로, 오토 인코더를 활용한 가변 부호율 부호의 설계에 관해 연구하였다. 제안하는 모델은 오토인코더와 채널 부호가 연접된 구조로, 채널 부호의 패리티 비트만을 재구성하도록 오토인코더를 활용하여 설계 복잡 도를 최소화한다. 부호율 호환성을 위해 오토인코더를 계층적으로 설계하여 채널 성능 및 요구 부호율에 따라 적응적으로 활성화하며, 각 전송 부호율에 대한 다중 단계 학습 방식을 제안한다. 또한, 학습된 오토인 코더의 동작 원리를 기존의 천공 기술과의 관계를 통해 분석한다. 마지막으로 강화학습을 활용한 극 부호 설계 방식을 제안한다. 본 연구에서 제안하는 방식은 최소 거리에 최적화된 극 부호인 리드 밀러 부호를 기본 부호로 활용하며 최소 거리의 손실을 최소화하는 방향으로 천공을 수행하여 극 부호의 전송 자유도를 확보한다. 확보된 전송 자유도에 대한 확장을 통해 부호율 손실 없이 새로운 전송 비트를 생성한다. 극 부호의 연속 소거 리스트 복호기는 이론적 성능 분석이 불가능하기 때문에 극 부호의 확장 비트 설계 문제를 마르코브 결정 문제로 구성하고, 강화 학습을 통해 확장 패턴을 최적화한다. 또한 강화 학습의 활용 과정에서 극 부호의 연속 소거 복호기의 동작 과정을 분석하여 상태 및 행동 공간의 크기를 줄이고 학습 복잡도 및 성능을 개선한다. 성능 평가를 통해 제안된 방식으로 설계된 극 부호가 기존 극 부호에 비해 향상된 오류율 성능을 가짐을 보인다.
