A fast learning algorithm for a multi layer feedforward neural network is proposed in this thesis. The proposed learning algorithm, based on an innovative variable step size and gradient averaging, has excellent properties to overcome major drawbacks of backpropagation algorithm and shows fast convergence speed.
Also in this thesis, a new non-linear echo canceller, combined linear - non-linear transversal filter, using the multi layer perceptron and the linear adaptive filter is proposed. This new echo canceller shows fast convergence speed than other non-linear echo canceller and achieves desired cancellation of echo required for digital data transmission.
인간의 두뇌를 모방하려는 노력에서 시작된 인공 신경회로망은 대량의 병렬성과 적응 학습 능력을 주된 특징으로 한다. 이러한 신경회로망의 여러 모델들 중에서 다층 구조 인식자(Multi Layer Perceptron)는 오차 역전파 학습법(Error Back Propagation)이 발견된 이후로 이 분야의 연구의 주류를 이루고있다.
최근 들어 이 다층 구조 인식자를 신호 처리나 통신 분야에 응용하려는 연구가 활발히 진행되고 있다. 특히 신호처리 분야에서 널리 쓰이는 적응 필터는 그 구조나 학습 알고리즘이 다층 구조 인식자와 아주 유사하다. 그래서 이러한 유사성을 이용하여 기존의 선형 적응 필터가 해결하기 어려운 비선형 문제를 다층 구조 인식자를 이용하여 해결하려는 연구가 활발히 진행되고 있다.
본 논문에서는 이러한 연구의 하나로 다층 구조 인식자를 이용한 새로운 비선형 적응 반향 제거기(Non-linear Adaptive Echo Canceller)를 제안하였다. 또한 다층 구조 인식자의 실제응용에 있어서 가장 큰 문제점인 느린 학습 속도와 학습 과정에서 생길 수 있는 국부 최소점(local minima) 문제를 해결하기 위해 출력의 오차에 따라 변하는 가변 보폭(variable step - size)과 경사의 평균(Gradient Averaging)을 갖는 새로운 오차 역전파 학습법을 제시하였다.
