The thesis investigates initialization problem and prefiltering techniques for adaptive equalizers. First, an equalizer initialization problem is considered for adaptive equalizers that can operate in a decision-directed mode during the training period. The clustering problem which groups similar channel vectors into a subset and optimizes the corresponding equalizer weight vector is formulated and sub-optimal solution to this optimization is developed based on generalized Lloyd algorithm (GLA) in vector quantization. The performance of proposed equalizer initialization algorithm (EIA) is examined through an application to the initialization of decision feedback equalizer (DFE) in 1000BASE-T systems. The experimental results shows that set of weight vectors with size two can cover channels with cable length up to 100 m and arbitrary initial timing errors.
Second part of the thesis is devoted to investigate the worst-case performance bound of adaptive equalizers in the presence of modeling errors. For this end, a procedure for finding the worst-case MSE bound is developed under the assumption that norm of modeling error in auto-correlation matrix and that of cross-correlation vector in Wiener-Hopf equation are bounded. Application to linear equalization indicates that the worst-case performance loss in MSE increases as the MSE of equalizer without modeling errors decreases.
Finally, we consider optimization of prefilter in baud-rate timing recovery to enhance equalizer performance. It is shown that prefiltering the received signal can improve the performance of a digital equalizer. The procedure for the optimal design of such a prefilter is developed under the assumption that the channel impulse response and desirable timing phase, at which point the equalizer performs best, are known. Application to Gigabit Ethernet system demonstrates that prefiltering can improve receiver performance.
본 논문에서는 채널의 왜곡을 보상하는 적응 등화기를 설계하는 데 발생되는 문제들을 살펴보았다. 구체적으로 학습신호가 없는 경우의 초기화 문제와 등화기의 성능을 개선하기 위한 심볼 동기복구 블록의 전처리 여파기 설계, 그리고 채널 모델에서 오류가 있을 경우의 등화기의 성능 분석에 관한 내용을 다루었다.
먼저, 학습신호가 주어지지 않은 경우에 적응 등화기가 결정지향모드로 수렴할 수 있도록 하는 초기화 계수의 집합을 설계하는 문제를 고려하였다. 유한한 수의 채널 벡터의 집합이 주어진 경우에, 이를 여러 개의 부분집합으로 분할하고 각각의 부분집합에 하나씩 초기화 계수를 할당하여 모든 채널의 평균자승오차가 문턱 값보다 작도록 하면서, 사용된 초기화 계수의 수는 최소화 하는 최적화 문제를 설정하였다. 이러한 문제에 대한 부분 최적인 해를 벡터 양자화 개념을 응용하여 제안하였다. 등화기 초기화 알고리즘으로 명명된 제안된 알고리즘은 유사한 채널 벡터를 동일한 부분집합에 모으고 각각의 부분집합에 할당되는 초기화 계수는 해당 부분집합에 속한 채널의 평균자승오차 값의 최대값을 최소화하도록 결정한다. 제안된 알고리즘의 효용성을 보이기 위하여 1000BASE-T 시스템에 사용되는 결정귀환 등화기의 초기화 문제에 제안된 알고리즘을 적용하였고 그 결과로서 두 가지의 8탭 초기화 계수로1000BASE-T 시스템에서 고려하는 모든 채널에 대하여 등화기를 수렴시킬 수 있음을 보였다.
또한 본 논문에서는 등화기 설계 단계에서 가정한 채널모델에 오류가 있는 경우에 등화기의 성능을 분석하였다. 채널의 응답 특성과 가산성 잡음의 통계적 특성이 바뀌게 되면 등화기의 평균자승오차를 규정짓는 등화기 입력신호의 자기상관 행렬과 교차상관 벡터가 변하게 된다. 따라서, 이러한 자기상관 행렬과 교차상관 벡터의 변화량의 놈(norm)이 제한되어 있다는 가정 하에 등화기의 평균자승오차에 대한 최대값을 구하고 이를 선형 등화기에 적용하여 성능 저하를 살펴보았다. 제안된 성능 분석 방법은 등화기의 설계 마진을 결정하는 데 매우 유용하게 사용될 수 있다.
마지막으로 본 논문에서는 심볼 주기의 샘플을 이용하여 수신기의 샘플링 위상을 복원하는 심볼 속도 동기복구 알고리즘을 위한 전처리 여파기를 제안하였다. 제안된 전처리 여파기는 등화기의 성능을 극대화 하는 샘플링 위상으로 심볼 동기 루프가 수렴하도록 하면서, 샘플링 위상의 변화 정도를 나타내는 타이밍 지터의 분산을 최소화 하도록 설계된다. 이러한 최적의 여파기 계수를 구하기 위하여 심볼 동기 루프가 최적의 샘플링 위상으로 수렴하도록 하는 선형 제약식과 지터의 분산을 표현한 이차함수를 목적함수로 가지는 최적화 문제를 설정하고 이의 해를 해석적으로 구하였다. 제안된 전처리 여파기의 효용성을 살펴보기 위하여 1000BASE-T 시스템에 적용하여 제안된 전처리 여파기가 등화기의 평균자승오차 값과 타이밍 지터의 분산 값을 효과적으로 줄일 수 있음을 보였다.
