A new nonlinear model is proposed for high density magnetic recording channels, and a new nonlinear equlizer is proposed using the new nonlinear model, that is more robust and reliable than the existing receivers under nonlinear distortions of the magnetic recording channel.
The advent of the information age has brought an enormous demand for the storage of digital data. The capacity of the magnetic disk storage devices has grown at an explosive rate to accommodate the growing demand of the computer industry. Such progress of the magnetic storage system has been achieved by improvements on various components, and among them, the digital signal processing technique employing partial response maximum likelihood(PRML) is considered a key technology for the progress. The PRML is able to withstand a greater inter symbol interference(ISI) of the read back signal than the very old method of peak detection combined with a fixed analog equalizer, and when combined with a more efficient code it achieves a much greater recording density.
The PRML is devised under the assumption that the magnetic channel is linear and has a characteristic close to a fixed target response, commonly called the PR-IV. However, the data recording media, being magnetic in nature, os inherently nonlinear and exhigits increasingly nonlinear behabiors as the recording density is increased. This sets an insurmountable barrier to increasing the recording density even further by the current read channel technology.
The purpose of this research is to explore a new way of overcoming this obstacle by proposing a new nonlinear channel model that is accurate and flexible, and a new nonlinear equalizer that is more robust and reliable than the PRML under the presence of nonlinear distortions.
The proposed nonlinear model is based on a nonlinear superposition of multiple transition responses, in which at each time instance a transition response is selected with a data transition pattern on λ future and ν past bits. The model efficiently and accurately represents the magnetic data recording mechanism in which each transition is under nonlinear interactions with both future and past transitions. Ther new model leads to a nonlinear equalizer with performance superior to the existing nonlinear equalizers with the same structure.
The proposed nonlinear equalizer has a form of a decision feedback equalizer(DFE); it has linear forward filter and a feedback section. and makes a data decision with a threshold detector. But in contrast to the linear DFE, the new nonlinear equalizer has the new nonlinear model in place of the usual linear filter at the feedback section. We call the new nonlinear DFE as the pattern dependent DFE(PDFE).
The linear forward filter of the nonlinear DFE in effect removes the precursor linear ISI and some precursor nonlinear ISI. Ther nonlinear feedback section cancels the postcursor linear and nonlinear ISI assuming correct feedback. Not surprisingly, the nonlinear model used at the feedback section should be accurate. On the ohter hand, the physical magnetic recording channels have significant nonlinear ISI caused by the current and the future transitions. This means that even though precursor linear ISI can be removed by the forward filter, the precursor nonlinear ISI cannot be removed completely at the same time.
Various nonlinear DFEs, implemented with different nonlinear feedback models, have been proposed in the past. But since they make a data decision without considering the remaining precursor nonlinear ISI, their performance is seriously degraded under high nonlinear ISI. The PDFE, however, makes a data decision considering the precursor nonlinear ISI caused by one futuer symbol. Ther PDFE thus achieves a performance superior to the existing nonlinear equalizers.
The nonlinear model at feedback section of the PDFE models the nonlinear ISI caused by one futuer symbol and the current symbol as well as the past symbols. As a consequence, the equalizer output target value for the PDFE is changed with the feedback model value. We propose a tap optimization criterion $SNR_d$ for the PDFE which in effect tries to maximize the output signal to noise ratio, and then derive the optimum tap values involves solving for the maximum eigenvalue and the corresponding eigenvector of a matrix. We also present a simpler method of tap derivation by the minimum mean square error(MMSE) criterion. This method however does not maximize the distance between the equalizer target values.
Simulations using a real magnetic recording channel clearly demonstrate that the new nonlinear equalizer is superior in performance to both the linear DFE and a conbentional nonlinear DFE called the RAM-DFE. The PDFE achieves a large performance improvement over the RAM-DFE when the channel contains precursor nonlinear ISI by future symbols. The performance of the PDFE is improved as we increased the complexity of the feedback nonlinear model. The tap optimization method by maximizing $SNR_d$ achieves a large improvement in equalizer performance over the simpler MMSE method. It is expected that the proposed nonlinear equalizer, PDFE will enable us to increase the data recording capacity of magnetic recording systems by about 15 - 30% when compared with the current system that uses the PRML technology.
본 연구에서는 고밀도 자기 기록 채널(magnetic recording channel)에 대한 새로운 비선형 모델을 제안하며, 이 비선형 모델을 사용하여 자기 기록 채널의 비선형 왜곡에서 기존의 수신기들보다 더욱 견고하고 안정된 성능을 갖는 비선형 등화기(nonlinear equalizer)를 제안한다.
정보화시대의 도래로 인해 디지탈 데이터를 저장하기위한 수요가 급증하였으며, 자기 디스크 저장 장치의 용량은 이와 같은 컴퓨터 업계의 증대하는 요구를 수용하기 위해 폭발적으로 성장해왔다. 자기 저장 시스템의 최근 발전은 여러 부품들의 개선에 의해 달성되어 왔는데, 그중에서도 부분응답 최우 (partial response maximum-likelihood, PRML)방식을 사용하는 디지털 신호 처리(digital signal processing)기술은 이 발전에 있어서 핵심적인 기술로 여겨지고 있다. 이 PRML 기술은 기존의 고정된 아나로그 등화기와 결합한 피크(peak)검출 방법보다도 재생 신호에 존재하는 신호간섭(intersymbol interference, ISI)에 더 강하며, 더욱 효율적인 코드와 결합하여 훨씬 큰 기록 밀도를 달성하였다.
PRML은 자기 채널이 선형적 특성을 갖으며 그 신호 특성이 흔히 PR-IV라고 부르는 고정된 목표 응답(target response)과 비슷하다는 가정하에 고안되었다. 그러나 데이터 기록 미디어는 제질이 자석이므로 기본적으로 비선형적인 특성을 가지며 기록 밀도를 높이면 그 비선형적 특성이 더욱 심해진다. 이 문제는 현재의 PRML 기술로는 기록 밀도를 더 이상 높일 수 없는 장애가 된다.
본 연구의 목적은 더욱 정확하고 유연한 새로운 비선형 채널 모델을 제안하고 비선형 왜곡하에서 PRML보다 더욱 강하고 신뢰적인 새로운 비선형 등화기를 제안하여 이런 장애를 극복하는 것이다.
새로이 제안된 비선형 모델은 여러 트랜지션 응답 (transition response)들을 비선형적으로 중첩하며, 각 시점에서 트랜지션 응답은 λ미래 비트와 ν과거 비트로 이루어진 데이터 트랜지션 패턴을 사용하여 선택한다. 새 모델로 만든 비선형 등화기는 동일한 구조를 한 기존의 비선형 등화기들에 비해 성능이 월등히 우수하다.
제안된 비선형 등화기는 결정 궤환 등화기 (Decision feedback equalizer, DFE)의 형태를 갖는다. 즉, 선형적 포워드 필터 (forward filter)와 피드백 부(feedback section)를 갖고 있으며, 문턱치 검출기 (threshold detector)로 데이터를 검출한다. 그러나 선형적 DFE와는 달리 새로운 비선형 등화기는 피드백 부에 보통 쓰는 선형 필터 대신에 새로운 비선형 모델을 사용한다. 이 새로운 DFE를 패턴 종속 DFE(pattern dependent DFE, PDFE)라고 부른다.
비선형 DFE에서 선형적 포워드 필터는 선형적 프리커서 (percursor) ISI와 일부 비선형적 프리커서 ISI를 제거하는 효과를 갖는다. 비선형 피드백 부는 피드백 데이터가 정확할 경우 선형적 및 비선형적 포스트 커서 (postcuror) ISI를 제거한다. 이 피드백 부에 사용된 비선형 모델은 당연히 정확해야 한다. 다른 한편으로, 실제 자기 기록 채널은 현재와 미래 트랜지션들에 의해 발생한 비선형 ISI도 심각하다. 그 결과 선형적 프리커서 ISI는 포워드 필터에 의해 제거될 수 있지만 비선형적 프리거서 ISI는 동시에 완전히 제거될 수 없다.
과거에 여러 다른 비선형 피드백 모델을 사용하는 여러 비선형 DFE들이 제안되었다. 그러나 이들은 이와 같이 완전히 제거가 안되어 남아있는 비선형 프리커서 ISI를 고려하지 않고 데이터를 검출하므로 비선형 ISI가 심할 경우 성능이 심각하게 저하된다. 그러나 PDFE는 미래 하나의 심볼에 의해 발생한 비선형 프리커서 ISI를 고려하여 데이터를 검출한다. 그러므로 PDFE는 기존의 비선형 등화기들보다 월등한 성능을 달성한다.
PDFE의 피드백 비선형 모델은 과거 심볼들뿐만 아니라 현재와 미래 한개 심볼에 의해 발생한 비선형 ISI를 모델링한다. 그 결과 PDFE의 목표 출력 값은 이 피드백 모델의 값에 따라 변한다. 본 논문은 출력 신호 대 잡음 비를 최대화 하는 탭(tap) 최적화 기준 (optimization criterion)$SNR_d$를 제안하고 이에 따른 최적 탭 값을 유도한다. 결론적으로 말해 이 최적 탭 값은 메트릭스(matrix)의 최대 아젠 값(eigenvalue)과 아이젠 벡터(eigenvector)를 계산하는 과정을 통해 얻는다. 본 논문은 또한 출력 오차 평균 제곱 (minimun mean square error, MMSE)기준으로 탭 값을 최적화하는 보다 간단한 방법도 제시한다. 이 방법은 등화기 목표 값들 사이의 거리를 최대화 하지는 않는다.
실제 자기 기록 채널 신호를 사용한 성능 모의실험은 새로운 비선형 등화기가 선형적 DFE와 기존의 비선형 DFE인 RAM-DFE에 비해 성능이 월등히 우수함을 보인다. 채널이 미래 심볼들에 의한 비선형 프리 커서 ISI를 포함할 경우 PDFE는 RAM-DFE보다 월등히 우수한 성능을 달성한다. 피드백 비선형 모델의 복잡도를 증가 시키면 PDFE의 성능이 개선된다. $SNR_d$를 최대화하는 탭 최적화 방법으로 구한 PDFE는 간단한 MMSE 방법 보다 월등한 성능을 달성 한다. 본 연구에서 제안된 PDFE를 사용하면 데이터 저장 용량을 PRML 기술을 사용하는 현재 시스템보다 약 15-30% 더 높일 수 있을 것으로 예상한다.