The objective of this thesis is to provide various types of models and architectures for bidirectional associative memory(BAM) that are fast, efficient, and convergent. By reflecting feasible concepts which are abstracted on the analogy of the human brain, generalization of previous models and architectures is performed. First, weighting matrixes are introduced to input and output side of the original BAM model to obtain input-weighted BAM (IWBAM) and output-weighted BAM(OWBAM) respectively. For both models, learning algorithms are proposed, and theorems for existence and convergence of learning parameters are also derived. Second, the proposed models are further generalized by nonlinearization to overcome the generic storage capacity and error-correction capability limitations of linear models, and nonlinearized IWBAM(N-IWBAM) and nonlinearized OWBAM(N-OWBAM) are obtained. These models are endowed with learning algorithms, characteristics of which are analytically investigated through statistics. For the N-OWBAM, existence and convergence theorems are induced similarly to OWBAM. Using the proposed models which can discriminate highly correlated patterns, a scheme for multiple association is developed to store and recall spatio-temporal sequences robustly within the framework of Wang`s architecture. Computer simulation is performed to validate theoretical results and to compare the proposed models with other BAMs with respect to fundamental properties of BAM such as storage capacity, noise immunity, spurious memory, etc.
인간은 같은 해밍 거리의 패턴들을 구별하여 다르게 인식할 수 있다는 사실에서 유추하여, 원래의 양방향 연상 기억장치의 입력단에 가중치 행렬을 가함으로써 일반화를 행하여 입력가중 양방향 연상 기억장치를 제안하였으며, 모든 학습 쌍들의 연상을 보장하는 문제를 비선형 부등식 집합들의 해를 구하는 문제로 공식화 하였다. 따라서, 제안된 입력가중 양방향 연상 기억장치에 최소기울기하강 방법(gradient descent technique)을 적용함으로써 얻어진 학습방법은, 의사 완화 알고리즘(pseduo-relaxation algorithm)의 틀 속에서 분석됨으로써 해의 존재성과 수렴성을 증명하는 정리를 부여받게 되었다. 입력가중 양방향 연상 기억장치의 여러가지 성질(저장용량, 오차수정 능력, 의사 메모리, 학습속도)들은 기존의 모델들 중 가장 성능이 좋다고 알려진 몇 개의 모델들과 비교하여 비등하거나 낳은 특성을 보인다. 특히 입력가중 양방향 연상 기억장치는 정해진 잡음 반경내에서 순차적 또는 난수적으로 생성된 패턴들에 의해 학습되는 경우에도 고정점(fixed point)을 유지하며 오차수정 능력이 강화되는데, 이것은 가중치의 갱신이 모든 출력노드에 영향을 미칠 수 있는 연결구조에 기인한다. 비슷한 형태의 일반화는 출력단에도 가해질 수 있으며, 이러한 방법으로 고안된 출력가중 양방향 연상 기억장치는 입력패턴들이 선형적으로 가분적이면 학습 알고리즘이 수렴함이 증명되었다.
입력가중 양방향 연상 기억장치와 출력가중 양방향 연상 기억장치의 저장용량은 선형 가분 조건에 의해 제한된다. 대부분의 패턴들이 선형 가분적이지 않은 실제 응용에 있어서 이러한 모델들은 효과적이지 못하므로, 비선형화를 가함으로써 비선형 입력가중 양방향 연상 기억장치와 비선형 출력가중 양방향 연상 기억장치를 제안하였고 이 모델들은 지수적인 저장용량과 오차수정 능력을 가짐을 증명하였다. 비선형 입력가중 양방향 연상 기억장치는 해의 존재성과 수렴성이 증명되지 않으므로 응용 대상이 달라짐에 따라 학습계수를 조절하여야 하는 문제가 있다. 하지만, 선형 네트워크와 비선형 네트워크의 장점을 모두 사용하고 있는 비선형 출력가중 양방향 연상 기억장치는 오차가 수렴될 때마다 기수를 증가시키는 간단한 방법을 덧 붙이면 실제 응용에 쉽게 적용될 수 있다. 이 방법은 기존의 알고리즘들 보다 적은 기수를 가지고 많은 양의 패턴을 저장할 수 있게 한다. 비선형 모델들은 이러한 기수감쇄 효과에 의해 동적범위 제한이 있는 지수적 양방향 연상 기억장치(eBAM)의 디지털, 아날로그 설계에 효율적으로 적용될 수 있다.
제안된 모델들은 강한 상관관계가 있는 패턴들을 분별하는데 효과적이라는 사실을 이용하여, 일대다 맵핑의 감춰진 면을 모델링하는 다중연상이 얻어진다. 또한, 왕이 제안한 구조의 틀 속에서 특별성의 법칙을 정의하고 다중연상을 이용함으로써 잡음이 있는 시공 시퀀스를 연상하는데 성공적으로 적용된다.
