Nowadays, increasing attention is being paid to learning capability, especially in robotics area, as a research direction for enhancing machine intelligence toward human intelligence. Note that approaches of analysis and design for learning systems are diverse, depending on application domains with various notions on learning. In general, a learning system structure and its learning algorithm are selected based on analysis of the learning target in consideration of the target`s environment. However, determination of a learning system becomes painstaking when human behavior is the subject of the learning target due to its complex characteristics (i.e., high dimensionality, nonlinear-coupling of attributes, subjectivity, apparent inconsistency, susceptibility to environmental noise and disturbances, and time-variance as well as situation-dependency). In this thesis, in particular, a life-long learning system is presented based on multiple probabilistic fuzzy models, to handle inconsistent/time-varying data effectively such as human behavioral pattern.
First, a new iterative fuzzy clustering algorithm with a supervisory scheme has been proposed to derive a probabilistic fuzzy rule base from numerical data with inconsistency, in view of both ‘classification’ and ‘probabilistic interpretation’. Note that the concept of probability incorporated into the fuzzy logic provides useful information about the certainty factor in deciding output values. The learning process starts in a fully unsupervised manner using a fuzzy clustering algorithm and a cluster validity criterion. Then it gradually constructs meaningful fuzzy partitions over input space and obtains corresponding fuzzy rules with probabilities through an iterative learning process of selective clustering with supervisory guidance based on cluster-pureness and class-separability.
Secondly, an effective life-long learning system has been proposed to deal with time-varying and possibly periodic/repeated data based on multiple probabilistic fuzzy models, in view of short-/long-term adaptivity. The proposed learning system stores a set of probabilistic fuzzy rule bases with maximizing dissimilarities between the rule bases by means of its efficient knowledge management capability for the given memory capacity.
The learning process consists of the two learning processes, which are inductive learning process and deductive learning process. For effective functional assignment of the learning processes, the required learning functions are implemented separately in short-term memory, interim transition memory, long-term memory, and action buffer memory. In the inductive learning process, a probabilistic fuzzy rule base is constructed in the short-term memory using the IFCS learning algorithm every period of time. And then, by a model base construction scheme in the interim transition memory using similarity measures, the probabilistic fuzzy rule base is adapted into the long-term memory in view of long-term adaptivity. On the other hand, the deductive learning process includes a control phase and a learning phase by feedback, especially in view of human-in-the-loop system. In the control phase, a probabilistic fuzzy model is selected by a model estimator and it is transferred to the action buffer memory from the long-term memory. Using the selected model, the learning system provides classification result according to the incrementally drawn test instances. After that, the model estimator updates the values from the training example by feedback. Also, on-line adaptation is paralleled for enhancing control performance to handle time-variance in view of short-term adaptivity.
최근 들어 로보틱스 분야에서는 로봇의 지능을 향상시키기 위한 중요한 요소 중의 하나로서 학습 능력에 대한 관심이 높아지고 있다. 일반적인 공학 시스템의 관점에서, 학습 시스템은 대상으로 하는 데이터의 특성에 따라 적절한 학습 모델과 그에 따른 학습 알고리즘이 선택된다. 하지만, 사람의 행동 패턴 및 생체 신호와 같은 데이터가 대상이 되는 경우에는 고차원성, 비선형성, 비일관성, 시변 특성 등과 같은 복잡한 특성들로 인해 직접적인 수학적 모델링을 통한 학습 시스템의 선택이 어렵게 된다. 본 논문에서는 특히 비일관성과 시변 특성을 가진 데이터로부터 효율적으로 지식을 추출해 낼 수 있는 다중 확률적 퍼지 모델 기반의 평생 학습 시스템(life-long learning system based on multiple probabilistic fuzzy models)을 제안한다.
먼저, 비일관적인 수치 데이터 패턴으로부터 확률적인 퍼지 룰 베이스를 추출하기 위한 IFCS(Iterative Fuzzy Clustering with Supervision) 학습 알고리즘이 제안되었다. 제안된 알고리즘은 퍼지 클러스터링(clustering) 기법과 클러스터 타당성 지수를 이용한 자율 학습 과정으로 시작된다. 그 후, 클러스터 순도 지수(cluster-pureness index)와 클래스 분리도(class-separability)를 이용한 반복 학습 과정을 통해 점차 의미 있는 확률적 퍼지 룰 베이스를 얻어 낸다. 또한, 적응성의 측면에서 시변 특성을 가지는 데이터를 효과적으로 다룰 수 있는 평생 학습 시스템 구조가 제안되었다. 평생 학습 과정은 귀납 학습 및 연역 학습 과정이 반복해서 일어나게 되며, 이를 위한 세부적인 학습 기능은 STM(Short-Term Memory), ITM(Interim Transition memory), LTM(Long-Term Memory) 및 ABM(Action-Buffer Memory)에 분할되어 구현되었다.
귀납 학습 과정에서는 일정 기간 동안 수집된 데이터로부터 IFCS 학습 알고리즘을 이용하여 얻어진 하나의 확률적 퍼지 모델이 STM에 저장된다. ITM에서는 모델 적응 방법을 이용하여 STM에 저장된 모델을 LTM에 축적하여 확률적 퍼지 모델 베이스를 구축한다. 연역 학습 과정은 제어 단계와 학습 단계로 나뉘어 이루어진다. 제어 단계에서는 모델 예측 기법을 이용하여 적합한 모델이 LTM의 모델 베이스로부터 선택되어 ABM으로 이동되며, 패턴 분류 결과를 내보내는데 사용된다. 학습 단계에서는 출력 결과에 대한 피드백 학습 패턴을 이용하여 모델 예측 및 온라인 적응이 병행하여 이루어진다.
제안된 학습 시스템은 스마트 홈과 같은 유비쿼터스 환경에서 학습에 의한 사용자 의도 파악 시스템으로 활용이 될 수 있으며, 이것은 서비스 로봇의 지능적이고 인간 친화적인 인간-로봇 상호작용을 구현하는데 중요한 역할을 할 것으로 기대된다.
