The major objective of classification is to assign a new data object represnted as features, at times referred to as attributes or input variables, to one of possible classes with a mininal rate of misclassification. Solution to the classification problem may be characterized in terms of parameterixed or non-parameterized separation boundaries that can successfully differentiate various classed in the feature space. A main steam of researches to build the separation boundaries has been on learning from examples, where a classifier system accepts case descriptions that are pre-classified and then the system learns a set of separation sufaces that can classify new cases based on the pre-classified cases.
This dissertation introduces a classifier system to build the separation boundaries by utilizing adaptive algorithms, which are hybrid genetic algorithms and coevolutionary algorithms based on the learning-from-examples concept. The primarily focused domain in this study is multi-dimensinonal patteran classification problems with continuous input features, which requires dimensionlity reduction through feature selection or feature extraction.
Firstly devised is a hybrid classification method that utilixes genetic algorithms(GAs)and adaptive operations of ellipsoidal regions for multidimensional pattern classification problems with continuous features the classification method fits a finite mumber of ellipsoidal regions to data pattern using hybrid GAs, a combination of local improvement procedures and GAs, The local improvement method adaptively expands. rotates, shrinks, and moves the ellipsoids while each ellipsoid is separately assigned a fitness value during the GA operations. A set of significant features for the ellipsoids are sutomatically selected in the hybrid GA procedure by introducing"don't care"bits to encode the chromosomes.
Secondly, a coevolutionary classification method is introduced to discover a set of optimal separation boundaries represented by several predefined types of regions for multidimensional pattern classification problems. A classification problem is decomposed into two sub-problems,
A classifier system is introduced to build the separation boundaries by utilizing adaptive algorithms, which are hybrid GA and coevolutionary algorithms based on the learning-from-examples concept. Firstly devised classification method adopts hybrid GAs, a combination of local improvement procedures and GAs. The local improvement method adaptively expands, rotates, shrinks, and moves the ellipsoids. Secondly, a coevolutionary classifier system is obtained by coordinating two sub-problems, a feature selection sub-problem and a classifiers adaptation sub-problem, decomposed from a classification problem. Finally, the adaptive classifier systems are applied to the real-field data set, i.e., deflection yoke misconvergence pattern identification problem. The proposed classifier systems show superior type II error characteristics while maintaining type I error to an equivalent level to other standard classification methods.
분류 (classification)의 주요 목적은 여러 특징 (또는 변수)들로 표현된 데이터 개체를 최소한의 오류로 해당 클래스에 할당하는 것이다. 분류문제는 해당 변수 공간에서 다양한 클래스를 잘 구별할 수 있도록 구분경계(separation boundaries)를 설정함으로써 해결될 수 있다. 이러한 구분경계를 설정하기 위한 연구들의 주요 방향은 사례기반학습 (learning from examples)에 바탕을 두고 있다. 사례기반학습이란 한 분류 시스템이 기 분류된 사례들을 바탕으로 새로운 경우를 분류할 수 있도록 일단의 구분경계를 학습하는 것을 의미한다.
본 연구는 혼용 유전자 알고리즘 (hybrid genetic algorithm)과 공진화 알고리즘 (coevolutionary algorithm)이라는 일종의 적응 알고리즘을 사용하여 사례기반학습 개념을 바탕으로 구분경계를 만들어 내는 분류 시스템을 소개하고 있다. 본 연구의 주요 관심 분야는 연속형 수치 데이터만을 변수로 가지는 다차원 분류 문제로서 변수 선정 (feature selection)이나 변수추출 (feature extraction)를 통한 차원 축소가 필요한 문제분야이다.
첫번째로 유전자 알고리즘과 연속형 변수로 이루어진 다차원 공간에서 타원형태의 개체에 대한 적응조작 (adaptive operations)을 활용한 혼용 분류방법이 고안되었다. 고안된 분류방법은 국소 개선 방식과 유전자 알고리즘을 결합한 혼용 유전자알고리즘을 사용하여 정해진 개수의 타원개체를 데이터 패턴에 맞추는 방식이다. 국소 개선 방식은 유전자 알고리즘 조작중에 각 타원에게 할당된 적합도 (fitness)에 다라 해당 타원의 크기를 증가 또는 감소시키거나 회전시키는 방법으로 이루어진다. 또한 염색체를 구성할때 "무관심 (don't care)" 비트를 도입함으로써 혼용 유전자 알고리즘 수행중에 주요 변수들이 자동으로 선택된다.
두번째로 다차원 패턴분류 문제를 위해 몇 가지 기정의된 형태의 개체드로 표현되는 최적의 구분경계 집합을 찾아내는 방법으로 공진화 기반의 분류 방법이 소개된다. 하나의 분류 문제는 변수선정 관련 하위 문제와 분류개체 적응 관련 하위 문제로 나누어질 수 있다. 공진화 관점에 보면 서로의 수행도에 영향을 주는 이를 두 가지 하위 문제들을 잘 협조시킴으로 효과적인 분류 시스템을 만들어 낼 수 있다. 제안된 방법은 지역적 변수 집합으로 정의되는 부분 공간 그룹을 설정하고 나서, 각 부분 공간에서 혼용 유전자 알고리즘을 사용해서 분류 개체들을 데이터 패턴에 맞게 진화시키는 것이다. 그리고 나서, 각 부분 공간에 위치해서 진화가 완료된 분류 개체들의 적합도 결과에 따라 해당 부분 공간을 진화시킴으로써 공진화의 한사이클이 완료된다. 선정된 공간 변수 집합은 변수와 해당 변수의 유효 구간 (valid interval)으로 구성되는데, 이는 실제로 선정된 변수로 이루어진 차원공간의한 부분을 나타내는 것이다. 공간 변수 집합은 변수의 추가를 통해 확장되는 부분공간이 가능한 한 많은 해당 클래스의 데이터를 포함하도록 반복적으로 한번에 한 변수와 해당 유효구간을추가함으로써 만들어 진다. 모든 부분 공간에서 원, 타원 등으로 기 정의된 기하학적 도형으로 이루어진 분류 개체들은 유전자 알고리즘과 휴리스틱 국소 적응 알고리즘을 혼용한 방법으로 주어진 데이터 패턴에 맞도록 각자의 파라미터를 조정하게 된다.
앞으로 제안된 두 가지 분류 시스템은 UCI 데이터베이스에서 얻은 가장 잘 알려진 표준형 데이터 집합으로 그 성능을 시험하였다. 그 결과 제안된 두 가지 방법 모두 k 개 최단거리 이웃 방법(k nearest neighbor),의사결정 나무 (decision tree) 또는 신경망 (neural network)과 같은 다른 분류 방법들보다 더 좋은 수행도를 나타내었다.
마지막으로, 지금까지 제안되었던 적응 분류 시스템들은 편향코일 (deflection yoke: DY)의 비수렴 패턴 인식 문제라는 실제 필드 데이터에 적용된다. 언급한 편향코일 관련 데이터는좀 더 복잡하고 비정형적이어서 광범위에 걸친 분류 체제가 필요하다. 해당 문제에 대해서는 본 연구에서 다루어진 혼용 유전자 알고리즘과 공진화 분류 방법을 적용할 수 있도록 단순화 및 전환 작업이 수행된다. 징후를 나타내는 대표 변수 추울 방법을 통한 차원 축소와 몇개의 클래스로 이루어진 본래 문제를 두 개의 클래스로만 이루어진 몇 개의 작은 문제로 쪼개는 방법을 통해 단순화와 전환 작업이 이루어진다. 제안되었던 두 가지 분류 시스템 모두 다른 일반적인 분류 방법들에 비해 제 1 종 오류는 비슷한 수준을 유？며, 제 2 종 오류에 있어서 우수한 수행도를 나타내었다.
