For the purpose of commercialization of Handwritten Numeral Recognition Systems(HNRS), it is desirable that the HNRS produces less misclassification rather than more correct classification by introducing a rejection scheme.
In this dissertation, we propose the Hierarchical BKS as one of the multiple classifier combination frameworks. It utilizes ranked level individual classifiers, and, automatically expands its behavioral knowledge in order to satisfy given reliability requirement.
To enhance generalization capability, we introduce the concepts of UOT and marginalizing of BKS. The meaning of UOT is how much we believe that the unit occurred in the training stage is present in real situation. Marginalizing is a utilization of BKS constructed by every combinations of individual classifiers in the pool, except all classifiers.
Several comparisons of Hierarchical BKS with BKS and unanimous voting are shown and characteristics of Hierarchical BKS are discussed. As the results, Hierarchical BKS outperforms BKS with both modelling and unseen data, and, only Hierarchical BKS delivers reasonable classification ability as a practical MCC frame-work. Hierarchical BKS has an excellent modelling ability : When BCRT is set to 0.9995, Hierarchical BKS is able to classify all modelling patterns. Also, it is con-firmed that the BCRT is a lower bound of the reliability in the modelling data.
We can see that the problem caused by different distribution of modelling and unseen data is overcome by increasing the value of UOT, and by the classification algorithm using marginalizing of BKS. By doing that way, the difference between the assessments of performances with modelling and unseen patterns becomes smaller, which means UOT is a very useful threshold to overcome problems caused by the difference of the samples and population.
필기 숫자 인식 시스템 (HNRS)의 상용화에 있어서, 높은 인식률 보다 더욱 중요한 요소는 낮은 오류율이다. 본 논문에서는, 실용적인 HNRS에 적용할 수 있는, 다중 인식기 결합 방법론의 하나로, 계층적 BKS(Behavioral Knowledge Space) 를 제안한다.
먼저 다중 인식기 결합 방법론을 크게 "독립 가정형", "의존성 고려형", "의존성 무관형" 으로 나누고, 각각에 속하는 결합 방법론에 대하여 논한다. 이러한 분류법을 쓰는 이유는, 높은 인식률의 인식기를 결합하고자 하는 경우, 인식기 간의 상호 의존성이, 그 결합 성능에 많은 영향을 미치기 때문이다. 또한 의존성 척도로서, COV(Co-Occurrence Value)를 소개하고, 각 개별 인식기의 정인식률의 함수로서, 최고 COV, 최저 COV, 기대 COV를 유도하고, 이들의 특성에 대하여 논한다.
제안하는 계층적 BKS는, BKS내 테이블에 저장하는, 입력 패턴에 대한 인식 후보 수를, 요구하는 신뢰도에 맞추어 자동적으로 결정한다. Hierarchical BKS를 이용한 모델링, 인식과정에는 BCRT(the Best Class Reliability Threshold)와 UOT(Unit Occurrence Threshold)라는 두가지 임계치가 필요하다. BCRT란, 어떤 유닛이 포컬 유닛이 되는
경우, 해당 포컬 유닛의 최대돗수 부류가, 올바른 인식 결과가 될 확률의 임계치이고, UOT란, 모델링 단계에서의 어떤 유닛의 출현이, 실제 상황에서도 일어날 수 있는가를 나타내는 임계치이다. 또한 Marginalizing의 개념을 인식 단계에 도입한다. 이는 개별 인식기의 모든 조합에 대한 BKS을 생성하여 인식시에 이용함으로써, BKS 결합 방법론의 최대 약점인, 모집단과 샘플 분포의 차이에서 오는 일반화 능력의 저하를 줄이기 위하여 도입되었다. 통계적 관점에서 Hierarchical BKS는 BKS와 마찬가지로 최적해를 보장하며 BCRT는 추정 신뢰도의 최고 하한이 된다.
이러한 Hierarchical BKS를 몇가지 실험을 통하여 기존 BKS와 만장일치투표 방법론과 비교하였다. 먼저 Hierarchical BKS가 기존 BKS에 비하여 모델링 능력과 일반화 능력에서 상당한 우위에 있음을 확인할 수 있었다. 특히 모델링 능력에 대해서는, BCRT가 매우 크고 UOT가 낮은 경우, 학습집합을 완전하게 모델링 할 수 있음을 보여주었고, BCRT가 추정 신뢰도의 최고 하한임을 실험으로 확인할 수 있었다. 또한 UOT가 전술한 모집단과 샘플의 분포차를 극복할 수 있는 유용한 수단임을 확인하였다. 마지막으로 간단한 분석을 통하여 만장일치투표 방법론과 비교함으로써, 제안하는 Hierarchical BKS 방법론이 현실적인 HNRS를 구현에 알맞은 방법론임을 확인하였다.
