Conventional dimensionality reduction methods such as Principal Component Analysis (PCA) and Fisher Linear Discriminant Analysis (FLDA) target to reduce the dimensionality of given feature vectors effectively. These methods have been widely used in several classification problems because of the simple implementation, but these methods cannot be used for the purpose of achieving better classification performance. In this thesis, we propose two new dimensionality reduction methods distinct from the conventional dimensionality reduction methods based on learning. We aim to design two methods which can reduce the dimensionality of given feature vectors effectively and also improve the discriminative power of them. We first formulate each of two new problems by adding new constraints, respectively into trace ratio (TR) problem, which is one of the several criterions of FLDA and solve them by our own proposed ways. We call the first method as Discriminative Component Selection (DCS) method and the second method as Discriminative Feature Combination (DFC) method. DCS is applied to texture classification problem on Outex\_TC\_0010 and Outex\_TC\_0012 databases. The results will show that DCS has the best results among several state-of-the-arts methods with comparable dimension. Moreover, DCS has more advantages than conventional dimensionality reduction methods. DFC is applied to generalize Spatial Pyramid Matching (SPM) and tested on 15-Scene database, which is widely used database of scene classification problem. The results will show that DFC-SPM has better classification performance with much less dimension than that of SPM.
잘 알려진 차원 감축 방법인 PCA와 LDA는 차원 감축에 초점을 맞추어 간단하면서도 효과적인 방법으로 알려져 있다. 하지만 이 방법들은 주어진 특징 벡터들의 차원을 줄일 수 있을 뿐 결과 향상에 도움을 주지 못한다. 본 논문에서 우리는 기존의 방법들과 차별화된 학습에 기반한 두가지 새로운 차원 감축 방법을 제시한다. 우리는 기본 목표인 차원 감축 뿐만 아니라 감축된 특징 벡터들이 감축 전 벡터들 보다 더 좋은 분류 결과를 가질 수 있도록 차원 감축 방법을 설계하였다. 우리는 먼저 FLDA 판단 기준 문제들중 하나인 trace ratio 문제에 각각 다른 제한 조건을 추가하여 두가지 문제를 만들고, 우리가 제시하는 방법들로 그 문제를 푼다. 첫번째 방법은 Discriminative Component Selection (DCS) 방법이라 명명하고, 두번째 방법은 Discriminative Feature Combination (DFC) 방법이라 명명한다. DCS는 질감 분류 문제를 푸는데 사용하며 사용하는 데이터 베이스는 Outex\_TC\_0010과 Outex\_TC\_0012 를 사용한다. DCS를 사용한 방법이 최신 방법들과 비교했을때 비교적 효과적인 차원 감축된 벡터들을 생산하며 더 좋은 결과를 보임을 확인할 수 있다. 또한 DCS는 기존의 차원 감축 방법들보다 더 많은 장점들을 가지고 있다. 그리고 DFC는 Spatial Pyramid Matching (SPM) 방법을 보다 일반화 하는데 적용되며 검증은 환경 분류 데이터 베이스인 15-Scene database에서 이루어진다. DFS가 적용된 SPM 즉 DFS-SPM이 기존 SPM보다 훨씬 더 적은 차원을 사용하면서도더 좋은 결과를 보이는 것을 확인할 수 있다.
