We propose a novel, Naive Bayes Nearest Neighbor (NBNN) classifier considering discriminative features, NBNN-DF, for improving both classification accuracy and runtime performance. Unlike the original NBNN method, we define discriminative features among features extracted from training and query images, and perform the NBNN only with those discriminative features. As a result, we can ignore nondiscriminatory features extracted from background clutters or irrelevant objects from a class type of each image. To define discriminative features we measure a discriminative power for each feature based on
a ratio of posterior probability that the feature is located in its positive class to that in its negative class.
While it is easy to measure discriminative power for features extracted from training images, we face the chick-and-egg problem for query images, whose class type is unknown. To address this problem we hypothesize potential class types of a query image and perform the NBNN with discriminative features under its hypothetical classes, while considering a con dence level of each hypothesis. We have tested our method on the Caltech101 dataset, and compared it against other state-of-the-art techniques. We found that our method, NBNN-DF, achieves 32%, 27%, 17% relative accuracy improvement over the standard NBNN, the local NBNN , and NBNN with max-margin optimized weights under the image-to-class distance, respectively. Our technique achieves this mprovement while improving the overall runtime performance by using a smaller number of features.
본 논문은 이미지에서 뽑은 특징점들의 특정 클래스로의 확률을 기반으로 이미지를 분류를 하는 NBNN(N\"{a}ive bayes nearest neighbor) 분류자에 특징점 선택 기법을 적용한 방법을 제안한다. NBNN 분류자는 특정 클래스의 라벨 이미지로부터 트레이닝 특징점을 뽑고, 이미지와 클래스 간의 유클리디언 거리를 계산하여 이미지의 클래스를 분류한다. 즉, 이미지와 특정 클래스 간의 비슷한 특징점이 많아서, 이미지와 특정 클래스의 거리가 가장 가까운 클래스에 이미지의 클래스를 부여하는 방법이다. 이 방법은 트레이닝 이미지에서 뽑은 특징점들은 모두 특정 클래스와 관련이 있다는 사실을 전제하고 있으며, 기존의 최근점 검색을 이용한 분류 기법 중에서 우수한 정확도를 보여준다. 하지만, 트레이닝 이미지에서 뽑은 특징점들 중에는 특정 클래스와 관련이 없는 특징점들도 포함될 수 있다. 즉, 이미지에서 뽑은 특징점 중에서 배경이나 여러개의 물체를 포함할 경우에 트레이닝 이미지에서 뽑은 특징적들은 특정 클래스와 전혀 관련이 없고, 이미지와 특정 클래스 간의 거리를 계산할 경우 부정확한 결과를 가져올 수 있다.
본 논문은 트레이닝 이미지에서 뽑힌 특징점 중에서 특정 클래스와 관련이 없거나 배경에서 뽑힌 특징점을 제거함으로써, 이미지와 특정 클래스와의 거리의 정확도를 향상시키고, 최근점 검색을 수행하는 데 필요한 계산량을 줄이기 위해, 특징점의 선택을 통한 이미지와 클래스 간의 거리 성능을 향상시키는 것이 목적이다.
특정 클래스와 관련이 없거나 중요하지 않는 특징점을 제거하기 위해서, 우리는 특징점의 중요도는 한 특징점이 트레이닝 특징점들 안에서의 해당 클래스의 특징점들과의 밀도와 해당 클래스가 아닌 특징점들과의 밀도를 바탕으로 계산하다. 하지만 런타임에서 동작하는 쿼리 이미지의 클래스 정보를 알 수 없기 때문에 우리는 이미지의 클래스에 대한 가설을 바탕으로 특징점의 중요도를 계산한다. 먼저, 쿼리 이미지의 클래스 정보를 로컬 NBNN 분류자를 이용하여 확률을 계산하고, 확률을 바탕으로 예상하는 클래스에서 중요도를 계산하고 중요하지 않은 특징점을 제거한다. 그리고 중요한 특징점 선택을 통해 이미지와 클래스 간의 거리 계산을 수행하였다.
특징점 선택을 통한 이미지와 클래스 간의 거리 계산을 Caltech101에서 NBNN와 Local NBNN과 비교하였다. 비교한 결과, 우리의 방법은 NBNN, local NBNN보다 32퍼센트, 27퍼센트의 성능 향상을 보였으며, 런타임 속도 측면에서는 35퍼센트, 27퍼센트의 시간을 각각 감소하였다. 이는 적은 트레이닝 특징점을 사용하여 런타임 속도를 향상하였고, 중요한 특징점을 활용하여 이미지 분류의 성능을 향상시켰다.
