In this paper we address the self-supervised learning based anomaly detection method. Recently, self-supervised learning outperforms other anomaly detection techniques in image domains. Despite its high performance in anomaly detection, there are not enough research on how to specialize self-supervised learning for anomaly detection or how to utilize learned representations more efficiently for anomaly scoring. In this paper, we regularized representations of contrastive learning to be concentrated near designated pole by utilizing the fact that representations from contrastive learning distributed along hypersphere. And through experiment, we verified improvement in performance than previous methods. For further improvement, we utilized the fact that there are large distributional shift if rotating transformation applied to input. We proposed modified version of pole regularization, which setting a pole for each cluster of rotating transformations. And we identified further improvement. Also, by using the fact that learned representation is concentrated near pole, we introduced a new scheme for anomaly score, which is more efficient and perform well.
이 논문에서는 자기지도 학습기반의 이상치 탐지 기법에 대해서 다루었다. 현재 자기지도 학습기반의 이상치 탐지 방식들은 이미지 기반의 영역에서 다른 방법들에 비해서 상당히 좋은 성능을 보이고 있다. 그럼에도 불구 하고 자기지도 학습기법이 비교적 최근에 연구되는 분야인 만큼, 해당 방법들을 이상치 탐지에 특화시키거나 자기지도 학습을 통해 학습된 표상을 어떻게 잘 활용할 수 있을지에 대한 연구는 부족했다. 해당 논문에서는 자기지도 학습 중 대조 학습기법을 이상치 탐지에 조금 더 유리하도록 정규화하고, 이로부터 학습된 표상을 효율적으로 활용하는 방법에 대해서 연구하였다. 좀 더 자세하게는, 대조 학습을 통해 학습되는 표상들이 초구를 따라 분포한다는 점을 이용해, 표상들이 특정 폴에 집약되도록 정규화를 시킴으로써 이상치 샘플들을 구분하는 성능을 높이고자 했고, 실험을 통해 성능 향상을 확인하였다. 덧붙여 대조학습으로 학습된 표상들이 회전변환을 적용했을때 분포가 크게 변한다는 점에 착안하여, 각각의 회전변환에 대하여 폴을 설정하고 정규화시키는 기법을 제안했고, 이를 적용하여 추가적인 성능 향상을 이룰 수 있었다. 또한, 학습된 표상들이 폴 가까이에 집약되어있다는 점을 활용하여, 좀 더 효율적이면서도 성능을 높일 수 있는 이상치 탐지 방법을 제시하였다.
