As machine learning increasingly affects decisions in domains protected by anti-discrimination laws, one major criterion in the design of machine learning classifiers is to ensure fairness: guaranteeing the irrelevancy of a prediction to sensitive attributes such as race and gender. This paper presents two fair classifiers: one is based on a prominent information-theoretic notion, mutual information; the other employs a well-known statistical approach, kernel density estimation (KDE). One feature of our MI-based approach is that it provides a theoretical interpretation of prior fair classifiers that rely on an adversarial learning framework. On the other hand, our KDE-based fair classifier has a great training stability that many adversarial learning approaches are not equipped with. We focus on the two well-known group fairness measures, demographic parity and equalized odds. We conduct extensive experiments both on synthetic and benchmark real datasets to demonstrate that our approaches outperform state of the arts in accuracy-fairness tradeoff.
기계학습이 반차별법으로 보호 받는 분야의 의사결정에 영향을 미치기 시작하면서, 기계학습 분류기를 설계할 때 고려해야 할 주요한 요소로 공정성이 손꼽히고 있다. 여기서 공정성이란, 분류기의 예측값이 인종이나 성별과 같은 민감한 정보와 무관한 상태를 일컫는다. 본 연구에서는 다음의 두 가지 공정한 기계학습 분류기를 제안한다: 정보이론의 핵심 개념인 상호의존정보를 이용한 알고리즘, 잘 알려진 통계 기법인 커널밀도추정을 이용한 알고리즘이 그것이다. 전자의 경우 적대적 구조를 갖는 기존 알고리즘에 대해 이론적 해석을 제공하고, 후자의 경우 적대적 구조의 알고리즘이 갖는 학습 불안정성 문제를 해결한다는 특징이 있다. 본 연구는 demographic parity와 equalized odds라는 두 가지 집단공정성 측도에 초점을 두고 진행하였다. 합성 데이터셋과 여러 벤치마크 데이터셋에서 폭넓은 실험을 통해 제안 알고리즘이 기존 최첨단 알고리즘보다 우수한 예측정확도-공정성 트레이드 오프를 달성한다는 것을 확인했다.
