기계학습 공정성 관련 연구동향 (SPRI, 20.02)

기계학습 공정성 관련 연구 동향.pdf

6.22MB

1. 공정성에 대한 지표와 개념, 원칙은 분야와 상황에 따라 달리 적용해야 하고, 산업계 차원의 합의가 이루어지지 않고 있다.

 

2. 위험평가 알고리즘인 COMPAS는 과거 유죄판결을 받은 사람들의 재범 가능성 추정

• 그러나 실제로 범죄를 저지르지 않았음에도 불구하고 흑인이 백인보다 높은 위험도 판정을 받을 확률이 두배에 이름

3. 기계학습이 이해하는 수학적 공정성의 한계

• 기계학습이 이해할 수 있는 공정성은 수학적으로 정의되어 정량 평가가 가능해야 한다.
• 이에 대한 공정성의 정의는 무려 20여가지이며 대부분 분배적 관점에서 통계적 공정성에 초점을 두고 있다. 즉, 통계적 공정성에 대한 단일한(혹은 최상의 정의에 대한) 합의가 존재 하지 않는다.
• 이 외에 아래와 같은 공정성 관련 한계들이 존재한다.

4. 사회적 공정성과 기계학습 공정성 차이

• • 사회과학 분야 공정성 유형: 분배적 공정성, 절차적 공정성, 상호작용 공정성
    • 분배적 공정성: 보상이나 칭찬과 같은 조직의 자원분배에 대한 구성원의 공정성
    • 절차적 공정성: 업무 맥락 속 판단과 의사결정 절차의 공정성
    • 상호작용 공정성: 신중하고 예의 있게 의사결정에 대한 설명을 하거나 정보를 전달할때 개인이 받는 대우
  • 기계학습 분야 공정성: 위 세 가지 유형중 수학적 정의가 가능한 분배적 공정성으로 다소 협소한 범위를 가진다. 따라서, 머신러닝 알고리즘이 통계적 공정성을 만족하더라도 사람들이 인식하는 ‘사회적 공정성’과는 개념적 차이가 존재한다.

★ 기계학습의 공정성에 대한 연구는 사회적 공정성의 개념과 격차를 메우는 방향으로 더 진행 되어야 하고, 공정성에 대한 개념적 논의는 한 국가가 독자적으로 추진할 수 없기 때문에 국제협력이 필요한 부분이다.

References:

[1] https://spri.kr/posts/view/22898?code=industry_trend