earticle

한국어

AI 모델의 편향성은 해당 모델의 예측, 추론 등의 결과가 특정 집단에 대하여 불리하게 작용하거나 특정 상황에 대하여 왜곡된 예측을 하는 현상을 의미한다. 이러한 AI의 편향성은 부정확한 예측에 따른 모델 성능의 저하와 더불어 모델이 일부 집단에 대하여 불공정한 차별적인 결과를 발생시킴에 따라, 최근 들어 AI 윤리와 공정성의 관점에서 AI 모델의 편향성 완화 방안 마련을 위한 연구의 필요성이 제기되고 있다. AI 모델의 편향성을 형성하는 주요 요인에는 학습 데이터 불균형, 알고리즘 편향, 사회, 문화적 환경을 고려하지 못한 사용자 오류 등이 존재한다. 즉, 학습 데이터의 대표성 부족, 라벨링 오류 등의 데이터 편향성 및 학습 데이터에 적합하지 못한 알고리즘 적용에 따라 형성되는 알고리즘의 편향 등이 대표적이다. 이에 본 연구는 AI 모델에 내재된 편향성을 완화할 수 있는 방안을 data preprocessing, data in-processing, data post-processing 의 관점에서 제시하고자 한다.

일본어