earticle

영어

In this paper I investigate the problem of bias that threatens the rationality of data-based decision-making in the data-driven society we are entering, and seek ways to minimize that threat and to enhance the fairness of such decision-making. With this purpose in mind, I examine recent criticism about COMPAS that has been used for criminal correctional management in several states in U.S.A. COMPAS has been criticized that it (re-)produces biases in the evaluation of the criminals that varies depending on the criminal's skin color. I analyze two sources of such biases, the dataset and the algorithm. This analysis reveals that the data are not neutral image that reflect reality as it is, but product of measurements that embodies the perspectives of data-producers. Such intervention from specific perspective does not in itself endangers the fairness of data-driven decision-making. However, the bias in which the properties of the sample data deviate from those of the population reduces the effectiveness of data-based decision-making and thus undermines its core value. Therefore, a data-driven society should keep an eye on the biases in data-based decisions, perform regular assessments and revisions of the data processing algorithms and supplement the dataset itself coping with the result of the assessments.

한국어

이 논문은 데이터 기반 사회에서 데이터 기반 의사결정의 합리성을 위협하는 편향의 문제를 고찰하면서 그러한 위험을 줄이고 의사결정의 공정성을 높이는 방안을 모색한다. 이를 위하여 미국에서 범죄자 교정관리에 활용되어 온 COMPAS가 인종차별적 편향을 나타낸다는 비판을 둘러싼 토론을 검토하고, 데이터 기반 의사결정에서 편향을 발생시키는 원천을 분석한다. 이 분석에서 데이터가 주-술의 구조를 지닌 명제이고 실재를 고스란히 반영하는 중립적 자료가 아니라 데이터 생산자의 관점을 반영하는 측정 활동의 산물이라는 점이 부각된다. 이러한 개입이 그 자체로 데이터 기반 의사결정의 공정성을 위협하는 것은 아니다. 그러나 편향은 데이터에서 추론된 결론이 모집단의 속성을 적절히 반영하지 못함을 의미한다는 점에서 데이터 기반 의사결정의 가치를 감쇄한다. 이러한 위험을 다루는 방법은 데이터 기반 결정에서 나타나는 편향의 양상을 계속 평가하면서 평가 결과에 따라 데이터 처리 알고리즘을 보정하고 데이터집합을 보완하는 것뿐이다. 지속적인 비판과 보정, 보완을 통해 사회가 적정하다고 여기는 균형점과 현상의 거리를 좁혀 가는 실천만이 데이터 기반 결정의 가치를 보존하고 극대화할 수 있을 조건이다.