earticle

영어

This article critically examines the limitations of approaches that reduce AI fairness to performance metrics or statistical parity, reconstructing it instead as a multidimensional legal concept. It draws on four key judicial decisions: State v. Loomis (United States) on algorithmic risk assessment in sentencing; R (Bridges) v. Chief Constable of South Wales Police (United Kingdom) on live facial recognition; decisions of the German Federal Constitutional Court on predictive policing; and D.H. and Others v. Czech Republic (European Court of Human Rights), which established indirect discrimination doctrine based on statistical evidence. Drawing on these cases, the article proposes a reconceptualization of AI fairness along five dimensions: distributive equality, relational equality, freedom as non-domination, procedural capability, and structural justice. It argues that algorithmic fairness cannot be assessed by accuracy or error rates alone, but must also address how automated systems classify individuals, exercise opaque power, and entrench structural disadvantage. The article concludes by outlining normative criteria for the lawful and legitimate use of AI in criminal justice, with particular attention to implications for jurisdictions such as South Korea.

한국어

본 논문은 AI 공정성을 정확도나 통계적 균형으로 환원하는 기존 논의의 한계를 비판적 으로 분석하고, 판례 분석을 통해 공정성을 다층적인 법 개념으로 재구성하는 것을 목적으로 한다. 이를 위해 재범위험 평가 알고리즘을 다룬 미국의 State v. Loomis 판결, 경찰의 실시간 안면인식 기술을 문제 삼은 영국의 R (Bridges) v. Chief Constable of South Wales Police 판결, 예측치안 및 자동 데이터 분석에 관한 독일 연방헌법재판 소의 결정들, 그리고 통계에 의한 간접차별 법리를 확립한 유럽인권재판소의 D. H. and Others v. Czech Republic 판결을 비교·분석한다. 본 논문은 이러한 판례들을 토대로 형사사법에서 요구되는 ‘AI 공정성’을 분배적 평등, 관계적 평등, 비지배 자유, 절차 참여의 역량, 구조적 정의라는 다섯 가지 상호 연관된 차원에서 재구성한다. 나아가 형사사법에서의 알고리즘 공정성은 오류율이나 정확도만으로 평가될 수 없으며, 자동화된 분류가 개인과 집단을 어떻게 규정하는지, 불투명한 권력 행사가 존재하는지, 그리고 데이터 기반 관행이 구조적 불이익을 고착화 하는지 함께 고려해야 함을 논증한다. 또한 비교 판례에서 도출된 규범적 기준을 바탕 으로, 향후 한국 형사사법에서 AI의 정당하고 합법적인 활용을 위한 이론적 기준을 제시한다.