earticle

영어

This study analyzes the domestic and international status of AI-based hate speech filtering technology and proposes domestic legalization measures based on the premise that if Internet users are continuously exposed to hate speech for a long period of time, it may spread as a hate crime and strengthen social conflicts. In Korea, regulations are limited because there are no legal regulations on hate speech that is spreading through online platforms and social media, but overseas countries such as the EU have implemented systems that define the duties of platform operators along with conceptual regulations. Therefore, it examines the current state of hate speech filters using AI and suggests the direction of establishing standards through legalization to improve the efficiency of hate speech detection in Korea, an approach based on a pre-response system rather than post-punishment to reach an agreement on freedom of expression and the possibility of misuse, and the establishment of an integrated response system to ensure transparency.

한국어

본 연구는 인터넷 사용자가 혐오표현에 장기간 지속적으로 노출될 때 증오범죄로 확산되고 사회적 갈등이 강화될 가능성 을 전제하여 AI 기반 혐오표현 필터링 기술의 국내외 현황과 사례를 분석하고 국내 법제화 방안을 제시한다. 한국은 온라인 플랫폼과 SNS를 통해 확산되고 있는 혐오표현에 대한 법적 규정이 없어 규제에 한계가 있지만, EU 등 해외에서는 개념 규정 과 함께 플랫폼 사업자의 의무를 규정하는 제도를 시행하고 있다. 따라서 AI를 활용한 혐오표현 필터링 현황을 살펴보고 국내 혐오표현 탐지 효율성 제고를 위해 법제화를 통한 기준 마련, 표현의 자유와 악용 가능성에 대한 합의를 이뤄내기 위한 사후 처벌이 아닌 사전 대응 체계에서의 접근, 그리고 투명성 확보를 위한 통합 대응 시스템 구축 방향을 제시한다.