earticle

영어

Deepfakes are fake content created by synthesizing and editing images, videos, and audio of real people using artificial intelligence (AI). Unlike existing synthetic materials, they are easy to produce, and the resulting images are virtually indistinguishable from real ones, posing a risk of rapid, mass distribution. In Korea, deepfakes are regulated through the Public Official Election Act and the Act on Special Cases Concerning the Punishment, etc. of Sexual Crimes. Specifically, the production and distribution of election-related deepfake videos is punishable by up to seven years in prison, and the revised Sexual Crimes Act, proposed in 2024, includes the production and distribution of false pornography targeting celebrities and other prominent figures as subject to punishment. Recently, 921 cases were reported to the police, and 474 suspects were arrested, approximately 80% of whom were teenagers. Overseas, the United States, Germany, the United Kingdom, and the EU are developing laws and guidelines to regulate deepfakes and protect victims. The US has enacted the NO FAKES Act and the DEEPFAKES Accountability Act, while the EU, through its Digital Services Act and AI Act, imposes disclosure and detection obligations for synthetic content, imposing substantial fines for violations. Deepfakes are used in a variety of crimes, including fraud, investment fraud, voice phishing, political election disinformation, defamation, and infringement of portrait rights and copyrights. Examples include investment fraud involving celebrity impersonation and campaign videos disseminated with manipulated politicians’ remarks. Commercial use also raises publicity and copyright issues. This paper examines relevant laws and regulations, focusing on deepfake crimes, a new type of white-collar crime, and proposes legal reform measures to prevent deepfake crimes.

한국어

딥페이크(deepfake)는 인공지능(AI)을 활용하여 실제 인물의 이미지, 영상, 음성을 합성·편집한 가짜 콘텐츠를 의미한다. 기존 합성물과 달리 제작이 쉽고 결과물이 실제와 거의 구분되지 않아, 빠르고 대량 으로 유포될 위험이 있다. 국내에서는 「공직선거법」과 「성폭력범죄의 처벌 등에 관한 특례 법」등을 통해 딥페이크 범죄를 규제하고 있다. 특히 선거 관련 딥페 이크 영상 제작·유포는 최대 7년의 징역형에 처해질 수 있으며, 2024 년 발의된 성폭력범죄 관련 개정법안은 연예인 등 유명인을 대상으로 한 허위 음란물 제작과 유포를 처벌 대상으로 포함하고 있다. 최근 경 찰에 접수된 사건은 921건, 검거된 피의자는 474명으로, 이 중 약 8 0%가 10대였다. 국외에서는 미국, 독일, 영국, EU 등이 딥페이크 규제 및 피해자 보호를 위한 법률과 지침을 마련하고 있다. 미국은 NO FAKES 법안 과 DEEPFAKES Accountability Act 등으로, EU는 디지털서비스 법과 AI 법안을 통해 합성 콘텐츠의 공개·감지 의무를 부과하며, 위반 시 막대한 벌금을 부과한다. 딥페이크는 사기, 투자사기, 보이스피싱, 정치 선거 허위 정보, 명 예훼손, 초상권 및 저작권 침해 등 다양한 범죄에 활용된다. 사례로, 유명인을 사칭한 투자사기와 정치인 발언을 조작한 선거유포 영상 등 이 있으며, 상업적 이용 시 퍼블리시티권과 저작권 문제도 발생하고 있다. 이에 본고에서는 신종 화이트칼라범죄 중 딥페이크범죄를 중심 으로 관련 법령과 제도를 살펴보고, 딥페이크범죄의 예방을 위한 법제 의 개선방안을 제안해 보고자 한다.