earticle

영어

Advances in artificial intelligence (AI) technology have made it easier and more convenient to engage in creative activities than in the past. These advances in technology have simultaneously aroused interest and concern among creators, legislators, and the general public. In terms of positive honesty, AI technology Generative AI refers to AI applications used to generate outputs in the form of expressive materials such as text, images, audio, or video. NOI at 59948–9. As public access to it became easy and active, various creative activities using generative AI technology increased, and it emerged as a new field called deepfake. However, as various crimes caused by deepfake using Generative AI have recently emerged as a social problem, the need for regulation has become an international issue. The topic of deepfake using Generative AI does not clearly fall into any area of existing law, and some of the expressions created by deepfake define it as a form of intellectual property, but if it is used for crime, the protection of deepfake use is expanding to privacy (super-right), unfair competition, consumer protection, fraud, and sex crimes. In addition, looking at the legal system of major overseas countries, it has not yet recognized copyrights for creations using artificial intelligence technology, and some countries seem to have left some room, but it seems that specific legislation has not been in progress. In other words, under the current legal system, legal protection of creations using artificial intelligence technology is impossible, but in reality, with various creations coming out, I think it is time to think about reforming the copyright system in a future-oriented manner. As various crimes involving deepfakes using Generative AI technology increase, the only law in Korea that directly restricts deepfake composites using Generative AI is the Public Official Election Act, which prohibits fraudulent campaigns or false disclosures using deepfake videos, etc., and deepfake composites are regulated as conventional pornographic composites or children and adolescents, such as the Sexual Violence Punishment Act or the Youth Sexuality Protection Act, or as copyright infringement or unfair competition, depending on the type of violation of individual rights. Regarding infringement of rights due to deepfake composites circulating online, the obligation to prohibit the distribution of illegal information under the Act on Promotion of Information and Communication Network Utilization and Information Protection, etc., the obligation to prevent distribution of information and communication service providers (Article 44-2) and request for deletion (Article 44-2), temporary measures (Article 44-3) and self-regulation (Article 44-44) have been carried out. In this study, first, we look at the regulatory trends related to artificial intelligence (AI)-based deepfakes in Korea in terms of the copyright elements of artificial intelligence (AI)-based deepfakes and that they can be exploited for crimes. Second, in the United States, various legislative discussions on artificial intelligence (AI)-based deepfakes were conducted in 2024, centering on the copyright office, and regulatory trends and implications for this were examined. Finally, I would like to conclude the thesis with legal policy suggestions for the use and use of artificial intelligence (AI)-based deepfakes.

한국어

인공지능(AI) 기술의 발전으로 인해 과거에 비해 더 쉽고, 간편하 게 창작활동을 할 수 있게 되었다. 이러한 기술의 발전은 창작자, 입 법자, 그리고 일반 대중의 관심과 우려를 동시에 불러일으켰다. 긍정 적인 측면으로, 인공지능(AI) 중 생성 AI 기술115)에 대한 대중의 접 근이 쉽고 활발해지면서, 생성 AI 기술을 활용한 다양한 창작활동이 증가하였고, 이는 딥페이크라고 하는 새로운 분야로 등장하였다. 그러 나 최근 생성형 AI를 활용한 딥페이크로 인해 발생하는 각종 범죄가 사회적 문제로 대두되면서, 이에 대한 규제의 필요성이 국제적 이슈가 되었다. 생성형 AI를 활용한 딥페이크라는 주제는 기존 법률의 어떤 한 영역에 명확하게 해당되지 않고, 딥페이크에 의해 창작된 표현물은 일부는 이를 지식재산의 한 형태로 규정하지만, 이것이 범죄에 이용된 경우 딥페이크 사용에 대한 보호는 프라이버시(초상권), 부정경쟁, 소 비자 보호, 사기, 성범죄 등으로 문제가 확대되고 있다. 또한 해외주요 국가의 법제도를 살펴 본 바 해외의 경우도 마찬가지 로 아직까지는 인공지능기술을 활용한 창작물에 대한 저작권의 인정을 하고 있지 않고, 일부 국가에서는 어느 정도 여지를 남기고 있는 것으 로 보이나, 구체적인 입법을 진행하고 있지는 못한 것으로 판단된다. 즉 현행 법제도 아래에서는 인공지능 기술을 활용한 창작물에 대한 법 적 보호는 불가한 상황이지만, 현실은 다양한 창작물들이 나오고 있는 상황에서, 미래지향적으로 저작권제도의 개편을 생각해 볼 시점이 온 것이 아닌가라는 생각이 든다. 생성형 AI 기술을 활용한 딥페이크가 각종 범죄가 증가함에 따라서 현재 우리나라의 경우 현재로서는 생성형 AI를 활용한 딥페이크 합성물을 직접적으로 한정하여 규제하고 있는 법률은 ‘딥페이크 영상 등’을 이용한 부정선거운동 또는 허위사실공표를 금지한 「공직선거법」뿐이 고, 딥페이크 합성물은 개별 권리를 침해하는 유형에 따라 「성폭력처 벌법」또는 「청소년성보호법」과 같이 종래의 음란 합성물 또는 아 동·청소년성착취물로 규율되거나, 저작권 침해 또는 부정경쟁행위로 규율되고 있다. 온라인에서 유포되는 딥페이크 합성물로 인한 권리침 해에 대해서는 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 상 불법정보 유통 금지의무, 정보통신서비스 제공자의 유통 방지의무 (제44조) 및 삭제요청(제44조의2), 임시조치(제44조의3) 및 자율규 제(제44조의4) 제도 등의 정비를 진행한 바 있다. 인공지능(AI)기반 딥페이크가 가지고 있는 저작권적 요소와 범죄에 악용될 수 있다는 이러한 측면에 있어서 본 논문에서는 첫째, 한국의 인 공지능(AI)기반 딥페이크 관련 규제동향을 살펴본다. 둘째, 미국은 202 4년 저작권청을 중심으로 인공지능(AI)기반 딥페이크에 대한 다양한 입 법적 논의가 진행되었고, 이에 대한 규제동향과 시사점을 살펴본다. 끝 으로, 인공지능(AI)기반 딥페이크의 이용 및 활용에 대한 법정책적 제언 을 끝으로 논문을 마무리 하고자 한다.