earticle

영어

Deepfakes, created using artificial intelligence (AI), are realistic but fake media content generated through advanced techniques that often reference real people. Although falsification is not a completely new phenomenon, deepfakes make it much easier to spread such content, while also making it much more difficult to distinguish between real and manipulated media. Deepfakes are becoming increasingly easy to create due to advancements in AI, which makes them a serious threat to democracy. Personality rights are particularly at risk because of the deceptively realistic appearance of the images. Women and girls, in particular, are frequent victims of deepfakes. One especially problematic example is „Deepnudes“, a specific form of deepfake in which clothed individuals in photos are digitally undressed. The reputations of victims are often permanently damaged by the spread of fake media and defamation. It is also very difficult for those affected to defend themselves or to credibly demonstrate to the public that the images are fake. In order to better protect personality rights of the parties from the dissemination of technically manipulated or artificially generated, realistic-looking media contents, the German Bundesrat, at the initiative of the Free State of Bavaria, proposed the bill to the German Bundestag on August 21, 2024. This article emphasizes the need for a criminal framework to mitigate the risks posed by deepfakes, in line with the aims of the bill proposed by the German Bundesrat. The article provides a detailed analysis of the bill, in particular examining the newly proposed offense of „violation of personality rights through digital falsification“ under Section 201b StGB-E. The aim of this article is to contribute to a balanced legislative proposal for a new criminal law provision that addresses the specific, emerging risks of AI in relation to unlawful content.

한국어

인공지능을 이용하여 제작된 딥페이크는 사실적이지만 가짜인 미디어 콘텐츠로, 발전된 방법에 따라 만들어지고 있으며 빈번히 실제 인물과 관련된다. 가짜(위조)가 완전히 새로운 현상은 아니지만, 딥페이크는 유포를 훨씬 수월하게 하고 동시에 실제 콘텐츠와 조작된 콘텐츠의 구별을 현저히 어렵게 한다. 인공지능을 수단으로 하는 딥페이크는 점점 더 용이하게 제작되면서 민주주의를 심각하게 위협하고 있다. 무엇보다도 성인 여성들과 어린 소녀들은 딥페이크의 피해자가 되고 있는데, 특히 문제가 되는 사례는 사진 속에서 옷을 입고 있던 사람들이 (딥페이크)기술로 옷이 벗겨진 형태의 딥페이크인 '딥 누드'이다. 피해자의 명예는 가짜 미디어의 확산과 비방으로 인하여 영구적으로 훼손되는 경우가 많다. 당사자들이 딥페이크에 대항하여 자신을 방어하거나 그것이 가짜임을 대중이 믿을 수 있도록 입증하는 것은 상당히 어렵다. 기술적으로 조작되거나 인위적으로 생성되어 사실인 것처럼 보이는 미디어 콘텐츠의 확산으로부터 당사자의 인격권을 보호하기 위하여, 2024년 8월 21일 독일 연방상원(Bundesrat)은 바이에른 주의 주도로 만들어진 "딥페이크로 인한 인격권의 형사법적 보호를 위한 법률안"을 연방의회(Bundestag)에 제출하였다. 본 논문은 연방상원이 제출한 법률안의 목적에 따라 딥페이크의 위험을 억제하기 위하여 형사법적 통제시스템이 도입되어야 한다는 점을 강조한다. 이에 본 논문에서는 (연방상원이 제출한) 법률안을 분석하고 있는데, 무엇보다도 법률안 제201조의b에 명시된 '디지털 위조에 의한 인격권 침해'라는 새롭게 제안된 범죄구성요건을 상세히 다루고 있다. 본 논문의 목적은 인공지능의 새롭고 특수한 위험을 그것의 불법성에 따라 적절히 규율할 수 있는 새로운 형법 조항을 신설하는데 있어서 균형 잡힌 입법 제안을 하는 데에 있다.

기타언어

Deepfakes, die mithilfe von Künstlicher Intelligenz (KI) erstellt werden, sind realistische, aber gefälschte Medieninhalte, die mithilfe einer fortschrittlichen Methode erstellt werden und oft auch Bezug zu realen Personen haben. Obwohl Fälschungen kein völlig neues Phänomen sind, erleichtern Deepfakes die Verbreitung deutlich und erschweren zugleich die Unterscheidung zwischen realen und manipulierten Inhalten erheblich. Mittels Künstlicher Intelligenz lassen sich Deepfakes zunehmend einfacher erstellen, was sie zu einer ernsthaften Bedrohung für die Demokratie werden lässt. Auch Persönlichkeitsrechte sind durch den täuschend echten Eindruck authentischer Aufnahmen besonders gefährdet. Insbesondere Frauen und Mädchen werden Opfer von Deepfakes. Ein besonders problematisches Beispiel sind „Deepnudes“, eine Sonderform von Deepfakes, bei denen auf Fotos ursprünglich bekleidete Menschen durch Technologie ausgezogen werden. Der Ruf der Opfer wird durch die Verbreitung gefälschter Medien und Verleumdungen oft nachhaltig geschädigt. Für die Betroffenen ist es sehr schwierig, sich dagegen zu wehren oder in der Öffentlichkeit glaubhaft darzulegen, dass es sich um Fälschungen handelt. Um die Persönlichkeitsrechte betroffener Personen besser vor der Verbreitung technisch manipulierter oder künstlich erzeugter, realistisch wirkender Medieninhalte zu schützen, hat nun der Deutsche Bundesrat auf Initiative des Freistaats Bayern den „Entwurf eines Gesetzes zum strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes“ in den Deutschen Bundestag am 21. August 2024 eingebracht. Der Aufsatz unterstreicht, dass die Einführung eines strafrechtlichen Kontrollsystems zur Eindämmung der Risiken von Deepfakes im Einklang mit den Zielen des vom Bundesrat eingebrachten Gesetzentwurfs erforderlich ist. Der Aufsatz analysiert dazu den Gesetzentwurf im Detail, insbesondere den neu vorgeschlagenen Tatbestand „Verletzung von Persönlichkeitsrechten durch digitale Fälschung“ gemäß § 201b StGB-E. Ziel ist es, zu einem ausgewogenen legislativen Vorschlag für eine neue strafrechtliche Bestimmung beizutragen, die die neuartigen, spezifischen Gefahren von Künstlicher Intelligenz ihrem Unrechtsgehalt entsprechend adressiert.