earticle

논문검색

기획논문 : 유튜브(YouTube)의 자유와 한계

유튜브 딥페이크(deepfake) 영상과 허위사실공표

원문정보

Deepfake Videos on YouTube and Publication of False Statement of Facts

허순철

피인용수 : 0(자료제공 : 네이버학술정보)

초록

영어

With the advent of Artificial Intelligence technology, fake videos that look completely real can be created, making new legal problems that have not existed before. At the end of 2020, a fake video of British Queen Elizabeth Ⅱ greeting and dancing for Christmas was released. Also, a deepfake video that former U.S. President Obama called President Trump “a total and complete dipshit” was disclosed to alarm the danger of deepfakes in 2018. Recently, even in South Korea, with the presidential election just around the corner, the ruling party posted on its official YouTube channel a deepfake video to the effect that a former Korean President declared support for a presidential candidate. The controversy over the video, however, made the party take down it from the channel. If a deepfake video about a candidate is posted on YouTube ahead of the election, which negatively or positively affects voters’ choice of candidates, it may pose a serious threat to democracy that is based on fair elections. Therefore, California and Texas in the United States have passed election laws regulating an act of distributing a deepfake video which may injure a candidate or influence the result of an election. The term “deepfake”, which refers to a fake video, is the compound word of “deep learning” and “fake,” and can be said to be “manipulated images, audio or video, designed to make the altered media seem authentic.” However, the California law regulating deepfakes immediately before an election is criticized on the ground that it is not a narrowly tailored restriction on freedom of speech to achieve the compelling government interest such as fair elections. It has also been criticized because it can be rarely applied to a case due to the actual malice rule of the U.S. Supreme Court. According to this criticism of the law, it is more desirable to regulate deepfakes with the defamation or copyright laws. Meanwhile, some critics argue that the Texas anti-deepfake law is unconstitutional not only because it does not prescribe for the actual malice rule, but also because it does not exempt its application to parody or satire. Recently, the National Election Commission in South Korea promulgated the “Standard for the Application of the Law on Deepfake Videos” and issued an authoritative interpretation that an act of posting a deepfake video on the Internet without indicating that it is “a deepfake video (AI OOO)” violates Article 250 of the Public Official Election Act. However, there is no expressive legal ground under the law to display that it is a deepfake video. In addition, this requirement may cause a chilling effect on freedom of speech because it is a prior restraint. In the meantime, it seems reasonable to conclude that no additional criminal punishment law needs to be passed because the current law punishing an act of publishing false statement of facts during an election can adequately regulate deepfake videos although a bill to criminalize deepfakes was introduced in the National Assembly.

한국어

인공지능 기술이 발달함에 따라 진짜 같은 가짜 동영상을 만들 수 있 게 되면서 예전에는 없었던 새로운 법적인 문제들이 생겨나고 있다. 2020년 말 엘리자베스 2세 영국 여왕이 크리스마스 인사를 하고 춤까지 추는 가짜 동영상이 공개된 적이 있었다. 딥페이크의 위험성을 경고하기 위해 2018년에는 오바마 전 미국 대통령이 “트럼프 대통령은 정말 쓸모 없는 사람”이라고 말하는 가짜 동영상이 공개되기도 했다. 최근 우리나라 에서도 선거가 얼마 남지 않은 시점에 어느 전직 대통령이 특정한 대선 후보를 지지한다는 내용의 딥페이크 동영상이 여당의 공식 유튜브 채널 에 게시되었다가 논란이 일자 삭제되는 일이 있었다. 그런데 선거를 앞두고 후보자에 관한 가짜 동영상이 유튜브(YouTube) 에 게시되면 유권자가 후보자를 선택하는 데에 부정적 혹은 긍정적 영향 을 미치게 되고 이는 결국 선거의 공정성을 전제로 하는 대의민주주의에 중대한 위협이 된다. 이에 미국의 캘리포니아주와 텍사스주는 공직선거의 후보자나 선거결과에 영향을 미칠 수 있는 딥페이크 동영상을 규제하는 법률을 제정하여 시행하고 있다. 가짜 동영상을 가리키는 “딥페이크(deepfake)”라는 단어는 “딥러닝(deep learning)”과 “가짜(fake)”의 합성어로서, “진짜처럼 보이기 위해 조작된 이미지, 오디오 또는 비디오”를 가리킨다. 그런데 캘리포니아주의 딥페이크금지법은 선거의 공정이라는 ‘긴절한 국가의 이익’을 달성하기 위하여 언론의 자유에 대해 최소한의 규제만을 하는 것이라고 하기 어렵고, 언론 의 자유에 관한 연방대법원의 ‘현실적 악의’의 법리 때문에 동 법이 실제 사례에 적용되기 어렵다는 비판이 제기되고 있다. 따라서 이러한 비판적 견해에 의하면 딥페이크는 명예훼손법이나 저작권법 등을 통해 규율하는 것이 더 바람직하다고 한다. 한편 텍사스주의 딥페이크금지법은 ‘현실적 악의’의 법리를 규정하지 않고 있고, 패러디나 풍자를 동 법의 적용예외 로 규정하고 있지 않으므로 연방 헌법에 위반된다는 주장이 제기되고 있 다. 최근 우리나라의 중앙선거관리위원회는 ‘딥페이크 영상 관련 법규운용 기준’을 제정하여, 딥페이크 영상을 이용한 선거운동은 가능하지만 “딥페 이크 영상(AI OOO)”임을 표시하지 않는 경우 「공직선거법」 제250조에 위반된다는 유권해석을 내놓았다. 그러나 딥페이크 영상임을 표시해야 하 는 법적인 근거가 명확하지 아니할 뿐만 아니라, 이러한 유권해석은 언론 의 자유에 대한 사전 제약으로서 위축효과를 가져올 것으로 보인다. 한편 딥페이크 선거운동을 금지하는 내용의 「공직선거법」 개정안이 국회에서 발의되었으나, 기존의 ‘허위사실공표죄’로도 딥페이크를 충분히 규제할 수 있으므로 새로운 처벌 규정을 신설할 필요는 없는 것으로 보인다.

목차

국문초록
Ⅰ. 머리말
Ⅱ. 유튜브와 딥페이크
1. 유튜브
2. 딥페이크
Ⅲ. 미국에서의 유튜브 딥페이크와 허위사실공표
1. 서설
2. 유튜브 딥페이크와 허위사실공표
3. 소결
Ⅳ. 우리나라에서의 유튜브 딥페이크와 허위사실공표
1. 서설
2. 거짓말과 표현의 자유
3. 유튜브 딥페이크와 허위사실공표
Ⅴ. 맺음말
참고문헌
ABSTRACT

저자정보

  • 허순철 Huh, Soon Chul. 경남대학교 법학과 교수, 법학박사

참고문헌

자료제공 : 네이버학술정보

    함께 이용한 논문

      ※ 기관로그인 시 무료 이용이 가능합니다.

      • 9,600원

      0개의 논문이 장바구니에 담겼습니다.