earticle

영어

Among the AI ethics issues that have emerged as generative AI has become more widely used, the issue of deepfakes has recently gained attention. This is because deepfake pornography is being produced and distributed not only to celebrities but also to the general public, and deepfakes are expanding into various areas of life, including politics and business. Although Korean society has a strong tendency to respond with laws, it is questionable whether the various problems caused by deepfakes can be solved by laws alone. Under the premise that law is necessary to respond to the problem of deepfakes, but ethics is also necessary, this paper aims to explore ethical measures to effectively respond to the problem of deepfakes. The ‘ethics realizing’ of AI requires the cooperation of three different but closely related tiers of ethics: the theoretical tier of ethics, the institutional tier of ethics, and the individual tier of ethics. Since the deepfake problem is an ethical issue that arises at the level of weak AI, a theory of common morality seems appropriate at the theoretical tier of ethics, while at the institutional tier of ethics it is necessary to promote the social use of deepfakes not only through AI guidelines, but also through a so-called “deepfake ethics committee” that aims to examine whether a deepfake use plan is ethical. At the individual ethics tier, a user ethics is essential given the popularity of deepfakes, and I propose a “virtue-based AI user ethics” that is effective for normativity from a first-person perspective. If these three tiers of ethics work together, we can avoid the ethical problems caused by deepfakes and realize an ethics that contributes to social prosperity and development.

한국어

생성형 AI가 대중적으로 활용되면서 제기되는 AI 윤리 문제 가운데 최근에 딥페이크 문제가 주목받고 있다. 딥페이크 음란물이 일반인들에 의해 유명인뿐만 아니라 일반인인 지인들을 대상으로 제작되어 유포되고 있을 뿐만 아니라, 딥페이크가 문화 영역을 넘어 정치 영역뿐만 아니라 경제 영역 등 전방위로 확장되어 사회 문제를 야기하고 있기 때문이다. 이에 대해 한국 사회에서는 법을 통해 대응하려는 분위기가 강하지만, 딥페이크가 초래하는 다양한 문제가 법만으로 해결이 가능한 것인지 의문이다. 딥페이크 문제에 대응하기 위해서는 법이 필요한 것은 분명하지만, 윤리 또한 필요하기 때문이다. 본 논문은 딥페이크 문제에 효과적으로 대응하기 위한 윤리 방안을 모색하고자 한다. AI 윤리 실현을 위해서는 서로 다르지만 밀접하게 연관된 윤리의 세 층위, 즉 이론 윤리 층위, 제도 윤리 층위, 개인 윤리 층위의 협업이 필요하다. 딥페이크 문제는 약한 AI 단계에서 제시되는 윤리 문제이기에 이론 윤리 층위에서 다양한 도덕 논의들이 중첩적으로 합의된 공통 도덕 논의가 적합해 보이며, 제도 윤리 층위에서는 AI 지침을 통해 딥페이크의 사회적 활용을 지도할 뿐만 아니라 소위 ‘딥페이크 윤리 위원회’를 통한 활용 계획에 대한 사회적 승인 과정을 거칠 필요가 있다. 개인 윤리 층위에서는 딥페이크가 대중화되었다는 점에서 사용자의 윤리가 필수적인데, 1인칭 관점의 규범성에 효과적인 ‘덕성 중심의 AI 사용자 윤리’가 필요하다. 이러한 세 층위의 윤리가 협업할 때, 딥페이크가 초래하는 윤리 문제를 피하면서도 사회 번영과 발전에 도모하는 윤리 실현을 이룰 수 있을 것이다.