딥페이크(Deep Fake) 기술을 활용한 페이크 포르노에 관한 연구

• 영문명: A Study on Deepfake Technology and Its Use in Fake Pornography
• 발행기관: 경희법학연구소
• 저자명: 유다형(Dahyoung Yoo)
• 간행물 정보: 『KHU 글로벌 기업법무 리뷰』제17권 제2호, 131~159쪽, 전체 29쪽
• 주제분류: 법학 > 민법
• 파일형태: PDF
• 발행일자: 2024.08.31

국문 초록

딥페이크(Deepfake) 기술은 ‘가짜 동영상’을 일컫는데, 기존 영상에 다른 특정인의 얼굴을 합성함으로써 마치 그 특정인이 영상에 출연한 것인 것처럼 구현하는 기술이다. 기존에는 딥페이크 영상을 보면 미세하게나마 가짜 동영상임을 발견할 수 있는 가능성이 있었으나, 생성형 AI 기술 및 비디오 기술이 발전함에 따라 현실과 허구의 구분이 불명확해지고 있다. 방송통신심의위원회의 발표에 따르면, 딥페이크를 활용한 ‘성적 허위영상물’의 시정 요구가 2023년 대비 약 400% 급증했으며, 딥페이크 기술을 활용한 디지털 성범죄의 범죄 대상이 대중적인 연예인에서 사적인 지인으로 확대됨으로써 피해 태양이 심각화되고 있다는 데서 문제된다. 우리나라 현행법상 허위영상물 등은 제작 및 유포 재유포가 법적으로 금지되고 「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2가 새로이 입법되면서 딥페이크 기술을 활용한 디지털 성범죄에 대한 직접적 처벌이 가능하게 되었으나, 페이크 포르노는 본질적 특성상 ‘페이크(fake)’ 즉 허위의 영상인바, 그 영상물이 ‘허위’인 이상 개인의 프라이버시를 침해했다고 보기는 어렵고 나아가 개인정보 침해에 해당하기는 어렵다는 한계가 있다. 또한 페이크 포르노의 경우 증거 수집과 법적 책임을 묻는 과정이 복잡하여 명예훼손죄의 죄책을 묻기 어렵다. 딥페이크 기술을 활용하여 연예인의 얼굴을 합성하거나 또는 지인능욕 목적으로 페이크 포르노를 제작하더라도, 타인 배포 목적이 없고 단순 개인 소장목적뿐이라면 현행 형법상 처벌할 수 있는 근거는 없다. 이러한 한계를 보완하기 위하여 미국, 중국, 일본을 비롯한 외국 입법례를 살펴보았고, 실효적인 대응을 위한 방안으로 국제 공조 강화 및 관련 기관과의 협업, 위장수사

영문 초록

Deepfake technology refers to “fake videos” where the face of a specific individual is superimposed onto existing footage, making it appear as though that person is present in the video. Previously, it was possible to detect subtle signs indicating that a video was fake; however, with the advancement of generative AI and video technology, the line between reality and fiction has become increasingly blurred. According to the Korea Communications Standards Commission, the number of correction requests for “sexually explicit fake videos” using deepfake technology surged by approximately 400% compared to 2023. The issue is further exacerbated as the targets of digital sex crimes using deepfake technology have expanded from popular celebrities to private acquaintances, leading to more severe forms of victimization. Under current South Korean law, the production, distribution, and redistribution of false videos are legally prohibited, and with the enactment of Article 14-2 of the Special Act on the Punishment of Sexual Crimes, direct punishment for digital sex crimes using deepfake technology is now possible. However, given the inherent nature of “fake” pornography, it is challenging to argue that such videos violate personal privacy or constitute a breach of personal information since the videos are, by definition, “false.” Furthermore, in the case of fake pornography, the complexity of evidence collection and the legal process makes it difficult to hold individuals accountable for defamation. Even if a deepfake video featuring a celebrity's face or a fake pornographic video created with the intent to humiliate an acquaintance is produced, there is no legal basis under current law to punish the individual if the video is solely for personal use and not intended for distribution. To address these limitations, the legislative examples of the United States, China, Japan, and other countries were examined. As effective countermeasures, the study suggests strengthening international cooperation and collaboration with relevant organizations, enhancing the undercover investigation system, expanding the scope of mandatory watermark labeling, and improving related technologies.

목차

Ⅰ. 서 언

Ⅱ. 딥페이크(Deepfake)의 개념 및 문제점

Ⅲ. 딥페이크 기술을 활용한 디지털 성범죄의 현 실태

Ⅳ. 딥페이크 대응을 위한 현행법상 제도 및 한계

Ⅴ. 딥페이크 합성물에 대한 국내외 입법 및 대응 동향

Ⅵ. 딥페이크 기술을 활용한 디지털 성범죄의 합리적 대응 방안

Ⅶ. 결 언

키워드

딥페이크 디지털 성범죄 페이크 포르노 지인 능욕 생성형 AI Deepfake Digital Sex Crime Fake Pornography Acquaintance Humiliation Generative AI