딥페이크(Deepfake) 영상물에 관한 법적 대응조치 검토

• 영문명: A Study on the Legal Policy against Deepfake Videos
• 발행기관: 4차산업혁명융합법학회
• 저자명: 배상균(BAE, Sang-Kyun)
• 간행물 정보: 『4차산업혁명 법과 정책』제3호, 183~210쪽, 전체 28쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2021.07.30

국문 초록

최근 미성년자를 포함한 성인 여성들의 성착취 영상을 SNS를 통해 공유 및 판매한 ‘n번방 사건’이 사회적으로 큰 물의를 일으키면서, 이들이 벌인 여러 범죄 가운데 인공지능(AI) 기술을 활용한 ‘딥페이크(deepfake) 영상물’이 디지털 성범죄로서 심각한 문제가 되고 있다. 또한, 최근 저명인사의 딥페이크 영상물이 유포되면서 딥페이크가 가짜뉴스의 위협을 더욱 증가시킬 수 있음에 우려가 커지고 있다. 이러한 딥페이크 영상물에 대한 논란은 우리에게 한정되지 않고 전 세계적으로도 확산되고 있다. 주지하는 바와 같이 딥페이크는 딥러닝(Deep learning) 기술을 통해 특정 영상에 특정 인물의 얼굴, 음성 등을 합성한 영상물이 실제 사람들에게 허구의 말과 행동을 하는 것을 보여주는 것이다. 문제는 ① 딥페이크 영상물이 컴퓨터그래픽 기술에 인공지능 기술이 가미됨에 따라 더욱 손쉽게 제작할 수 있다는 점과 ② 이렇게 공유된 딥페이크 영상물을 완전히 필터링할 수 없다는 점, ③ 정밀하게 합성된 딥페이크 영상물로 인해, 가짜뉴스 등이 대중을 오도할 위험이 있는 수단으로 떠오른 점, ④ 더욱이 한번 인터넷상에 공유된 이상 완전히 삭제되지 않아 피해자가 계속 피해를 받아야 한다는 점 등이다. 이렇듯 실제와 구분이 힘들 정도로 자연스러운 영상 구현이 가능한 딥페이크 기술이 온라인상에 범람함에 따라 이를 이용한 음란물(딥페이크 포르노 등)이나 가짜뉴스 생산 등 대중을 오도하거나 사회적 혼란을 야기하는 악용사례에 대한 우려 또한 높아지고 있다. 이에 대하여 현재 형법상 명예훼손, 모욕죄, 업무방해죄, 사기죄나 정보통신망법상 허위사실적시 사이버명예훼손죄 및 사이버 음란물유포죄, 성폭력처벌법상 허위영상물 등의 반포 등 처벌, 선거사범의 경우에는 허위사실공표죄로서 대응하고 있으나, 사후적 대응에 그치므로 보다 선제적으로 피해를 최소화할 수 있는 다양한 방안들에 대한 검토도 요구된다.

영문 초록

The term ‘deepfake’ describes a face-swapping technique, whereby images of an individual are used by artificial intelligence (AI) technology to generate digital doppelgangers (look-alikes) and then superimposed onto different bodies. Deepfakes generated with only one source image are often obvious as fakes, but those generated with thousands of images or video clips can be very realistic. Recently while media, politicians, and technologists panic over the risk of deepfakes impacting elections, a new study has found that the vast, vast majority of deepfakes are pornographic in nature. On top of that, to the surprise of absolutely no one, all of the pornographic deepfakes analyzed in the study exclusively targeted women. In addition the harm posed to individuals and companies are no less important to consider, and include false endorsements, fraudulent submissions of documentary evidence, loss of creative control over audiovisual content, extortion, harassment and reputational damage. In this way, deepfakes pose many potential systemic socio-political risks such as manipulation of civil discourse, interference with elections and national security, as well as the erosion of trust in journalism and public institutions more generally. Therefore, it is necessary to have a attitude to establish a predictable level of the response system and to develop a gradual step-by-step legal policy plan within a long-term framework.

목차

Ⅰ. 서론

Ⅱ. 딥페이크의 개념 및 기술 동향

Ⅲ. 딥페이크 영상물 주요 피해사례 및 관련 해외법제

Ⅳ. 딥페이크 영상물에 관한 법적 문제

Ⅴ. 결론

참고문헌

키워드

인공지능 딥페이크 포르노 가짜뉴스 표현의 자유 형사정책 Deepfake Deepfake Porno Fake News Freedom of Expression Legal Policy