허위영상물 제작·반포 범죄에 관한 기술적·형사법적 연구

• 영문명: A study on the technical and criminal countermeasures for deep fake pornography crime
• 발행기관: 4차산업혁명융합법학회
• 저자명: 이경렬(Lee, Kyung-Lyul) 김재원(Kim, Jae-Won)
• 간행물 정보: 『4차산업혁명 법과 정책』제2호, 131~170쪽, 전체 40쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2020.12.30

국문 초록

4차 산업혁명의 핵심기술의 하나인 인공지능(AI)은 인간의 생활을 편리하게 하지만, 실제와 구분이 힘들 정도의 가짜 뉴스나 사진, 허위영상물이 딥페이크(deepfake) 기술로 제작되면서 커다란 사회적 문제로 대두하고 있다. 인공지능 기반의 딥페이크 관련기술을 악용하는 사례가 신종 사이버 범죄로 변모하고 있다. 최근 발생한 이른바 ‘n번방 사건’은 해외 모바일 메신저인 텔레그램을 통해 미성년자를 포함한 일반여성을 성적 착취한 음란동영상을 공유 · 판매한 디지털성범죄 사건이다. 딥페이크 기술악용 문제는 해당 영상 속의 인물이 진짜인지, 가짜인지 쉽게 구별할 수 없게 하고, 인터넷 특성상 영구적 삭제가 어렵다는 점이다. 딥페이크는 인공지능 기술로 탄생했지만 지금까지의 활용사례를 보면 인간생활에 가져오는 이점보다는 엉뚱한 피해자를 만들고, 긍정적 측면보다는 딥페이크로 인한 사회적 문제야기 등 부정적 측면이 더 부각되고 있다. 온라인 공간에 축적되는 데이터의 질이 좋을수록 또 데이터의 양이 많을수록 허위영상의 결과물은 실제와 구별할 수 없을 정도로 더욱 완벽해진다. 그리고 이들 허위영상물을 이용한 범죄피해가 발생하면 그 피해복구의 완벽도 기대하기 더욱 곤란하다. 범죄자들의 개인적 이익과 왜곡된 성적 욕구 때문에 중립적 기술인 안면인식 기술이 딥페이크 등 범죄적 기술로 악용되는 것을 방지하고, 인류에 선용되도록 하는 법제도 및 과학기술적 대응의 가능성과 필요성을 검토하고 최근에 자행되는 디지털성범죄, 이미지 기반의 성적 학대에 대한 몇몇 제언을 하였다.

영문 초록

Artificial intelligence, one of the core technologies of the 4th industrial revolution, makes human life convenient. However, as fake news, photos, and fake videos that are hard to distinguish from the real world are produced using deep fake technology, it is also a big social problem. As such cases of abuse of artificial intelligence-based deep fake technology are increasing, it is transforming into a new kind of cyber crime. The recent so-called “n-room crime” is a digital sex crime case in which pornography videos are shared and sold against women including minors through Telegram, a mobile messenger. The problem of exploiting deepfake technology is that it cannot be easily distinguished whether the person in the video is real or fake, and it is difficult to delete permanently due to the nature of the Internet. Deepfake was born as an artificial intelligence technology, but in the use cases so far, it makes the wrong victim rather than the beneficial advantages it brings to human life, and the social problems or negative aspects caused by deepfakes are more prominent than the positive aspects. The better the quality of the data accumulated in the online space and the greater the amount of data, the more perfect the result of the false image is indistinguishable from the real one. And if crime damage occurs using these false images, it is more difficult to expect the perfection of the damage recovery. Due to the personal interests and distorted sexual desires of criminals, facial recognition technology, which is a neutral technology, is prevented from being abused as criminal technology such as deep fakes, and reviewed the possibility and necessity of legal system and scientific and technological response to make good use of humanity, and recently committed. Some suggestions for digital sex crimes and image-based sexual abuse.

목차

Ⅰ. 들어가는 말

Ⅱ. 딥페이크의 실태와 탐지기술의 동향

Ⅲ. 딥페이크 형사법적·기술적 대응방안

Ⅴ. 나가며

참고문헌

키워드

딥페이크 허위음란영상물 디지털성범죄 인공지능(AI) 이미지기반 성적 학대 deepfake fake pornography digital sex crime artificial intelli-gence(AI) image-based sexual abuse