생성형 인공지능(Generative AI) 기술의 규제 방향에 대한 입법론적 고찰 - ChatGPT 등 인공지능 시스템 생성물에 대한 표시·고지의무를 중심으로 -

• 영문명: Legislative Study on Directions Concerning Regulation of Generative Artificial Intelligence (AI) Systems - Focusing on Duty to Disclosure and Transparency Regarding the Creations of Generative AI Systems Such as ChatGPT -
• 발행기관: 대검찰청
• 저자명: 김정화(Jeonghwa Kim) 임동민(Dongmin Im) 차호동(Hodong Cha)
• 간행물 정보: 『형사법의 신동향』제80호, 245~283쪽, 전체 39쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2023.09.30

국문 초록

2022년 12월, ChatGPT 서비스가 출시된 이래, 이른바 생성형 인공지능(Generative AI)에 대한 관심이 높아지고 있다. 하나의 인격체처럼 대화하고, 인간보다 빠르게 글을 쓰고, 심지어는 미술, 작곡 등 예술 분야에서까지 인간의 능력을 위협하는 생성형 인공지능 에 대하여 사람들은 큰 기대와 깊은 우려를 동시에 갖게 되었다. 기존의 머신러닝 알고리즘을 기반으로 하는 인공지능은 주어진 특정 데이터를 기초 로 어떠한 결과를 예측하는 수준에 머물렀지만, 딥러닝 생성 모델을 기반으로 하는 생성 형 인공지능은 과거에 보지 못한 글과 음성, 영상 등 완전히 새로운 데이터를 생성해낼 수 있다는 점에서 기존의 인공지능과는 확연히 구별되는 새로운 형태의 인공지능이다. 한편, 생성형 인공지능으로 인한 다양한 문제가 발생하기 시작했다. 타인의 사진을 이용하여 딥페이크 포르노나 조롱거리가 될 만한 영상을 제작하는 사례부터, 챗봇에정서적으로 의존한 나머지 챗봇의 자살 권유에 따라 자살에 이르는 사례까지 생성형 인공지능은 무한히 활용 가능한 만큼, 무한히 오용가능하다는 점이 드러나고 있다. 생 성형 인공지능의 생성물은 실제와 구별하기 어려울 정도로 정교하기 때문에 오용에 따른 위험이 현저함에도 불구하고, 우리 현행법은 이에 대응하는 데에 한계가 있다. 생성형 인공지능에 대한 포괄적 규제는 초기 성장 단계에 있는 인공지능 기술의 발 전을 저해시킬 수 있다는 점에서 성급히 도입되어서는 안 된다. 그러나 현재 발생하고 있는 문제상황에 대응하기 위한 과도기적 규제는 필요하다. 첫째, ‘이용자’에게는 명예 훼손 목적, 범죄이용목적 등으로 생성형 인공지능 시스템을 활용하는 행위를 금지할 필요가 있다. 둘째, ‘제공자’에게는 인공지능 생성물에 대하여 인공적인 방법으로 제작 된 것임을 나타내는 표시를 하게 할 필요가 있다. 셋째, 생성물의 위험의 정도에 따라 규제의 정도를 차등하고, 규제 위반에 대한 형사벌과 행정벌을 혼용하는 등 과도기적 상황에 유연하게 대처할 수 있어야 한다.

영문 초록

Since the launch of ChatGPT in the United States last year, generativ e AI has garnered considerable attention throughout the world. It has al so raised serious concerns, however, due to its human-like ability to c ommunicate with people in lots of different social contexts, produce a wide variety of written contents, and create a multitude of images, audios, and videos, all of which were impossible with traditional search eng ines. In line with these concerns, this paper will discuss some of the l egal implications of generative AI, the misuse of which can bring signifi cant harms to both individuals and society at large. This paper will firs t examine the definition and types of generative AI, then discuss the i mportance of and the need for proper categorization of it. The paper wi ll also discuss specific cases of misuse of generative AI systems, whic h will be looked into from the perspectives of service providers and us ers. The paper will next discuss how to regulate use of generative AI, while promoting its technological advancement and ensuring protection o f fundamental rights of citizens. Finally, the paper will conclude with se tting out recommendations for regulation of generative AI, with a partic ular focus on duty to disclose and maintain transparency.

키워드

생성형 인공지능 ChatGPT 표시의무 고지의무 투명성 원칙 딥페이크 ChatGPT Deepfake Duty to Disclosure Generative AI Regulation of Generative AI Transparency