미디어 영역에서 인공지능(AI) 기술의 확산과 제문제

• 영문명: The Problems of Artificial Intelligence Technology in the Media: Discussions on Watermarks and Identification Measures to Prevent Copyright Infringement and Disinformation by AI Generated Contents
• 발행기관: 원광대학교 법학연구소
• 저자명: 소병수
• 간행물 정보: 『원광법학』제39권 제3호, 27~47쪽, 전체 21쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2023.09.30

국문 초록

최근 인공지능 기술을 활용한 콘텐츠가 널리 확산되고 있다. 인공지능 기술은 기술 발전을 거듭하며 더욱 정교하게 만들어지고 있어 앞으로 실생활과 여러 산업 분야에 걸쳐 다양하게 이용될 것으로 전망된다. 비록 얼마 전까지만 해도 우리는 인공지능 기술이 가져올 혁신에 많은 기대를 했었다. 하지만 현재는 인공지능 기술로 인한 ‘사회적 혼란’, ‘권리침해’, ‘위험성’ 등과 같은 부정적인 키워드가 논의의 중심에 있다. 이러한 인공지능 기술에 대한 논의의 불을 붙인 것이 미국에서 발생한 ‘펜타곤 폭발 사진’과 같은 허위정보의 유포이다. 그리고 여러 국가들은 그 심각성을 인식하며 서둘러 문제 해결 방안을 고민하고 있다. 문제의 중심에는 인공지능 기술을 활용하여 실제로 존재하지 않은 사실을 거짓으로 지어내거나, 마치 인간이 만들어낸 저작물과 혼재되고 별다른 구별 없이 유통 및 게시되고 이용되는 경우를 들 수 있다. 앞으로 기술의 진보는 거듭되어 결국 인공지능 콘텐츠와 실제의 사실 및 인간이 창작한 저작물 등이 혼재되어 특수한 기술의 발명 없이는 서로 구별이 어려운 시점이 도래할 것이다. 만약 인공지능 기술의 사용 여부 및 결과물에 대한 구분 기준이나 안내 표시가 마련되지 않는다면, 인공지능 콘텐츠와 그 외의 정보 및 콘텐츠 간의 구분은 불가능해질 것이다. 그렇게 된다면 각종 허위 정보의 범람 문제뿐만 아니라 그동안 인간이 긴 시간과 노력을 들여 해왔던 콘텐츠 제작 활동 역시 위축되어 사라지게 될 것이다. 우리나라에서는 이러한 문제에 대응하기 위하여 인공지능법의 제정을 추진하고 있다. 인공지능법은 인공지능 기술의 육성과 발전을 위한 제도적 근거를 마련함과 동시에 인공지능 서비스 제공자에 대한 이용자 보호 의무 등을 규정한다. 그러나 법제도의 마련과 실제 규제의 적용까지는 상당한 시간이 소요된다는 문제가 있다. 따라서 이미 현재 진행형인 허위 정보의 혼동, 이용자 보호 문제, 저작물과의 오인 문제 등을 예방하기 위해 워터마크 등 식별조치에 대한 논의가 필요한 시점이다. 예를 들어 인공지능이 만들어낸 콘텐츠에 ‘인공지능 기술이 적용된 콘텐츠’ 또는 ‘ai-generated’와 같은 식별 표시를 해줌으로써 여타 콘텐츠들과 혼재하게 되는 상황을 예방할 수 있다. 인공지능 기술을 활용한 콘텐츠를 알기 쉽게 표시하는 기준을 마련한다면 인간이 창작한 저작물 등과의 차별성이 유지되어 각각의 콘텐츠가 지니는 가치를 훼손하지 않게 될 것이다. 또한 이용자 보호와 이용 편리성에도 도움이 될 것으로 보인다.

영문 초록

As artificial intelligence technology spreads widely and the level of technology increases, it is causing various social problems. In particular, some artificial intelligence contents are generated so elaborately that it cannot be easily distinguished by general users. If it is not specifically marked as 'content generated by artificial intelligence technology' or 'ai', it may mixed with other contents. We have had high expectations that artificial intelligence technology would bring unprecedented innovation. Due to artificial intelligence technology, however, the contents created by using artificial intelligence technology in all over the world have faced serious social problems, and efforts are being made to find a solution in various places. In particular, there are cases where facts that do not actually exist are fabricated or distributed, posted, or used as if they were human-made works. By technological development continues, there will eventually come a moment when artificial intelligence created content and human-created content will be mixed and it will be difficult to distinguish them without a special method. If it becomes impossible to differentiate the value and characteristics of the production process and results of each content or the boundaries between content will become blurred, content creation activities in which humans have invested a long time and effort will gradually shrink. Korea is pursuing the enactment of the Artificial Intelligence Act to establish policies, including support necessary for the fostering and development of artificial intelligence technology, and to stipulate obligations to protect artificial intelligence service users. Because it takes a considerable amount of time to establish a legal system and apply actual regulations, however, it is moment to discuss identification measures such as watermarks to prevent mis-recognition and confusion regarding artificial intelligence contents that are currently occurring. If standards are established to distinguish contents using artificial intelligence technology, the differentiation between human-created content and artificial intelligence created content will be maintained and the value of each content will not be damaged. It is also expected to help prevent copyright protection protected by law from being infringed and protect users. Above all, in the future, there is a risk that artificial intelligence content and human-created works will not be distinguished, resulting in misunderstanding and confusion, which is reducing the value of existing works and weakening the sense of protection for them. Therefore, there is a need to seriously discuss countermeasures before these problems become bigger.

목차

Ⅰ. 문제의 제기

Ⅱ. 인공지능 창작물과 기술적 특징

Ⅲ. 각국의 대응과 시사점

Ⅳ. 문제의 해결

Ⅴ. 결 론

키워드

인공지능 창작물 워터마크 식별조치 미디어 저작물 혼동 artificial intelligence watermarks identification measures infringement of copyright disinformation