생성형 AI서비스제공자의 법적 책임과 의무

• 영문명: Legal Responsibilities and Obligations of Generative AI Service Providers
• 발행기관: 전남대학교 법학연구소
• 저자명: 김윤명(KIM, Yun Myung)
• 간행물 정보: 『법학논총』제44권 제1호, 55~95쪽, 전체 41쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2024.02.28

국문 초록

인공지능(AI)은 인간에게 효율적이지만, 블랙박스(black box)로서 AI는 결과에 대해 명확하게 설명하지 못한다. 이러한 점에서 AI는 양면적이다. 미지의 기술인 AI는 어떻게 발전할지 예상하기 어렵기 때문에 AI서비스를 개발하거나 제공하는 사업자에게 책임과 의무를 지우는 것이 필요하다. 다만, 기술에 대한 규제가 아닌 서비스나 비즈니스 모델에 대한 책임을 다하도록 하자는 것이다. AI서비스가 안정적으로 제공되고, 그 내용에 있어서도 문제가 없는 상황을 유지할 수 있도록 하는 것이다. 서비스제공자가 자신의 서비스를 모니터링을 하더라도 완벽하게 처리하기는 어렵다. 그렇기 때문에 법은 수범가능한 일정한 의무를 서비스제공자에게 부과하고 그에 대한 부작위 책임을 묻는다. 이는 저작권법이나 정보통신망법에 규정된 OSP의 책임원칙이다. 안전한 항구(safe harbor)에 입항함으로써, 일정한 경우에 면책되도록 하자는 것이다. 책임제한 규정(safe harbor regulation)은 인터넷의 발전에도 긍정적으로 작용했다. 생성형 AI에 대한 비판이 잦다. 이제는 AI서비스제공자에게도 적용가능한지 검토가 필요한 시점이다. 생성형 AI를 서비스하는 사업자는 저작권법이나 정보통신망법의 해석상, 콘텐츠 생산이 가능하도록 도구로써 서비스를 제공하는 사업자이다. 이용자는 프롬프트(prompt)를 통해 지시명령을 내리거나 또는 도구로서 활용하여 생성하게 된다. 좀 더 명확히 하자면, 이용자가 해당 서비스를 이용하여 자신이 의도하거나 원하는 결과물을 생성하는 것이다. AI서비스는 제공자의 법적 성질에 따라, 그 책임범위가 달라진다. AI서비스제공자의 법적 지위에 대한 검토는 AI서비스의 활성화를 위해서 중요하다. AI는 도구라고 생각하고, 그 결과물의 권리는 이용자에게 귀속되어야 한다. 논리적으로 침해물의 생성에 따른 책임도 이용자가 지게 된다. 이용자가 최종적으로 생성하는 서비스라는 점에서 생성물의 내용에 대한 책임을 서비스제공자에게 지우기는 어렵다. 다만, 서비스제공자는 서비스의 개발 주체라는 점, 생성형 AI를 서비스하는 사업자라는 점에서 일정 부문 주의의무를 부과하는 것이다. 지속적인 침해물 생성이나 정확하지 않은 내용의 환각현상 등 AI의 흠결에 대해서는 제공자도 일정한 작위를 요건으로 하는 주의의무를 부과하는 것이 AI산업 발전을 위해 바람직하기 때문이다.

영문 초록

AI is efficient for humans, but as a black box, AI can't clearly explain its results. In this sense, AI is ambivalent. As an unknown technology, it is difficult to predict how it will evolve, so it is necessary to hold those who develop or provide AI services accountable and responsible. However, we should not regulate the technology, but rather the service or business model. The goal is to ensure that AI services are provided reliably and that the content is not problematic. Even if service providers monitor their services, it is difficult to do so perfectly. Therefore, the law imposes certain obligations on service providers and holds them responsible for their omissions. This is the principle of OSP liability stipulated in the Copyright Act and the Information and Communications Network Act. By entering a safe harbor, OSPs can be immunized in certain cases. The safe harbor regulation has been positive for the development of the internet. Generative AI is often criticized. It's time to consider whether it applies to AI service providers as well. According to the interpretation of the Copyright Act and the Information and Com- munication Network Act, a service provider that provides generative AI services is a service provider that provides a tool for content production. Users give instructions through prompts or utilize it as a tool to create content. To clarify, the user uses the service to create the result that the user intends or desires. The scope of liability for AI services varies depending on the legal nature of the provider. Reviewing the legal status of the AI service provider is important for the activation of AI services. AI is considered a tool, and the rights to its output should belong to the user. Logically, the user is also responsible for the creation of infringing works. Since the service is ultimately created by the user, it is difficult to hold the service provider responsible for the content of the product. However, service providers are subject to a certain duty of care in that they are the developer of the service and the provider of the generative AI service. It is desirable for the development of the AI industry to impose a duty of care that requires certain actions on the part of the service provider for defects in AI, such as the continuous creation of infringing works or the illusion of inaccurate content.

목차

Ⅰ. 서론

Ⅱ. 생성형 AI서비스 구조의 이해

Ⅲ. AI서비스제공자의 법적 지위

Ⅳ. 생성형 AI서비스제공자의 법적 책임

Ⅴ. 결론

키워드

생성형 AI AI서비스제공자 이용자 책임 책임면책규정(safe harbor regulation) 온라인서비스제공자 모니터링 의무 주의의무 Generative AI AI service provider user liability safe harbor regulation online service provider monitoring obligations duty of care