인공지능 로봇에 관한 법적 고찰

• 영문명: Legal review on the use of artificial intelligence robots
• 발행기관: 경희법학연구소
• 저자명: 정완(Choung Wan)
• 간행물 정보: 『경희법학』제55권 제4호, 189~221쪽, 전체 33쪽
• 주제분류: 법학 > 민법
• 파일형태: PDF
• 발행일자: 2020.12.30

국문 초록

가까운 미래에 보편화될 인공지능 로봇의 사용에 있어서 사람의 지능과 유사하거나 심지어 사람의 지능을 뛰어넘는 독자적 판단이 가능한 인공지능 로봇의 사용이 많아질 것임은 분명하다. 따라서 이들 인공지능 로봇의 법률관계에 관한 깊이 있는 연구검토가 이루어지고 그에 따른 입법적 대응이 요구된다. 예컨대 인공지능 로봇의 행위에 대한 민형사책임의 귀속문제, 보험제도를 이용한 피해보상, 윤리헌장 제정을 통한 인공지능 로봇 사용자와 제조자 등의 행동강령 제정 등에 관한 신중한 입법이 필요하다. 구체적 법률문제의 발생이 많지 않은 현 상황에서 우선 중요한 조치는 인공지능 로봇에 관한 윤리기준을 입안하는 일이다. 한국인공지능윤리협회의 윤리헌장은 인공지능이 인간의 통제 하에 만들어져 사용되어야 하고, 인공지능 개발자는 인간에게 해를 끼치는 인공지능을 만들어서는 안 되며, 인공지능 소비자는 인공지능의 제품과 서비스를 올바른 방법으로 사용해야 하고, 인공지능의 편익은 온 인류가 공평하게 누리고 향유할 수 있어야 한다고 추상적으로 선언하고 있지만 보다 구체적인 윤리기준을 마련해야 하며 이를 위해 정부와 기업, 학계, 시민단체가 모두 참여하여 인공지능의 사용에 관한 윤리기준을 정립하는 일이 긴요하다. 아울러 인공지능 로봇에 대한 사전사후 감독시스템을 함께 도입해야 한다. 인공지능 개발단계에서는 사전에 문제점을 점검할 수 있는 사전 기술영향평가 제도가 마련되어 있지만, 인공지능 로봇의 사용 후에 그 문제점을 추적하고 평가할 수 있는 감독시스템은 없으므로 해당 인공지능 기술이 목적에 맞게 작동되고 있는지, 개발자가 예측하지 못한 오류로 인해 피해가 발생할 수 있는지를 사후에 점검하는 일도 매우 중요하다. 그리고 인공지능 로봇에 의한 피해발생에 대한 배상책임 제도마련이 필수적이다. 인공지능이 유발하는 위험은 설계의 잘못에서 기인할 수도 있고 설계목적과 다르게 사용됨에 따라 발생하기도 하는 등 의도하지 않은 다양한 위험이 나타날 수 있다. 따라서 이러한 피해가 발생할 때 이를 어떻게 보상할 것인가에 대한 검토가 필요하다. 인공지능 로봇을 제조물로 볼 수 있다면 제조물책임법상의 제조물책임을 물을 수 있지만, 인공지능이 단순한 소프트웨어 형태에 불과할 때는 제조물책임을 묻기가 어렵다. 더욱이 개발자와 사용자의 과실이 없는데도 피해가 발생할 때는 어떻게 손해배상책임을 지울 것인지도 문제된다. 따라서 인공지능 로봇의 특성을 고려한 책임요건을 규정해야 하며, 책임을 돌리기 어려운 부득이한 손해발생의 경우 이를 배상하기 위한 보험제도 도입도 검토해야 한다.

영문 초록

It is clear that in the near future, the use of artificial intelligence robots capable of independent judgments that are similar to human intelligence or even surpass human intelligence will increase. Therefore, in-depth research and review on the legal relations of these artificial intelligence robots are made, and a legislative response is required accordingly. For example, careful legislation is needed on the issue of attribution of civil and criminal liability for the actions of artificial intelligence robots, compensation for damage using insurance systems, and the enactment of codes of conduct for artificial intelligence robot users and manufacturers through the enactment of the ethics charter. In the current situation where there are not many specific legal issues, the first important step is to formulate ethical standards for artificial intelligence robots. The ethics charter of the Korea Artificial Intelligence Ethics Association is that artificial intelligence must be created and used under human control, artificial intelligence developers must not create artificial intelligence that harms humans, and artificial intelligence consumers must ensure that artificial intelligence products and services are appropriate. It must be used as a method and the benefits of artificial intelligence must be used in an abstract manner that all humanity should be able to enjoy and enjoy the benefits of artificial intelligence fairly, but more specific ethical standards must be established. It is imperative to establish ethical standards for use. In addition, a pre- and post-supervision system for artificial intelligence robots should be introduced. In the AI development stage, there is a preliminary technology impact assessment system that can check problems in advance, but there is no supervisory system that can track and evaluate the problems after using the artificial intelligence robot, so the AI technology is operated according to the purpose. It is also very important to check whether the damage can be caused by an unexpected error by the developer. In addition, it is essential to establish a liability system for damages caused by artificial intelligence robots. Risks caused by artificial intelligence may result from a design error or may occur due to use differently from the design purpose, and various unintended risks may appear. Therefore, it is necessary to review how to compensate for such damages. If an artificial intelligence robot can be viewed as a product, product liability can be held under the Product Liability Act, but when artificial intelligence is only a simple software form, it is difficult to ask for product liability. Moreover, how to hold the liability for damages when damage occurs even though there is no negligence of developers and users is also a problem. Therefore, it is necessary to stipulate liability requirements that take into account the characteristics of artificial intelligence robots, and in the case of inevitable damages that are difficult to take responsibility for, the introduction of an insurance system to compensate for them must be considered.

목차

Ⅰ. 서 언

Ⅱ. 인공지능 로봇 관련 국내 입법현황

Ⅲ. 인공지능 로봇의 개념과 그에 대한 법인격 부여의 문제

Ⅳ. 인공지능 로봇의 법적 책임에 관한 논의

Ⅴ. 기타 법적 쟁점

Ⅵ. 인공지능 로봇의 윤리기준

Ⅶ. 결어

키워드

인공지능 인공지능로봇 인공지능의 위험 인공지능의 책임 인공지능의 윤리기준 Artificial Intelligence AI Robot AI Risks AI liability AI Ethical Standards