인공지능 운영자책임에 관한 유럽의회의 초안

• 영문명: Der Entwurf des EU-Parlaments zur KI-Betreiberhaftung: Bewertung und Auswirkungen auf das koreanische Recht
• 발행기관: 중앙대학교 법학연구원
• 저자명: 김진우(Kim, Chin Woo)
• 간행물 정보: 『법학논문집』法學論文集 第45輯 第1號, 5~56쪽, 전체 52쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2021.04.30

국문 초록

최근 인공지능과 결부된 시민과 사회에 대한 기회 및 리스크를 적절히 제어하고 형성할 수 있도록 인공지능 시스템에 대하여 규제를 하는 것이 바람직한지, 규제할 수 있는지 또는 규제해야만 하는지에 관한 논의가 진행되고 있다. 이와 관련하여 특히 인공지능 시스템의 오류로 인해 발생한 손해에 대하여 누가 책임을 져야 하는가의 문제에 관하여 각국에서 법정책적 논의가 활발하게 이루어졌다. 이 문제는 지난 수년간 유럽연합(EU) 입법기관의 관심사 중의 하나이기도 하였다. EU 집행위원회(이하 ‘집행위원회’라 한다)가 2020년 초 ｢인공지능 백서｣ 및 ｢안전 및 책임 측면에 관한 인공지능, 사물인터넷 및 로봇공학의 영향에 관한 보고서｣를 공표한 이래 유럽의회는 가능한 입법행위에 대한 제안에 점점 더 관심을 기울이고 있다. 그 자체로 법령발안권이 없는 유럽의회는 2020. 10. 5. 인공지능의 오류로 인한 손해에 대한 운영자책임(Betreiberhaftung)에 관한 입법 제안이 담긴 결의안을 집행위원회에 제출하였다. 유럽의회의 이 결의안은 EU 차원의 법령발안권을 가진 집행위원회에 대하여 입법을 촉구하는 의미가 있다. 인공지능의 오류로 인한 책임은 제조물책임(Produkthaftung)과 직결된다. 그러나 인공지능 시스템 사용자와 보유자의 의무보험, 기금 해결책 및 기타 혁신적인 접근방식 등도 포함되어 있기 때문에 논의의 범위는 그것을 훨씬 넘어선다. 유럽의회의 제안은 기존 EU의 규율, 특히 제조물책임지침을 배제하거나 대체하는 것이 아니라 이것이 가지는 흠결을 메우기 위한 것이다. 책임법은 인공지능의 개발 및 사용과 관련하여 간접적인 리스크 관리 도구로서 중요한 역할을 한다. 인공지능의 경제적 잠재력을 인지한 유럽의회는 인공지능 시스템을 신뢰할 수 있는 방식으로 형성하여 EU에 관철하는 것을 목표로 하고 있다. 이러한 신뢰는 무엇보다도 운영자책임에 의해 달성할 수 있다고 한다. 결의안의 ‘운영자’는 자동차 운행자와 유사한 개념이다. EU에서는 지금까지 이른바 리스크 기반 접근방식(risk-based approach)이 인공지능 규제에 관한 논의를 지배하였으며, 이것은 이제 책임법의 맥락에서 유럽의회에 의해 채택되었다. 유럽의회는 운영자책임에 대하여 리스크 분류를 기반으로 하는 이원적 책임제도를 제안하였다. 리스크가 큰 인공지능 시스템에는 의무보험과 결합된 위험책임이, 기타 인공지능 시스템에는 유책사유가 추정되는 과실책임이 제안되었다. 이는 가령 현행 독일법에서 기술시스템의 운영자는 원칙적으로 유책사유가 있는 경우에만 책임을 진다는 점과 다른 점이다. 2017년의 결의안과 달리 유럽의회는 현 시점에 인공지능 시스템에 법인격을 부여하는 것은 무용하다고 본다. 본 연구는 우선 결의안의 배경과 인적⋅물적 적용범위를 다루었다. 이어서 결의안의 위험책임과 과실책임의 구성요건을 상세히 살펴보았다. 다음으로 결의안을 평가하고 전망하였다.

영문 초록

In den letzten Jahren ist eine lebhafte rechtspolitische Diskussion um die Frage entbrannt, wer für Schäden haften soll, die durch KI-Systeme verursacht werden. Der Rechtsausschuss des Europäischen Parlaments hat am 5.10.2020 seinen legislativen Initiativbericht an die Europäische Kommission zur zivilrechtlichen Haftung beim Einsatz KI vorgestellt. Das EU-Parlament strebt an, der EU-Kommission mehrere Vorschläge für Rechtssetzungsinitiativen zu unterbreiten. Im Anhang der Entschließung befindet sich ein konkreter Gesetzentwurf, dessen Eckpfeiler die Einführung einer Gefährdungshaftung, erleichterten Verschuldenshaftung, Versicherungspflicht, Ersatzpflicht für erhebliche immaterielle Schäden und risikobasierten Klassifizierung im Zusammenhang mit KI darstellen. Das Parlament ebnet den Weg für ein unionales Haftungsregime beim Einsatz von KI-Systemen. Ob das Ziel erreicht werden kann, einen klaren Rechtsrahmen zu schaffen, um Unternehmen Rechtssicherheit zu bieten und das Vertrauen der Bevölkerung in die Technologie zu stärken, wird sich insbesondere daran zeigen, inwieweit die Risikoklassen samt resultierender Haftungsart der Technologieentwicklung gerecht werden können. Angesichts der Vielgestaltigkeit KI-Technoligien, stark variierenden Einsatzarten und -orten, unterschiedlich ausgeprägter Gefährlichkeit und Bedeutung einerseits für die Gesellschaft und andererseits für das Individuum kann eine schematisierende strikte Haftung nicht überzeugen. Eine allgemeine, allein an die Autonomie des Systems anknüpfende Gefährdungshaftung, die tatsächliche Gefährdungspotentiale ignorierte, hat als unangemessen auszuscheiden. Vielmehr ist eine nachhaltige, gerade aus den autonomen Systemen inhärenten technologispezifischen Risiken resultierende Gefahr zu verlangen und im Einzelfall sorgfältig abzuwägen, ob eine verschuldensunabhängige Eistandspflicht eine sachgerechte Bewältigung der haftungsrechtlichen Problematik zu leisten vermag. Vor dem Hintergrund, dass unsere Unternehmen im Wettbewerb mit weltweite Konkurrenten bestehen müssen, darf eine KI-Regulierung aber keine übermäßigen Innovationshindernisse schaffen.

목차

Ⅰ. 들어가며

Ⅱ. 규율에 관한 접근방식

Ⅲ. 운영자책임의 적용범위

Ⅳ. 운영자책임의 규율메커니즘

Ⅴ. 평가

Ⅵ. 나오며: 우리 법에의 시사점

키워드

인공지능 자율시스템 책임 체제 운영자책임 위험책임 과실책임 제조물책임 법인격 전자인 리스크 기반 접근방식 Kü nstliche Intelligenz (KI) Autonome Systeme Haftungsregime Betreiberhaftung Gefä hrdungahftung Verschuldenshaftung Produkthaftung Rechtspersö nlichkeit ePerson Risikobasierter Regelungsansatz