인공지능 의사결정에 대응한 자기결정권의 보장

• 영문명: The Guarantee of a Right to Self-Determination in Response to the Decision Making of Artificial Intelligence
• 발행기관: 한국헌법학회
• 저자명: 이희옥(Lee, Heuiok)
• 간행물 정보: 『헌법학연구』憲法學硏究 第27卷 第1號, 33~74쪽, 전체 42쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2021.03.30

국문 초록

근래 인공지능의 발전은 기계가 인간의 크고 작은 결정을 대신 수행해주리라는 오랜 인류의 꿈을 현실에 가까이 앞당긴다. 인공지능의 상용화를 앞두고 인공지능의 의사결정으로 인한 프라이버시 침해, 차별이 법적 쟁점으로 논의되고 있지만, 자율화(autonomous)를 지향하는 인공지능의 본질적 위험은 인공지능이 의사결정의 주체인 인간을 객체로 보아 인간의 자기결정을 위협하는 것에 있다. 문제는 인공지능의 의사결정에 대응한 자기결정에 관한 헌법적 논의가 이뤄지지않은 채 개인의 권리가 글로벌 기업의 인공지능 윤리원칙에만 의존되고 있다는 점이다. 강대국의 기술패권주의의 논리가 계산된 인공지능 윤리원칙에는 개인의 자기결정을 보호할 강제력이 없는 반면, 법규범은 인류의 자기결정권을 보호할 최후의 통제장치가 될 수 있다. 이에 국가는 헌법상 국민주권 및 기본권 보호를 강화하고, 제9장 경제조항의 장에 따라 과학기술에의 국가적 이익구현을 위한 인공지능 법정책을 서두를 필요가 있다. 최근 국내에서는 인공지능에 대응해 유럽연합의 일반데이터보호규정(GDPR)에서 프로파일링 대응권 도입, 개인정보자기결정권의 강화, 데이터 3법의 규제 완화 등 주로 기존에 개인정보 보호체계 내에서 제반 문제를 해결하려는 시도가 있다. 그러나 헌법재판소가 보호하는 기본권인 개인정보자기결정권의 개인정보 범위를 하위 법률에서 임의로 제한하고 조정하는 것은 위헌적 요소가 있으며, 개인정보자기결정권 안에서 확장해석을 하는 것은 개별적 기본권에서 두텁게 보호될 수 있는 인격권과 프라이버시, 자기결정의 권리를 오히려 약화시킬 수 있다. 인공지능기술은 기존의 데이터 주도형 기술에서 인공지능 주도형으로 패러다임의 전환을 일으키고 있다. 이러한 기술의 질적 변화는 기존의 기술사회의 위험과 성격을 달리해 인간의 존엄과 자유에 기반한 개인의 자기결정의 가치를 심각하게 침해할 수 있다. 이에 헌법상 자기결정권은 기존의 개인정보자기결정권과는 구분되어 해석될 필요가 있으며 그에 따른 점진적인 입법의 방향도 모색될 수 있을 것이다. 이 글은 인공지능의 기술적 특성과 알고리즘 의사결정의 위험을 논의의 전제로 인공지능에 대응한 개인의 권리 보호의 문제를 헌법상 기본권인 자기결정권의 보호영역을 구체화함으로써, 인공지능에 대응한 자기결정권의 보호영역에 대한 헌법상 확인을 요청한다.

영문 초록

The recent development of artificial intelligence technology is advancing the long-standing human dream that machines will make human decisions big and small decisions instead. Ahead of the commercialization of artificial intelligence, the risks of decision-making of artificial intelligence are discussed as legal issues of privacy and discrimination, but the discriminatory technology of artificial intelligence is that artificial intelligence threatens human self-determination. Nevertheless, constitutional discussions on self-determination have not progressed. The problem is that individual rights are only dependent on the ethical principles of global companies without constitutional discussions on self-determination in response to artificial intelligence decisions in Korea. While artificial intelligence ethics principles, in which the logic of technological hegemonism in powerful countries is calculated, have no force to protect individual self-determination, legal norms can be the only control mechanism of mankind. Thus, the state needs to rush to implement the AI law policy aimed at protecting its in accordance with the Chapter 9 of the Constitution of the National Sovereignty and Fundermental Rights, and realizing economic benefits through the promotion of science and technology. Recently, various attempts to solve the relevant problems in response to artificial intelligence have been appeared within the frame of personal information protection * Ph. D. in Law, The Institute for Legal Studies, Hanyang University such as the EU s General Data Protection Regulation (GDPR) introduced the right to profiling, strengthening the right to self-determination of personal information, and relaxed regulations on the Data 3 Act. However, it may be unconstitutional to arbitrarily limit and adjust the scope of personal information, which is protected by the Constitutional Court, by subordinate laws, while the extended interpretation within the right to self-determination of personal information may also weaken the protection of personal rights, privacy, and self-determination that can be protected from individual basic rights. The paradigm of AI technology is shifting from existing data-driven technology to AI-driven technology. These changes in the quality of technology can seriously violate the value of individual self-determination based on human dignity and freedom by adding to the risks of the existing technology society, so they should be approached separately from the existing right to self-determination of personal information. Therefore, the constitutional right to self-determination needs to be interpreted separately from the existing right to self-determination of personal information, and the direction of gradual legislation can be sought accordingly. This article asks for constitutional confirmation of the protected area of the right to self-determination, which is the basic right of the Constitution, by clarifying the problem of protecting individual rights in response to artificial intelligence on the condition of discussion on the technical characteristics of artificial intelligence and the risk of algorithm decision making.

목차

Ⅰ. 들어가며

Ⅱ. 인공지능 의사결정의 기본권 침해 위험

Ⅲ. 인공지능 의사결정에 대응한 인간의 자기결정의 문제

Ⅳ. 인공지능 의사결정에 대응한 자기결정권의 보호영역 발견과 보호

Ⅴ. 나가며

키워드

인공지능의 의사결정 알고리즘 자기결정권의 보호영역 적극적 자유 자기지배 Artificial Intelligence’s decision making algorithm The Scope and Limit of right to self-determination positive liberty self-government