민주주의에 대한 인공지능의 위험과 규범적 대응 방안

• 영문명: Risks of Artificial Intelligence to Democracy and Normative Countermeasures
• 발행기관: 한국헌법학회
• 저자명: 홍석한(Seokhan Hong)
• 간행물 정보: 『헌법학연구』憲法學硏究 第28卷 第1號, 127~159쪽, 전체 33쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2022.03.30

국문 초록

인공지능은 우리 사회를 민주주의와 국가의 책임을 강화하는 방향으로 이끌 수도 있고, 국가의 억압적인 능력을 증폭시키는 방향으로 이끌 수도 있다. 인공지능이 민주주의의 실현에 미칠 수 있는 위험성을 분명하게 인식하는 가운데 그에 따른 부정적인 영향력을 가능한 한 다양한 측면에서 파악하고, 그러한 영향력을 최소화하기 위한 규범적 대응 방안을 고민해야 한다. 이러한 배경에서 본 논문은 인공지능이 민주주의에 미치는 영향과 관련하여 위험으로 여겨지는 요소들을 분석하고, 규범적 대응의 방향과 원칙을 고찰한다. 민주주의의 의의와 구성요소, 인공지능의 특징을 정리한 다음, 이에 기초하여 인공지능의 발전으로 인해 민주주의가 위험에 처할 수 있는 요인과 내용을 살펴보고, 국가가 취해야 할 규범적 대응의 토대를 제시한다. 인공지능이 민주주의에 미칠 수 있는 부정적인 영향력은 다음과 같이 정리해볼 수 있다. 첫째, 개인의 일상생활과 사회 전체 시스템의 자동화를 유도함으로써 자율성과 자기결정에 바탕을 둔 자기지배의 실현에 균열을 초래할 수 있다. 둘째, 다양한 데이터 세트로부터 개인을 포괄적으로 프로파일링하고 익명화된 데이터를 재식별하는 능력을 통해 개인에 대한 상시적인 감시사회의 출현 가능성을 높인다. 셋째, 정보 및 그 흐름의 방식을 정교하게 조작하는 것을 가능하게 함으로써 왜곡된 의사결정을 유도하고 표현의 자유 행사를 방해할 수 있으며, 합리적인 토론과 타협도 어렵게 만들 수 있다. 넷째, 인공지능의 개발과 활용을 주도하는 소수의 민간 디지털 기업들이 표현의 자유와 민주주의 국가 시스템을 위협할 수 있다. 인공지능에 대한 규범적 대응은 이러한 위험성을 최소화하는 것을 목표로 삼아야 한다. 국가가 규제적 관점에서만 접근함으로써 기술의 발전과 기업의 창의성을 저해하는 것은 경계해야 하지만 구속력 없는 자율규제에만 의존하기는 어렵다. 인공지능에 대한 규율에서는 무엇보다 인간 중심적인 발전이 강조되어야 한다. 인공지능의 설계, 개발 및 활용은 인간의 존엄성을 존중해야 하며, 인간이 인공지능에 의한 평가나 조작의 대상으로만 취급되는 것은 거부되어야 한다. 이를 위해서는 인공지능에 대한 전적인 의존을 배제하고 인간의 개입을 요구할 수 있는 권리가 보장되어야 하며, 관련된 모든 주체의 책임의식과 자율적 능력을 향상시키기 위한 교육을 제도화해야 한다. 한편, 인공지능에 대한 규범적 대응에서 가장 강조되어야 하는 원칙은 투명성이다. 민주주의에 부정적인 영향을 미칠 수 있는 인공지능 시스템에 대한 추적과 감독이 가능해야 한다. 기본적으로 인공지능 시스템에 대한 감독이 가능하도록 그 기능, 적용 논리, 사용된 데이터의 유형 등 관련 정보를 기록하도록 하고, 접근 가능성을 보장해야 한다. 인공지능의 영향을 받는 사람도 자신에게 적용된 결과가 인공지능에 의해 발생했다는 사실을 알 수 있어야 하고, 그러한 결론에 도달하게 된 방법과 절차, 그에 따라 개인의 이익에 가해지는 효과, 위험성이나 오류 가능성에 대해서도 적절한 정보를 제공받을 수 있어야 한다.

영문 초록

AI can lead our society in the direction of strengthening democracy and the responsibility of the state, or it can lead in the direction of amplifying the state s oppressive capabilities. While clearly recognizing the risks that AI can have on the realization of democracy, it is necessary to identify the negative impacts from as many different aspects as possible, and to consider normative countermeasures to minimize such impacts. Considering the above points, this thesis analyzes the factors considered to be dangerous in relation to the impact of AI on democracy, and examines the direction and principles of normative response. After arranging the significance and components of democracy and the characteristics of AI, based on this, we examine the factors and contents that can put democracy at risk due to the development of AI, and present the principles of normative response that the state should take do. The negative impact that AI can have on democracy can be summarized as follows. First, it can lead to cracks in the realization of self-domination based on autonomy and self-determination by inducing automation of individual s daily life and the entire system of society. Second, through the ability to comprehensively profile individuals from various data sets and re-identify anonymized data, it increases the possibility of the emergence of a permanent surveillance society. Third, by enabling sophisticated manipulation of information and its flow, it can induce distorted decision-making and hinder the exercise of freedom of expression, and can also make rational discussion and compromise difficult. Fourth, a small number of private digital companies leading the development and use of artificial intelligence may pose a threat to freedom of expression and democratic systems. A normative response to AI should aim to minimize the above negative possibilities. The state should be wary of hindering technological development and entrepreneurial creativity by approaching it only from a regulatory perspective, but it is difficult to rely solely on non-binding self-regulation. Above all else, human-centered development should be emphasized. The design, development and use of AI should respect human dignity. To this end, the right to demand human intervention must be guaranteed by excluding total dependence on AI, and education must be institutionalized to improve the sense of responsibility and autonomous ability of all relevant actors. On the other hand, transparency should be emphasized. It should be possible to track and supervise AI systems that could negatively impact democracy. Basically, to enable the supervision of the AI system, related information such as its function, application logic, and type of data used should be recorded, and accessibility should be guaranteed. People affected by AI should be able to know that the results applied to them were caused by AI, and the methods and procedures that led to such conclusions, and consequently the effects on personal interests, risks, or potential for errors. Appropriate information should also be provided.

목차

Ⅰ. 서론

Ⅱ. 민주주의와 인공지능의 의의

Ⅲ. 인공지능이 민주주의에 미칠 수 있는 부정적 영향

Ⅳ. 인공지능에 대한 규범적 대응 방안

Ⅴ. 결론

키워드

인공지능 헌법 민주주의 인권 표현의 자유 투명성 Artificial Intelligence(AI) Constitution Human Rights Freedom of expression Transparency