인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점

• 영문명: Trends and Implications of Regulatory Legislation in Major Countries as a means of Controlling Artificial Intelligence
• 발행기관: 유럽헌법학회
• 저자명: 김법연
• 간행물 정보: 『유럽헌법연구』제42호, 253~307쪽, 전체 55쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2023.08.31

국문 초록

주요국은 인공지능 위험을 통제하기 위하여 인공지능에 대한 규제 입법을 마련하고 있다. 인공지능으로 인한 위험을 구체화하는 것으로부터 출발해서, 위험성이 높은 인공지능에 대하여는 다양한 통제수단들을 적용하고 있다. 인공지능을 개발·적용·배포·사용하는 사업자 등에 대하여 데이터 관리, 인공지능시스템과 서비스에 대한 품질관리, 위험관리, 기록관리, 개인정보보호 등의 의무를 부과하는 것을 주요 내용으로 한다. 사용자에 대해서는 설명요구권이나 피해구제를 적절하게 받을 수 있도록 권리를 보장하고 있다. 인공지능의 자율성이나 예측불가능성, 불확실성 등으로 인해 그 동안의 규제 체계 내에서 포섭하지 못하는 문제점들을 해소하기 위해 다양한 위험 통제수단들을 마련하고 있는 것이다. 이에 반해 한국은 아직까지는 위험 통제에 대한 것보다 법제도적 관심이 산업의 진흥이나 기술 발전을 위한 기반 마련이나 이를 통한 국가경쟁력 확보 등에 있는 듯하다. 인공지능기술이 빠르게 발전하고 있고 특히 최근에는 ChatGPT와 같은 생성형 AI 등의 등장으로 변화가 급격하게 다른 양상으로 일어날 것으로 예상되고 있다. 인공지능 위험은 더욱 불확실하고 예측 불가능한 상태로 나타날 가능성이 높아지고 있다. 이러한 상황에서 인공지능 기술의 효용은 극대화하고 위험성은 최소화하여 기술의 이기를 누릴 수 있는 제도적 기반을 마련하는 것은 우리 사회의 중요한 과업이라 할 수 있다. 이에 본 논문은 주요국에서 인공지능의 위험을 통제하는 방식과 내용을 검토·비교분석을 실시하였다. 주요국의 입법동향 확인을 통해 시사점을 도출하고, 국내 인공지능 규제 도입시 적정한 설계 방향과 통제 수단들을 제안하였다.

영문 초록

Major countries have establsihed the legislative regulatations to control the risks of AI. Starting from concretizing the risks associated with AI, various control measure are applied to AI with higher risks. For businesses involved in the development, application, deployment, use of AI, the main focus of the control measures is on the data management, quality control of AI systems and services, risk management, record management, personal information protection. For users of high-risk AI systems, the focus is on ensuring the right to request explanations and receive appropriate compensation for damages. These measures are being put in place to overcome the issues that traditional regulatory systems were unable to address due to AI's autonomy, unpredictability, and uncertainty. In contrast, South Korea seems to be more concerned with the legal framework for industrial promotion and technological development, and for securing national competitiveness, rather than risk control. The rapid development of AI technology, especially with the emergence of generative AI such as ChatGPT, is leading to abrupt and significant changes. Therefore, the possibility of AI risks appearing in an increasingly uncertain and unpredictable state is high. In such a situation, maximizing the utility of AI technology and minimizing its risks to enjoy its benefits is an important task for our society. This paper has reviewed and comparatively analyzed how major countries control the risks of AI. By identifying the legislative trends in major countries, By identifying the legislative trends in major countries, we have drawn insights and proposed appropriate design directions and control measures for the introduction of AI regulations in South Korea.

목차

Ⅰ. 들어가며

Ⅱ. 인공지능에 대한 규제 논의의 흐름과 경향성

Ⅲ. 인공지능 규제의 대상과 규제수단의 유형

Ⅳ. 인공지능 규제 수단별 주요내용과 시사점

Ⅴ. 나오며

키워드

인공지능 규제 인공지능 입법동향 인공지능법 인공지능 위험 통제 인공지능 규제동향 Artificial Intelligence Regulation Artificial Intelligence Legislative Trends Artificial Intelligence Act Artificial Intelligence Risk Management Artificial Intelligence Regulatory Trends