AI의 안전한 공동체 편입을 위한 합리적 규제설계에 관한 연구

• 영문명: A Study on Rational Regulatory Design for the Safe Integration of AI into Communities
• 발행기관: 중앙대학교 법학연구원
• 저자명: 손은지(Eun Ji Son)
• 간행물 정보: 『법학논문집』第48輯 第1號, 5~36쪽, 전체 32쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2024.04.30

국문 초록

2024년 3월, UN은 ‘지속 가능한 발전에 유용하면서도 안전하고 위험이 없으며 신뢰할 수 있는 AI 체계 증진’에 관한 결의안(resolution)을 채택하였다. 본 결의안은 본격적인 AI 시대에서의 부적절한 AI 개발의 위험성을 경고하고 디지털 격차 해소 등을 촉구하기 위한 국제적인 합의 마련에 대한 필요성을 강조한다. 이는 AI 개발과 사용을 두고 지속적으로 제기되었던 ‘두머(doomer, 파멸론자) 대 부머(boomer, 개발론자)’ 논쟁 속에서 책임있는 AI 발전 의지와 함께 AI 가 침해할 수 있는 인권과 공동체 가치에 대한 국제사회의 관심을 유도한다. 이렇듯 현재 국제사회의 AI 규제 논의는 기술 육성과 진흥을 위한 국가의 적극적인 정책 마련 및 기술 위험에 대응할 수 있는 적절한 규범체계 구축이라는 ‘규제 딜레마’를 겪고 있다. 그리고 이러한 규제 딜레마는 공동체 규범과 AI 개발･사용 사이의 합리적 균형점을 모색하기 위한 움직임으로 이어진다. 그렇다면 AI 과도기에 살고 있는 우리에게 맞는 규범체계, 즉 체계적인 규제 정립은 어떠한 모습일까. 물론 AI 기술 발전 과정에서 국제사회는 다양한 가이드라인과 지침 등의 형식을 통해 ‘윤리원칙’에 기반한 AI 규제 방안을 제시하였지만, 기술의 급격한 발전과 그에 따른 기본권 침해 위험이 심각해지고 있는 현실에서 이에 대응한 합리적이고 효율적인 규제 체계의 정립이 필요하다. 이러한 규제 체계 설계를 위해 본 연구자는 ‘원칙(principle)’과 ‘규칙(rule)’ 중심의 규제 방식을 적절히 혼용하여 각 영역에서 적용될 수 있는 구체적인 규제설계 방안을 제시하고자 한다. 이러한 규제 체계의 다원화는 상황별-위험별 접근방식을 통해 규제 효율성을 높이는 한편, 규제 적응력을 향상시켜 공동체 내에서의 질서를 형성하고 안전을 도모시킬 것이다. 기술은 규범 체계 안에서 지속가능성을 보장받고, 이러한 기술의 발전은 인류 공영을 위한 긍정적인 역할을 담당함으로써 인간과 AI의 공존을 가능하게 한다. 따라서 ‘AI 기본법’의 제정을 통해 기술규제의 원칙과 방향성, 그리고 정책적 이슈를 제시하고, 독립적인 규제기관을 도입하여 통일적이고 전문적인 규제 태도를 유지할 필요가 있다. 이와 함께 ‘고위험 AI’를 규제할 수 있는 세부적이고 구체적인 법률의 제정 및 규제 보완을 위한 정책적･제도적 차원의 접근, 즉 자율규제를 위한 민관협력 차원의 컴플라이언스와 기술 윤리교육 환경의 조성 등의 노력을 통해 AI의 안전한 공동체 편입을 시도한다. 이와 같은 다원적 규제체계의 정립은 기술 혁신과 규제 사이의 적절한 균형을 제시하기 위한 방안이 될 것이다.

영문 초록

In March 2024, the UN adopted a resolution on “Advancing a Sustainable, Safe, Risk-Free, and Trustworthy AI Regime.” This resolution underscores the necessity for international agreements to address the risks of inappropriate AI development in the era of comprehensive AI and to urge the resolution of digital disparities. It stimulates international attention to human rights and communal values that AI may infringe upon, amid the ongoing debate between “doomers” and “boomers” regarding responsible AI development and the societal interest in AI's potential harms. Currently, the international discourse on AI regulation is experiencing a regulatory dilemma of establishing an appropriate regulatory framework to foster technological advancement and address technological risks. This regulatory dilemma leads to efforts to seek a rational balance between communal norms and AI development and usage. So, what might an appropriate regulatory framework look like for us living in the AI era? While international society has proposed AI regulatory measures based on ethical principles, the rapid advancement of technology and the increasing risk of infringement on fundamental rights necessitate the establishment of a rational and efficient regulatory framework. To design such a regulatory system, the researcher intends to propose specific regulatory design plans by appropriately blending principle- and rule-centered regulatory approaches that can be applied in various domains. The diversification of this regulatory framework through situation-specific and risk-based approaches aims to enhance regulatory efficiency while improving regulatory adaptability to form order within the community and foster safety. Technology ensures sustainability within a normative framework, and its development plays a positive role in serving the common good of humanity, enabling the coexistence of humans and AI. Therefore, there is a need to enact an “AI Basic Law” to present the principles and directions of technology regulation, address policy issues, and introduce independent regulatory bodies to maintain a unified and professional regulatory stance. This will serve as a prerequisite for striking an appropriate regulatory balance between technological innovation and regulation. Alongside this, efforts are made to attempt the safe integration of AI into the community through the enactment of detailed and specific laws regulating “high-risk AI,” as well as policy and institutional approaches for regulatory complementation, such as public-private cooperation for self-regulation, and the establishment of environments for technical ethics education.

목차

Ⅰ. 서 론

Ⅱ. AI 규제의 양면성

Ⅲ. AI 규제 방식의 선택

Ⅳ. 합리적인 AI

키워드

AI 규제 필요성 AI 규제의 양면성 AI 규제설계 원칙·규칙중심 규제 AI 위원회 AI regulation principle-based rule-based AI committee AI law AI regulation double-sidedness