신뢰가능한 인공지능과 인공지능 법정책의 신뢰성

• 영문명: Legal Perspectives on Trustworthy AI-based Policy and Practice: Reviewing the 2016 & 2021 Reports of the AI 100
• 발행기관: 4차산업혁명융합법학회
• 저자명: 김한균
• 간행물 정보: 『4차산업혁명 법과 정책』제4호, 179~218쪽, 전체 40쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2021.12.31

국문 초록

신뢰가능한 인공지능 여부에 대한 사회적 차원의 판단은 결국 인공지능을 증진하고 규제하는 법제도와 인공지능에 기반을 둔 정책이 국민으로부터 신뢰받을 수 있는지에 달려있는 문제다. 인공지능은 발전중인 개념이며 고려해야 할 혜택과 위험이 다양하기 때문에 포괄적이고 일반적인 인공지능 법정책은 현실적으로 불가능하기도 하거니와 바람직하지도 않다. 신뢰가능한 인공지능과 신뢰받을 수 있는 인공지능 법정책은 별개의 문제가 아니다. 인공지능의 신뢰가능성, 설명가능성, 투명성, 공정성과 같은 문제는 기술적으로 구현될 과제일뿐만 아니라 정책적 뒷받침과 규제의 문제이기도 하기 때문이다. 신뢰가능한 인공지능과 신뢰받을 수 있는 법정책은 상호지지하는 방향으로 함께 발전하는 것이다. 2014년부터 100년 장기기획으로 시작한 ｢인공지능 백년연구｣(One Hundred Year Study on Artificial Intelliegence, 약칭 AI 100)의 1차 연구보고서(2016년)는 인공지능 기술과 연구의 급격한 진전으로 인해 법과 정책에 대한 새로운 개념과 이해가 필요하다는 점을 지적한다. 인공지능의 사회적 영향에 대한 법적 관점은 신뢰가능한 인공지능 정책논의에 필수적이라는 의미다. 이어 2차 연구보고서 (2021년)는 인공지능의 정책적인, 일상적인 활용에 따른 신뢰가능성 관련 문제점을 살펴본다. 불확실성이 높은 공공정책현안에서 인공지능 기반 예측기법을 활용한다면, 정책결정자는 그 이행관리에 있어서 어떤 사회적, 체계적, 실천적 문제를 고려해야 할 것인가? AI 100 보고서에 따르면 정부는 전문성있게 공공과 민간부문에서 발전하고 있는 기술 표준과 기준을 점검하면서 필요한 지점에 맞춤한 규제를 구성해야 한다. 인공지능 기술 발전양상과 그 영향에 대한 분명한 전망이 어려운 현실을 고려할 때 관련정책은 사회적 과제와 실제증거를 기반으로 지속적으로 재평가, 재구성될 필요가 있다. 그리고 인공지능 기술에 대한 효과적인 법적 규제는 엄격하고 세세한 통제규정보다는 일반적 법적의무 규정과 함께 투명성 요건을 엄격히 규정하는 형식이다. 인공지능 분야 역시 규칙강제와 단순 제재보다는 자체적으로 공적책임성(accountability), 투명성, 전문성을 기르는 선순환 구조를 강화하는 방식의 규제가 바람직하다. 인공지능 법정책의 기본은 인공지능기술의 공적 사용과 산업적 활용이 공적 책임성, 형평과 공정성, 투명성과 검증가능성, 프라이버시와 인권보장의 가치를 침해하지 않고 존중할 것인지에 대한 사회적 신뢰 기반을 구축하는데 있다. 인공지능 진흥과 규제의 법제도 또한 사회적 신뢰의 대상이 되어야 인공지능기반 산업과 연구활동, 그리고 시민의 기술향유를 규율할 수 있다.

영문 초록

This essay reviews the Reports of The One Hundred Year Study of Artificial Intelligence (AI100), organized by Stanford University from the points of law and policy on AI. AI 100 is a longitudinal study to study and anticipate how the effects of artificial intelligence will ripple through every aspect of how people work, live and play. Its first report of 2016 begins with a reflection on what constitutes Artificial Intelligence, and concludes with recommendations concerning AI-related policy. These recommendations include devoting more resources to research on the fairness, security, privacy, and societal impacts of AI systems. The second report of 2021 covers key research questions on the pictures that reflect important progress in AI and its influences, the most important advances in AI, most inspiring open grand challenge problems, progress in understanding the key mysteries of human intelligence, the prospects for more general artificial intelligence, public sentiment towards AI, governments' act to ensure AI to be developed and used responsibly, the roles of academia and industry in the development and deployment of AI technologies, the most promising opportunities for and pressing dangers of AI, and the impact of AI on socioeconomic relationships. The 2019 National AI Strategy of Korea government has proposed a basic law on AI, which covers AI principles under the objective of realizing human-friendly AI or human AI. The critical task of AI legal policy is to build up public confidence on the design, development and deployment of AI technology. Such law and policy should focus on the accountability, equity and fairness, transparency, privacy and human rights in adopting AI technology and products into our daily life.

목차

Ⅰ. 서론

Ⅱ. 인공지능 백년연구 프로젝트 제1차(2016)·제2차(2021) 보고서 구성과 내용

Ⅲ. 인공지능 개발의 사회적 인식과 법적 의미

Ⅳ. 인공지능 활용의 사회적 영향과 법적 문제

Ⅴ. 결론: 신뢰가능한 인공지능과 신뢰받을 수 있는 인공지능 법정책

참고문헌

키워드

신뢰가능한 인공지능 인공지능 국가전략 인공지능 규제 인공지능의 윤리적 설계 AI 100 Responsible AI Trustworthy AI Regulating AI Ethical design of AI National AI Strategy