공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구

• 영문명: A Study on the Adoption of Impact Assessment for Artificial Intelligence Service of Public Sector
• 발행기관: 한국정보법학회
• 저자명: 김법연
• 간행물 정보: 『정보법학』제27권 제2호, 171~219쪽, 전체 49쪽
• 주제분류: 법학 > 민법
• 파일형태: PDF
• 발행일자: 2023.08.31

국문 초록

인공지능 영향평가는 인공지능이 윤리적이고 합법적으로 사용되도록 초기 단계에서 부정적 영향에 대한 평가를 실시하고 이를 예방하는 것을 목적으로 실시하는 것이다. 공공서비스와 정부의 행정업무 등에 인공지능을 적용하는 사례가 증가하고 있고, 이에 따라 공공서비스에도 인공지능의 위험과 부작용이 동일하게 나타나고 있는 상황이다. 이에 본 논문에서는 공공분야에서 인공지능을 도입하거나 활용할 경우 인공지능 영향평가를 실시할 수 있도록 제도 개선이 필요함을 강조하고 있다. 인공지능에대한 규제 등 통제 수단이 마련되어 있지 않는 상황에서 인공지능의 부정적 영향을완화할 수 있는 수단으로서 인공지능 영향평가의 도입을 적극 고려할 필요가 있기 때문이다. 공공분야에서의 인공지능 활용은 국민의 권리와 의무에 미치는 영향이 크다는 점에서 더욱 더 통제가 필요한 상황임을 감안하여야 한다. 공공분야의 인공지능 영향평가에는 인공지능시스템의 기능적 영향을 평가하는 것뿐만 아니라 인공지능시스템과 서비스의 도입으로 인한 사회적 효용가치, 국민의 기본권에 미치는 영향 등에 대한 평가도 포함될 수 있어야 한다. 또한 인공지능 영향평가가 안정적으로 운영될 수 있도록 법적 근거를 마련하고, 여기에는 이를 관리하고운영할 거버넌스 체계의 수립, 평가의 대상의 선별 기준, 주요 평가 항목, 평가 항목선정 방법과 절차, 평가 결과에 대한 피드백, 영향평가 실시에 대한 지원 등에 관한규정이 함께 포함되어야 할 것이다.

영문 초록

Artificial Intelligence impact assessment aims to assess and mitigate negative impacts from the initial stag e, ensuring the ethical and leg al use of AI. With the g rowth of AI applications in public services and government administration, the risks and negative impacts of AI in these areas are equally apparent. This paper highlights the need for systematic improvements to enable AI impact assessments when implementing or using AI in the public sector. In situations where AI regulations or other control measures don’t exist, it is crucial to proactively consider the implementation of AI impact assessments as a means to mitigate the negative effects of AI. Given the significant impact that AI applications in the public sector can have on citizens’ rights and responsibilities, it’s appropriate to consider the need for tighter controls. AI impact assessments in the public sector should include not only the functional impact assessment of AI systems, but also the assessment of the social utility value and the impact on citizens’ fundamental rights resulting from the use of AI systems and services. It’s necessary to establish legal grounds for the stable operation of AI impact assessments, which should include the establishment of a governance system for their management and operation, criteria for the selection of targets for assessment, main assessment items, methods and procedures for the selection of assessment items, feedback on assessment results, and regulations related to support for the conduct of impact assessments.

목차

Ⅰ. 들어가며

Ⅱ. 인공지능 영향평가제도의 내용과 의의

Ⅲ. 공공분야 인공지능 영향평가의 도입 필요성과 주요내용

Ⅳ. 인공지능 영향평가 도입의 제도적 고려요소

Ⅴ. 나오며

키워드

인공지능 영향평가 알고리즘 영향평가 공공분야 인공지능 인공지능 리스크 인공지능 규제 Artificial Intelligence Impact Assessment Algorithmic Impact Assessment Artificial Intelligence of Public Setor Artificial Intelligence Risk Regulation of Artificial Intelligence