자동적 처분에 대한 통제 수단으로서의 알고리즘 영향평가

• 영문명: Algorithmic Impact Assessment as a Control System of Automated Disposition
• 발행기관: 한국국가법학회
• 저자명: 권은정
• 간행물 정보: 『국가법연구』제19집 2호, 121~148쪽, 전체 28쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2023.05.31

국문 초록

시행 3년차에 접어든 ｢행정기본법｣은 제20조에서 ‘자동적 처분’ 개념을 전격 도입함으로써 완전 자동화된 행정결정에 관한 명시적 근거를 두었다. 종래 ‘행정의 자동화 작용’은 교통신호 송신, 세금 및 공과금 산정 등 자동기계장치로 이루어지는 행정보조절차로서의 의미가 컸던 반면에, 자동적 처분은 법률에 근거하여 완전히 자동화된 기속적 행정처분을 내리는 것이므로 자동화된 시스템을 일종의 처분 형식으로 허용하는 행정의 전향적 태도를 보여준다. 더욱이 인공지능 기술을 사용한 자동화된 행정결정도 본조의 자동적 처분으로 포괄하고 있기 때문에, 종래의 전산화 내지 부분자동화 수준을 뛰어넘는 인공지능 알고리즘 기반의 자동화된 행정결정도 법적으로 허용될 여지가 생겨났다. 하지만 아직은 우리 법에 기초한 완전 자동화된 행정결정 시스템을 구현하는 것도 이에 대한 기술적·제도적 안전장치를 구비하는 것도 요원한 상황이다. 한편, 2020년 12월부터 시행된 ｢지능정보화 기본법｣은 국민 생활에 파급력이 큰 지능정보서비스에 대한 ‘사회적 영향평가’를 새롭게 도입하였다. 동법 제56조에 따라 국가 및 지방자치단체는 지능정보서비스가 사회, 경제, 문화 등에 미치는 영향을 조사하고 평가할 수 있으며, 그 결과를 공개하고 정책에 반영할 뿐만 아니라 적절한 조치를 직접 권고할 수 있도록 한 것이 본 영향평가제도의 골자이다. 평가 대상이 되는 지능정보서비스의 범위를 민간에 한정하고 있지 않으므로 행정 부문의 지능정보서비스 또한 본조의 사회적 영향평가 대상이 될 수 있다고 보아야 한다. 인공지능 기반의 자동행정서비스는 법률에서 정한 광범위한 지능정보서비스에 속하게 되며, 지능정보기술 기반의 완전 자동화된 시스템으로 발급되는 자동적 처분 역시 행정청이 제공하는 지능정보서비스로서 사회적 영향평가의 대상이 될 수 있다고 봄이 타당하다. 자동화된 행정결정에 대한 영향평가를 법률에 규정한 사례는 발견되지 않으나, 캐나다 정부는 행정 부문의 자동화 시스템을 제도적으로 규율하는 ‘자동화된 의사결정에 관한 지침’을 2019년 4월부터 시행해 왔다. 본 지침의 중요한 축을 이루는 요건이 바로 ‘알고리즘 영향평가’이다. 민간기업의 서비스에 비하여 상대적으로 더 엄격한 적법성과 공적 책임을 부담하는 자동화된 행정결정 시스템에 대해서는 안전성, 투명성, 견고성 등을 사전에 검토하고 상시적으로 평가하는 영향평가를 절차화하여 운용할 필요가 있다. 본고에서는 캐나다 사례를 참고하여 알고리즘 기반 행정결정 시스템에 대한 통제 수단으로서 현행 사회적 영향평가와의 연계를 고려한 ‘알고리즘 영향평가’를 제안한다.

영문 초록

The Framework Act on Administration, scheduled to take effect in March 2021, provides an explicit basis for fully automated administrative decisions by introducing the concept of ‘automatic disposition’ in Article 20. Traditionally, the ‘automation of administration’ was significant as an auxiliary administrative procedure consisting of automatic mechanical devices such as traffic signal transmission, tax, and utility bill calculation. Moreover, since automated administrative decisions using artificial intelligence (AI) technology are also included in this automatic disposition, there is room for legal acceptance of automated administrative decisions based on artificial intelligence algorithms that exceed the level of conventional computerization or partial automation. However, it is still a long way from implementing a fully automated administrative decision system based on current law and having technical and institutional safety devices for it. On the other hand, the Framework Act on Intelligent Informatization, which took effect in December 2020, introduced a new ‘social impact assessment’ for intelligent information services that have far-reach effects on citizens’ lives. According to Article 56 of the Act, the main goal of this impact assessment system is to investigate and evaluate the impact of intelligent information services on society, economy, culture, etc., disclose the results, reflect them in policies, and directly recommend appropriate measures. Since the scope of intelligent information services subject to evaluation is not limited to the private sector, it should be considered that intelligent information services in the administrative sector can also be subject to social impact assessment in this article. It is reasonable to assume that automatic administrative services by artificial intelligence system belong to a wide range of intelligent information services prescribed by law, and that automatic disposition issued as a fully automated system based on intelligent information technology can also be subject to social impact assessment. Although no provisions have been found in law to assess the impact of automated administrative decisions, the government of Canada has implemented the “Directive on Automated Decision-Making” since April 2019, which systematically regulates the automated administrative decision-making system. The requirement that constitutes an important axis of this directive is the ‘algorithmic impact assessment'. For an automated administrative decision-making system that bears relatively stricter legality and public responsibility than private companies' services, it is necessary to process and operate an impact assessment that reviews safety, transparency, and solidity in advance. In this paper, referring to the Canadian case, as a control system of the algorithm-based administrative decision-making system, I propose the institutionalization of the “algorithmic impact assessment” in consideration of the connection with the social impact assessment under the current law.

목차

Ⅰ. 서론

Ⅱ. 자동적 처분과 사회적 영향평가

Ⅲ. 자동적 행정결정에 대한 알고리즘 영향평가 사례 - 캐나다 정부의 ‘자동화된 의사결정에 관한 지침’

Ⅳ. 행정 부문 알고리즘 영향평가의 제도화 방안

Ⅴ. 결론

키워드

자동화된 행정결정 자동적 처분 지능정보서비스 사회적 영향평가 알고리즘 영향평가 automated administrative decisions automated disposition intelligent information services social impact assessment algorithmic impact assessment