인공지능 법관에 관한 시론적 논의 - 인공지능 법관의 개념과 특성 및 사법작용의 본질을 중심으로

• 영문명: A Theoretical Discussion on Artificial Intelligence Judges : Focusing on the Concept and Characteristics of AI Judges and the Nature of Judicial Behavior
• 발행기관: 전남대학교 법학연구소
• 저자명: 김종현(Jong-Hyun Kim)
• 간행물 정보: 『법학논총』제44권 제4호, 1~34쪽, 전체 34쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2024.11.30

국문 초록

인공지능은 인간의 지적 능력을 그대로 구현하기보다는 인간이 지능으로써 수행해온 것들을 수행하는 데 방점이 있다. 현 단계에서 자연인 법관과 동일한 인공지능 법관을 상정하기는 어려우나, 인공지능이 제시하는 출력 값이 자연인 법관의 판단을 대체하는 단계에 이르러야 인공지능 법관이라고 할 수 있다. 인공지능 법관은 업무효율 제고, 재판의 일관성·공정성에 대한 기대에서 논의되나 여러 헌법적 쟁점을 안고 있다. 특히 데이터와 알고리즘의 편향성으로 말미암아 공정한 재판을 받을 권리나 평등권이 침해될 우려가 없는지, 인공지능 알고리즘이 결과를 산출하는 과정과 근거가 불투명할 경우 공정한 재판을 받을 권리가 침해되지 않는지의 문제가 그러하다. 그런데 공정함에 대한 근본적인 관점의 차이가 존재한다는 점에서, 또 인공지능의 투명성은 성능·정확성과 반비례할 수 있다는 점에서 이들 문제의 어려움이 있다. 현재의 약한 인공지능은 사법작용의 본질에 비추어 법관이 될 수는 없다고 판단된다. 인과관계가 아닌 상관관계를 판단하며, 개별적인 당해 사안에서 구체적 타당성 있는 결론을 도출하는 것이 아니기 때문이다. 사법적 덕목을 결여한 인공지능의 판단 결과에 대한 구성원들의 승복가능성도 기대하기 힘들다. 그럼에도 인공지능을 재판에 활용한다고 할 때 양질의 데이터 확보, 훈련데이터 및 기본적인 작동 원리의 설명가능성 등이 전제되어야 한다. 재판에서 인공지능을 보조적으로 활용하는 것은 가능하나, 이를 두고 인공지능 법관이라고 할 수는 없다. 사건의 성격 등을 고려해 인공지능 법관의 도입 여부를 입체적으로 논의할 여지도 있다.

영문 초록

AI does not embody human intellectual capabilities, but rather aims to perform tasks that humans have been performing using intelligence. Today, it is difficult to imagine an AI judge that is identical to a human judge. Only when the results presented by AI algorithms replace the judgment of human judges can they be called AI judges. AI judges are discussed in the context of improving work efficiency and expectations for consistency and fairness in trials, but there are various constitutional issues. In particular, whether the right to a fair trial or the right to equality may be violated due to the bias of data and algorithms, and whether the right to a fair trial may be violated if the process and basis of the AI algorithm's results are unclear. The difficulty with these issues is that there are fundamental differences in views of fairness, and that attempts to make AI more transparent may compromise its accuracy and performance. Currently, weak AI is not capable of being a judge based on the nature of judicial work. This is because it judges correlation, not causation, and does not draw specific and valid conclusions in individual cases. It is also difficult to expect that people will approve of the judgment of an AI that lacks judicial virtues. Nevertheless, if AI is to be used in a trial, it must have good data and be able to explain its training data and basic working principles. It is possible to utilize AI as an aid in a trial, but it cannot be called an AI judge. There may be room for a flexible review of whether artificial intelligence judges can be introduced, considering the nature of the case.

목차

Ⅰ. 서론

Ⅱ. 인공지능의 개념과 유형 및 오늘날 상정할 수 있는 인공지능 법관

Ⅲ. 인공지능의 편향성 및 불투명성과 관련한 문제

Ⅳ. 사법작용의 본질과 관련한 문제

Ⅴ. 결론: 인공지능 법관의 도입과 관련한 고려요소

키워드

인공지능 인공지능 법관 편향성 불투명성 공정한 재판을 받을 권리 사법작용의 본질 artificial intelligence artificial intelligence judge bias opacity right to a fair trial nature of judicial behavior