플랫폼 알고리즘 운영의 공정성과 투명성 확보

• 영문명: Fairness and Transparency in Operating Platform Algorithms
• 발행기관: 4차산업혁명융합법학회
• 저자명: 김혜경
• 간행물 정보: 『4차산업혁명 법과 정책』제4호, 47~82쪽, 전체 36쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2021.12.31

국문 초록

공정성이란 어느 사회든 여전히 해결되지 않는 정치철학적 화두이다. 알고리즘에 대한 최근의 화두는 알고리즘의 과학성을 그것의 객관성과 중립성으로 오해하는 일반인의 신뢰에 의하여, 그 산출물에 의한 차별성이 ‘공정’하다고 왜곡됨으로 인하여 사회적 차별이 알고리즘을 통해 굳건히 정당화되는 과정을 거치게 됨을 경계하는 것이다. 알고리즘에 대한 공정성 시비를 잠식시키기 위해서 제안하는 설명가능성 또는 해석가능성 역시 완전한 해결방법이 될 수 없다. 앞서 언급한 바와 같이 설명가능성의 불가능성, 모든 알고리즘의 로직 트리를 해석하고 모든 연관성을 따르는 것이 인간의 능력 밖이라는 점, 투입되는 규칙, 데이터 지점, 가중치, 의사결정분지가 늘어날수록 알고리즘은 보다 정교해지고 보다 공정해질 수 있지만, 반대로 그 복잡성이 가중될수록 설명가능성은 보다 낮아질 수밖에 없다는 점 등을 고려하여야 할 것이다. 본 논문에서는 우선 알고리즘 공정성에 관한 미국의 법적 대응책을 살펴보고, 알고리즘 편향의 단계를 네 개로 범주화하여 살펴보았다. 알고리즘 편향과 관련한 네 개의 단계는 투입되는 기존 데이터가 해당 사회의 특정 편향을 반영하고 있는 경우, 개발자 및 이용자의 편향이 개입되는 경우, 알고리즘의 설명가능성의 불가능성이 초래하는 결과예측 불가능성과 관련한 편향의 문제 및 개발 이후 상용화 과정에서 투입되는 정보학습을 통해 심화될 수 있는 편향의 문제로 나누어 살펴보았다. 그리고 이를 사법영역에서의 편향문제와 관련하여 설명하고자 하였다. 특히 알고리즘 편향의 문제는 공정성과 투명성 문제와 직결된다. 그리고 이러한 점에서 규범적 접근은 책임소재와 관련하여 보다 중요한 의미를 가진다. 법적 분쟁의 발생시 책임소재를 명확히 할 수 있는 자료 및 결정 설계가 필요하며, 해당 윤리적 문제에 대한 규범적 기준을 제시할 때 오히려 알고리즘 개발은 투명성과 공정성 시비에서 벗어날 수 있을 것이다. 규범적 접근이 기술개발의 단계와 균형을 이루지 못할 때 문제해결을 위하여 기술적인 측면의 설명가능성을 보다 강조하게 되지만, 그로 인하여 모든 논쟁이 잠식되는 것은 아니다. 최근 미국의 경우 그 이용자수와 이윤가치를 한정함으로써 이에 해당하는 특정 빅 테크들만을 상대로 하는 법률을 가시화하고 이를 통해서 규제하려는 움직임 역시 이와 맥락을 같이 한다. 플랫폼 알고리즘의 운영에 있어서 공정성과 투명성의 확보를 기술 측면의 문제로 한정하지 않고 규범적 틀의 제공이 필요한 이유이기도 하다. 물론 법적 도구의 개입은 최후수단성으로 작용하여야 함에도 불구하고, 만일 입법이 이루어진 후에도 그와 같은 투명성과 공정성이 법적 강제로도 담보될 수 없는 결과를 초래한다면 그 이후의 문제는 보다 큰 사회적 문제가 될 우려가 있다. 이러한 점에서 법적 개입을 가장 용이한 해결수단으로 이해하거나 법의 전치화를 쉽게 허용해서는 안 될 것이다.

영문 초록

Fairness is a political and philosophical topic that is still unresolved in any society. The latest topic for algorithms is to be wary of the fact that social discrimination is firmly justified through algorithms because the discrimination by the output is distorted as 'fair' by the public's trust in misunderstanding the scientificity of algorithms as its objectivity and neutrality. The explanability or interpretability proposed to erode the fairness dispute over the algorithm cannot be a complete solution either. It should be considered that the impossibility of explanability, that it is beyond human capacity to interpret and follow all algorithms' logic trees, and that the more rules, data points, weights, and decision branches are put in, the less explainable they are. In this respect, the normative approach has a more important meaning with respect to responsibility. In the event of a legal dispute, data and decision design that can clarify the responsibility are required, and algorithm development will be able to escape from disputes over transparency and fairness when presenting normative standards for the ethical issue. When the normative approach is not balanced with the stage of technology development, the possibility of explanation in the technical aspect is emphasized more to solve the problem, but not all arguments are eroded. In the case of the United States, the recent movement to visualize laws against only specific big tech companies corresponding thereto by limiting the number of users and profit value is in the same context. This is why securing fairness and transparency in the operation of platform algorithms is not limited to technical issues, but it is also the reason why it is necessary to provide a normative framework. Although the intervention of legal tools or laws should act as a last resort, if such transparency and fairness are not legally guaranteed even after legislation is made, subsequent problems may become a bigger social problem. In this respect, legal intervention should not be understood as the easiest solution or the transposition of the law should not be easily allowed.

목차

Ⅰ. 들어가며

Ⅱ. 미국에서의 플랫폼 알고리즘의 규제 현황

Ⅲ. 미국의 사법 영역에서 알고리즘의 편향성(Bias)과 공정성 시비

Ⅳ. 알고리즘의 편향성에 관한 문제

Ⅴ. 나가며

키워드

설명가능성 해석가능성 플랫폼 알고리즘 인공지능 공정성 투명성 편향 explanability interpretability platform algorithm fairness bias AI