제4차 산업혁명시대 인공지능의 의사결정과 인격권 보장

• 영문명: Artificial Intelligence Decision Making and the infringement of human rights: Focusing on the recruitment process
• 발행기관: 한국부패학회
• 저자명: 정애령
• 간행물 정보: 『한국부패학회보』제28권 제1호, 5~30쪽, 전체 26쪽
• 주제분류: 법학 > 민법
• 파일형태: PDF
• 발행일자: 2023.03.31

국문 초록

4차산업혁명 시대의 핵심어는 단연 인공지능이다. 빅데이터에 기반한 인공지능의 결정은 다량의 데이터를 빠르게 검토하여 시간과 비용을 줄여 업무처리의 효율성을 높인다. 이에 따라 사회의 전 영역에서 인공지능 기술이 이용되기 시작했고, 기업의 인사관리영역에서도 회사의 특정 요구사항에 따라 업무를 최적화할 수 있을 뿐 아니라, 신뢰와 공정에 의구심을 제기하는 채용 관련 비리 및 비위행위에 맞서 반부패정책도구로서 기대된다. 그러나 인공지능에 대한 적절한 통제가 없는 경우 인공지능은 오히려 편견을 강화하고, 구직자의 개인정보를 침해할 수 있다. 인공지능의 결정에 기반이 되는 데이터는 오랜 시간 축적된 것이므로, 과거 인종과 성별 또는 일정 그룹에 대한 차별과 편견이 그대로 드러나거나, 알고리즘 설계에 반영될 수 있기 때문이다. 더욱이 인공지능의 의사결정과정은 스스로 학습을 거쳐 일반적으로 이해할 수 있는 절차와 근거가 제시되기 어렵기 때문에, 반박하거나 교정하기 어려운 상태에서 기계의 결정을 인간이 그대로 받아들여야 하는 주객전도의 상황이 발생한다. 지능정보사회에서 인공지능이 점점 더 중요한 결정을 내리게 됨에 따라, 자동화된 의사결정이 행사하는 이른바 알고리즘 권력이 어떤 문제를 수반하고 이를 어떻게 적절히 통제할 것인지가 중요한 과제가 된다. 따라서 첨단기술의 효용성을 극대화하되, 인간의 존엄과 가치가 훼손되지 않으며 인공지능을 이용할 방법을 강구하여야 한다. 인공지능의 의사결정에 대한 인격권 보장방안으로, 유럽 개인정보보호규정을 참고하여 인공지능의 배타적 결정을 제한하고 최종적 결정 권한은 인간에게 두어야 한다. 또한 인공지능을 이용한 채용과정에서 발생하는 법적 윤리적 문제에 대하여 감사기관과 정부, 윤리위원회 및 심리 전문가까지 신중한 분석에 따른 지침설정이 필요하다. 나아가 인공지능 기술이 가진 문제점을 인지하여 기술적 보완을 위해 힘써야 할 것이나, 기술이 가진 위험성을 예방하고 감시할 수 있는 실효적인 구체적 절차의 마련이 더욱 절실하다. 채용과정은 자아실현의 수단인 직업을 갖게 되는 첫 단계인 만큼 기회의 균등과 직무능력에 따른 평가가 중요하다. 인공지능 및 기술발전을 저해하지 않으면서 노동법과 개인정보보호법이 추구하는 법익을 실현하기는 쉽지 않을 것이나, 법학적 철학적 기술적 전문가의 치열한 논의를 통해 지침이 되는 실용적이고 균형잡힌 명확한 법률을 만들어지기를 기대한다. 가장 중요한 명제는 인공지능은 인간의 결정을 돕는 도구이고, 그것의 윤리는 항상 도구를 만드는 사람에 달려 있다는 것이다.

영문 초록

The key word in the era of the Fourth Industrial Revolution is definitely AI(Artificial Intelligence). Artificial intelligence's decision based on big data increases the efficiency of work processing by quickly reviewing a large amount of data and reducing time and cost. As a result, artificial intelligence technology has begun to be used in all areas of society, and it is expected to be an anti-corruption policy tool against hiring-related corruption and irregularities that raise doubts about trust and process. However, if there is no proper control over artificial intelligence, artificial intelligence can rather strengthen prejudice and infringe on job seekers' personal information. This is because the data based on artificial intelligence's decisions have been accumulated for a long time, so discrimination and prejudice against race, gender, or certain groups in the past can be revealed or reflected in algorithm design. Moreover, since artificial intelligence's decision-making process is difficult to present procedures and grounds that can be generally understood through self-learning, there is a situation in which humans have to accept machine decisions as they are in a difficult state to refute or correct. Therefore, while maximizing the utility of high-tech technology, it is necessary to find a way to use artificial intelligence without damaging human dignity and value. As a way to guarantee the personal rights of artificial intelligence's decision-making, the exclusive decision of artificial intelligence should be limited by referring to the European Personal Information Protection Regulations and the final decision authority should be placed on humans. In addition, it is necessary to set guidelines based on careful analysis by audit agencies, the government, ethics committees, and psychological experts for legal and ethical problems that arise in the hiring process using artificial intelligence. It is more urgent to prepare effective specific procedures to prevent and monitor the risks of technology. As the hiring process is the first step in getting a job, which is a means of self-realization, evaluation according to equality of opportunities and job competency is important. We hope that practical and balanced clear laws will be created through intense discussions by legal, philosophical and technical experts. The most important proposition is that artificial intelligence is a tool that helps humans make decisions, and its ethics always depend on the person who makes the tool.

목차

Ⅰ. 서론

Ⅱ. 반부패 정책을 위한 채용 절차상 인공지능의 활용

Ⅲ. 인격권을 제한하는 인공지능 기술의 문제점

Ⅳ. 인공지능의 의사결정에 대한 인격권 보장방안

Ⅴ. 결론

참고문헌

키워드

인공지능 알고리즘 인간의 존엄 차별 편견 로봇채용 책임성 채용 데이터 분석. AI (Artificial Intelligence) Algorithms human dignity Discrimination bias Robot-Recruiting accountability Recruitment Data Analysis