머신러닝 편향성 관점에서 비식별화의 영향분석에 대한 연구

• 영문명: A Study on Impacts of De-identification on Machine Learning’s Biased Knowledge
• 발행기관: 한국시뮬레이션학회
• 저자명: 하수현(Soohyeon Ha) 김진송(Jinsong Kim) 손예은(Yeeun Son) 원가은(Gaeun Won) 최유진(Yujin Choi) 박소연(Soyeon Park) 김형종(Hyung-Jong Kim) 강은성(Eunsung Kang)
• 간행물 정보: 『한국시뮬레이션학회 논문지』제33권 제2호, 27~35쪽, 전체 9쪽
• 주제분류: 공학 > 기타공학
• 파일형태: PDF
• 발행일자: 2024.06.30

국문 초록

본고에서는 인공지능 모델 학습에 사용하는 데이터셋에 내재한 편향성이 인공지능 예측 결과에 미치는 영향을 분석함으로써, 위의 경우가 사회적 격차를 고착화시키는 문제를 조명하고자 하였다. 따라서 데이터 편향성이 인공지능 모델에 끼치는 영향을 분석하기 위해, 성별 임금 격차에 관한 편향이 포함된 원본 데이터셋을 제작하였으며 해당 데이터셋을 비식별 처리한 데이터셋을 만들었다. 또한 의사결정트리 알고리즘을 통해 원본 데이터셋과 비식별화 된 데이터셋을 학습한 각각의 인공지능 모델 간의 산출물을 비교함으로써, 데이터 비식별화가 인공지능 모델이 산출한 결과의 편향에 어떠한 영향을 미치는지 분석하였다. 이를 통해 데이터 비식별화가 개인정보 보호뿐만 아니라, 데이터의 편향에도 중요한 역할을 할 수 있음을 도출하고자 하였다.

영문 초록

We aimed to shed light on the issue of perpetuating societal disparities by analyzing the impact of inherent biases present in datasets used for training artificial intelligence models on the predictions generated by Artificial Intelligence(AI). Therefore, to examine the influence of data bias on AI models, we constructed an original dataset containing biases related to gender wage gaps and subsequently created a de-identified dataset. Additionally, by utilizing the decision tree algorithm, we compared the outputs of AI models trained on both the original and de-identified datasets, aiming to analyze how data de-identification affects the biases in the results produced by artificial intelligence models. Through this, our goal was to highlight the significant role of data de-identification not only in safeguarding individual privacy but also in addressing biases within the data.

목차

1. 서론

2. 관련 연구 분석

3. 분석 모형의 수립 및 데이터 생성

4. 모델 학습 및 비교분석

5. 결론 및 향후연구

References

키워드

인공지능 기계 학습 비식별화 데이터 편향성 의사결정트리 Artificial Intelligence Machine Learning De-identification Data Bias Decision Tree