설명가능 인공지능 기반 사용자 의사결정 이해와 윤리적 디자인 적용 - 개인정보 보호법 중심 개인화 서비스 의사결정 맥락에서

• 영문명: Understanding User Decision-Making through Explainable AI : Focusing on Privacy Decisions in the Context of Personal Information Protection
• 발행기관: 한국서비스디자인학회
• 저자명: Jieun Shim Namhoon Park Jieun Kim
• 간행물 정보: 『한국서비스디자인학회 학술대회자료집』2024년 추계학술대회 발표집, 5~12쪽, 전체 8쪽
• 주제분류: 예술체육 > 미술
• 파일형태: PDF
• 발행일자: 2024.11.16

국문 초록

디지털 서비스 환경에서 서비스 혜택을 위해 사용자가 스스로 자신의 프라이버시를 포기하는 역설 문제를 해결하기 위해 개인정보 보호법이 개정되었다. 모바일 개인화 서비스 설계에서 선제적인 사용자 이해가 필수다. 본 연구는 모바일 개인화 서비스 사용자의 여정을 바탕으로 682명의 사용자가 지속 사용 의사를 결정할 때 중요한 영향을 미치는 요인을 설명 가능한 인공지능(Explainable Artificial Intelligence, XAI) 기법을 사용해 분석하였다. 연구 결과, 사용자 의사결정에는 순서대로 서비스 편의성, 프라이버시 침해 경험, 사회적 규범, 서비스 신뢰 정도 차이가 중요한 영향을 미쳤다. 사용자는 프라이버시 침해 경험이 있음에도 서비스 편의에 더 큰 영향을 받아 왜곡된 결정에 이르게 되는 역설이 존재했다. 또 해당 서비스에 대한 신뢰가 높고, 개인정보 제공이 일반적인 사회적 규범이라고 여길수록 지속적인 사용 결정에 긍정적인 영향을 미쳤다. 향후 개인화 서비스의 개인정보 설계에서는 사회적 요인을 고려하여 사용자 균형을 높여야 한다. 본 연구는 XAI의 SHAP 기법을 적용하여 복잡한 사용자 의사결정을 해석함으로써 윤리적 디자인 접근의 새 설계 방향을 제안한다.

영문 초록

Personalized service users increasingly sacrifice their privacy for service benefits, highlighting the importance of understanding user behavior to mitigate the privacy paradox. This study analyzes factors influencing the continued usage intention of 682 users using Explainable AI (XAI). Key factors include service convenience, privacy infringement experiences, social norms, and service trust. Privacy infringement negatively impacted decisions, while social norms positively influenced users’ willingness to continue using the service. The study suggests that future service design should consider service convenience and social influences to protect user privacy, presenting new ethical design strategies using XAI's SHAP method.

목차

1. 서론

2. 선행 연구

3. 연구 방법

4. 연구 결과

5. 논의 및 결론

REFERENCES

키워드

프라이버시 역설 사용자 의사결정 설명가능 인공지능 개인정보 보호 윤리적 디자인 Privacy Paradox User Decision-Making Explainable Artificial Intelligence (XAI)