인공지능(AI) 윤리 규제 동향 및 표준화 현황

• 영문명: Trends and Standardization of Artificial Intelligence (AI) Ethics Regulations
• 발행기관: 한국인공지능윤리학회
• 저자명: 김혜정 송현수 박용주
• 간행물 정보: 『인공지능윤리연구』3권 2호, 6~33쪽, 전체 28쪽
• 주제분류: 자연과학 > 자연과학일반
• 파일형태: PDF
• 발행일자: 2024.08.31

국문 초록

AI 기술의 발전과 함께 윤리적, 법적, 사회적 문제들이 대두되고 있다. 특히 생성형 AI의 악용 사례로 가짜 뉴스, 딥페이크, 자동 스팸 및 피싱, 저작권 침해 등이 있으며, 이에 대한 윤리적 규제가 필요하다. 전 세계적으로 AI 윤리 가이드라인과 AI 윤리 위원회 등을 통해 이러한 문제에 대응하고 있으며, 그중 유럽연합은 AI Act를 통해 안전성 및 책임성 확보, 윤리적 평가를 시행하고 있다. 또한 AI 윤리 표준화는 글로벌 경쟁력 강화, 사회적 신뢰 확보, 부정적 영향 최소화를 위해 필요하다. 이를 위해 국내 AI 윤리 포럼은 윤리적 문제 논의, 가이드라인 개발, 교육 및 국제 협력 활동을 통해 AI 기술의 윤리적 사용을 촉진하고 있다. 본 논문에서는 표준화 활동을 통해 신뢰성, 안전성 보장, 혁신 촉진, 사회적 수용성 증가 등의 효과를 기대할 수 있는 인공지능 윤리 규제 동향 및 표준화의 전반적인 현황을 살펴본다.

영문 초록

With the development of AI technology, ethical, legal, and social problems are emerging. In particular, examples of abuse of Generative AI include fake news, deepfakes, automatic spam and phishing, and copyright in-fringement, and ethical regulations are needed. Globally, these problems are responded to through AI ethics guidelines and AI Ethics Committee, among which the European Union is implementing safety and accountabil-ity and ethical evaluation through AI Act. In addition, AI ethics standardiza-tion is necessary to strengthen global competitiveness, secure social trust, and minimize negative effects. To this end, the domestic AI Ethics Forum promotes the ethical use of AI technology through discussion of ethical is-sues, guideline development, education, and international cooperation ac-tivities. In this paper, we examine the overall status of artificial intelligence ethics regulation trends and standardization, which can be expected to have effects such as reliability, safety assurance, innovation promotion, and increased social acceptance through standardization activities.

목차

Ⅰ. AI 윤리 개요

Ⅱ. 생성형 AI를 중심으로 한 AI 기술 악용 사례

Ⅲ. AI 윤리 관련 국내 동향

Ⅳ. 유럽연합(EU) AI Act를 중심으로 한 국제 규제 동향

Ⅴ. AI 윤리 표준화의 필요성

Ⅵ. 국내외 AI 윤리 포럼 활동

Ⅶ. 표준화 활동의 기대 효과

Ⅷ. 맺음말

키워드

인공지능 인공지능 윤리 인공지능 윤리 표준 ISO/IEC JTC1 SC42 인공지능 신뢰성 Artificial Intelligence Artificial Intelligence Ethics Artificial Intelligence standard ISO/IEC JTC1 SC42 Artificial Intelligence Trustworthiness