생성형 AI가 가짜뉴스의 확산에 미치는 영향 연구

• 영문명: A Study on the Effect of Generative AI on the Spread of Fake News: Focusing on Digital Biology
• 발행기관: 한국디자인리서치학회
• 저자명: 김헌재(Heon Jae Kim)
• 간행물 정보: 『한국디자인리서치』Vol9, No. 2(통권 31권), 420~429쪽, 전체 10쪽
• 주제분류: 예술체육 > 미술
• 파일형태: PDF
• 발행일자: 2024.06.30

국문 초록

생성형 인공지능(AI) 기술의 급속한 발전에 따라 이를 가짜뉴스 제작과 유포에 악용할 수 있다는 우려가 제기되고 있다. 가짜뉴스를 인간의 관심과 감정을 먹이로 하는 디지털 생물체로 보고, 생성형 AI가 어떻게 가짜뉴스의 생산과 전파력을 높일 수 있는지 고찰한다. 문헌 검토와 사례 분석을 통해 가짜뉴스 제작에 악용될 수 있는 생성형 AI의 주요 특징을 도출하였다. 심층학습, 자연어처리, 멀티모달(Multimodal) 콘텐츠 합성 등이 대표적이다. 이를 토대로 AI생성 가짜뉴스의 생애주기와 디지털 플랫폼 내 전파 요인을 설명하는 개념 모형을 제안하였다. 연구 결과는 생성형AI가 사실적이고 감정 자극적인 콘텐츠를 자동 생산함으로써 가짜뉴스의 규모와 설득력을 크게 증폭시킬 수 있음을 시사한다. 또한 AI 생성 가짜뉴스 전파에서 디지털 플랫폼과 이용자 행동의 중요성을 부각한다. 이러한 위협에 대응하기 위해서는 기술적 해법, 미디어 리터러시 교육, 규제 등 다차원적 접근이 필요하다. 디지털 생태계에서 AI 기술과 인간사회의 공진화 역학에 대한 심층적 이해가 요구된다. 본 연구는 탐색적 통찰을 제공하나, 제안된 모형의 경험적 검증과 정교화를 위한 후속 연구가 필요하다.

영문 초록

With the rapid development of generative artificial intelligence(AI) technology, concerns have been raised that it can be used to produce and disseminate fake news. Fake news is viewed as a digital organism that feeds on human interest and emotions, and how the Generative AI can increase the production and propagation power of fake news is considered. Through literature review and case analysis, the main characteristics of the Generative AI that can be abused in the production of fake news were derived. Deep learning, natural language processing, and multi-modal content synthesis are representative. Based on this, a conceptual model was proposed to explain the life cycle of AI-generated fake news and the factors of propagation within the digital platform. The research results suggest that the Generative AI can greatly amplify the scale and persuasiveness of fake news by automatically producing realistic and emotionally stimulating content. It also highlights the importance of digital platforms and user actions in the spread of AI-generated fake news. In order to cope with these threats, a multidimensional approach such as technical solutions, media literacy education, and regulation is required. An in-depth understanding of the co-evolution dynamics of AI technology and human society in the digital ecosystem is required. This study provides exploratory insights, but follow-up studies are needed for empirical verification and elaboration of the proposed model.

목차

1. 서론

2. 이론적 배경

3. 사례 분석

4. AI 기반 가짜뉴스 확산의 영향과 과제

5. 결론

참고문헌

키워드

디지털생물학 생성형인공지능 가짜뉴스 Digital Biology Generative AI Fake News