생성형 AI와 개인정보 보호

• 영문명: A study on Generative AI and Privacy
• 발행기관: 4차산업혁명융합법학회
• 저자명: 손형섭(Hyeung Seob Son)
• 간행물 정보: 『4차산업혁명 법과 정책』제7호, 3~27쪽, 전체 25쪽
• 주제분류: 복합학 > 학제간연구
• 파일형태: PDF
• 발행일자: 2024.06.30

국문 초록

챗지피티(ChatGPT)가 2023년 3월에 공개된 이후, 생성형(generative) 인공지능이 우리 삶의 많은 것을 바꾸게 될 것으로 예상된다. 그런데 인공지능이 발전해도 우리는 헌법이 보장하는 인간의 존엄과 행복추구권(헌법 제10조)과 사생활의 비밀과 자유(제17조)를 보장해야 하며 이를 보장하기 위한 권리로 개인정보 자기통제권을 보장해야 한다. 소셜 미디어 플랫폼, 검색 엔진, 온라인 마켓플레이스를 통해 수집된 개인데이터는 상업적 또는 정치적 목적으로 사용될 수 있는 엄청난 양의 데이터를 만들어냈다. 이 데이터를 처리하기 위해 AI 알고리즘을 사용하면 이 데이터가 어떻게 사용되는지, 누가 이에 액세스할 수 있는지, 오용이 개인의 개인정보보호에 어떤 영향을 미칠 수 있는지에 대한 우려가 제기된다. 일단 개인정보의 침해로 발생한 금융, 행정, 그리고 본인의 목소리와 얼굴을 도용한 범죄에 직면하게 되면 문제가 심각하다. 인공지능분야의 개인정보 처리의 원칙을 정하기 위하여 개인정보보호위원회는 2021년 인공지능 개인정보보호 자율점검표는 개인정보 취급의 기획·설계에서 개인정보 수집, 그리고 개인정보 이용·제공, 개인정보 보관·파기, AI서비스 관리·감독, AI 서비스 이용자 보호 및 피해구제, 개인정보 자율보호활동, AI 윤리 점검의 단계로 진행된다. 생성형 인공지능에 프롬프트로 개인정보를 입력 혹은 개인정보를 추출할 때 발생하는 개인정보 문제 중 ① 전과를 제공하는 경우, ② 명예훼손적, 모욕적 데이터 제공, ③ 부정확한 개인정보 제공, ④ 알려지지 않은 비밀, 프라이버시 공개하게 되면 이를 출력 정지청구, 삭제청구, 정정청구를 할 수 있도록 해야 하며, 나아가 타인의 개인정보의 제공에 대하여도 개인이 해당 결과값의 문제를 제기할 수 있는 타인을 위한 이의제기 절차도 검토해볼 필요가 있다.

영문 초록

Since ChatGPT was released in March 2023, people have come to recognize that generative AI will change many aspects of our lives. However, even with the development of AI, we must protect the human dignity and right to pursue happiness (Article 10 of the Constitution) and the confidentiality and freedom of private life (Article 17) guaranteed by the Constitution, and to protect these rights, we must guarantee the right to self-control of personal information. Personal data collected through social media platforms, search engines, and online marketplaces has created a huge amount of data that can be used for commercial or political purposes. The use of AI algorithms to process this data raises concerns about how this data is used, who can access it, and what impact misuse can have on individuals’ privacy. However, once we face the financial, administrative, and even criminal cases involving theft of our voices and faces, the problem becomes serious. In order to establish the principles of personal information processing in the field of artificial intelligence, the Personal Information Protection Commission’s 2021 AI Personal Information Protection Self-Checklist proceeds in stages from personal information handling planning and design to personal information collection, personal information use and provision, personal information storage and destruction, AI service management and supervision, AI service user protection and damage relief, personal information self-protection activities, and AI ethics inspection. Among the personal information issues that occur when entering or extracting personal information as a prompt in generative artificial intelligence, ① providing criminal records, ② providing defamatory or insulting data, ③ providing inaccurate personal information, ④ disclosing unknown secrets or privacy, it is necessary to allow a request to stop printing, request deletion, or request correction. Furthermore, it is necessary to review the procedure for filing an objection for others who can raise issues with the results of the provision of personal information of others.

목차

Ⅰ. 들어가며

Ⅱ. 인공지능의 개념과 활용

Ⅲ. 생성형 인공지능의 개인정보 이슈

Ⅳ. 개인정보 보호 대책

Ⅴ. 맺으며

참고문헌

키워드

챗지피티 생성형 인공지능 개인정보 자기통제권 개인정보 보호법 개인정보의 무단 제공 인공지능 제공정보 정지청구 ChatGPT generative AI right to self-control of personal information personal information protection Act unauthorized collection of personal data claim for providing of AI