자율운항선박 인공지능의 윤리문제에 대한 소고

• 영문명: A Study on the Ethic Issues regarding Artificial Intelligence of Maritime Autonomous Surface Ship - focused on an Accidental Algorithms -
• 발행기관: 한국해사법학회
• 저자명: 장유락(You-Rak Jang)
• 간행물 정보: 『해사법연구』해사법연구 제33권 제1호, 143~171쪽, 전체 29쪽
• 주제분류: 법학 > 법학
• 파일형태: PDF
• 발행일자: 2021.03.31

국문 초록

제4차 산업혁명이 시작되면서 주목받기 시작한 인공지능은 선박에도 적용되어 자율운항선박 개발이 진행되고 있다. 자율운항선박은 선원의 승선유무와 원격조종자의 조종여부에 따라 총 4단계로 구분되며, 완전자율운항선박은 인간의 개입 없이 설계자가 설계한 알고리즘에 따라 최적의 결정을 내리게 된다. 그러나 인공지능의 자율성과 예측곤란성이라는 특징으로 인하여 완전자율운항선박의 결정이 예측하기 어려우며 이러한 결정이 항상 윤리적이라고 기대하기 어렵다. 그러나 인공지능의 예측불가능성을 인공지능의 자율성에 의존해서는 안되므로 인간의 가치가 반영된 인공지능의 알고리즘이 설계되어야 한다. 특히, 충돌의 위험을 피할 수 없는 상황에서 인공지능이 어떠한 원칙과 기준에 따라 결정을 내리는 것인지 이러한 과정을 결정하는 사고 알고리즘에 대해 설명가능하고 이러한 결정이 사회 구성원들에게 합리적으로 받아들여져야 한다. 이와 같은 인공지능의 윤리문제에 대한 논의는 자율주행자동차 분야에서 가장 활발하게 이루어지고 있다. 그러나 인간의 가치가 일관성과 보편성을 가지기 어렵다는 한계가 있다. 특히, 윤리적 딜레마 상황에서는 ‘실천이성의 이중성’으로 인하여 이성적이며 윤리적인 판단과는 다른 결정을 내리게 되며, 윤리적이라는 행동에 대한 기준 역시 지역·문화·경제 상황에 따라 다르게 인식하고 있다. 그 결과 인공지능의 윤리적 가이드라인의 필요성에 대해 인식하면서도 사고 알고리즘에 대한 구체적인 기준을 정립하는 것에 대해서는 회의적이다. 자율주행자동차의 윤리적 딜레마 상황을 예견하여 사용과정에서 발생하게 될 현실적인 문제를 완벽하게 대응할 수 없다는 것이다. 그러나 문제가 발생한 이후 대응책을 마련한다는 것은 현실적으로 발생한 피해를 구제하기 위한 조치일 뿐 근본적인 문제를 해결하는 방법이 아니다. 특히, 전 세계 해역을 운항하는 자율운항선박은 전 세계 구성원들에게 합리적으로 받아들여지는 결정을 내려야 한다. 따라서 국제해사기구를 중심으로 자율운항선박과 관계된 사고 알고리즘을 포함한 윤리적 가이드라인을 마련하고 이를 개별국가에서 정책적으로 반영함으로써 자율운항선박 개발 단계부터 사용단계에 이르는 전 과정에서 프로그램 개발자와 이해관계자가 윤리규범을 준수하고, 축적된 정보를 기초로 보완작업을 통해 자율운항선박의 윤리문제에 대응해 나가야 할 것이다.

영문 초록

Artificial Intelligence, which began to draw attention as the fourth industrial revolution began, has also been applied to ships, and the development of Maritime Autonomous Surface Ship is underway. Maritime Autonomous Surface Ship is divided into four stages depending on whether the crew is on board and whether remote controllers are controlled, and fully Autonomous Ships will make optimal decisions based on algorithms designed by designers without human intervention. However, due to the characteristics of Artificial Intelligence such as autonomy and unforeseeability, the decision of a fully autonomous ship cannot always be expected to be ethical. However, Artificial Intelligence should make decisions that reflect human values. Especially in situations where the risk of conflict is unavoidable so called accidental algorithm, it should be able to explain what principles and criteria Artificial Intelligence makes decisions and these decisions should be reasonably accepted by society. This discussion of the ethical issues of Artificial Intelligence is the most active in the field of self-driving cars. However, there is a limitation that human values are difficult to have consistency and universality. In particular, in ethical dilemma situations, Dualism of Practical Reason makes decisions different from rational and ethical judgments, and standards for ethical behavior are also recognized differently depending on regional, cultural, and economic situations. As a result, while recognizing the need for ethical guidelines for Artificial Intelligence, it is skeptical about establishing specific standards. Because the ethical dilemma situation of self-driving cars cannot be predicted and fully responded to the real problems that will arise in the process of use. However, coming up with countermeasures after the problem occurs is only a measure to remedy the damage that has occurred in reality and is not a way to solve the fundamental problem. In particular, Maritime Autonomous ships operating in waters all around the world must make decisions that are reasonably accepted by world society. Therefore, Ethical guidelines, including accidental algorithms, should be prepared by the International Maritime Organization and reflected their legal system in individual countries. In the entire process from the development stage to the use stage, program developers and stake-holders will have to comply with Ethical standards and respond to Maritime Autonomous Surface Ships’s ethical issue through complementary work based on accumulated information.

목차

Ⅰ. 서론

Ⅱ. 인공지능의 윤리문제

Ⅲ. 자율주행자동차의 윤리문제

Ⅳ. 자율운항선박의 윤리문제

Ⅴ. 결론

참고문헌

키워드

인공지능 사고알고리즘 자율운항선박 윤리적 딜레마 윤리적 가이드라인 Artificial Intelligence Accidental Algorithms Maritime Autonomous Surface Ship Ethical Dilemma Ethic Guideline