海事法硏究 제33권 제1호 (p.143-171)

자율운항선박 인공지능의 윤리문제에 대한 소고 - 사고 알고리즘을 중심으로 -

A Study on the Ethic Issues regarding Artificial Intelligence of Maritime Autonomous Surface Ship - focused on an Accidental Algorithms -
키워드 :
인공지능,사고알고리즘,자율운항선박,윤리적 딜레마,윤리적 가이드 라인,Artificial Intelligence,Accidental Algorithms,Maritime Autonomous Surface Ship,Ethical Dilemma,Ethic Guideline

목차

국문초록
Abstract
I. 서 론
Ⅱ. 인공지능의 윤리문제
   1. 인공지능의 윤리문제
   2. 인공지능의 윤리적 판단기준
Ⅲ. 자율주행자동차의 윤리문제
   1. 윤리적 가이드라인
   2. 윤리문제에 대한 사회적 인식
Ⅵ. 자율운항선박의 윤리문제
   1. 윤리문제와 윤리적 가이드라인의 필요성
   2. 자율운항선박의 윤리적 가이드라인
V. 결 론
참고문헌

초록

제4차 산업혁명이 시작되면서 주목받기 시작한 인공지능은 선박에도 적용되 어 자율운항선박 개발이 진행되고 있다. 자율운항선박은 선원의 승선유무와 원 격조종자의 조종여부에 따라 총 4단계로 구분되며, 완전자율운항선박은 인간의 개입 없이 설계자가 설계한 알고리즘에 따라 최적의 결정을 내리게 된다. 그러 나 인공지능의 자율성과 예측곤란성이라는 특징으로 인하여 완전자율운항선박 의 결정이 예측하기 어려우며 이러한 결정이 항상 윤리적이라고 기대하기 어렵 다. 그러나 인공지능의 예측불가능성을 인공지능의 자율성에 의존해서는 안되므로 인간의 가치가 반영된 인공지능의 알고리즘이 설계되어야 한다. 특히, 충 돌의 위험을 피할 수 없는 상황에서 인공지능이 어떠한 원칙과 기준에 따라 결 정을 내리는 것인지 이러한 과정을 결정하는 사고 알고리즘에 대해 설명가능하 고 이러한 결정이 사회 구성원들에게 합리적으로 받아들여져야 한다.
이와 같은 인공지능의 윤리문제에 대한 논의는 자율주행자동차 분야에서 가 장 활발하게 이루어지고 있다. 그러나 인간의 가치가 일관성과 보편성을 가지 기 어렵다는 한계가 있다. 특히, 윤리적 딜레마 상황에서는 ‘실천이성의 이중성’ 으로 인하여 이성적이며 윤리적인 판단과는 다른 결정을 내리게 되며, 윤리적 이라는 행동에 대한 기준 역시 지역·문화·경제 상황에 따라 다르게 인식하고 있다. 그 결과 인공지능의 윤리적 가이드라인의 필요성에 대해 인식하면서도 사고 알고리즘에 대한 구체적인 기준을 정립하는 것에 대해서는 회의적이다. 자율주행자동차의 윤리적 딜레마 상황을 예견하여 사용과정에서 발생하게 될 현실적인 문제를 완벽하게 대응할 수 없다는 것이다. 그러나 문제가 발생한 이 후 대응책을 마련한다는 것은 현실적으로 발생한 피해를 구제하기 위한 조치일 뿐 근본적인 문제를 해결하는 방법이 아니다. 특히, 전 세계 해역을 운항하는 자율운항선박은 전 세계 구성원들에게 합리적으로 받아들여지는 결정을 내려 야 한다. 따라서 국제해사기구를 중심으로 자율운항선박과 관계된 사고 알고리 즘을 포함한 윤리적 가이드라인을 마련하고 이를 개별국가에서 정책적으로 반 영함으로써 자율운항선박 개발 단계부터 사용단계에 이르는 전 과정에서 프로 그램 개발자와 이해관계자가 윤리규범을 준수하고, 축적된 정보를 기초로 보완 작업을 통해 자율운항선박의 윤리문제에 대응해 나가야 할 것이다.
Ship is divided into four stages depending on whether the crew is on board and whether remote controllers are controlled, and fully Autonomous Ships will make optimal decisions based on algorithms designed by designers without human intervention. However, due to the characteristics of Artificial Intelligence such as autonomy and unforeseeability, the decision of a fully autonomous ship cannot always be expected to be ethical. However, Artificial Intelligence should make decisions that reflect human values. Especially in situations where the risk of conflict is unavoidable so called accidental algorithm, it should be able to explain what principles and criteria Artificial Intelligence makes decisions and these decisions should be reasonably accepted by society.
This discussion of the ethical issues of Artificial Intelligence is the most active in the field of self-driving cars. However, there is a limitation that human values are difficult to have consistency and universality. In particular, in ethical dilemma situations, "Dualism of Practical Reason" makes decisions different from rational and ethical judgments, and standards for ethical behavior are also recognized differently depending on regional, cultural, and economic situations. As a result, while recognizing the need for ethical guidelines for Artificial Intelligence, it is skeptical about establishing specific standards. Because the ethical dilemma situation of self-driving cars cannot be predicted and fully responded to the real problems that will arise in the process of use. However, coming up with countermeasures after the problem occurs is only a measure to remedy the damage that has occurred in reality and is not a way to solve the fundamental problem. In particular, Maritime Autonomous ships operating in waters all around the world must make decisions that are reasonably accepted by world society. Therefore, Ethical guidelines, including accidental algorithms, should be prepared by the International Maritime Organization and reflected their legal system in individual countries. In the entire process from the development stage to the use stage, program developers and stake-holders will have to comply with Ethical standards and respond to Maritime Autonomous Surface Ships’s ethical issue through complementary work based on accumulated information.