이 글에서는 해외에서 이루어진 인공지능의 윤리적⋅법적 측면에 대한 논의를 검토하여 우리나라의 인공지능 관련 법제 구성 방안을 제시하였다. 인공지능 기반 의사결정 시스템은 형사재판이나 신용평가 등 여러 분야에서 도입될 수 있는데, 이로 인해 특정 개인이나 집단에 대한 차별 문제나 프라이버시 침해가 발생할 수 있고, 인공지능의 불투명성으로 인해 책임 소재가 불분명해지는 문제 가 있다. 이 문제를 방지하고 인공지능 기반 의사결정 시스템이 사람에게 도움이 될 수 있도록 해외에서는 인공지능을 별도의 법률 영역으로 규정하여 설계⋅개발 단계에서부터 준수할 사항을 정하는 방향으로 논의를 하고 있고, 연성법 중심의 논의에서 경성법 제정에 대한 논의로 발전하고 있다. 또한 인공지능의 차별과 불투명성 문제를 해결하기 위한 절차 거버넌스를 수립과 프라이버시 침해를 최소화하기 위한 데이터 법제 도입 및 인공지능의 책임 문제를 해결하기 위해 인공지능에 별도의 법인격을 부여하는 방안도 제시되고 있다. 우리나라에서는 이런 논의를 참고하여 인공지능을 일반 법률과 각 영역별 개별 법률 및 자율규제와 같은 여러 수단을 활용하여 다층적으로 규율할 필요가 있다. 인공지능의 일반 법률에 인공지능 영향평가 제도를 도입하고, 필요한 경우 사람이 개입할 수 있도록 보장하며, 인공지능 시스템의 운영자로 하여금 이용자에게 인공지능에 대한 중요 사항을 공개하고 설명할 의무를 규정하여야 한다. 또한, 우리나라 데이터 법제 전반을 정비하여 인공지능의 데이터 수집과 분석으로 인한 프라이버시 침해를 최소화하고, 인공지능으로 인해 발생하는 손해에 대한 입증책임 전환의 법리를 규정하여 책임의 소재를 명확히 할 필요가 있다. 인공지능 기반 의사 결정이 도입되는 각 영역별로 필요한 사항에 대해서는 개별법을 통해 규율하되 일반법과의 통일성을 유지하도록 하고, 법률로 규율하기 어려운 세부 사항이나 기술 표준은 자율규제와 공동규제를 활용해야 한다. 특히 인공지능 기술과 산업이 발전을 시작하고 있는 단계에 있는 우리나라에서는 인공지능 산업의 발전을 촉진함과 동시에 인공지능으로 인해 발생할 수 있는 문제를 방지하고 해결할 수 있는 균형 잡힌 법제를 구성해야 할 것이다.

This paper explores how to build a legal framework for algorithm-based decision-making in Korea, based on the analysis of guidelines, policies, and laws discussed abroad. Although Korea enacted a law for AI relatively early, in 2008, the AI industry is still at the nascent stage due to the ambiguous and stringent policies for big data. However, as the government expressed its willingness to promote the AI industry, it is a prerequisite to establishing a suitable legal framework for AI to prevent or minimize the issues that may arise from algorithm-based decision-making.
In reflection of various research and discussions abroad, this paper suggests building a rigorous legal system, which utilizes several different measures, including the enactment of a general law for AI and specific rules in each area that adopts AI, and promotes self-regulatory standards. As for making general law for AI, along with the principles that should be abided by when designing and developing AI, we should devise AI impact assessment procedures to evaluate whether the system leads to discrimination or evades privacy before the adoption of the system. Moreover, the right to human intervention should be included in the general law, so that humans can monitor and intervene at any time to prevent any undue discrimination or evasion of privacy. We should increase the level of AI’s transparency by imposing obligations on the system operators to disclose crucial parts of the system and to explain the system to the users, along with the requirement to audit the system. Besides, the overall data protection mechanism under Korean law should be reviewed and restructured in a way to balance the necessity of promoting the AI development through big data analysis and the requirements to protect privacy from the algorithm-based decision-making system. We must clarify how accountability works for damages incurred by algorithm-based decision-making by arranging the change of the burden of a proof scheme for such damages. While maintaining consistency with the general law, it is required to enact specific laws and regulations suitable for each area that frequently adopts algorithm-based decision-making. In conjunction with these measures, we should also invigorate each industry and entity to forge self-regulatory and co-regulatory rules to govern specific technological or ethical requirements that reflect the particularities of each industry and entity.
We are at a crossroads of diverging into an economy restructured by algorithm-based decision making. While promoting AI development, we should find ways to deal with the problems brought up by algorithm-based decision-making. Based on this outline presented in this paper, we should implement more research and discuss the legal framework for algorithm-based decision-making in preparation for the upcoming mass adoption of AI.

요약
I. 서론
II. 인공지능에 기반한 의사결정 및 관련문제
III. 해외 인공지능 관련 논의의 경향 및 주요내용
IV. 우리나라 인공지능 관련 법률적 규율방안에 대한 제언
V. 결론
ABSTRACT

• 이나래(서울대학교 일반대학원 법학과) | Lee Narae