인공지능은 학습, 추론, 판단, 이해, 행동 등 인간의 지적 능력의 일부 또는 전체가 컴퓨터 프로그램을 통하여 구현된 것을 말한다. 따라서 소프트웨어가 매우 중요하다고 할 것이다. 그럼에도 불구하고 인공지능의 소프트웨어와 관련하여서는 많은 연구가 이루어지지 않고 있다.
지원이 종료된 운영체제가 적용된 인공지능을 사용하다가 사고가 나는 것을 방지하기 위하여 운영체제의 지원이 종료되기 전 최신 운영체제로 업데이트해주는 것이 필요하다. 이러한 자동업데이트가 가능하도록 하기 위해서는 사전에 소비자에게 자동업데이트에 관한 동의를 얻어야 한다. 이러한 동의는 자유롭게 이루어져야하며, 구체적이고, 충분한 정보를 제공받았어야 하며, 명백한 표시여야 한다. 또한 이러한 자동 업데이트를 위한 동의는 사전에 포괄적으로 이루어질 수밖에 없을 것으로 보이고, 이러한 방식으로 동의를 얻는 것은 ‘약관’에 해당한다고 할 수 있다. 따라서 약관법의 적용을 받는다. 뿐만 아니라 소프트웨어의 안전을 위하여 지속적인 업데이트는 필요하기 때문에 자동업데이트에 반대한 경우라도 업데이트가 있을 때마다 개별적인 동의를 받는 등의 해결방법이 필요할 것으로 보인다. 만약 개별적인 동의를 얻는 과정에서 업데이트를 거부하여 업그레이드되지 않은 소프트웨어의 오류로 인하여 인공지능 등이 손해를 발생시키는 경우 그 손해에 대한 배상책임은 소유자가 지도록 하는 것이 타당하다.
제조자가 업데이트를 하지 않는 경우 소비자가 매도인에게 하자담보책임에 기하여 업데이트를 청구할 수는 있다. 그러나 단순 매매만을 한 매도인에게 업데이트를 청구하는 것은 바람직하지 않고, 소프트웨어에 관하여 가장 잘 알고 있는 것이 제조업자이기 때문에 제조업자에게 업데이트를 청구하는 것이 가장 바람직할 것이다.
그러나 인공지능의 소프트웨어는 이제 막 발전하고 있는 단계로 제조업자가 제조물을 공급한 당시의 과학·기술 수준으로는 결함의 존재를 발견할 수 없었다는 이른바 ‘개발위험의 항변’을 주장할 가능성이 크다. 이러한 점에서 더욱이 제조물관찰의무의 필요성이 대두된다. 그러나 우리나라의 제조물책임법은 제조물관찰의무 위반의 효과에 관해서만 규정하고 있을 뿐 의무의 이행방법에 관하여는 규정하고 있지 않다. 따라서 이러한 부분의 구체화가 필요할 것으로 보인다. 따라서 적극적 제조물관찰의무의 구체적인 이행방법에 관한 규정이 필요할 것으로 보이고, 이러한 적극적 제조물관찰의무의 이행 방법으로 설계의 변경과 회수의무의 법제화가 필요할 것으로 보인다.
또한 제조물책임법은 무과실책임을 그 원칙으로 하고 있어 제조자에게 큰 부담을 지우고 있다. 게다가 전술한 바와 같이 제조물관찰의무의 이행방법 중 하나인 회수의무와 설계의 변경을 의무화하는 경우 그 부담은 더욱 커질 것으로 보인다. 이러한 부담은 결국 제조물 즉, 인공지능의 가격을 높이게 만들 것이며 이는 소비자의 부담으로 이어질 것이다. 이러한 문제를 해결하기 위하여 제조물배상책임보험의 의무화가 필요하다.

Artificial intelligence refers to the fact that some or all of human intellectual abilities, such as learning, reasoning, judgment, understanding, and behavior, have been implemented through computer programs. Therefore, software is very important. Nevertheless, not much research has been done regarding artificial intelligence software.
It is necessary to update to the latest OS before OS support is terminated in order to prevent accidents while using artificial intelligence with end-of-support OS. In order to enable such automatic updating, consumers must have prior consent to automatic updating. Such consent shall be freely made, specific, sufficient information should have been provided and should be a clear indication. In addition, consent for these automatic updates is likely to be made comprehensively in advance, and obtaining consent in this way constitutes a 'conventions'. Therefore, it is subject to the Terms and Conditions Act. Furthermore, since continuous updates are necessary for the safety of the software, solutions such as receiving individual consent whenever there is an update, even if there is an objection to automatic updating. If, in the process of obtaining individual consent, a failure of the software that has not been upgraded results in loss of artificial intelligence, etc., it is reasonable to ensure that the liability for the damage is borne by the owner.
If the manufacturer does not make an update, the consumer may claim the update from the seller on the basis of the liability. However, it is not desirable to claim an update from a seller who has only sold a simple product, and it would be most desirable to claim an update from a manufacturer because it is the manufacturer who knows the most about the software.
However, artificial intelligence's software is likely to claim what it calls an "ambition of development risk" that the level of science and technology at the time the manufacturer supplied the product was not able to detect the existence of the defect. In this respect, moreover, the need for a manufacturing observation obligation arises. However, the Product Liability Act of Korea provides only for the effect of violating the Product Observation obligation, but does not stipulate how the obligation is fulfilled. Therefore, it is likely that these parts will need to be specified. Therefore, it is likely that regulations on specific methods of implementing active manufacturing observation obligations will be necessary, and that changes in design and legalization of recovery obligations will be required as a means of implementing such active manufacturing observation obligations.
In addition, the Manufacturing Accountability Act imposes a heavy burden on manufacturers as it is responsible for no fault. In addition, the burden is likely to be greater if, as mentioned, the recovery obligation and design change, one of the methods for implementing the manufacturing observation obligation are required. This burden will eventually lead to higher prices for manufactured goods, or artificial intelligence, which will lead to consumer burdens. Mandatory manufacturing reimbursement insurance is required to address these problems.

국문요약
Ⅰ. 서 론
Ⅱ. 소프트웨어의 결함
    1. 소프트웨어와 제조물
    2. 제조물책임과 면책
Ⅲ. 운영체제와 관련한 문제
    1. 운영체제의 의의 및 문제제기
    2. 운영체제 업데이트
Ⅳ. 입법론적 방안
    1. 제조물관찰의무의 구체화
    2. 제조물배상책임보험의 의무화
Ⅴ. 결 론
참 고 문 헌
Abstract

• 이경미(중앙대학교 대학원 법학과) | Lee GyeongMi (Chung-Ang University)