인공지능 사업 관련 규제 및 입법 현황

인공지능(artificial intelligence, AI)이란 인간의 학습능력, 추론능력 등의 지적 능력을 인공적으로 구현한 컴퓨터 프로그램 또는 이를 포함한 컴퓨터 시스템을 의미한다. 기존의 알고리즘은 지정된 입력에 대해 미리 정해진 특정한 출력을 산출한다. 이에 반해 인공지능 알고리즘은 경험 기반의 학습 및 컴퓨팅 능력을 통해 자율적인 판단이 가능하여 이용자가 의도하지 않거나 예측하지 못한 가능성이 야기될 우려가 있다.​

인공지능은 범용기술로서 산업적으로 활용할 경우 얻을 수 있는 기술적 편익이 상당하지만, 위와 같은 자율성 및 예측 불가능성으로 인하여 새로운 유형의 위험이 유발된다. 따라서 인공지능에 의해 행하여진 행위의 법적 효력이나 책임 귀속 등에 대하여 적절한 규제를 통한 위험관리가 시급하다.​

국내에서는 인공지능 기술과 관련하여 인공지능 정책추진 및 거버넌스를 위한 법률안이 발의되어 있고 활발히 입법 형식 및 추진체계 구성 방식에 대한 논의가 진행되고 있으나, 인공지능 기술이 활용되는 다양한 산업 분야 중 자율주행 자동차를 제외하고는 아직 실제 법제화는 진행되지 않고 있다.​

아래에서는 과학기술정보통신부가 발표한 「인공지능 법·제도·규제 정비 로드맵」 및 「국가 인공지능 윤리기준」을 통해 향후 인공지능 관련 법제 정비의 방향성을 살펴본 뒤에, 자율주행 자동차에 대한 구체적인 규제 현황을 소개하겠다.​

1. 인공지능 법·제도·규제 정비 로드맵​

가. 목표 및 기본방향​

과학기술정보통신부는 2020. 12. 24. 「인공지능 법·제도·규제 정비 로드맵」(이하 "본 로드맵"이라고 한다)을 발표하였다. 정부는 그간 인공지능에 특화된 법제의 정비 및 실행이 다소 미진하였다는 점을 보완하기 위하여, 인공지능 산업 진흥과 서비스 개발을 촉진하는 친시장적 법제 개선 방안을 우선 마련하고 편향성·사생활 침해·오남용 등 위험과 역기능을 최소화하기 위한 자율규제를 도입하겠다는 비전을 제시하였다.

본 로드맵을 통한 추진 정비과제는 (1) 인공지능 공통기반과 (2) 인공지능 활용 확산 분야로 구분되며, 각 과제별 주관부처는 2021년 2분기 이내에 개선과제 정비를 위한 본격적인 추진계획을 수립하여야 한다.​

나. 인공지능 공통기반 정비과제​

(1) 데이터 경제 활성화 기반 조성​

데이터는 AI 기술 상용화의 기반이자, 데이터 중심의 경제 패러다임 전환을 가속화할 수 있는 수단으로 활용할 수 있다.​

본 로드맵은 ① 데이터의 개념·참여 주체를 명확화하고 정부 책무를 규정하는 데이터 기본법 제정, ② 데이터 관리업에 대한 법제화, ③ 개별 산업별 데이터 활용을 위한 입법 지원(산업 디지털 전환촉진법 및 중소기업 스마트 제조혁신법), ④ 자동화된 개인정보 처리에 의존한 의사결정에 대한 설명요구권·이의제기권 도입을 위한 개인정보 보호법 개정, ⑤ 데이터마이닝을 위한 저작물 이용 허용, ⑥ 결합절차 및 가명정보 안전조치에 대한 규제 재검토, ⑥ 데이터 독점과 부정경쟁행위 방지를 위한 심사지침 마련 및 관련 법률 정비라는 7개의 세부 과제를 제시하였다.

위와 같은 데이터 분야의 과제들을 통하여 AI 기술을 통한 데이터의 대량 생산·거래·활용을 촉진하고 데이터 산업의 진흥을 도모하는 한편, 이러한 과정에서 발생할 수 있는 프라이버시 및 저작권 문제에 대한 보호 법제를 마련할 수 있을 것으로 보인다.​

(2) 알고리즘의 투명성·공정성 확보

자율화된 알고리즘은 인공지능 기술의 핵심요소이다. 인공지능 알고리즘을 활용한 신용평가(대출 등 금융상품), 상품 추천(온라인 쇼핑몰), 콘텐츠 추천(OTT 서비스), 맞춤형 광고(온라인포털), AI 면접(채용) 등은 정치·사회·경제·문화 전반에서 개인의 의사결정에 중대한 영향력을 행사하게 된다.

따라서 인공지능 기술 활용에 대한 안전성 및 신뢰 기반을 마련하기 위하여는 알고리즘의 투명성·공정성 확보가 우선되어야 한다.​

본 로드맵은 ① 기업 자율의 평가·관리·감독체계 구축, ② 플랫폼 운영 알고리즘의 편향성 등의 평가·검증할 수 있는 체계 마련, ③ 영업비밀을 보장하면서도 알고리즘의 인위적 조작방지와 공정한 운영을 지원할 가이드라인 마련이라는 입법과제를 제시하고 있다.

즉 선행적으로 민간자율규제에 의하여 알고리즘의 투명성과 공정성이 확보되는 체계를 구축하되, 최종적으로는 기업의 자율성과 영업비밀 보호 간의 조화가 적절히 이루어지는 온라인플랫폼 관련 법규를 정비하여 알고리즘의 편향성과 오류를 방지하는 규제방안이 마련될 예정이다.

(3) 인공지능 법인격 인정 검토​

인공지능이 자율적인 판단에 의하여 수행한 행위에 대하여 민사적·형사적 책임이 문제되는 경우 또는 인공지능에 의한 창작물이 만들어지는 경우, 인공지능에게 법인격을 부여하여 법적 책임을 묻거나 지식재산권 등의 권리주체로 인정할 수 있는지 여부가 문제된다. 현행 국내법상 인공지능은 일반 물건과 동일하게 취급되므로, 인공지능은 책임과 권리의 주체가 될 수 없고, 인공지능 창작물의 저작물성도 인정되지 않는다.​

본 로드맵은 인공지능이 인간의 지적 능력을 모방하여 구현하는 분야에서 ① 인공지능 창작물과 관련된 투자자·개발자 등의 지식재산권 등 권리 관계 정립, ② 인공지능에 의한 손해발생시 인공지능을 권리주체로 인정하여 손해배상·처벌 등이 가능하도록 하는 방안 검토 등을 통하여, 인공지능의 법인격을 인정할 수 있는지에 대한 장기적인 검토가 이루어져야 함을 강조하고 있다.​

(4) 인공지능 책임체계 정립​

인공지능을 법적 책임의 주체로 인정하기 위하여는 인공지능에 독립적인 법인격을 부여해야 한다. 그러나 이는 특정 분야에 국한되지 않고 인간의 사고방식을 모방하여 문제를 해결하는 능력이 있는 강(强) 인공지능을 전제로 한 것으로서 이 부분에 대한 학술적·사회적 논의가 충분히 이루어졌다고 보기 어렵다.

본 로드맵은 위와 같은 장기적인 논의과정 중에 인공지능 행위에 대한 책임체계를 정립하여 법적 안정성을 확립하기 위한 보조수단으로 ① 전자문서 및 전자거래 기본법 개정을 통해 인공지능에 의한 계약의 효력 인정, ② 민법, 제조물책임법 등 개편을 통해 인공지능 행위에 대한 손해배상 체계 구축, ③ 행정처분 관련법 개정을 통해 인공지능을 도구로 활용한 범죄에 대한 제재수단 마련 등의 규제를 마련하도록 방향성을 제시하고 있다.​

(5) 인공지능 윤리 정립​

인공지능 기술이 오남용될 경우 데이터 편향성, 사생활 침해 등 윤리적 문제가 발생할 소지가 높다. 본 로드맵은 지능정보기술의 영향을 고려한 다양한 윤리지침을 보다 세분화하여 인공지능의 개발에서 활용까지 전 단계에서 모든 사회구성원이 참조할 수 있는 특화된 가이드라인의 개발하고 이에 대한 후속과제로 ① 포괄적, 일반적 인공지능 윤리기준 마련을 통한 인공지능의 지향점 제시, ② 윤리교육 커리큘럼 연구·개발 및 각급 학교 윤리 교육 추진할 것을 제시하고 있다.​

다. 인공지능 활용 확산

본 가이드라인은 인공지능이 활용되는 구체적인 분야를 의료, 금융, 고용노동, 행정, 복지, 교통으로 구분하여 각 분야별 특성을 고려한 규제 방안 마련을 지시하고 있다.​

(1) 의료 분야​

의료분야에서의 인공지능은 신약개발, 의료기기 제작과 같은 기술 발달에 도움을 줄 뿐만 아니라 데이터 분석을 통한 예측 진료 등 정확하고 질 높은 의료서비스를 제공할 수 있는 가능성을 열어준다.​

다만 의료분야는 개인의 건강과 안전에 직결된다는 점에서 엄격한 규제기준을 통하여 안전한 의료서비스가 제공될 수 있도록 보장해야 한다. 본 로드맵이 의료분야의 인공기능 활용 확산을 위해 제시하고 있는 구체적인 입법 과제로는 ① 인공지능 의료기기의 내수한계 극복과 수출 경쟁력 강화를 위한 국제기준 마련, ② 인공지능 의료기술 효과성 재평가 등을 통한 건강보험 적용범위 확대가 있다.

(2) 금융 분야​

금융산업에서 인공지능은 고객 상담용, 자산관리용 프로그램, 이상거래 탐지시스템 등 다양한 분야에서 적극적으로 활용되고 있다. 금융거래의 안전성 확보를 위한 적절한 규제가 필요하다.

본 로드맵은 ① 사설인증서의 신뢰성 평가를 위한 전자서명 평가·인정제도, ② 금융기관 간 이상금융거래 정보를 공유할 수 있는 지침 마련을 통해 딥러닝 등 인공지능 기술을 원활하게 구현하면서 인공지능 기술을 악용한 보안위협 증가에 대처하기 위한 입법방안을 마련하고 있다.

(3) 행정 분야

인공지능 도입을 통해 행정 시스템을 자동화할 경우 행정업무 수행의 효율성과 행정 서비스 효율성 제고 등 긍정적 효과를 볼 수 있다. 다만 법적 근거없는 자동화된 행정처분이 불가능하다는 점에서 개별법적으로 자동적 처분을 인정하고 이에 대한 이의신청까지 가능하여 명확한 법적 제도화가 필요하다. 이러한 목적을 위하여 부여된 입법과제로는 ① 인공지능을 활용한 자동화 행정시스템의 법제화. ② 자동화 행정시스템상 오류가 발생할 경우에 대한 권리구제 절차의 마련, ③ 인공지능 행정의 투명성 확보가 있다.

(4) 고용·노동 분야​

인공지능 도입은 일자리 감소 및 급진적 직무변화를 초래할 수 있고, 플랫폼 노동 등 새로운 형태의 노동방식을 가능하게 만든다. 따라서 본 로드맵은 인공지능 기술 도입에 따른 노동시장의 변화에 대응하기 위하여 노동법제의 유연성을 확보해야 한다는 전제하에, 구체적으로는 ① 비대면·디지털 전환 가속화 등으로 출현한 플랫폼 종사자 고용보험 적용을 위한 법령 개정, ② 산업안전보건법령 정비를 통하여 미래형 안전보건관리 방침 모색을 위한 입법이 이루어질 것을 예고하고 있다.

(5) 복지 분야

고령화 사회에서 재활·돌봄 등 사회복지 서비스 수요는 나날이 증가하고 있다. 인공지능 기술이 복지 분야에 도입될 경우 사회복지 서비스의 양이 확대되고 질이 향상될 것을 기대되나, 한편으로는 디지털 소외계층과의 불평등이 심화된다는 우려도 있다. 본 로드맵에 따르면, 사회복지 분야에 인공지능 활용을 확산하되 위와 같은 역기능을 최소화하기 위하여 ① 안정적·지속적인 디지털 포용정책 추진을 위한 법적 근거 마련, ② 생명, 신체와 밀접한 고위험 분야 인공지능기술기준 마련, ③ 인공지능 성년후견제도 도입 가능성 검토, ④ 인공지능 사고처리를 위한 보험제도 개편 등의 법제화가 이루어질 예정이다.

(6) 교통 분야​

자율주행 자동차, 자율운항 선박 분야는 인공지능 활용이 가장 가시화된 분야에 해당한다. 자율주행 교통수단은 제작안전, 보험, 통신보안, 개인정보 보호 등 다양한 규제 이슈와 연관되어 있어 법제도를 섬세하게 정비해야 한다.​

본 로드맵은 자율주행 자동차 및 자율운항 선박의 기술 발전 수준에 따라, 운행/운항 주체의 책임 정립, 사고 대응체계 마련, 보험기준 재정립, 자율주행에 필요한 영상정보 및 사물위치 정보 수집 및 활용 가능성 등을 위하여 제도 제도 재설계를 추진할 것이라고 발표한다.

라. 소결

본 로드맵은 인공지능 기술과 관련된 일반적인 법적 쟁점을 정리한 뒤에 의료, 금융, 자동차 등 주요 산업분야에서 주무부처가 개선과제 정비를 위해 법령 제·개정안을 도출하도록 하고 있다. 따라서 인공지능 기술을 활용한 사업을 추진하는 업체들은 본 로드맵을 통해 법제 동향을 파악하고, 입법 과정에서부터 적극적으로 관련 업계 종사자로서 의견을 개진하고 합리적인 법제도 개선이 이루어질 수 있도록 조치할 필요가 있다.

2. 국가 인공지능 윤리기준​

과학기술정보통신부와 정보통신정책연구원은 2020. 12. 1. 인공지능 시대의 바람직한 AI 개발 및 활용 방향을 제시하기 위해 「국가 인공지능 윤리기준(이하 ‘AI 윤리기준’)」을 발표하기도 했다. 이는 OECD의 AI 권고안에 따른 국제적인 추세에 발맞춰 주요 원칙들과 핵심 요건을 제시하고 있다. AI 윤리기준은 인공지능 기술을 활용하는 사회 구성원들의 자발적인 준수를 전제로 하고 있으므로, 자율규제 방식에 의한 윤리적인 AI 실현을 목표하고 있다.​

가. 3대 기본원칙 : 인간의 존엄성, 사회의 공공선, 기술의 합목적성

AI 윤리기준은 인공지능 기술의 개발에서 활용에 이르기까지 항상 지켜져야 할 아래의 3대 기본원칙을 규정하고 있다.

(1) 인간의 존엄성 원칙 - 생명체인 인간에게 AI와는 교환할 수 없는 가치가 있으므로 인공지능은 인간의 생명과 건강에 해를 가하지 않는 범위 내에서 개발 및 활용되어야 하며, 일정 수준의 안전성과 견고성을 갖추어야 한다.​

(2) 사회의 공공선 원칙 - 인공지능 기술은 사회적 약자와 취약자 등 디지털 소외계층의 접근성이 보장되어야 한다.

(3) 기술의 합목적성 원칙 - 인공지능 기술은 궁극적으로 사용자인 인간에게 도움이 될 목적으로 개발 활용되어야 한다.

나. AI 기본원칙을 실현시키기 위한 10대 핵심요건

위 3대 기본원칙을 실천 및 이행은 AI 윤리기준이 제시하는 아래의 10가지 핵심 요건 충족을 통해 이루어진다.

3. 자율주행자동차에 대한 규제 현황

가. 자율주행자동차 사용화 촉진 및 지원법

​2019년 4월 「자율주행자동차 사용화 촉진 및 지원법」(이하 "자율주행차법"이라고 한다)이 국회를 통과하고 2020년 5월 1일부터 시행되었다. 자율주행차법은 ① 국토교통부 장관에게 5년마다 자율주행 교통물류 기본계획을 수립할 것을 요구하고 있고(제4조), ② 자율주행 안전구간(제6조) 및 자율주행차 시범운행지구(제7조)를 지정하여 자율주행 자동차가 안전하게 작동하는지 여부에 대한 충분한 검토가 이루어질 수 있도록 하고 있다.​

특히 주목해야할 만한 점은 시범운행지구 또는 자율주행자동차의 운행 과정에서 보험 가입이 의무화되고, 익명처리된 개인정보 등의 활용에 대한 특례가 규정되어 있다는 점이다.​

자율주행자동차 사업을 추진하고 있는 업체의 입장에서는 자율주행자동차의 운행과정에서 인적·물적 손해가 발생한 경우, 설령 운전자가 운행에 개입하지 않았다고 하더라도 책임보험 처리를 통해 그 손해에 대한 책임을 부담한다는 점, 자율주행자동차의 운행 알고리즘을 구축하기 위해서는 개인정보 보호에 대한 규제가 일부 완화된다는 점을 참고하여야 한다.

자율주행차법 제19조(보험 가입 의무) 시범운행지구에서 자율주행자동차에 관한 연구ㆍ시범운행을 하는 자는 연구ㆍ시범운행으로 인해 발생할 수 있는 인적ㆍ물적 손해를 배상하기 위하여 대통령령으로 정하는 보험(이하 "책임보험"이라 한다)에 가입하여야 한다.​

자율주행차법 제20조(익명처리된 개인정보 등의 활용에 대한 다른 법령의 배제) 자율주행자동차를 운행하는 과정에서 수집한 다음 각 호의 정보의 전부 또는 일부를 삭제하거나 대체하여 다른 정보와 결합하는 경우에도 더 이상 특정 개인을 알아볼 수 없도록 익명처리하여 정보를 활용하는 경우에는 「개인정보 보호법」, 「위치정보의 보호 및 이용 등에 관한 법률」 및 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」의 적용을 받지 아니한다.

1. 「개인정보 보호법」 제2조제1호에 따른 개인정보

2. 「위치정보의 보호 및 이용 등에 관한 법률」 제2조제2호에 따른 개인위치정보

3. 제1호 및 제2호에 준하는 정보로서 대통령령으로 정하는 정보

나. 자율주행차 윤리·보안·안전 가이드라인​

또한 국토교통부는 2020. 12. 15. 자율주행차의 보안·윤리·안전에 대한 기본방향을 제시하는 ① 자율주행차 윤리 가이드라인, ② 자동차 사이버 보안 가이드라인, ③ 레벨4 자율주행차 제작·안전 가이드라인을 발표하였다.​

본 가이드라인은 권고적인 성격을 가지는 자율규제에 해당하므로 구속력이 인정되는 것은 아니지만, 앞서 살펴본 인공지능 법·제도·규제 정비 로드맵에 따라 관련 법령이 개정될 경우 본 가이드라인의 내용이 법제화될 가능성이 크다. 따라서 자율주행차 관련 업체들은 본 가이드라인의 내용을 적절하게 숙지하여 향후 사업 추진 방향에 반영하여야 한다.

* 법무법인 민후 현수진 변호사 작성, 민후 로인사이드(2021. 1. 4.) 기고.