​변호사가 직접 작성한 지식글만 게재합니다.

인공지능 사업 관련 규제 및 입법 현황

최종 수정일: 2021년 6월 24일


인공지능(artificial intelligence, AI)이란 인간의 학습능력, 추론능력 등의 지적 능력을 인공적으로 구현한 컴퓨터 프로그램 또는 이를 포함한 컴퓨터 시스템을 의미한다. 기존의 알고리즘은 지정된 입력에 대해 미리 정해진 특정한 출력을 산출한다. 이에 반해 인공지능 알고리즘은 경험 기반의 학습 및 컴퓨팅 능력을 통해 자율적인 판단이 가능하여 이용자가 의도하지 않거나 예측하지 못한 가능성이 야기될 우려가 있다.​

인공지능은 범용기술로서 산업적으로 활용할 경우 얻을 수 있는 기술적 편익이 상당하지만, 위와 같은 자율성 및 예측 불가능성으로 인하여 새로운 유형의 위험이 유발된다. 따라서 인공지능에 의해 행하여진 행위의 법적 효력이나 책임 귀속 등에 대하여 적절한 규제를 통한 위험관리가 시급하다.​

국내에서는 인공지능 기술과 관련하여 인공지능 정책추진 및 거버넌스를 위한 법률안이 발의되어 있고 활발히 입법 형식 및 추진체계 구성 방식에 대한 논의가 진행되고 있으나, 인공지능 기술이 활용되는 다양한 산업 분야 중 자율주행 자동차를 제외하고는 아직 실제 법제화는 진행되지 않고 있다.​

아래에서는 과학기술정보통신부가 발표한 「인공지능 법·제도·규제 정비 로드맵」 및 「국가 인공지능 윤리기준」을 통해 향후 인공지능 관련 법제 정비의 방향성을 살펴본 뒤에, 자율주행 자동차에 대한 구체적인 규제 현황을 소개하겠다.​

1. 인공지능 법·제도·규제 정비 로드맵​

가. 목표 및 기본방향​

과학기술정보통신부는 2020. 12. 24. 「인공지능 법·제도·규제 정비 로드맵」(이하 "본 로드맵"이라고 한다)을 발표하였다. 정부는 그간 인공지능에 특화된 법제의 정비 및 실행이 다소 미진하였다는 점을 보완하기 위하여, 인공지능 산업 진흥과 서비스 개발을 촉진하는 친시장적 법제 개선 방안을 우선 마련하고 편향성·사생활 침해·오남용 등 위험과 역기능을 최소화하기 위한 자율규제를 도입하겠다는 비전을 제시하였다.

본 로드맵을 통한 추진 정비과제는 (1) 인공지능 공통기반과 (2) 인공지능 활용 확산 분야로 구분되며, 각 과제별 주관부처는 2021년 2분기 이내에 개선과제 정비를 위한 본격적인 추진계획을 수립하여야 한다.​

나. 인공지능 공통기반 정비과제​

(1) 데이터 경제 활성화 기반 조성​

데이터는 AI 기술 상용화의 기반이자, 데이터 중심의 경제 패러다임 전환을 가속화할 수 있는 수단으로 활용할 수 있다.​

본 로드맵은 ① 데이터의 개념·참여 주체를 명확화하고 정부 책무를 규정하는 데이터 기본법 제정, ② 데이터 관리업에 대한 법제화, ③ 개별 산업별 데이터 활용을 위한 입법 지원(산업 디지털 전환촉진법 및 중소기업 스마트 제조혁신법), ④ 자동화된 개인정보 처리에 의존한 의사결정에 대한 설명요구권·이의제기권 도입을 위한 개인정보 보호법 개정, ⑤ 데이터마이닝을 위한 저작물 이용 허용, ⑥ 결합절차 및 가명정보 안전조치에 대한 규제 재검토, ⑥ 데이터 독점과 부정경쟁행위 방지를 위한 심사지침 마련 및 관련 법률 정비라는 7개의 세부 과제를 제시하였다.

위와 같은 데이터 분야의 과제들을 통하여 AI 기술을 통한 데이터의 대량 생산·거래·활용을 촉진하고 데이터 산업의 진흥을 도모하는 한편, 이러한 과정에서 발생할 수 있는 프라이버시 및 저작권 문제에 대한 보호 법제를 마련할 수 있을 것으로 보인다.​

(2) 알고리즘의 투명성·공정성 확보

자율화된 알고리즘은 인공지능 기술의 핵심요소이다. 인공지능 알고리즘을 활용한 신용평가(대출 등 금융상품), 상품 추천(온라인 쇼핑몰), 콘텐츠 추천(OTT 서비스), 맞춤형 광고(온라인포털), AI 면접(채용) 등은 정치·사회·경제·문화 전반에서 개인의 의사결정에 중대한 영향력을 행사하게 된다.

따라서 인공지능 기술 활용에 대한 안전성 및 신뢰 기반을 마련하기 위하여는 알고리즘의 투명성·공정성 확보가 우선되어야 한다.​

본 로드맵은 ① 기업 자율의 평가·관리·감독체계 구축, ② 플랫폼 운영 알고리즘의 편향성 등의 평가·검증할 수 있는 체계 마련, ③ 영업비밀을 보장하면서도 알고리즘의 인위적 조작방지와 공정한 운영을 지원할 가이드라인 마련이라는 입법과제를 제시하고 있다.

즉 선행적으로 민간자율규제에 의하여 알고리즘의 투명성과 공정성이 확보되는 체계를 구축하되, 최종적으로는 기업의 자율성과 영업비밀 보호 간의 조화가 적절히 이루어지는 온라인플랫폼 관련 법규를 정비하여 알고리즘의 편향성과 오류를 방지하는 규제방안이 마련될 예정이다.

(3) 인공지능 법인격 인정 검토​

인공지능이 자율적인 판단에 의하여 수행한 행위에 대하여 민사적·형사적 책임이 문제되는 경우 또는 인공지능에 의한 창작물이 만들어지는 경우, 인공지능에게 법인격을 부여하여 법적 책임을 묻거나 지식재산권 등의 권리주체로 인정할 수 있는지 여부가 문제된다. 현행 국내법상 인공지능은 일반 물건과 동일하게 취급되므로, 인공지능은 책임과 권리의 주체가 될 수 없고, 인공지능 창작물의 저작물성도 인정되지 않는다.​

본 로드맵은 인공지능이 인간의 지적 능력을 모방하여 구현하는 분야에서 ① 인공지능 창작물과 관련된 투자자·개발자 등의 지식재산권 등 권리 관계 정립, ② 인공지능에 의한 손해발생시 인공지능을 권리주체로 인정하여 손해배상·처벌 등이 가능하도록 하는 방안 검토 등을 통하여, 인공지능의 법인격을 인정할 수 있는지에 대한 장기적인 검토가 이루어져야 함을 강조하고 있다.​

(4) 인공지능 책임체계 정립​

인공지능을 법적 책임의 주체로 인정하기 위하여는 인공지능에 독립적인 법인격을 부여해야 한다. 그러나 이는 특정 분야에 국한되지 않고 인간의 사고방식을 모방하여 문제를 해결하는 능력이 있는 강(强) 인공지능을 전제로 한 것으로서 이 부분에 대한 학술적·사회적 논의가 충분히 이루어졌다고 보기 어렵다.

본 로드맵은 위와 같은 장기적인 논의과정 중에 인공지능 행위에 대한 책임체계를 정립하여 법적 안정성을 확립하기 위한 보조수단으로 ① 전자문서 및 전자거래 기본법 개정을 통해 인공지능에 의한 계약의 효력 인정, ② 민법, 제조물책임법 등 개편을 통해 인공지능 행위에 대한 손해배상 체계 구축, ③ 행정처분 관련법 개정을 통해 인공지능을 도구로 활용한 범죄에 대한 제재수단 마련 등의 규제를 마련하도록 방향성을 제시하고 있다.​

(5) 인공지능 윤리 정립​

인공지능 기술이 오남용될 경우 데이터 편향성, 사생활 침해 등 윤리적 문제가 발생할 소지가 높다. 본 로드맵은 지능정보기술의 영향을 고려한 다양한 윤리지침을 보다 세분화하여 인공지능의 개발에서 활용까지 전 단계에서 모든 사회구성원이 참조할 수 있는 특화된 가이드라인의 개발하고 이에 대한 후속과제로 ① 포괄적, 일반적 인공지능 윤리기준 마련을 통한 인공지능의 지향점 제시, ② 윤리교육 커리큘럼 연구·개발 및 각급 학교 윤리 교육 추진할 것을 제시하고 있다.​

다. 인공지능 활용 확산

본 가이드라인은 인공지능이 활용되는 구체적인 분야를 의료, 금융, 고용노동, 행정, 복지, 교통으로 구분하여 각 분야별 특성을 고려한 규제 방안 마련을 지시하고 있다.​

(1) 의료 분야​

의료분야에서의 인공지능은 신약개발, 의료기기 제작과 같은 기술 발달에 도움을 줄 뿐만 아니라 데이터 분석을 통한 예측 진료 등 정확하고 질 높은 의료서비스를 제공할 수 있는 가능성을 열어준다.​

다만 의료분야는 개인의 건강과 안전에 직결된다는 점에서 엄격한 규제기준을 통하여 안전한 의료서비스가 제공될 수 있도록 보장해야 한다. 본 로드맵이 의료분야의 인공기능 활용 확산을 위해 제시하고 있는 구체적인 입법 과제로는 ① 인공지능 의료기기의 내수한계 극복과 수출 경쟁력 강화를 위한 국제기준 마련, ② 인공지능 의료기술 효과성 재평가 등을 통한 건강보험 적용범위 확대가 있다.

(2) 금융 분야​

금융산업에서 인공지능은 고객 상담용, 자산관리용 프로그램, 이상거래 탐지시스템 등 다양한 분야에서 적극적으로 활용되고 있다. 금융거래의 안전성 확보를 위한 적절한 규제가 필요하다.

본 로드맵은 ① 사설인증서의 신뢰성 평가를 위한 전자서명 평가·인정제도, ② 금융기관 간 이상금융거래 정보를 공유할 수 있는 지침 마련을 통해 딥러닝 등 인공지능 기술을 원활하게 구현하면서 인공지능 기술을 악용한 보안위협 증가에 대처하기 위한 입법방안을 마련하고 있다.

(3) 행정 분야

인공지능 도입을 통해 행정 시스템을 자동화할 경우 행정업무 수행의 효율성과 행정 서비스 효율성 제고 등 긍정적 효과를 볼 수 있다. 다만 법적 근거없는 자동화된 행정처분이 불가능하다는 점에서 개별법적으로 자동적 처분을 인정하고 이에 대한 이의신청까지 가능하여 명확한 법적 제도화가 필요하다. 이러한 목적을 위하여 부여된 입법과제로는 ① 인공지능을 활용한 자동화 행정시스템의 법제화. ② 자동화 행정시스템상 오류가 발생할 경우에 대한 권리구제 절차의 마련, ③ 인공지능 행정의 투명성 확보가 있다.

(4) 고용·노동 분야​

인공지능 도입은 일자리 감소 및 급진적 직무변화를 초래할 수 있고, 플랫폼 노동 등 새로운 형태의 노동방식을 가능하게 만든다. 따라서 본 로드맵은 인공지능 기술 도입에 따른 노동시장의 변화에 대응하기 위하여 노동법제의 유연성을 확보해야 한다는 전제하에, 구체적으로는 ① 비대면·디지털 전환 가속화 등으로 출현한 플랫폼 종사자 고용보험 적용을 위한 법령 개정, ② 산업안전보건법령 정비를 통하여 미래형 안전보건관리 방침 모색을 위한 입법이 이루어질 것을 예고하고 있다.

(5) 복지 분야

고령화 사회에서 재활·돌봄 등 사회복지 서비스 수요는 나날이 증가하고 있다. 인공지능 기술이 복지 분야에 도입될 경우 사회복지 서비스의 양이 확대되고 질이 향상될 것을 기대되나, 한편으로는 디지털 소외계층과의 불평등이 심화된다는 우려도 있다. 본 로드맵에 따르면, 사회복지 분야에 인공지능 활용을 확산하되 위와 같은 역기능을 최소화하기 위하여 ① 안정적·지속적인 디지털 포용정책 추진을 위한 법적 근거 마련, ② 생명, 신체와 밀접한 고위험 분야 인공지능기술기준 마련, ③ 인공지능 성년후견제도 도입 가능성 검토, ④ 인공지능 사고처리를 위한 보험제도 개편 등의 법제화가 이루어질 예정이다.

(6) 교통 분야​

자율주행 자동차, 자율운항 선박 분야는 인공지능 활용이 가장 가시화된 분야에 해당한다. 자율주행 교통수단은 제작안전, 보험, 통신보안, 개인정보 보호 등 다양한 규제 이슈와 연관되어 있어 법제도를 섬세하게 정비해야 한다.​

본 로드맵은 자율주행 자동차 및 자율운항 선박의 기술 발전 수준에 따라, 운행/운항 주체의 책임 정립, 사고 대응체계 마련, 보험기준 재정립, 자율주행에 필요한 영상정보 및 사물위치 정보 수집 및 활용 가능성 등을 위하여 제도 제도 재설계를 추진할 것이라고 발표한다.

라. 소결

본 로드맵은 인공지능 기술과 관련된 일반적인 법적 쟁점을 정리한 뒤에 의료, 금융, 자동차 등 주요 산업분야에서 주무부처가 개선과제 정비를 위해 법령 제·개정안을 도출하도록 하고 있다. 따라서 인공지능 기술을 활용한 사업을 추진하는 업체들은 본 로드맵을 통해 법제 동향을 파악하고, 입법 과정에서부터 적극적으로 관련 업계 종사자로서 의견을 개진하고 합리적인 법제도 개선이 이루어질 수 있도록 조치할 필요가 있다.

2. 국가 인공지능 윤리기준​

과학기술정보통신부와 정보통신정책연구원은 2020. 12. 1. 인공지능 시대의 바람직한 AI 개발 및 활용 방향을 제시하기 위해 「국가 인공지능 윤리기준(이하 ‘AI 윤리기준’)」을 발표하기도 했다. 이는 OECD의 AI 권고안에 따른 국제적인 추세에 발맞춰 주요 원칙들과 핵심 요건을 제시하고 있다. AI 윤리기준은 인공지능 기술을 활용하는 사회 구성원들의 자발적인 준수를 전제로 하고 있으므로, 자율규제 방식에 의한 윤리적인 AI 실현을 목표하고 있다.​