​변호사가 직접 작성한 지식글만 게재합니다.

딥페이크 악용사례에 대한 법률적 대응방안

최종 수정일: 9월 16일


딥페이크(Deepfake)는 인공지능 기술을 활용하여 특정 인물의 가짜 영상을 제작하는 것을 의미하는데, 어원에 대하여는 최초의 딥페이크 영상제작자 이름이 딥페이크라서 그대로 명칭이 되었다는 견해와 딥러닝(Deep Learning) 기술과 페이크(Fake)의 합성어라는 견해가 있으나 둘다 맞는 말로 보인다.

딥페이크는 사진 합성 기술의 발전으로 나온 현상인데, 기존에는 포토샵을 사용하여 사진을 합성하였는데 인공지능 기술의 발달로 컴퓨터에 사진이나 영상을 입력하면 이를 통해서 컴퓨터가 알아서 영상을 합성하게 되었다.

<악용사례>

1) 음란물 제작 : 가장 빈번하게 발생하는 악용사례는 성인물 영상을 제작하는데 쓰인다는 것이다. 예컨대 유명한 연예인의 얼굴을 합성해서 음란물을 제작하여 배포하는 경우이다. 우리나라 연예인들이 피해자인 경우가 많다.

2) 보이스피싱 또는 사기 : 특정인의 목소리나 얼굴을 합성하여 지인에게 연락하여 송금을 받거나 돈을 건네받는 경우이다.

3) 사칭 및 가짜뉴스 유포 : 자신의 얼굴 대신에 합성한 유명인 또는 타인의 얼굴을 이용해서 유명인 또는 타인을 사칭하는 경우이다. 단순히 사칭하는 경우도 있지만 메시지를 전달하거나 가짜뉴스를 생성하는 경우가 많다.

4) 명예훼손 : 단순히 사칭하는 경우도 있지만 합성한 유명인 또는 타인의 얼굴을 이용해서 다른 사람에 대한 비난을 할 수 있다.

<법률적 대응방안>

1) 성폭력처벌법 : n번방 사건에 대한 국회동의청원 결과 나온 첫번째 산출물이 바로 딥페이크 처벌 조항이다. 우선 '딥페이크'에 대하여 '특정 인물의 신체 등을 대상으로 한 영상물 등을 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집하는 행위 등'라고 보고 있다. 관련 조항을 소개하면 아래와 같다.

성폭력처벌법 제14조의2(허위영상물 등의 반포등)

① 반포등을 할 목적으로 사람의 얼굴ㆍ신체 또는 음성을 대상으로 한 촬영물ㆍ영상물 또는 음성물 (이하 이 조에서 “영상물등”이라 한다)을 영상물등의 대상자의 의사 에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공(이하 이 조에서 “편집등”이라 한다)한 자는 5년 이하 의 징역 또는 5천만원 이하의 벌금에 처한다.

② 제1항에 따른 편집물·합성물·가공물(이하 이 항에서 “편집물등” 이라 한다) 또는 복제물(복제물의 복제물을 포함한다. 이하 이 항에 서 같다)을 반포등을 한 자 또는 제1항의 편집등을 할 당시에는 영 상물등의 대상자의 의사에 반하지 아니한 경우에도 사후에 그 편집 물등 또는 복제물을 영상물등의 대상자의 의사에 반하여 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.

③ 영리를 목적으로 영상물등의 대상자의 의사에 반하여 정보통신 망을 이용하여 제2항의 죄를 범한 자는 7년 이하의 징역에 처한다.

일단 딥페이크를 편집, 합성, 가공하면 5년 이하의 징역으로 처벌된다. 다만 모든 딥페이크 제작 행위를 처벌하는 것은 아니고 성적 욕망 또는 수치심을 유발할 수 있는 형태의 딥페이크만 처벌됨에 유의해야 하고, 반포 등의 목적이 있어야 한다.

더불어 딥페이크를 반포 등을 하면 역시 5년 이하의 징역으로 처벌된다. 복제물을 반포 등을 해도 같은 형으로 처벌된다.

다만 영리를 목적으로 딥페이크를 제작하거나 반포 등을 하면 가중처벌되어 7년 이하의 징역으로 상향조정된다. 이 경우 벌금형은 존재하지 않는다.

위 성폭력처벌법은 2020. 3. 5. 국회 본회의를 통과하였고 2020. 3. 24. 공포되었다. 공포시로부터 3개월 이후에 실행되므로 2020. 6. 24.경에 시행된다.

2) 형법 : 딥페이크를 통해서 보이스피싱을 하는 경우 사기로 처벌된다. 통상 보이스피싱 범죄가 중하게 처벌된다는 점을 감안하면 필수적으로 구속될 것으로 보인다.

3) 정보통신망법 : 딥페이크를 통해서 타인의 명예를 훼손하는 경우 정보통신망법으로 처벌되는데, 합성된 특정인의 명예가 훼손되는 경우와 언급된 타인의 명예가 훼손되는 경우로 나누어서 처벌될 수 있다.

<향후 대응방안>

딥페이크는 사칭을 전제로 하므로 사칭을 처벌할 필요가 있는지 진지하게 따져보아야 한다. 딥페이크 현상이 발생하기 이전에 이미 SNS 사칭을 처벌하는 입법례도 있었다는 점을 감안하면 진지하게 사칭 범죄를 (재산적 피해 등이 발생하지 않더라도) 형사적으로 처벌할 필요가 있는지 검토해 보아야 한다.

더 중요한 점은, 제도적으로 딥페이크 영상이나 음성 등에 대하여 표시 의무를 부과하여 소비자나 이용자들이 이를 분별할 수 있도록 도와주는 것이 필요한지도 근본적으로 검토해야 할 것이다. 기술적으로 딥페이크 판별 기술이 개발되고 있지만, 합성 기술이 판별 기술보다 앞서갈 것으로 보이기 때문에 제도적인 논의가 필요할 것으로 보인다.

* 법무법인 민후 김경환 대표변호사 작성, 블로그(2020. 4. 12.), 디지털데일리(2020. 4. 14.) 기고.

Today's Pick