인공지능(AI) 비서의 자동업무처리는 형사처벌 대상인가?

2011년 애플의 시리(Siri)로 촉발된 인공지능(AI) 비서 시장은 아마존의 알렉사, 구글의 어시스턴트, 삼성의 빅스비 등으로 이어졌으나, 최근 챗GPT로 대표되는 생성형 AI로 인해 이전과는 다른 완전히 새로운 국면을 맞고 있다.

AI비서는 생성형 AI를 만나, 이제는 소프트웨어 코딩을 하고 사업계획서를 작성하며 그림도 멋지게 척척 그려줄 수 있게 되었으며, 앞으로는 올 여름 휴가지를 검색·추천하는 데 그치지 않고 예약까지 마쳐주고, 내일 아침 식사 준비에 필요한 재료를 온라인 쇼핑·주문까지 스스로 할 수 있으며, 업무에 필요한 구체적 지시사항도 처리할 수 있게 될 것으로 예상된다.

이러던 차에 5월 23일, 마이크로소프트(MS) 공동 창업자 빌 게이츠는 미래에는 사람의 일상생활을 돕는 “AI 개인비서(AI personal agent) 개발기업이 승자가 될 것”이고, “AI 개인비서가 사용자의 행동을 근본적으로 바꿀 것”이라고 중요한 예언을 했다.

AI 비서에 대한 기업간 경쟁도 치열하다. 챗GPT로 유명한 오픈AI의 경우, 챗GPT를 발전시킨 업무용 AI 비서를 준비 중이고, 구글 역시 구글 어시스턴트를 업그레이드해 생성형 AI인 바드를 탑재한 AI 비서인 어시스턴트 위드 바드를 곧 출시할 예정이다. 아마존은 기존 알렉사에 기능이 업그레이드된 대화형 AI 챗봇을 추가하겠다고 밝혔고, 메타는 퀄컴과 합작해 휴대폰 자체에서 개인에 맞춘 AI 서비스를 제공하는 온디바이스 AI 비서를 준비 중이기에, 앞으로는 휴대폰 자체에서 개인에 맞춘 진화된 AI 비서 서비스를 제공받을 수 있을 것으로 보인다.

그런데 법적으로 의문이 하나 생기는데, 우리나라 법과 법원의 기본적 입장은 사람이 발생시키는 트래픽과 사람이 아닌 프로그램이 발생시키는 트래픽을 이분법적으로 구분, 사람이 발생시키는 트래픽은 적법하다고 보지만, 사람이 아닌 프로그램이 발생시키는 트래픽은 위계나 부정한 명령 또는 허위의 정보 입력으로 보고 있다는 점이다.

예컨대 포털사이트에 사람이 아닌 프로그램을 통해 클릭을 하거나 온라인 게임에서 사람이 아닌 프로그램을 이용해 자동 사냥하는 경우, 전자상거래 사이트에서 예약이나 구매를 할 때 프로그램으로 예약하거나 구매하는 경우 등에 있어서, 형법 제314조 제1항(위계로서 사람의 업무를 방해한 자)의 사람에 대한 위계에 해당하거나 또는 형법 제314조 제2항(정보처리장치에 허위의 정보 또는 부정한 명령을 입력한 자)의 부정한 명령 또는 허위의 정보 입력에 해당한다는 입장이다.

이런 이분법적 구분 때문인지, 포털 사이트나 전자상거래 사이트 등에서는 사람이 아닌 프로그램이 발생시키는 트래픽을 어뷰징으로 분류해 제재를 가하고 있다. 이러한 이분법적인 구분에 의하면 AI 비서는 사람이 발생시키는 트래픽이 아니라 프로그램이 발생시키는 트래픽으로 분류될 수밖에 없다. 따라서 AI 비서가 온라인 사이트에 로그인을 해 명령어를 입력하거나 질문을 던져 검색을 하고 원하는 정보를 클릭해 주문하고 예약하는 경우, 기존 법제나 해석에 의하면 온라인 사이트 운영자에 대한 위법행위나 어뷰징에 해당할 여지가 있게 된다.

AI가 사람의 업무나 행동을 대신할 수 있고 이러한 추세가 권장되고 있는 바, 기존 온라인 사이트의 어뷰징 정책이나 종래 이분법적 접근에 대한 재고를 통한 AI 시대에 걸맞는 새로운 해법 제시가 필요해 보인다.

* 법무법인 민후 김경환 변호사 작성, 전자신문(2023. 10. 17.) 기고