미국의 인공지능 판사의 현황

미국의 여러 주는 일찍부터 형사 사법 알고리즘을 도입하여 사용하고 있지만, 그 구체적인 알고리즘의 내용은 주 또는 카운티에 따라 다르다. 또한 이러한 알고리즘은 개발사 또는 개발기관의 사유재산으로 여겨지므로 주 또는 연방 정부의 법률에 따른 공개 의무가 적용되지 않는다.

각 주는 대체로 COMPAS(Correctional Offender Management Profiling for Alternative Sanctions, 교정 위반자 관리 프로파일링), PSA(Public Safety Assessment, 공중안전평가) 및 LSI-R(Level of Service Inventory Revised)의 세 가지 기본 시스템 중 하나를 사용한다.

영리를 목적으로 하는 Northpointe에서 만든 COMPAS는 범죄 참여, 관계나 생활 방식, 성격 또는 태도, 가족 및 사회적 배제와 같은 다섯 가지 주요 영역에서 변수를 평가하고, 캐나다 회사인 Multi-Health Systems가 개발한 LSI-R은 범죄 경력에서부터 성격 패턴에 이르는 다양한 요소의 정보를 수집하며, 로라ㆍ존아놀드 재단(Laura and John Arnold Foundation)이 개발한 PSA는 매개 변수 집합을 사용하여 피고의 연령 및 범죄 기록과 관련된 변수만을 고려한다. (참고 : epic.org/algorithmic-transparency/crim-justice/)

형사사법 알고리즘이 일찍이 개발되어 사용되었지만 그 신뢰성 평가 역시 병행하여 함께 진행되어 왔다. 예컨대 2016년도에 미국의 언론기관인 ProPublica는, 플로리다 주에서 채택한 COMPAS와 동일한 조건을 사용하여 2년 안의 재범 가능성을 확인하는 방식으로 COMPAS 시스템을 테스트했다. ProPublica는 COMPAS가 특히 흑인 피고인을 미래 범법자로 표시할 가능성이 백인 피고인보다 거의 두 배나 높음을 발견했다.

또한 백인 피고인은 흑인 피고인보다 낮은 위험도로 분류되었다. 그리고 양형에 참고되는 재범 가능성이란 원칙적으로 동종 범죄를 다시 저지를 가능성을 의미하는 것인데, 이 부분의 정확도가 높지 않음을 발견하였다. 즉 경범죄를 포함한 전체 범위의 범죄를 다시 저지를 가능성으로 볼 때에는 COMPAS 시스템에 따른 재범 가능성 판단 결과와 실제 결과와의 상관관계가 높았지만, 동종 범죄를 실제로 다시 저지르는 비율은 그리 높지 않았던 것이다. 예를 들어, 폭력 범죄를 저지를 것으로 예상된 사람들의 20%만 실제로 그렇게 범죄를 저질렀으며, 재범 후보자 중 61%는 2년 이내에 어떤 다른 범죄로 체포되었다.

결국 사법 경찰이 이를 활용하는 데에는 한계가 있는 것이다. ProPublica에 따르면 일부 부정확한 결과는 다른 국가의 전과 기록을 포함하지 않는 등 부정확한 입력에 기인한 것이었지만, 그 외의 다른 결과는 COMPAS 시스템이 요인을 평가하는 방법에 기인한 것으로 평가했다(예를 들어, 아동을 성희롱한 사람이라도 직업이 있는 사람은 낮은 재범 위험으로 평가한 반면, 단순 음주 건이라도 노숙자는 높은 재범 위험으로 평가함). (참고 : epic.org/algorithmic-transparency/crim-justice/)

참고로 아래 표는 미국 각 주가 사용하고 있는 인공지능 판사의 내역이다.

(https://epic.org/algorithmic-transparency/crim-justice/)