구글이 아동 성학대 관련 이미지를 걸러낼 수 있는 새로운 인공지능 툴을 개발해 그 효과가 주목된다.

‘포춘’지에 따르면 구글의 도구는 무료로 제공되며 아동 성적 학대 자료를 모니터링하는 회사 및 조직이 현재보다 700% 더 많은 자료를 검토하도록 도와준다. 현재 마이크로소프트의 포토DNA와 같은 도구는 인터넷 플랫폼에서 자료를 표시하는 데 도움이 될 수 있지만 이미 학대로 표시된 경우에만 도움이 된다. 새로운 범죄자를 찾는 것은 인간 중재자가 감정적으로나 효율성의 차원에서 해당되는 이미지를 손으로 분류해야 한다.

구글의 도구 역시 확인을 위해 여전히 인간의 검토가 필요하지만 사람이 각 항목을 별도로 분류하지 않고도 성적 학대로 분류할 가능성이 높은 자료를 검토자에게 제시해준다.

그러나 인터넷에서 아동 성추행 자료의 확산을 막는 데 전념하는 최대 조직 중 하나인 인터넷감시재단(IWF)의 프레드 랭포드(Fred Langford) 부국장은 “조직의 모니터링 요원이 이 도구를 시험해보고 있는데 AI에 대한 환상적인 주장을 신뢰하지 말아야 한다”고 지적하기도 했다.

아동위원회(Committee for Children)에 따르면 아동 성폭력 및 폭행은 미국의 여학생 4명 중 1명과 남학생 20명 중 1명에게 영향을 미치고 있으며 학대 비율은 1990년대에 감소한 이후 정체 상태에 있다. 영국 국립 범죄국(British National Crime Agency)은 최근 아동 성적 학대 자료의 보고 건수가 2012년에 비해 2017년이 무려 700% 더 높았다고 밝혔다. 이것이 아동 성추행이 증가하고 있다는 뜻은 아니며 학대 이미지에 대한 보고가 점점 더 효과적이라는 의미일 수 있다. 하지만 영국 정부는 아동 성추행을 막기 위해 기술 플랫폼의 역할이 더 커져야 한다고 강조했다.