구글이 반사회적이고 불법적인 동영상을 식별하고 차단하는데 있어 로봇이 사람보다 더 효율적이라는 분석을 내놨다.

‘텔레그라프’에 따르면 최근 구글은 인공지능 중재자를 채택해 경찰을 도와 불법 콘텐츠를 삭제하는 작업을 벌인 후 삭제된 동영상의 수가 2배 이상 늘어났다고 보고했다. 구글은 "1분마다 400시간 분량이 넘는 콘텐츠가 유튜브에 업로드되기 때문에 극단적이고 폭력적인 콘텐츠를 신속히 찾아내고 조치를 취하는 것이 중요하다"며 "지난 한 달 동안 머신러닝을 처음 사용하면서 이같은 문제 동영상을 삭제한 비율이 두 배 이상 증가했다"고 밝혔다.

특히 이용자들이 신고하기도 전에 이미 유뷰트에 있는 극단적이고 공격적인 동영상 4개 중 3개를 로봇이 찾아낸 것으로 알려진다. 구글은 불법 콘텐츠를 찾아내는 로봇의 능력이 '극적으로 개선됐다'고 표현하고 "이제는 동영상 확인에서 인간보다 더 정확하다"고 강조했다. 구글의 한 관계자는 "이러한 도구가 완벽하지는 않으며 모든 환경에 적합한 것도 아니지만 이 시스템은 삭제되어야 할 동영상 관점에서 사람보다 더 정확하게 판단하고 있다"고 전했다.

그럼에도 불구하고 구글은 비디오 공유 사이트에 대한 정책을 검토하고 시행하기 위해 더 많은 사람들을 고용할 것이라고 밝혔다. 이는 유튜브가 테러 집단을 위한 선전 채널이 되었다고 주장하는 비판자들을 염두에 둔 정책이다. 또 사용자가 신고한 콘텐츠는 비록 불법이 아니라해도 수익을 창출할 수 없도록 제한하며 '좋아요'나 댓글은 차단되도록 했다.

구글은 "이러한 동영상이 구글 정책을 위반하지는 않지만 논란의 여지가 많은 종교 편향 또는 종족 지상주의 콘텐츠를 포함하는 것으로 확인되면 일부 국가에서만 제한적으로 노출된다"고 설명했다. 올해 초 막스&스펜서와 맥도널드가 자신들의 유튜브 광고가 극단주의자들의 비디오와 함께 등장했다는 사실을 발견하고 광고를 철회하면서 구글은 이에 대한 대책을 마련해왔다.

반사회적 콘텐츠 확산에 대한 사회적 압박 강화

인터넷 회사들은 자사의 플랫폼에서 폭력과 극단주의의 확산에 대처해야 한다는 강력한 압박에 시달리고 있다. 앰버 러드(Amber Rudd)는 인터넷 회사가 증오와 혐오 콘텐츠가 인터넷을 통해 업로드되고 확산되는 것을 막기 위해 인공지능 기술을 사용할 것을 촉구했다. 러드는 최근 샌프란시스코에서 구글, MS, 페이스북을 비롯한 기업과 함께 극단주의를 온라인에서 근절하는 방법에 대한 포럼을 개최한 바 있다. 이들 기업 중 일부는 올해 초에 "테러리스트 광고를 확인하고 제거하는 기술적 도구를 만들 것"이라고 밝히기도 했다.

구글에 앞서 페이스북은 테러주의 선전을 억제하고 제거하는 이미지 인식 소프트웨어를 사용하고 있다. 지금까지 폭력적인 게시물을 검열하는데 기술이 얼마나 성공적이었는지는 분명하지 않다. 또 워싱턴 대학의 연구원이 프로그램을 속일 수 있는 방법을 발견한 후 구글 시스템의 효율성에 대한 의문이 제기되기도 했다.

그러나 구글은 인공지능을 훈련시켜 공격적인 비디오를 찾아내고 게시된 컨텍스트를 이해함으로써 실제와 허구를 필터링할 수 있다고 믿고 있다. 청소년들을 대상으로 인터넷을 안전하게 사용하는 것을 교육하고 전문조직과 협력하는 등의 전통적인 접근과 더불어 새로운 기술도구를 활용해 접근할 필요성이 점점 커지고 있다.