UN 사무총장이나 유력 정치인들이 UN에서 하는 연설을 앞으로는 액면 그대로 믿어서는 안될 것 같다.

‘MIT 테크놀로지 리뷰’에 따르면 UN에 소속된 연구원들이 8달러 미만의 비용으로 머신러닝 알고리즘을 13시간 동안 훈련시켜 가짜 연설문을 만드는 데 성공했다. 이들 연구원은 앞으로 특정 집단이 유명인을 사칭한 가짜 동영상 뿐 아니라 가짜 연설문도 만들어 배포할 수 있다고 경고했다. 8달러 미만의 비용으로 가짜 연설문을 만들 수 있다면 테러리스트 등이 가짜 연설문을 만들어 불법적으로 유포할 가능성이 있다는 것. 이를 막기위한 제도적 장치가 필요하다는 의견도 나오고 있다.

조셉 블록(Joseph Bullock) 등 UN 소속 연구원들은 지난 1970년부터 2015년까지 UN 총회에서 유력 정치인이 발언한 연설문을 기초로 머신러닝 알고리즘을 위한 분류 체계를 만들었다. 연구 주제는 기후변화부터 테러리즘까지 다양했다.

▲ 인공지능으로 만든 핵무장 해제와 기후변화에 관한 가짜 연설문

연구팀은 특정 토픽에 관해 1~2개의 문장을 제시하고 훈련한 결과 50~10개의 단어들로 이뤄진 연설문을 만들 수 있었다. 이들 연설문은 UN 사무총장이나 유력 정치인들이 UN에서 발표한 내용인 것처럼 사실적으로 문장을 만들어냈다.

인공지능이 만들어낸 연설문의 90% 정도가 사실인 것처럼 오도될 수 있을 정도로 문장의 리얼리티수준이 높은 것으로 나타났다. 다만 인종차별이나 이민 등 민감한 문제에 관해선 모방의 수준이 낮았다. 기본적인 훈련 데이터가 이 같은 이슈에 대해 효과적으로 모방하는데 어려움이 있는 것으로 파악된다.

연구팀은 이번 연구 결과 인공지능을 이용해 정치적인 안정이나 평화를 해치는 텍스트를 인위적으로 만드는 것을 제한할 필요가 있다고 지적했다.