AI기반의 자율 킬러 로봇에 대해 국제연합(UN)이 적극적인 제재방안을 마련하지 않으면 인류에 큰 재앙이 될 것이라는 우려의 목소리가 나오고 있다. 지난 7월 수천명의 연구자들이 AI무기에 대한 선제적 금지를 요구하는 공개서한을 발표한데 이어 최근에는 미 의원 9명 역시 비슷한 취지의 서한을 국방 장관에게 보내기도 했다.

IEEE스펙트럼은 제네바에서 열린 UN의 주요 회의 의제로 킬러 로봇이 포함돼있다고 소개하고 이에 대해 호주 뉴사우스웨일즈대학의 인공지능학과 교수인 토비 월시가 기고한 의견을 실었다. 한편 지난 3년간 UN군축위원회 참가국들은 비공식 토론을 통해 치명적인 자율무기 금지에 관한 논의를 진행해온 것으로 알려진다.

토비 월시는 지난 7월 연구자들의 공개서한 발표에서 주도적인 역할을 한 사람 가운데 한 명이다. 그는 “내가 이렇게 하는 이유는 간단하다. 우리가 제재 조치를 취하지 않으면 무기 경쟁이 당연히 예상되기 때문이다. 이 경기의 종착점은 헐리우드 영화 터미네이터가 그린 디스토피아적 미래와 매우 흡사할 것이다. 거기까지 가지 않더라도 이러한 무기는 테러리스트와 위험한 국가의 손에 넘어갈 가능성이 있다. 그들은 안전 장치를 제거하는 데 어떤 주저함도 없는 존재들이고 우리에게 직접 그 무기를 사용할 수도 있다”고 우려한다.

그는 단순히 로봇과 로봇의 싸움이 아니라는데 문제가 심각하다고 지적한다. 현재의 갈등은 비대칭이기 때문에 주로 인간에 대한 로봇의 공격이 이뤄지고 그 결과, 많은 무고한 민간인들이 희생될 가능성이 크다는 것이다. 월시 교수는 “이는 끔찍하고 무시무시한 전망이다. 하지만 그렇게 가서는 안된다. 세계는 이미 다른 기술을 무기화하지 않는데 합의를 봤다. 생물학 무기와 화학 무기가 금지돼있고 가장 최근에는 ‘눈을 멀게하는’ 레이저 및 대인 지뢰를 포함한 여러 기술이 금지되기도 했다. 이러한 금지 조치가 100% 효과적이지는 않지만 없는 것보다는 훨씬 낫다”고 말한다.

일각에서는 이 같은 금지 조치가 관련 기술 개발에 제약을 가져온다고 주장하지만 전혀 그렇지 않다는 것이 월시 교수의 지적이다. ‘눈을 멀게하는’ 레이저가 실제 병원에서는 눈을 고치는 데 사용된다. 자율 무기에 대해서도 마찬가지다. 그는 “자율 차량과 같은 많은 긍정적인 용도가 있는 기술 개발을 중단할 이유는 없지만 무기로서의 자율 장치는 UN이 금지 조치를 취할수록 바람직한 일이다. 눈을 멀게 하는 레이저와 마찬가지로 자율 무기에 대한 금지 조치 역시 규제나 사찰 같은 방식보다는 공익 홍보, 더 나아가 윤리적인 낙인 같은 방식이 더 효과적일 수 있다”고 말한다.

IEEE와 같은 전문 기관도 이 분야에서 활동하기 시작했다. 최근 IEEE는 자율 시스템 개발자를 위한 윤리적 기준 마련 계획을 발표했다. IEEE 보고서는 자율 무기가 국제 안보를 불안정하게 만들고 의도하지 않은 군사적 확대와 전쟁, 전략적 균형의 불균형을 초래하며 공격적인 행동을 조장할 것이라고 경고하고 있다.

또 그러한 무기를 사용하는 직접 공격에 대한 인간 통제의 필요성을 포함해 많은 권고 사항이 포함돼 있다. 이와 함께 공격적인 목적으로 또는 인간을 죽이기 위해 인간 통제를 넘어선 자율 무기의 설계, 개발 또는 엔지니어링은 비윤리적인 것으로 간주되어야 한다고 지적한다.