로봇은 우리의 미래에서 피할 수 없는 부분이 되고 있다. 그러나 인공지능(AI)을 갖고 있는 로봇이 과연 인간에게 유익하기만 할 것이냐는 의문은 여전히 남아있다.

영국 데일리메일은 AI 로봇이 법을 어기는 방법을 터득하기 시작했으며 인간은 이를 막을 힘이 없을 것이라는 최근 학계의 우려를 담았다. 이를 사전에 효과적으로 대비하기 위해서는 AI 가디언이 필요하다는 주장도 함께 실었다.

엔터테인먼트와 기술법을 다루는 '밴더빌트 저널(Vanderbilt Journal of Entertainment & Technology Law)'에 발표된 한 연구에서는 로봇이 법을 위반할 가능성에 대해 언급하고 있다. 시애틀 소재 AI앨런연구소(Allen Institute for Artificial Intelligence)의 아미타이 에트지오니(Amitai Etzioni)와 오렌 에트지오니(Oren Etzioni)는 로봇의 위법이 단지 가능성으로 그치지 않고 현실로 나타나고 있다고 우려했다.

일례로 최근 어떤 구글 자율주행차가 너무 느리게 간다는 이유로 경찰에 의해 멈춰섰다. 그러나 이 경우 누가 경찰에게 소명을 하고 소환을 당해야하는지 명확하지 않다고 연구자들은 말한다. 그 책임이 운전자에게 있는 것인지, 차량인지 혹은 차량의 소프트웨어를 만든 사람에게 있는 것인지 판단이 어렵다. 연구자들은 인공지능이 스스로 배우기 시작하면 쉽게 드러나지 않는 작은 부분에서 속도 제한을 위반할 수 있으며 이는 스피드를 높여 사고를 유발하는 원인이 될 수도 있다고 주장한다.

물론 AI 프로그램은 처음에는 그것을 만든 프로그래머의 가이드라인을 따르겠지만 스마트 기기들은 차츰 주변을 인식하고 주인 혹은 다른 사람의 운전 관행을 보면서 가이드라인을 넘을 가능성이 있다. 가령 다른 차량이 별다른 문제없이 시간당 몇 마일의 속도 제한 규정을 어기는 것을 본다면 자율주행차 역시 그 차와 속도를 맞춰 혹은 더 높여 주행할 수 있다는 것이다.

이에 따라 학자들은 로봇이 흥분하지 않도록 기계를 감시하는 AI가디언들의 존재가 마련돼야 한다고 주장했다. 비상시를 대비해 쉽게 찾아낼 수 있는 오프 스위치가 마련되지 않으면 삶과 죽음이 기계에 의해 통제되는 경우가 생기기 때문이다. 이 연구에서는 회계 감사관, 회계사부터 조사자와 경찰에 이르기까지 인간 에이전트들은 다른 도움을 받지 않고서는 스마트 기기가 법을 준수하는지 아닌지 확인할 수 없다고 강조했다. 따라서 인간 지능의 발전이 인공 지능의 성장 속도와 같지 않기 때문에 인간이 AI를 체크하는 것이 가능한 그림을 그려야만 한다는 지적이다.

올해 초 발간된 인권감시(HRW) 보고서 ‘갭을 조심하라: 킬러 로봇에 관한 책임성의 부족’에서도 로봇이 전투 중에 누군가를 불법적으로 죽인다해도 누구도 그 죽음에 책임을 부과할 수 없다는 문제를 언급했다. 이 같은 책임성의 문제에 대해 어떠한 조치가 취해져야 하며 킬러로봇의 개발과 사용에 관해서는 아예 금지해야 한다고 못박고 있다. HRW의 무기분야 연구자겸 리포트 저자인 보니 도셰르티(Bonnie Docherty)는 “책임성 부재는 미래 범죄를 억제할 수도 없고 희생자에 대한 어떠한 보상도 할 수 없으며 책임 당사자를 사회적으로 비난하는 것조차 어려운 문제를 낳는다”고 말했다.