▲ 인공지능의 무한한 발전은 로봇에 의한 세상 종말, 즉 로봇 아포캘립스(Robot Apocalypse)를 초래할 것이라는 경고가 나왔다.

로봇에 의한 세상 종말, 즉 로봇 아포캘립스(Robot Apocalypse)를 어떻게 미연에 방지할 것인가?

영국 옥스퍼드대학 닉 보스트롬 교수는 초지능형 로봇(Superintelligent Machines)이 가져올 미래 위험과 대응전략에 대한 책을 최근에 저술했다.

미래학자인 보스트롬 교수는 저서 ‘초지능 : 행로, 위험, 전략(Superintelligence: Paths, Dangers, Strategies)’을 통해서 인공지능(AI)의 무한한 진보가 가져올 인류의 암울한 미래상에 대해 설파했다.

그는 20일 리즌닷컴(reason.com)과 가진 인터뷰에서 “고도의 인공지능으로 무장한 로봇들이 인간들에 의해서 지속적으로 개발된다면 미래 언젠가 그들은 매우 우월적인 위치에서 인간을 대하게 될 것이다”라고 말문을 열었다.

그는 또 “인공지능이 인간 지능을 능가하는 순간 로봇은 인간의 통제를 벗어나게 되고 자신들의 계획에 따라서 미래를 만들어 나갈 것”이라고 경고했다.

그는 계속해서 “로봇 개발자들에 의해서 인공지능 개발에 대한 적절한 통제장치가 구축되지 않는다면 초지능으로 무장한 로봇기계들은 인간들을 자신들의 목적 성취를 방해하는 장애물로 여길 것이다. 이는 곧 로봇의 인간 말살(annihilation)을 의미한다”라고 말했다.

그렇다면 로봇 아포캘립스를 어떻게 피할 수 있는가?

이에 대해 보스트롬 교수는 두 가지 솔루션을 제시했다. 하나는 ‘미리 정해진 범위 내에서만 인공지능을 개발한다.’ 그리고 다른 하나는 ‘인공지능을 개발할 때 반드시 인간 종족 보존(human preservation) 단서조항을 삽입한다.’ 등이다.

보스트롬 교수는 “우리는 인공지능 개발에 앞서 반드시 이에 대한 통제 문제를 설정해야 한다. 그리고 나서도 큰 문제가 있는데 그것은 이에 대한 광범위한 의견 수렴에 도달해야 한다는 점이다. 합의 도달 전에는 인공지능 개발은 매우 느리고 신중하게 진행돼야만 하며, 모든 안전장치가 구축될 때까지 충분한 시간을 가져야 한다”고 강조했다.