▲한국산업기술평가관리원 이준석 박사

최근 로봇에 대한 관심이 매우 높다. 로봇 기술, 로봇 기업, 로봇 제품 그리고 로봇이 열어갈 미래에 대하여 다양한 측면에서 검토하고, 의견을 제시하고, 정부나 연구자가 나아가야 할 방향에 대하여 말하는 사람들이 많다.

특히 최근의 유가증권 시장에서 ‘로봇 테마’株의 관심은 매우 특별하다. 국내 굴지의 대기업이 기술력을 갖춘 로봇 기업에 투자하였다는 소식에, 해당 기업뿐만 아니라 로봇을 업으로 하는 많은 기업의 주가가 요동치고 있다. 로봇에 관심이 많은 필자는 조금 과열된 것 같은 지금의 상황이 불편하면서도 또 한편으로는 반갑기도 하다. 로봇에 대한 관심은 로봇에 대한 투자를 불러오고, 이를 통하여 로봇 기업과 로봇 기술이 빠르게 성장할 수 있기 때문이다.

하지만 로봇에 대한 이러한 과열은 자칫 로봇 기술의 발전을 기대하지 않은 방향으로 이끌 수 있어 우려스러운 점이 있다. 2008년에 개봉한 영화 ‘이글 아이(Eagle Eye)’는 카루소(Caruso) 감독이 만든 영화로, 샤이아 러버프(Shia Labeouf)와 미셀 모너핸(Michelle Monaghan)이 각각 ‘제리 쇼’와 ‘레이철 홀로먼’으로 열연한 액션 스릴러 영화다. 간단한 내용은 다음과 같다. 평범한 청년 ‘제리’의 통장에 거금이 입금되고, 집으로는 알 수 없는 무기와 여러 장의 여권이 배달된다. 결국 FBI에 의해 테러리스트로 몰리고, 추격을 받게 된다. 이때 어떤 전화 목소리가 자신의 명령에 따를 것을 지속적으로 요구한다. 그 과정에서 아들을 볼모로 잡힌 ‘레이철’을 만나면서 더 큰 음모에 휘말린다. 흥미로운 것은 도망치는 과정에서 주변의 전자장치 및 기계, 장비, 심지어는 지하철까지 누군가에 의해 적시에 원격으로 조정된다는 것이다. 결국 거대한 컴퓨터 시스템 ‘아리아’에게 도착한 두 사람은 아리아의 명령을 따를 수밖에 없게 된다. 아리아는 사망한 제리의 쌍둥이 형의 목소리로 잠금이 되어 있었으며, 이 잠금을 동생 제리의 목소리를 통하여 해제하고자 한 것이다. 잠금을 해제하고 정부 요인을 모두 살해하는 작전을 가동하는 것이 아리아의 목적이었다. 아리아 스스로 자의식을 가지고 목적을 설정하고, 행동을 취한 것이다. 암살 수행을 위한 행사장에서 폭발 직전, 제리는 권총을 허공에 발사하면서 정부 요인 암살을 막으며 본인이 희생된다.

왜 이런 일이 발생한 것일까? 사건의 발단은 아리아의 작전 분석 결과를 따르지 않고 공격을 감행하도록 한 정부 요인에 대한 아리아 나름의 합리적인 선택이었다. 즉 아리아는 불합리한 결정을 한 요인을 암살하는 작전을 가동한 것이다. 즉, 컴퓨터 시스템, 다시 말하면 ‘인공지능’이 인공지능 자신의 필요에 의해 인간을 암살하는 계획을 세우고 이를 실행하는 것이다. 이러한 상황을 어떻게 해석해야 하는가?

아이작 아시모프(Isaac Asimov)는 그의 소설 ‘아이 로봇(I, Robot)’을 통하여 로봇의 3원칙을 말했다. ‘로봇은 인간에게 어떠한 위해를 끼쳐서는 안 되며, 위험에 처한 인간을 방관해서는 안 된다.’라는 것이 제1원칙이며, ‘로봇은 인간의 명령에 반드시 복종하여야 한다. 단 제1원칙에 위배되는 경우에는 예외이다.’가 제2원칙, ‘로봇은 자기 자신을 보호해야만 한다. 단 제1원칙과 제2원칙에 위배되는 경우는 예외이다.’가 제3원칙이다. 이는 아시모프의 소설에 등장하는 것으로 공동의 고민과 합의를 통하여 도출된 것은 아니다. 3가지 원칙을 제시하였으나, 지금의 여러 상황을 고려할 때 원칙은 서로 충돌하는 상황이 발생할 수 있다. 결국 애초 로봇 3원칙을 통하여 추구하고자 하는 인간의 의도가 충족되지 않을 수 있다.

필자가 생각하기에, ‘이글 아이’를 통하여 제작자가 전달하고 싶은 내용은 ‘인공지능’으로 대변되는 미래기술의 무분별한 개발이 인류에게 이로운 것인가에 대한 고민이다. 아시모프는 자신의 소설 ‘로봇과 제국(Robot and Empire)’을 통하여 인류라는 거대한 담론을 담은 로봇 제0원칙인 ‘로봇은 인류에게 해를 가하거나, 행동하지 않음으로써 인류에게 해가 가도록 해서는 안 된다.’라는 것을 추가하였다.

강력한 인공지능이 탑재된 로봇에 의해 인간이 고통받는 미래를 그린 영화는 많이 있다. 결국, 로봇이 지녀야 할 명확한 기준과 원칙이 수반되지 않는 무분별한 인공지능의 개발이나 로봇의 개발은 자칫 우리의 미래를 더 암울하게 만들 수 있다. 최근 로봇에 대한 엄청난 관심과 ChatGPT로 대변되는 인공지능이 앞으로 인간의 미래에 어떤 영향을 미치게 될지는, 지금의 연구자들이 어떤 합리적인 인식과 사고를 통하여 연구개발을 추진하느냐에 달려있다. 로봇이 만들어내는 미래가 우리 인간에게 유토피아(utopia)가 될지 디스토피아(dystopia)가 될지는 지금, 이 순간 우리의 손에 달려있다.