로봇이 등장하는 SF소설과 영화 등에 빠지지 않는 단골손님 인공지능. 인간의 신체를 뛰어넘는 강철 몸에 인간의 인지를 초월하는 인공지능이 더해졌을 때, 로봇은 경계의 대상으로 바뀐다. 인간을 넘어선 초월체가 된 로봇들, 그리고 오히려 로봇들에게 지배당하는 인류. ‘체스대결, 퀴즈대결에서 인공지능이 인간을 이겼다는데, 이러다 정말 먼 미래에 인공지능이 우리의 통제를 벗어나지는 않을까?’ 암울한 미래를 그린 문화 콘텐츠 속 모습이지만, 누구나 한 번쯤은 해봤을 법한 상상일 듯하다. 그렇다면 정말 인공지능이 우리를 지배하게 될까? 아니면 지나치게 비약된 허무맹랑한 상상일까?

인공지능에 대한 경계

인공지능을 가진 로봇의 반란으로 몰락해버린 인류. 로봇이 등장하고, 암울한 미래를 그리는 디스토피아(Dystopia)적인 문화 콘텐츠라면 절대 빠지지 않는 단골 소재다. 이들 작품에 등장하는 로봇은 자아와 인간을 뛰어넘는 인공지능을 갖고 자신들의 창조주, 인류에게 반기를 든다.

▲ 영화 <매트릭스>와 <터미네이터>처럼 인공지능은 인류에게 반기를 들까?

영화 <매트릭스>에서 생각하는 기계들은 인류를 지배한다. 심지어 인간들은 기계의 생체전지로 전락해버리고, 그들에게 사육당하기까지 한다. 영화 <터미네이터>에서도 인류는 인공지능 컴퓨터 ‘스카이넷’에게 핵 공격을 받아 존폐의 위기를 맞는다. <아이로봇> 역시 ‘로봇의 3원칙’을 스스로 깨버린 인공지능 로봇과 인간의 생존 대결을 그리고 있다. 이 영화들의 공통점은 인간을 뛰어넘는 인공지능의 등장, 그리고 인공지능의 반란이다.

“인공지능 연구는 악마를 소환하는 것과 다름없다.” 테슬라 모터스의 CEO 엘론 머스크가 지난해 말 열렸던 심포지엄에서 한 발언이다. 그동안 엘론 머스크는 자신의 트위터를 통해 “인공지능이 핵무기보다 위험하다.”라고 주장하는 등 줄기차게 인공지능의 발전에 우려를 나타냈다. 빌게이츠 마이크로소프트 기술고문도 엘론 머스크와 비슷한 견해를 보였다. 빌 게이츠는 올해 초, 한 행사에서 “인공지능의 발전이 인류에게 위협이 될 수도 있다고 생각한다.”라고 밝혔다. 이 밖에도 물리학자 스티븐 호킹 박사, 애플의 공동창업자 스티브 워즈니악 역시 인공지능의 잠재적 위험성을 경고했다.

기술 진보에 대한 지나친 우려

유명 인사들의 발언처럼 인공지능 연구는 인류의 종말을 초래할 정도로 위험한 걸까? 각종 문화 콘텐츠에서 그리는 디스토피아적 상상이 현실에서도 정말 일어날 수 있을까? 박명수 한국과학기술연구원 선임연구원에 따르면 이 같은 우려는 지나친 기우(杞憂)에 불과하다. 박명수 선임연구원은 “실용적 측면에서도 자율성이 부여된 인공지능은 아직 개발된 것이 없다. 영화나 소설에서 그리는 인공지능이 등장할 시기는 현재로써는 예측할 수 없을 만큼 너무나 먼 미래다.”라며, “인공지능을 경계하는 발언들은 인공지능 분야에 관심을 환기하기 위한 역설적 의미의 표현일 뿐, 이를 과장해서 생각할 필요는 없다.”라고 전했다.

박명수 선임연구원은 인공지능이 사람을 배신하고 반란을 일으킨다는 상상은 일종의 기술 공포 프로파간다(Propaganda)라고 설명했다. 19세기 초 산업혁명 시기에 일어났던 기계파괴운동 즉, 러다이트운동(Luddite Movement)처럼 기술적 진보의 반작용에 대한 지나친 우려라는 것이다. 문화 콘텐츠 속의 디스토피아적 상상은 인공지능을 바라보는 대중들의 환상을 자극적으로 이용하는 것, 그 이상도 그 이하도 아니다. 인공지능에 그 정도의 자율성을 부여하는 기술은 실제로는 아직 첫발도 떼지 못한 수준이다. 여기서 더 나아가 인공지능이 스스로 정보를 수집하고 행동원칙까지 결정한다? 지금으로써는 언제가 될지, 그 기술 수준까지 도달할 수 있을지조차도 미지수다.

딥 블루와 왓슨이 다른 일도 할 수 있을까?

인공지능이 인간을 뛰어넘은 사례는 현실에서도 종종 있었다. 1997년 딥 블루는 체스 세계 챔피언인 게리 카스파로프와의 대결에서 승리했고, 2011년 왓슨은 퀴즈쇼에서 압도적인 점수 차이로 챔피언에 올랐다. 이렇게 뛰어난 인공지능을 경계하는 것이 왜 기우에 지나지 않은 걸까?

▲ 인간과의 체스대결에서 승리한 딥 블루. 정말 인간의 사고능력을 뛰어 넘은 걸까?

딥 블루와 왓슨의 승리 비결은 정답을 찾아내기 위한 빠른 연산 처리 속도에 있다. 주어진 지식을 인간보다 많이 저장하고 미리 프로그래밍이 된 대로 동작했을 뿐, 이 지식을 다른 방식으로 사용하도록 자율성이 부여된 것은 아니다. 결국, 자율성을 갖고 스스로 판단해 정답을 추론한 것이 아니라 사람이 시킨 대로 동작한 것이다. 딥 블루가 가진 지식은 미리 입력된 방대한 양의 체스 기보뿐이다. 이를 바탕으로 한 딥 블루는 체스밖에 두지 못한다. 딥 블루가 장애물을 스스로 인식하고 체스판까지의 경로를 설정해 팔을 움직여 말을 두는 것은 불가능한 일이다.

“어느 날 인공지능이 탑재된 제조로봇이 팔을 휘둘러 옆에 있던 작업자를 다치게 했다고 가정해 볼까요? 이런 일이 발생하는 경우는 로봇의 단순 오작동일 가능성이 더 높습니다. 인공지능이 스스로 판단해 특정한 목적을 가지고 움직였다기보다 미리 입력된 대로 작업을 하지 못해서입니다.” 박명수 선임연구원의 설명이다.

로봇에 인공지능이 필요한 이유

영화나 소설에 등장하는 로봇들을 한번 떠올려보자. 저마다 형태의 차이는 조금씩 있지만, 스스로 생각하고 판단하는 인공지능을 가졌다는 공통분모가 있다. 그렇다면 왜 로봇에 인공지능이 필요한 걸까?

산업현장에서의 로봇들은 비교적 단순한 작업을 반복한다. 이 때문에 높은 수준의 지능이 필요하지 않고 형태 역시 팔 등 인간의 일부만을 모방했다. 그러나 로봇이 인간이 하는 일을 모두 물려받으려면, 형태나 구조 역시 인간처럼 복잡해져야 한다. 로봇이 할 수 있는 일이 많아진다는 것은 제어해야 할 요소들도 많아진다는 것을 의미한다. 로봇의 형태와 구조가 일정 수준을 넘어서면, 지금처럼 사람이 직접 로봇의 동작을 하나하나 통제하도록 프로그래밍하는 것은 불가능하다. 간단한 명령만으로도 사람이 원하는 바를 로봇이 자율적으로 처리하는 것, 바로 로봇에 인공지능이 필요한 이유다.

박명수 연구원은 “복잡해 보이는 인간형 로봇도 사실은 인간을 굉장히 단순화시킨 것에 불과하다.”라며, “현재는 인공지능이 방대하고 복잡한 데이터 검색 정도에 쓰이고 있지만, 궁극적인 지향점은 사람과 같은 로봇을 작동시키는 것이다.”라고 설명했다. 사실 인공지능은 이미 우리 일상에 많이 스며들어 있다. 가장 대표적인 것이 아이폰에 탑재된 시리다. 세탁기, 밥솥, 식기세척기 등 과거 전자제품에 유행처럼 탑재됐던 퍼지기술도 인공지능기술 중 하나다. “인공지능의 탄생은 컴퓨터의 탄생과 맞물려 있습니다. 컴퓨터에서 저장된 파일을 찾는 알고리즘도 인공지능기술 중 하나라고 할 수 있습니다. 인공지능에서 파생된 기술들과 컴퓨터기술은 서로 같다고 봐도 무방합니다.”

인공지능의 반란을 우려하기보다

“여자친구가 생기게 해줘”. 휴대전화를 켜서 시리에게 한번 음성명령을 해보자. 무리한 명령이라며 시리가 싫다고 거부할까? 이해하지 못했다며 몇 번이고 되묻기는 해도 명령을 거부하는 작은 ‘반란’은 일으키지 않는다. 물론, 그렇게 프로그래밍이 되어 있지 않은 탓이겠지만, 원치 않는 동작은 하지 않도록 시리의 판단 범위는 제한되어 있다.

미래의 인공지능이 ‘로봇의 3원칙’을 스스로 깰 가능성이 희박한 이유다. 박명수 선임연구원에 따르면, 인공지능이 특정한 목적을 갖고 실제로 사람을 해칠 정도의 기술 수준에 도달했을 때는 이미 어떤 식으로든 인공지능 내에 안전장치를 확보하는 것은 충분히 가능한 일이다. 예를 들어 인공지능이 주어진 지식을 바탕으로 추론할 때, 항상 ‘사람을 해치면 안 된다’라는 대전제에서 벗어나지 못하도록 하는 구조다. 시리의 판단 범위를 제한하는 것처럼 잠재적 위험요소를 충분히 제한하면서도 다음 단계의 추론을 할 수 있다는 것이다.

인공지능이 반란을 일으켜 인류를 지배할 확률보다 인간 사이에 핵전쟁이 일어나거나 소행성 충돌과 같은 자연재해로 인류가 멸망할 확률이 더 높고, 더 가까운 일이라고 박명수 연구원은 설명했다.

기우(杞憂). 옛날 중국 기(杞)나라 사람이 '하늘이 무너지면 어디로 피해야 좋을까?'하고 걱정했던 데서 유래된 말이다. 인공지능은 기술 진화의 최종 단계라고 전문가들은 입 모아 말한다. 사람을 대신 할, 사람을 그대로 만드는 기술인 셈이다. 지금까지 여러 분야가 그래 왔듯, 인공지능 역시 혁신적으로 발전해 머지않아 우리는 <스타워즈>의 3PO와 같은 로봇과 함께 지도 모른다. 그러나 우리 옆의 3PO가 <터미네이터>의 스카이넷처럼 변한다는 것은 ‘기우’다. 자문을 얻기 위해 박명수 선임연구원을 만난 뒤, 며칠이 지나도 그의 마지막 말이 머릿속을 맴돌았다.

“인공지능이 스스로 판단해 목적성을 가지고 인간을 해친다? 인공지능은 사람이 설정한 범위를 스스로 벗어나지 못할 것입니다. 인공지능이 스스로 사람을 해칠 확률보다 사람이 로봇을 시켜서 해치게 할 확률이 절대적으로 높습니다. 오히려 경계해야 하는 것은 인공지능보다 그것을 다루는 사람이 되겠지요.”

* 본 기사는 '월간로봇' 10월호에서도 볼 수 있습니다. 모든 표기는 '월간로봇'의 규정에 따랐습니다.