인간과 로봇의 합리적인 상호작용과 안전하고 윤리적인 로봇 행동을 위한 새로운 개념이 등장했다.

‘phys.org’에 따르면 영국의 허트포드셔대학(University of Hertfordshire) 과학자들은 로봇이 스스로를 안전하게 지키면서도 인간을 보호하며 섬기도록 권한을 부여하는 '임파워먼트(Empowerment)' 개념을 고안했다.

로봇은 가정과 직장에서 점점 보편화되어 가고 있으며 앞으로도 그 추세는 가속화할 것이다. 많은 로봇이 예기치 않은 상황에서 사람과 상호 작용해야 한다는 것은 분명하다. 가령 자율주행 차량은 차를 손상으로부터 보호하면서 운전자를 안전하게 지켜야 한다. 노인을 돌보는 로봇은 복잡한 상황에 적응하면서 소유자의 요구에 응답해야 한다.

스티븐 호킹(Stephen Hawking)과 같은 지식인들이 인공 지능의 잠재적인 위험에 대해 경고하면서 대중적 토론이 일어나고 있지만 기본 원칙과 개발자 윤리 정도로만 논의되고 있다. 이 연구에 참여한 과학자 ‘다니엘 폴라니(Daniel Polani)’는 최근 '로보틱스와 AI의 프론티어(Frontiers in Robotics and AI)'에서 "대중 여론은 진보에 대한 열정과 명백한 공포에 대한 위험을 감수하는 사이에서만 형성되고 있다"고 언급하며 새로운 접근이 필요하다고 강조했다.

로봇 3원칙에 대한 새로운 접근

인간 창조자에게 반항하고 미쳐 날뛰는 '지능형' 기계 개념은 전혀 새로운 것이 아니다. 1942년 SF작가인 '아이작 아시모프(Isaac Asimov)'는 로봇이 인간과 상호작용하는 방법을 결정하는 로봇 공학의 세 가지 법칙을 제안한 바 있다. 이 법칙에 따르면 로봇은 인간에게 해를 입혀서도, 인간이 해를 입도록 해서도 안된다. 또한 인간의 명령을 따라야 하며, 인간에게 해를 끼치지 않는 선에서 자신의 존재를 보호하도록 명시했다.

이 법칙이 선의로 작성되었음은 의심하지 않지만 로봇이 미묘하고 모호한 인간 언어를 이해하지 못하기 때문에 오해는 언제든 생길 수 있다. 사실 아시모프의 이야기에는 로봇이 법의 정신을 잘못 해석하고 비극적인 결과를 낳는 사례들로 가득하다.

한 가지 문제는 '해로움(harm)'의 개념이 복잡하고 상황에 따라 다르며 로봇에게 명확하게 설명하기 어렵다는 점이다. 로봇이 '해로움'을 이해하지 못할 때 어떻게 하면 그 원인을 피할 수 있을까. 연구에 참여한 또다른 과학자 크리스토프 샐지(Christoph Salge)는 "우리는 아시모프의 법칙에 따라 '좋은' 로봇 행동을 창출하기 위해 다양한 관점을 사용할 수 있다는 것을 깨달았다"고 말한다.

임파워먼트 개념을 수학적으로 코딩

연구팀이 고안한 임파워먼트(Empowerment) 개념은 기계로 하여금 인간의 복잡한 윤리적 질문을 이해하도록 하는 차원이 아니라 로봇이 언제나 선택지를 열어 놓고 상호 작용하며 탐색을 하도록 한다는 의미이다. 샐지는 "권한 부여란 인식할 수 있는 세상 범위에서 최대한 큰 영향력을 행사할 수 있는 상태에 있다는 것을 의미한다"며 "단순한 로봇이라면 충전소로 안전하게 돌아갈 수 있고 움직이지 않을 수 있으며 이동 옵션을 제한하는 수준이겠지만 미래지향적인, 인간을 닮은 로봇의 경우는 다양한 매개 변수를 통합해 인간이 유도하는 방향으로 행동하도록 하는 것"이라고 설명한다.

연구팀은 임파워먼트 개념을 수학적으로 코딩하여 로봇에 채택할 수 있도록 했다. 원래 2005년에 이 개념을 개발했지만 최근 이를 확장해 로봇이 인간이 부여한 임파워먼트를 유지하는데 초점을 맞추도록 했다. 폴라니는 "우리는 로봇이 상호 작용하는 인간의 눈을 통해 세계를 보길 원했다"며 "인간의 안전을 지키는 것은 인간의 권한 부여를 이행하려고 하는 로봇을 통해 가능하다"고 말했다.

샐지는 "이 개념을 적용하면 위험한 상황에서 로봇은 사람의 생명을 유지하고 스스로 부상으로부터 자유롭기 위해 노력할 것"이라고 말했다. 또한 "우리는 로봇에 의해 가혹할 정도로 보호받고 싶어하지 않는다"며 "우리가 부여한 권한을 로봇이 잘 유지하는 세계에 살고 싶어할 뿐"이라고 덧붙였다.

임파워먼트 개념은 아시모프의 세 가지 법칙, 즉 자율주행 차량에서부터 로봇 집사까지의 정신을 고수하는 로봇을 만들 수 있다. 궁극적으로 임파워먼트는 로봇의 전반적인 윤리적 행동에서 중요한 부분을 차지할 것이라는 것이 연구팀의 지적이다.