▲ 사진은 2004년 개봉한 영화 '아이로봇(I Robot)'의 한 장면.

공상과학 소설가인 아이작 아시모프는 로봇의 3원칙을 처음으로 제시했다. 로봇은 인간을 해치지말아야 하며, 명령에 복종해야 한다. 또 스스로를 보호해야만 한다. 이 로봇 3원칙은 로봇 개발자들에게 오랫동안 금과옥조처럼 여겨졌다.

가디언에 따르면 '영국표준연구소(BSI:British Standards Institute)'는 아시모프의 로봇 3원칙에서 한발 더 나아가 로봇의 윤리 문제를 다룬 공식 가이드라인을 발표했다. 로봇과 로보틱스 디바이스에 관한 가이드라인인 ‘BS8611’ 문서는 건강과 안전에 관한 매뉴얼처럼 건조한 문체로 작성됐으나 원치 않는 시나리오에 초점을 맞춰 로봇 개발자들에게 경각심을 주고 있다. 특히 로봇 기만, 로봇 탐닉, 자율학습시스템의 가능성 등은 제조업체들이 고려해야만 할 위험이라고 지적했다.

웨스트 잉글랜드대학 로봇과학자인 알랜 윈필드(Alan Winfield) 교수는 이번 가이드라인이 로봇과 인공지능 개발에 윤리적인 가치를 수용하기 위한 첫걸음이라고 평가했다. 이 가이드라인이 로봇의 윤리적인 위험을 평가하는 것이라는 점에서 아시모프의 3원칙 보다 정교하다고 말했다.

BSI 문서는 가장 먼저 포괄적인 로봇 윤리원칙을 제시하고 있다. “로봇은 인명 살상을 1차적인 목표로 개발되어서는 안된다”고 명시했다. 또 로봇이 아니라 인간이 책임을 져야한다는 점도 분명히 했다. 이를 위해 누가 로봇과 로봇의 행동에 책임이 있는지를 알 수 있어야만 한다고 했다.

가이드라인은 로봇과의 감정적인 연대와 같은 논쟁적인 이슈도 다루고 있다. 로봇이 아이 또는 노인들과 상호 소통할 때 감정적인 연대가 바람직스러운가의 문제다. 영국 세필드대학의 노엘 샤키(Noel Sharkey) 명예교수는 로봇이 의도하지 않게 사람을 기만할 수 있다는 점을 지적했다.

가이드라인은 로봇 개발자들이 ‘투명성’을 지향하라고 제안했다. 하지만 로봇 과학자들은 실제적으로는 이를 준수하는 게 매우 까다롭다고 지적했다. 앨런 윈필드 교수는 “AI, 특히 딥러닝의 경우 의사결정을 하게 된 이유를 아는 게 불가능하다”고 말했다. 딥러닝의 수백만의 시도를 통해 특정 작업을 하는 법을 학습하지만 인간 개발자들은 이 같은 과정을 예측하기 힘들고 이해하기도 어렵다는 것.

이번 가이드라인은 로봇이 문화적인 다양성과 다원주의를 이해하지 못해 성차별주의자나 인종차별주의자가 될 가능성도 있다고 경고했다. 앨런 윈필드 교수는 “딥러닝 시스템은 그야말로 방대한 양의 데이터를 활용해 학습을 하지만 문제는 데이터 자체가 왜곡되어 있다”고 비판했다. 딥러닝은 특히 백인 중산계층을 선호할 가능성이 높다. 인간들이 갖고 있는 편견을 딥러닝 시스템도 갖는다는 지적이다.

미래에는 인공지능 기술이 의료 분야에 적극 활용되겠지만 여자나 소수민족을 진단하는 데는 어려움을 겪을 수 있다. 음성인식 소프트웨어나 얼굴인식 시스템은 여성이나 흑인을 인식하는데 정확도가 떨어진다는 사례는 이미 나와 있다. 노엘 샤키 교수는 “로봇에 일종의 블랙박스가 필요하다”고 말한다. 블랙박스를 열어 로봇이 인종차별주의자인 것으로 판명나면 스위치를 끄거나 거리에서 추방해야한다는 것.

가이드라인은 ‘로봇에 대한 과잉의존(over-dependence on robotics)’도 경계하고 있다. 자동화 시스템에 일정 기간 익숙해지다 보면 로봇을 과신하고 게을러질 수 있다는 것. 로봇에 대한 과다 의존이 사람을 어리석게 만들 수 있다고 우려했다.