지난 1942년 공상과학 소설가인 아이작 아시모프는 로봇공학의 3원칙을 발표했다. 3원칙 가운데 첫번째 원칙은 ‘로봇은 인간에게 해를 입히는 행동을 하거나 인간이 해를 입는 상황에서 아무런 행동도 하지 않아서는 안된다“는 것이다.

미국의 UC버클리 출신 로봇과학자이자 아티스트인 '알렉산더 레벤(Alexander Reben)'이 AI(인공 지능)에 관한 논쟁을 불러 일으키겠다며 작정하고 인간에게 해를 입히는 로봇을 개발했다.

‘제1의 원칙(First Law)'이라는 이름이 붙은 이 로봇은 사람이 손가락을 올려놓으면 로봇 팔의 끝부분에 있는 바늘이 손가락을 찔러 피를 흘리게 한다. 무조건 손가락을 찌르는 것이 아니라 로봇이 스스로 결정한다. 언제 찌를지 모른다. 레벤은 ’제1의 원칙‘ 로봇이 사람에게 최소한의 상처를 내지만 이런 종류의 로봇이 존재한다는 점을 인식하고 이에 대처해야 한다고 지적했다. 간혹 산업용 로봇이 사람을 다치게 하는 일이 있지만 이는 전혀 의도한 게 아니다. 레벤이 개발한 로봇은 의도적으로 사람을 해친다.

그는 진짜 걱정스러운 것은 AI가 통제를 벗어날 수 있다는 점이라고 경고한다. 킬러 무기에 탑재된 인공지능이 사람의 의사에 반해 인간을 해칠 수 있다는 점을 인식 철학자, 과학자, 사업가들이 논쟁을 벌여야한다는 것. 레벤은 최근 구글이 인공지능의 작동을 멈추게 하는 ‘킬 스위치’를 개발하고 있다는 소식에 매우 흥미롭다는 반응도 보였다.