사람의 손 조작 능력은 수백만년 진화의 결과물이다. 사람의 손은 27개의 뼈, 27개의 관절, 34개의 근육으로 이뤄져 있다. 사람은 복잡한 구조의 손을 사용해 자유자재로 물체를 다룰 수 있다. 하지만 로봇은 그렇지못하다. 사람의 손을 모방한 로봇 손은 복잡하고 제어하는 게 매우 어렵다. 다리를 이용해 걷는 로봇을 개발하는 것보다 손을 자유자재로 움직일 수 있는 로봇 손을 개발하는게 더 어렵다는 게 일반적인 의견이다.

더로봇리포트에 따르면 전통적으로 로봇과학자들은 사전 프로그램된 파지(把持) 동작, 또는 심층 강화학습(RL) 기술을 이용해 로봇 손을 조작한다. 하지만 아직은 능숙하게 물체를 다루는 로봇 손 개발에 어려움을 겪고 있다. 사전 프로그래밍된 동작은 로봇 손이 이상적으로 다양한 동작을 수행하는데 너무 제한적이며, 심층 강화학습 기술은 수백만 또는 수십억개의 실세계 샘플을 학습해야 한다.

엔비디아는 아이작 짐(Isaac Gym) RL 로봇 시뮬레이터를 사용해 ‘알레그로 핸드’(Allegro Hand)를 훈련시키고 있다. 엔비디아는 ‘덱스트림’(DeXtreme) 프로젝트의 일환으로 3개의 카메라를 주변에 설치하고, 사람 손을 닮은 경량의 로봇핸드인 알레그로 핸드를 훈련시켰다. 아이작 시뮬레이터는 물리 법칙을 지키면서 실제보다 1만 배 이상 빠르게 시뮬레이션을 실행한다.

▲ 로봇 손 주변에는 3대의 카메라가 배치돼 있다.

엔비디아는 아이작 짐을 활용해 알레그로 핸드에게 큐브를 조작하고 주어진 목표 위치, 방향을 맞추는 방법을 학습시켰다. 엔비디아의 신경망은 시뮬레이션을 통해 이 모든 동작을 수행하는 법을 배웠고, 연구 팀은 로봇을 실제 세계에서 제어하기 위해 이식했다.

엔비디아는 아이작짐과 함께 GPU에서 세계를 시뮬레이션하는 ‘피직스’(PhysX) 시뮬레이터를 사용해 로봇 손을 훈련시켰다.

시뮬레이션 훈련은 로봇공학에 많은 이점을 제공한다. 엔비디아의 시뮬레이션 실행 속도가 실제보다 훨씬 빠르다는 점과 함께, 로봇 하드웨어는 여러번 사용하면 손상되기 쉬운데, 이 문제도 해결할 수 있다. 로봇 손을 많이 사용하면 나사를 조이고, 리본 케이블을 교체하고, 냉각하기 위해 휴식 시간을 가져야한다. 이것은 로봇이 현실 세계에서 필요로 하는 종류의 훈련을 받는 것을 어렵게 만든다.

로봇의 신경망을 훈련시키기 위해 엔비디아는 옴니버스 리플리케이터(Omniverse Replicator)를 활용해 약 500만 프레임의 합성 데이터를 생성했다. 합성 데이터는 실제 이미지(real images)를 사용할 필요가 없도록 해줬다. 모든 훈련 과정은 옴니버스(Omniverse) OVX 서버에서 이뤄졌으며, 시스템은 약 32시간만에 좋은 정책을 가르칠 수 있다. 로봇이 실제 세계에서 동일한 경험을 얻으려면 42년이 걸린다는 게 엔비디아측 설명이다.