로봇·자동차·드론 등에 인공지능과 자율 기술이 본격 채택되면서 HCI(Human-Computer Interaction), HRI(Human-Robot Interaction)처럼 ‘인간과 자율시스템 상호작용(HAI:Human-Autonomy Interaction)’이 새로운 이슈로 떠오르고 있다. 국방분야에도 각종 무기체계에 인공지능과 자율기술이 채택 및 확산되면 HAI가 중요해지고 있다.

과학 전문 매체 ‘phys.org’에 따르면 미 육군연구소(U.S. Army Research Laboratory)는 지난 2013년부터 국방부 자금 지원을 받아 HAI에 관한 범용성 이론 프레임워크 개발을 추진하고 있다. 이 프로젝트는 학계, 산업계, 국방부 관계자들이 참여해 ‘PSF(Privileged Sensing Framework)’라는 이름으로 진행되고 있다. 이번 연구는 인간과 자율성 에이전트를 각각의 특성에 맞게 역동적으로 통합하기 위해 ‘휴먼 센싱 테크놀로지(human sensing technologies)’를 적용하고 있다. 예를 들어 인간은 주변 환경이나 작업의 변화에 맞게 쉽게 적용할 수 있으며 자율 에이전트는 인간 보다 훨씬 빨리 대량의 데이터를 처리할 수 있다는 특징을 감안해 연구를 진행하고 있는 것이다.

이 연구의 핵심은 PSF가 어떻게 인간에게 우선적이고 핵심적인 권한을 부여할 것인가에 관한 것에 모아지고 있다. 로봇 등 기술적인 시스템은 인간의 결정이나 행동이 파국이나 오동작을 유도할 때 이를 발견하고 완화하는 역할을 수행한다.

PSF는 인간을 궁극적이고 절대적인 명령 결정권자로 인식하기 보다는 특별한 종류의 센서로서 대우하는 진화된 HAI 접근법을 취하고 있다. 통합의 과정에서 특정의 에이전트에 특별한 권리를 부여하는 '특권적인' 정보('privileging' information) 개념에 기반하고 있다.

육군연구소의 ‘아마르 마라테(Amar Marathe)’ 박사는 최근 HAI에 관한 연구는 인간의 변동성을 중시하는 것을 무시한채 인간의 핵심적 역할을 보존하는 방식으로 이뤄지고 있다고 지적했다. 하지만 인간의 탁월한 능력이 완전히 활용되지 못하거나 인간의 실수를 완벽하게 만회하지 못하는 등 인간-자율 시스템이 잠재력을 충분히 발휘하지 못하는 경향이 있다고 설명했다.

그는 인간은 피로나 주의력 부족으로 실수를 할 수 있지만 인간 특유의 변동성이야말로 인간과 자율시스템의 통합에 가장 도전적인 과제라고 지적했다.