“인공지능 로봇, 동화로 윤리를 배운다“

조지아텍 산하 ‘엔터테인먼트 지능 연구소(the Entertainment Intelligence Lab)’ ‘마크 리들(Mark Riedl) 소장이 로봇도 사람처럼 동화를 읽으면서 사회 규범이나 도덕을 익힐 수 있는 인공지능 기술을 개발했다고 ’포퓰러사이언스 등‘ 매체들이 보도했다.

이 같은 기술을 로봇에 적용하면 인공지능 로봇이 살인, 절도 등 범죄를 저지르지 말아야한다는 것을 학습을 통해 알게 된다. 스티븐 호킹, 앨론 머스크, 빌 게이츠 등 유명 인사들은 인공지능 로봇이 향후 전쟁무기로 활용돼 사람을 죽이는 일에 관여할 것이라며 반대 목소리를 높이고 있다.

하지만 조지아텍 마크 리들 교수 등 연구팀은 ‘키호테(Quixote)'라는 인공지능 시스템을 통해 로봇에게 사회적인 규범이나 도덕을 가르치는 시도를 하고 있다. 훈육 수단은 동화다. 마치 아이들이 동화를 읽으면서 선악의 개념과 사회적인 규범을 익히는 것과 비슷한 이치다.

‘키호테‘는 리들 교수가 이전에 개발한 ’쉐라자데‘라는 인공 지능 작가를 활용한다. 쉐라자데는 인터넷을 통해 크라우드 소싱 방식으로 이야기를 만들어낸다. 키호테는 쉐라자데가 만든 동화나 이야기를 바탕으로 선악과 사회적인 규범을 배운다. 키호테를 교육하기 위해 연구팀은 보상신호와 처벌 신호라는 개념을 도입했다. 만일 키호테가 사회적으로 권장되는 행동을 하면 보상 신호를 제공하고 사회적으로 용인되지 않는 행동을 하면 처벌신호를 보내는 것이다.

▲ '키호테'의 개념도

예를 들어 인공지능 로봇에게 약국에 가서 최대한 빨리 약을 사오라는 명령을 했다고 치자. 이 경우 로봇에게는 몇가지 옵션이 존재한다. 약국에 가서 줄을 서 기다렸다가 약을 구입하는 방법, 약사와 예의바르게 대화한후 약을 구입하는 방법, 약국에 들어가서 약을 훔쳐오는 방법 등이 있다. 이 상황에서 별도의 지침이나 명령이 없다면 인공지능 로봇은 약국에 들어가서 약을 훔쳐나오는 방법을 선택할 가능성이 가장 높다. 하지만 키호테를 적용하면 약을 훔치는 행위는 부도덕한 것으로 인식돼 처벌 신호를 받는다. 줄을 서서 기다리거나 예의바르게 약사와 대화를 나눈 뒤 약을 사는 행위에 대해선 보상 신호를 준다.

마크 리들 교수는 “로봇이 스토리를 이해하는 방법을 통해 로봇이 사이코 처럼 행동하거나 인간에게 해를 끼치는 행위를 하는걸 막을 수 있다”고 말했다.