로봇신문사
> 뉴스 > 인공지능
인공지능 로봇, 동화로 윤리를 배운다조지아텍 '마크 리들' 교수팀 개발
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2016.02.19  12:56:06
트위터 페이스북 구글+ 밴드

“인공지능 로봇, 동화로 윤리를 배운다“

조지아텍 산하 ‘엔터테인먼트 지능 연구소(the Entertainment Intelligence Lab)’ ‘마크 리들(Mark Riedl) 소장이 로봇도 사람처럼 동화를 읽으면서 사회 규범이나 도덕을 익힐 수 있는 인공지능 기술을 개발했다고 ’포퓰러사이언스 등‘ 매체들이 보도했다.

이 같은 기술을 로봇에 적용하면 인공지능 로봇이 살인, 절도 등 범죄를 저지르지 말아야한다는 것을 학습을 통해 알게 된다. 스티븐 호킹, 앨론 머스크, 빌 게이츠 등 유명 인사들은 인공지능 로봇이 향후 전쟁무기로 활용돼 사람을 죽이는 일에 관여할 것이라며 반대 목소리를 높이고 있다.

하지만 조지아텍 마크 리들 교수 등 연구팀은 ‘키호테(Quixote)'라는 인공지능 시스템을 통해 로봇에게 사회적인 규범이나 도덕을 가르치는 시도를 하고 있다. 훈육 수단은 동화다. 마치 아이들이 동화를 읽으면서 선악의 개념과 사회적인 규범을 익히는 것과 비슷한 이치다.

‘키호테‘는 리들 교수가 이전에 개발한 ’쉐라자데‘라는 인공 지능 작가를 활용한다. 쉐라자데는 인터넷을 통해 크라우드 소싱 방식으로 이야기를 만들어낸다. 키호테는 쉐라자데가 만든 동화나 이야기를 바탕으로 선악과 사회적인 규범을 배운다. 키호테를 교육하기 위해 연구팀은 보상신호와 처벌 신호라는 개념을 도입했다. 만일 키호테가 사회적으로 권장되는 행동을 하면 보상 신호를 제공하고 사회적으로 용인되지 않는 행동을 하면 처벌신호를 보내는 것이다.

▲ '키호테'의 개념도
예를 들어 인공지능 로봇에게 약국에 가서 최대한 빨리 약을 사오라는 명령을 했다고 치자. 이 경우 로봇에게는 몇가지 옵션이 존재한다. 약국에 가서 줄을 서 기다렸다가 약을 구입하는 방법, 약사와 예의바르게 대화한후 약을 구입하는 방법, 약국에 들어가서 약을 훔쳐오는 방법 등이 있다. 이 상황에서 별도의 지침이나 명령이 없다면 인공지능 로봇은 약국에 들어가서 약을 훔쳐나오는 방법을 선택할 가능성이 가장 높다. 하지만 키호테를 적용하면 약을 훔치는 행위는 부도덕한 것으로 인식돼 처벌 신호를 받는다. 줄을 서서 기다리거나 예의바르게 약사와 대화를 나눈 뒤 약을 사는 행위에 대해선 보상 신호를 준다.

마크 리들 교수는 “로봇이 스토리를 이해하는 방법을 통해 로봇이 사이코 처럼 행동하거나 인간에게 해를 끼치는 행위를 하는걸 막을 수 있다”고 말했다.

로봇신문사  robot@irobotnews.com
로봇신문사의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 구글+ 밴드 뒤로가기 위로가기
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
최근인기기사
1
권상우, 김희원 주연의 ‘신의 한 수: 귀수편’ 2주 연속 예매 1위
2
일본 나리타공항, 청소 로봇 2종 투입한다
3
한수원, 방화댐퍼 시험용 로봇 팔 개발한다
4
'2019 임베디드 테크 세미나' 16일 코엑스에서 개최
5
정부, ‘경남 무인선박 규제자유특구’ 지정
6
독일 '한그룹', REI 오토메이션 인수
7
중국, 2020년 화성 탐사에 나선다
8
와이즈넛 서비스형 챗봇 브랜드 ‘현명한 앤써니’ 론칭
9
미 프린스턴대, 핵물질 탐지할 수 있는 로봇 개발
10
중국 텐진대, '액체 플렉서블 로봇' 개발
로봇신문 소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책    *국제표준간행물번호 ISSN 2636-0381 *본지는 인터넷신문위원회 자율심의 준수 서약사입니다
08298) 서울 구로구 공원로 41(구로동, 현대파크빌 427호)  |  대표전화 : 02)867-6200  |  팩스 : 02)867-6203
등록번호 : 서울 아 02659  |  등록일자 : 2013.5.21  |  발행인·편집인 : 조규남  |  청소년보호책임자 : 박경일
Copyright © 2013 로봇신문사. All rights reserved. mail to editor@irobotnews.com