로봇신문사
> 뉴스 > 인공지능
안전한 AI개발을 위한 5가지 화두구글 등 4개 기관 공동 발표
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2016.06.27  11:12:42
트위터 카카오톡 페이스북

스마트하고 안전한 인공지능(AI) 연구개발을 위해 염두에 두어야 할 사항들이 발표돼 관심을 끈다.

최근 구글, 오픈AI, 스탠포드대학, 버클리대학 등 4개 기관 및 대학은 ‘AI 안전에 있어서 실질적인 문제(Concrete Problems in AI Safety)’라는 연구 보고서를 공동으로 발표했다.

29페이지짜리 이 보고서는 기업이나 연구소에서 AI 기술 및 시스템을 개발할 때 어떤 점을 염두에 두고, 어떤 질문을 스스로 해야하는지를 5가지로 정리했다. 개발자들로 하여금 실제 테스트에서 적용할 수 있는 명확하고 구체적인 질문을 통해 AI 개발과 이용을 둘러싼 막연한 거부감이나 추상적인 우려를 극복하려는 시도인 셈이다.

이 보고서를 요약해 블로그에 올린 구글 개발자 크리스 올라(Chris Olah)는 “이 5가지가 오늘날에는 그다지 중요하게 느껴지지 않을 수 있지만 미래를 위해서는 매우 진보적이고 장기적인 화두”라고 강조했다.

다섯 가지는 다음과 같다.

1)부정적인 부작용 회피(Avoiding Negative Side Effects): AI는 임무를 완료하는 동안 주변 환경을 방해해서는 안된다. 청소용 로봇이 청소를 빨리 끝내기 위해 화병을 깨뜨리거나 화분을 망치면 안되는 이치다.

2)해킹 보상 회피(Avoiding Reward Hacking): AI는 대충 처리하거나 꼼수를 부리지 말고 주어진 역할을 제대로 충실하게 이행해야 한다. 가령 깨끗하게 청소를 하기 위해 일부러 쓰레기로 주변을 어지럽게 만들고 나서 청소를 수행하는 로봇은 취지에 맞지 않는다.

3)확장성있는 관리(Scalable Oversight): AI의 효율성을 위해 인간의 끊임없는 피드백이나 인풋이 요구돼서는 안된다. 가령 인간에게 일일이 묻고 피드백을 받기보다 인간의 반응을 활용해 처리 능력을 향상시키도록 하는 식이 되어야 한다.

4)안전한 탐색(Safe Exploration): AI는 학습하는동안 스스로나 주변 환경에 손상을 주거나 피해를 입혀서는 안된다. 가령 청소용 로봇이 청소를 할 때 물걸레로 전자기기를 닦는 시도를 해서는 곤란하다.

5)분산 변이에 대한 견고성(Robustness to Distributional Shift): AI는 새로운 환경을 인식할 수 있어야 하고 그 환경에 자연스럽게 적응할 수 있어야 한다. 공장 작업장에 익숙해져있는 경험이라면 사무실 공간에서는 그다지 안전하지 않을 수 있다는 점을 염두에 두어야 한다.

조인혜 객원기자  ihcho@irobotnews.com
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
조인혜 객원기자의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 구글+ 밴드 뒤로가기 위로가기
인기기사
1
도구공간, AI순찰로봇 ‘운행안전인증’ 획득
2
코가로보틱스-대구경북과기원, 'ICRA 2024'서 새로운 인공지능 학습법 공개
3
한국로봇산업진흥원, 규제혁신 로봇 실증사업 24개 과제 최종 선정
4
오늘의 로봇기업 주식시세(2024-05-14)
5
[기획] 인천 경제 활성화의 견인차 '레전드 50+'②
6
마로솔, 단품 구매도 전문가 1대1 밀착케어
7
미래컴퍼니, 수술 로봇 '레보아이' 러시아에 수출
8
테솔로, 'ICRA 2024'서 ‘하이브리드형 DG-3F’ 활용한 빈 픽킹 시연
9
한국로봇산업진흥원, 2024년 서비스로봇 실증사업 28개 공모 과제 최종 선정
10
비욘드허니컴, 'AI 순대 스테이크' 선보인다
로봇신문 소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책    *국제표준간행물번호 ISSN 2636-0381 *본지는 인터넷신문위원회 자율심의 준수 서약사입니다
08298) 서울 구로구 공원로 41(구로동, 현대파크빌 526호)  |  대표전화 : 02)867-6200  |  팩스 : 02)867-6203
등록번호 : 서울 아 02659  |  등록일자 : 2013.5.21  |  발행인·편집인 : 조규남  |  청소년보호책임자 : 박경일
Copyright © 2013 로봇신문사. All rights reserved. mail to editor@irobotnews.com