스마트하고 안전한 인공지능(AI) 연구개발을 위해 염두에 두어야 할 사항들이 발표돼 관심을 끈다.

최근 구글, 오픈AI, 스탠포드대학, 버클리대학 등 4개 기관 및 대학은 ‘AI 안전에 있어서 실질적인 문제(Concrete Problems in AI Safety)’라는 연구 보고서를 공동으로 발표했다.

29페이지짜리 이 보고서는 기업이나 연구소에서 AI 기술 및 시스템을 개발할 때 어떤 점을 염두에 두고, 어떤 질문을 스스로 해야하는지를 5가지로 정리했다. 개발자들로 하여금 실제 테스트에서 적용할 수 있는 명확하고 구체적인 질문을 통해 AI 개발과 이용을 둘러싼 막연한 거부감이나 추상적인 우려를 극복하려는 시도인 셈이다.

이 보고서를 요약해 블로그에 올린 구글 개발자 크리스 올라(Chris Olah)는 “이 5가지가 오늘날에는 그다지 중요하게 느껴지지 않을 수 있지만 미래를 위해서는 매우 진보적이고 장기적인 화두”라고 강조했다.

다섯 가지는 다음과 같다.

1)부정적인 부작용 회피(Avoiding Negative Side Effects): AI는 임무를 완료하는 동안 주변 환경을 방해해서는 안된다. 청소용 로봇이 청소를 빨리 끝내기 위해 화병을 깨뜨리거나 화분을 망치면 안되는 이치다.

2)해킹 보상 회피(Avoiding Reward Hacking): AI는 대충 처리하거나 꼼수를 부리지 말고 주어진 역할을 제대로 충실하게 이행해야 한다. 가령 깨끗하게 청소를 하기 위해 일부러 쓰레기로 주변을 어지럽게 만들고 나서 청소를 수행하는 로봇은 취지에 맞지 않는다.

3)확장성있는 관리(Scalable Oversight): AI의 효율성을 위해 인간의 끊임없는 피드백이나 인풋이 요구돼서는 안된다. 가령 인간에게 일일이 묻고 피드백을 받기보다 인간의 반응을 활용해 처리 능력을 향상시키도록 하는 식이 되어야 한다.

4)안전한 탐색(Safe Exploration): AI는 학습하는동안 스스로나 주변 환경에 손상을 주거나 피해를 입혀서는 안된다. 가령 청소용 로봇이 청소를 할 때 물걸레로 전자기기를 닦는 시도를 해서는 곤란하다.

5)분산 변이에 대한 견고성(Robustness to Distributional Shift): AI는 새로운 환경을 인식할 수 있어야 하고 그 환경에 자연스럽게 적응할 수 있어야 한다. 공장 작업장에 익숙해져있는 경험이라면 사무실 공간에서는 그다지 안전하지 않을 수 있다는 점을 염두에 두어야 한다.