▲ 8일 열린 ‘도덕적 인공지능과 로봇윤리 워크샵' 모습

8일 ‘제12회 한국로봇종합학술대회’ 마지막 날 프로그램으로 ‘도덕적 인공지능과 로봇윤리 워크샵'이 개최되었다.

이날 워크샵에는 정지훈 경희사이버대학교 교수, 김종욱 동아대 교수, 변순용 서울교대 교수가 발표자로 참석했다.

▲정지훈 교수가 '강인공지능 연구의 현황과 미래의 인공지능 로봇'을 주제로 강연하고 있다.

정지훈 교수는 '강인공지능 연구의 현황과 미래의 인공지능 로봇'을 주제로 강연했다. 인공지능 소프트웨어와 로봇기술의 급속한 발전은 인류에게 장미빛 미래와 함께 대재앙의 가능성을 불러일으키고 있다.

정 교수는 강인공지능(Artificial Super Intelligence)의 세계적 현황과 미래의 인공지능 기술에 대해 소개했다. 인공지능은 크게 3가지로 분류 할 수 있는데 좁은 의미의 인공지능으로 약한 인공지능을 갖거나 하나의 특정 분야에만 집중되어 있는 인공지능을 약인공지능(ANI : Artificial Narrow Intelligence)이라고 한다. 그리고 인간과 같은 수준의 인공지능을 보통 '일반적인 인공지능(AGI : Artificial General Intelligence)’, 그리고 아주 스마트한 사람의 지능을 능가하는 지능을 ‘강인공지능(Artificial Super Intelligence)’이라고 한다. AGI는 엄청나게 많은 정보에서 필요한 것을 빠르게 추출하는 기술로 IBM의 왓슨을 예로 들 수 있다. ASI는 자의식을 가진 인공지능으로 명령받지 않은 일도 스스로 필요하다고 생각하면 수행하고 심지어 명령을 거부할 수도 있다. 딥마인드의 알파고가 강인공지능에 가깝다.

▲김종욱 교수가 '인공지능 아키텍처인 소어(Soar)를 이용한 인공 윤리 에이전트(AMA) 개발'을 주제로 강연을 하고 있다.

김종욱 교수는 '인공지능 아키텍처인 소어(Soar)를 이용한 인공 윤리 에이전트(AMA:Artificial Moral Agent) 개발'을 주제로 강연했다. 김 교수는 인공지능 로봇들이 증가하면서 사람들과 공존하기 시작하고, 로봇에게서 인간적인 감정을 갖기 시작하면서 로봇윤리의 필요성이 나타났다고 지적했다. 물론 군사적인 목적의 살인로봇도 큰 영향을 주었다. 그러면서 MS의 인공지능 프로그램과 로봇이 일으킨 사건, 사고들을 설명했다. 얼마전 EU 의회의 AI 로봇결의안을 소개하면서 AI 로봇을 전자인간(Electronic Person)으로 인정해야 하며, 로봇작동을 멈추는 버튼인 킬(Kill) 스위치를 장착해야 한다는 내용과 로봇은 인간을 위협하면 안됨, 로봇은 인간의 명령에 복종해야 함, 로봇 역시 자신을 보호해야 한다는 주요원칙을 소개했다.또한 인간수준을목표로하는 인지적 에이전트인 '소어(Soar)'를 소개했다.

김 교수는 최근 개발중인 AMA와 AMA의 핵심적 윤리이론을 소개하며, 향후 AMA 개발 방안에 대해 다양한 관점에서 논의를 했다. 마지막으로 인간의지능, 감정과 함께 10세 수준의 윤리의식을 갖춘 인지 에이전트 아키텍처 기반 로봇용 인공윤리 에이전트(AMA)를 개발하고 이를 소셜/케어로봇에 적용하여 로봇이 인간의 복지와 행복한 삶에 기여하는 기반기술을 확립하기 위해 진행하고 있는 AMA 과제를 소개했다.

▲변순용 교수가 향후 공리주의와 의무론의 통합의 윤리적 추론 개발 연구 방향에 대해 설명하고 있다.

변순용 교수는 2007년 우리나라에서 처음 시도된 로봇윤리 헌장 초안과 관련하여 시대 흐름과 미비점을 보완한 개선방향 초안을 소개했다. 변 교수는 수정의 기본 방향으로 인공지능과 로봇의 발전에 따른 변화를 반영, 로봇윤리헌장의 근본 이념으로 인간의 존엄성과 인류의 공공선(善)을 제시하면서 기존의 로봇윤리헌장 전문에 나오는 모호한 용어와 애매한 표현들을 명료화 하여 새로운 로봇윤리 6원칙을 제시하였다. 이번에 새로 수정된 헌장은 전문과 부칙인 로봇윤리규범으로 이원화된 구조로 전문, 기본원칙, 로봇설계자 윤리, 로봇제작자 윤리, 로봇 사용자 윤리 체계로 변경하였다.

이번에 새로이 변경된 로봇윤리헌장의 기본원칙은 다음과 같다.

로봇윤리헌장

기본원칙

1. 로봇은 인간의 존엄성을 존중해야 한다.
2. 로봇은 인류의 공공선을 실현하는데 기여해야한다
3. 로봇은 인류의 공공선을 침해하지 않는 범위내에서 인간의 존엄성을 추구해야 한다
4. 로봇은 위의 세 원칙들을 위배하지 않는 범위 내에서 사용자의 명령을 준수해야한다.
5. 로봇은 위의 원칙들을 준수해야하며, 이에 대한 책임은 설계 및 제작자에게 있다.
6. 로봇은 설계 및 제작의 목적에 부합하여 사용되어야 하며, 그 이외의 사용에 대한 책임은 사용자에게 있다.