▲'제1회 윤리적 인공지능/로봇 워크샵'이 18일 부산 동아대에서 개최되었다. 참가자들이 기념사진을 찍고 있다.

'제1회 윤리적 인공지능/로봇 워크샵'이 지난 18일 오후 2시부터 부산 동아대에서 부민캠퍼스 김관음행홀에서 개최되었다.

이날 워크샵에는 로봇 전문가들을 포함해 한국정보화진흥원, 한국소비자원, 특허청, 서울산업진흥원, 나비미래연구소 등 전국에서 다양한 분야의 전문가, 교수 30여명이 참석했다.

▲동아대 김종욱 교수가 AMA 소개 및 개발현황에 대해 발표하고 있다.

1부에서 동아대 김종욱 교수는 로봇 윤리에 대한 글로벌 동향, 인간 수준을 목표로 하는 인지적 에이전트인 Soar 등에 대해 강연했다. 특히 동아대-서울교대가 공동 개발 중인 'Artificial Moral Agent(인공윤리행위자) 기술 개발 현황'에 대해 소개했다. 이 과제는 2016년부터 시작되었으며, 인간의 지능ㆍ감정과 함께 10세 수준의 윤리의식을 갖춘 인지 에이전트(Cognitive Agent) 아키텍처 기반 로봇용 인공윤리 에이전트(AMA)를 개발하고 이를 소셜/케어 로봇에 적용하여 로봇이 인간의 복지와 행복한 삶에 기여하는 기반기술을 확립하는데 목적이 있다. 1단계 1차년도에서는 ROS와 Soar를 연동한 AMA용 ROS-Soar 패키지 개발, ROS-Soar 패키지에 기본 음성인식, 영상인식 패키지 연결, 탑-다운 방식의 윤리적 추론과 의사결정 이론 연구, 2차년도에는 ROS-Soar 패키지에 탑-다운과 보텀-업 방식의 윤리적 의사결정 레이어 구현, 보텀-업 방식의 도덕적 원칙 체계의 개발과 인공지능을 위한 도덕적 판단력 검사도구 개발, 3차년도에서는 ROS-Soar 패키지와 IoT 네트워크 연계, ROS-Soar 패키지와 클라우드 연계, 윤리적 상황인지 패키지를 구현함으로써 AMA 소프트웨어 프로토타입 완성, 가제보(Gazebo)에서 인간-로봇 공존 홈 시뮬레이터를 구현하고 AMA 소프트웨어에 모럴 튜링 테스트(Moral Turing Test: MTT) 실시 및 통과, 10세 아동 수준의 윤리적 추론 모델과 이에 따른 도덕 모듈 및 MTT 방법론 개발 등의 개발 내용에 대해 소개했다. 2단계에서는 4차년도에 10세 수준의 기본적 로봇윤리 패키지 구현과 관련해 로봇 에티켓, 감정적 반응, 소셜 행동과 소셜 케어 로봇 분야에 맞는 윤리적 행위에 대한 준거 제시, 5차년도에는 10세 수준의 고도화된 로봇윤리 패키지를 구현하여 AMA 로봇 개발 완성을 목표로 로봇 보호, 비도덕적 지시에 대한 거부, 빅데이터 연계와 도덕적 인지 및 판단 능력의 함양을 위한 도덕 학습 모듈 검증과 관련해 특정 분야에서 일반 소셜케어 분야로 윤리적 준거의 보편화, 로봇윤리 인증제도 및 기능적 도덕성 마련을 위한 준비 등에 대한 과제 내용을 소개했다.

▲한밭대 김효은 교수가 'IEEE의 Ethically Aligned Design(윤리적 설계)의 쟁점과 과제'에 대해 강연하고 있다.

이어서 대전 한밭대 김효은 교수가 'IEEE의 Ethically Aligned Design(윤리적 설계)의 쟁점과 과제'에 대해 강연을 이어 갔다. 김 교수는 왜 윤리적 설계가 필요한지에 대한 시대적인 배경, 언제 윤리적 설계가 쓰이는지에 대해 설명했다. 그러면서 윤리적 판단을 위한 사고실험, 즉, 다섯 사람을 구하기 위해 한 사람을 죽이는 것이 도덕적으로 허용 가능한지에 대한 질문인 윤리학 분야의 사고실험인 트롤리 딜레마(Trolley Dilemma)를 예로 들었다. 또 어디에서 윤리적 설계가 필요한지, 윤리적 설계가 무엇인지, 어떻게 윤리적 설계가 가능한지에 대해 설명했다.

▲동아대 하태영 교수가 '한국 로봇기본법의 의미와 전망'을 주제로 강연하고 있다.

동아대 법학전문대학원 하태영 교수는 '한국 로봇기본법의 의미와 전망'을 주제로 강연했다. 하 교수는 로봇기본법의 제안 이유, 4차 산업혁명과 로봇시대에 대한 몇 가지 질문, 4차 산업혁명과 지능 로봇에 관한 우리나라 법학자들의 생각, 로봇 기본법의 의미와 내용 등에 대해 법학자로서 검토하는 시간을 가졌다. 그는 로봇 설계자․제작자․판매자․대여자․사용자가 모두 자기 임무를 먼저 성찰하고, 타인의 임무와 소통하며, 사회공동체의 이익을 위해 노력하는데 로봇기본법의 정신이 있다고 말했다.

2부에서는 서울교대의 로봇윤리 연구를 위한 사례와 논리적 방법론에 대해 심도있게 토론하는 시간이 있었다.

▲서울교대 변순용 교수가 '로봇윤리헌장의 기본원칙에 대한 연구'에 대해 강연하고 있다.

서울교대 변순용 교수가 '로봇윤리헌장의 기본원칙에 대한 연구'에 대해 소개했다. 변 교수는 인공지능로봇의 윤리적인 원칙을 실제로 적용하려면 우선 윤리적인 원칙이 구체적인 개별 판단으로 이어질 수 있도록 이를 매개해줄 수 있는 중간수준의 원칙들이 필요하며, 이를 위해서는 일반적인 원리와 규칙으로부터 행위의 옳은 과정을 연역해내거나 도출해내는 응용(application), 특정 상황에서 우선성을 결정하기 위해 서로 상충하는 원칙들 간의 조정(balancing), 그리고 상황적 맥락을 고려하여 원칙의 의미, 영역 그리고 범위를 상세화(specification)하는 작업이 요청된다고 강조했다.

▲서울교대 김은수 박사가 '10세 아동수준의 도덕적 인공지능 개발을 위한 예비연구'에 대해 강연하고 있다.

서울교대 김은수 박사는 인공지능 발달 과정을 중심으로 '10세 아동수준의 도덕적 인공지능 개발을 위한 예비연구'에 대해 강의했다. 김 박사는 콜버그(L. Kohlberg)의 도덕성 발달 이론을 단계별로 자세하게 설명하면서 AMA의 1~3 단계별 시나리오, 그리고 향후 과제에 대해 소개했다.

▲서울교대 최현철 박사가 'AMA 로봇 프로그래밍을 위한 예비연구'에 대해 소개하고 있다.

서울교대 최현철 박사는 'AMA 로봇 프로그래밍을 위한 예비연구'에 대해 강의했다. 최 박사는 강인공지능과 약인공지능에 따른 인공지능의 윤리와 도덕, 연역 논증과 귀납 논증, 찰스 샌더스 퍼스의 3가지 논리구조, 칸트의 정언 명령과 연역 논리, 아리스토텔레스 덕 윤리와 귀납논리에 대해 소개하면서 이를 토대로 한 AMA 설계 프로그래밍에 적절한 논리구조가 귀추라는 가설을 예비적으로 도출하였다고 설명했다.

이어 한국외대 김신 교수가 좌장을 맡아 로봇기본법과 로봇윤리헌장에 대해 전문가들이 모여 자유롭게 토론하는 시간이 마련되었다.

이날 워크숍은 전체적으로 참석자들이 흥미로워 했고, 로봇 윤리에 대해 많은 것을 배웠다며 만족을 표시했다. 그리고 앞으로 로봇 윤리 보다는 인공지능 로봇 윤리로 용어를 바꾸어 사용하는 것이 보다 명확할 것 같다는 의견도 마련되었다.

행사를 주최한 동아대 김종욱 교수는 "제2회 워크샵은 11월 초 서울교대에서 개최 할 예정"이라며 "일반인들에게 많이 홍보해 재미있고 유익한 시간을 가졌으면 좋겠다"고 밝혔다.