▲ 돌봄로봇 분야의 로봇윤리와 과제라는 주제발표를 하고 있는 동아대학교 김종욱 교수

돌봄로봇의 윤리 충족 여부를 사전에 확인할 수 있는 체크리스트가 나왔다. 시중에 유통되는 돌봄로봇의 윤리 문제 분석을 기반으로 개발된 것으로, 제품 개발사는 물론 새롭게 돌봄로봇을 개발하는 기업에도 중요한 가이드라인이 될 전망이다.

김종욱 동아대 교수는 5일 산업통상자원부·한국로봇산업진흥원·로봇신문이 서울 삼성동 코엑스에서 개최한 ‘2023 로봇 비즈니스 페어–첨단로봇 시대의 과제, 로봇윤리’ 컨퍼런스에서 ‘돌봄로봇 분야의 로봇윤리와 과제’ 주제발표를 통해 6가지 돌봄로봇 자가 점검 체크리스트를 발표했다.

체크리스트는 △침해금지 △투명성 △안전성 △책임성 △지속가능성 △공정성 등으로 구분된다. 침해금지는 사용자 생활 보조 및 사생활 보호가 골자다. 돌봄로봇이 ‘사용자의 생활보조 및 정서관리를 돕기 위한 기능과 특성을 제공하도록 개발했는지’, ‘사용자의 개인정보 수집 시 사용자 동의를 받거나 비식별 처리를 하고 있는지’ 여부 등을 체크한다. 김종욱 교수는 “돌봄로봇 사용자가 혼자 조용히 있고 싶을 때 로봇이 말을 걸지 않는 등 자율성을 보장해줘야 한다”고 소개했다.

▲ 돌봄로봇 분야의 로봇윤리와 과제라는 주제발표를 하고 있는 동아대학교 김종욱 교수

투명성은 돌봄로봇의 현재 상태나 실행 결과에 대한 구체적 설명이 포함된다. 돌봄로봇과 사용자 간에 과도한 애착관계가 형성되지 않도록 돌봄로봇 자신이 로봇임을 정기적으로 알리는 기능도 포함됐다. 김종욱 교수는 “돌봄로봇이 계속 바라보면 사용자는 불편할 수밖에 없다”며, “이 때 로봇이 무엇을 하는지 사용자가 물으면 바로 답변해야 한다”고 투명성의 중요성을 강조했다.

안전성은 위험도 모니터링 및 제어 가능성이다. 돌봄로봇이 사용자에게 위험한 행동을 유발하거나 위험한 장소로 이동을 유도할 가능성이 있는 멘트나 대화가 있는지를 확인한다. 김종욱 교수는 “사용자가 시냇물 소리를 듣기를 희망하자, 돌봄로봇이 산속으로 안내한 사례가 있었다”고 소개했다.

책임성은 인공지능의 위험성 인식 및 피해에 대한 대책 마련이다. 김 교수는 “생성형 인공지능의 보급으로 돌봄로봇이 제어되지 않는 말을 할 수 있다”며, “위험성에 대한 사례와 그 파급력을 정기적으로 공유하고, 각 조직에는 대응 전담팀을 구성해야 한다”고 제안했다.

지속가능성은 사회 및 환경에 미치는 피해 최소화, 공정성은 편향 최소화 및 취약계층 접근성 보장 등이다.

김 교수는 “올해 가이드라인 초안이 도출됐다는데 의미가 크다”며, “가이드라인이 돌봄로봇 제품의 다양한 개발 속에서 가드레일 역할을 할 것으로 기대한다”고 말했다. 김 교수는 이어 “내년에는 가이드라인을 대외적으로 공개하고 표준화하는 작업을 전개할 것”이라며, “인증체계를 위해 각계의 자문을 받을 것”이라고 밝혔다.

김 교수는 또한 돌봄로봇의 윤리적 이슈로 ‘자기결정권 보장 사례’, ‘사생활 보호 사례’, ‘기기활용 능력 사례’ 3가지를 들었다. 자기결정권은 예를 들어 사용자가 복약을 원치 않을 경우 로봇이 어떻게 판단하느냐 등의 문제다. 김 교수는 “로봇에게 어디까지 사용자의 의견을 존중할 수 있도록 하는지 여부가 핵심”이라고 말했다.

김 교수는 국내 돌봄로봇 시장은 2019년 62억원에서 2021년 112억원으로 두 배 성장했다고 소개했다. 돌봄로봇 시장과 관련 김 교수는 “해외는 매년 15~18% 꾸준히 성장한다”며, “우리나라는 앞으로 초고령화 사회로 진입하기 때문에 더욱 빠르게 성장할 것”이라고 전망했다.