▲ 로봇윤리헌장 개발현황 및 향후과제에 대해 주제 발표를 하고 있는 한국로봇학회 로봇윤리연구회 한정혜 회장

[로봇윤리헌장] 개발현황 및 향후 과제-한정혜(청주교육대 교수, 한국로봇학회 로봇윤리연구회 회장)

한정혜 교수(청주교육대)는 ‘로봇윤리헌장 개발 현황과 향후 과제’ 제하의 강연을 통해 그간 우리나라가 로봇/AI 윤리 원칙 마련과 관련해 착실히 준비해 온 과정과 결실, 그리고 향후 과제와 계획까지 설명했다. 한 교수는 이날 소개한 로봇윤리헌장(안)이 로봇업계, 관련 협단체는 물론 법조인, 철학자들의 의견까지 폭넓게 취합한 것이라고 밝혔다.

한 교수는 로봇윤리헌장을 개발하고 있는 로봇윤리연구회에서 관심을 갖는 ‘로봇’은 ‘물리적 동작이 가능한 다양한 형태의 자동기계장치라고 할 수 있다’고 정의했다. 따라서 챗봇같은 사이버 상의 로봇은 해당하지 않는다고 했다. 하지만 챗봇같은 생성형 AI가 로봇이라는 (HW)플랫폼에 옮겨졌을 때에는 로봇윤리 적용 대상이 된다고 설명했다.

한 교수는 이날 강연에서 로봇의 미래와 윤리 이슈 전망, 글로벌 로봇 윤리 관련 움직임, 로봇진흥법에 따라 협회 관계자 등이 2007년부터 작업해 온 우리나라 로봇 윤리헌장(안) 현황, 2023년 로봇윤리헌장안 심화 연구 현황과 로봇윤리헌장(안) 내용을 망라해 소개했다.

한 교수는 로봇윤리헌장에 크게 두가지를 담으려 했는데 그 하나는 인간이 로봇을 제작, 사용, 폐기까지의 과정에서 지켜야 할 규범이며, 다른 하나는 로봇이 자신, 또는 로봇간에 지켜야 할 규범이라고 소개했다.

로봇윤리연구회가 만든 로봇윤리헌장(안)의 3대 기본 가치를 요약하면 ▲인간을 이롭게 하는 로봇(침해금지) ▲신뢰할 수 있는 로봇(안전성,투명성,책임성) ▲공공선을 추구하는 로봇(공정성,지속가능성)이다. 그 아래 위치하는 6대 윤리원칙은 ▲침해금지 ▲안전성 ▲투명성 ▲책임성 ▲공정성 ▲지속가능성이다.

아래에 강연 내용을 순서대로 소개한다.

▲ 로봇윤리헌장 개발현황 및 향후과제에 대해 주제 발표를 하고 있는 한국로봇학회 로봇윤리연구회 한정혜 회장

◆로봇의 미래와 윤리이슈 전망

로봇이란 물리적 동작이 가능한 다양한 형태의 자동기계장치라고 할 수 있다. 로봇 윤리를 말할 때 로봇과 생성형 챗봇이 결합됐을 때의 문제까지 논의해야 한다. 우리는 이에 대한 이슈를 공론화하고 준비해야 할 시기라고 생각한다.

AI가 로봇 플랫폼(HW)으로 옮겨온 지능형 로봇 등 다양한 로봇, 지능형 로봇이 이 윤리범주에 해당하는 대상이다.

이미 산업용 로봇 분야에서 원격, 배송, 의료, 돌봄, 웨어러블 등 다양한 로봇의 수요 및 공급 확대가 되고 있다. 또한 인공지능(AI) 기술과 로봇 기술의 융합으로 지능형 로봇의 폭발적 증가가 임박해 있다. 게다가 일반 인공지능(AGI)로봇의 일상화 시대도 근접해 있다.

AI가 로봇에 들어올 때 생명과 신체의 안전이 매우 중요하기 때문에 이런 점에서 로봇윤리를 진중하게 생각해 보아야 할 시점이다.

다양한 로봇이 인간과 상호작용함에 있어서 로봇 윤리 이슈가 증가할 것으로 전망된다. 즉, 생명 신체의 안전과 직결될 수 있는 위중한 이슈, 산업용 로봇, 지능형로봇, 자율주행차, 웨어러블 로봇, 원격 로봇 등을 생각해 볼 수 있다.

로봇윤리에는 크게 두가지가 있을 것이다. 이를 담으려 노력했다. 하나는 인간이 로봇을 제작, 사용, 폐기까지의 과정에서 지켜야 할 규범이다. 다른 하나는 로봇이 자신 로봇간에 지켜야 할 규범이다.

◆글로벌 로봇지원 정책과 동향

①미국은 첨단 제조파트너십에 따라 협동로봇 중심의 NRI 프로젝트(2011~2021)를 추진했다. 바이든 정부는 미 과학재단의 FRR(Foundation Research in Robotics) 프로그램을 통해 로봇시스템 전반의 R&D를 지원(2023년 13억달러)했다. 또 반도체 과학법의 10대 핵심기술분야(2023년 5억달러 지원)에 로봇을 포함시켰다.

②일본은 로봇 신전략(2015)을 수립하고 로봇 비즈니스 규제개혁, 로봇 R&D 및 보급 SI기업육성, 인력양성 등에 1000억엔을 투자(~2000년)했다. 이와함께 문샷R&D프로그램(2020~2025)을 신설하고 로봇 분야에 4.4억달러를 투자하고 있다. 경제안전보장 추진법(2022년 제정)의 11대 특정 중요물자와 20대 첨단 중요기술에도 로봇을 포함시켰다.

③중국은 중국제조2025(2015)에서 로봇을 10대 핵심 영역에 포함하고 로봇 산업 발전 계획(2021~25)을 발표했다. 오는 2025년 로봇 밀도 2배 달성을 목표로 10개 중점 분야 R&D 및 시범 실증체험, 검증센터 구축 등을 추진하고 있다. 올해 2023년 ‘로봇+활용방안’을 발표하면서 농업-물류-에너지-의료 보건 등 서비스 로봇 R&D 및 보급 방안을 제시했다.

④유럽은 SPARC 프로그램(2014~20)을 통해 민관합동으로 28억유로를 투자했다. 2021년 ADRA프로그램(2021~27)을 통해 AI와 로보틱스에 민관 합동으로 26억유로를 투자하고 있다.

◆국내 로봇윤리헌장(안) 현황

로봇진흥법에따라 로봇 협회 관계자 등이 2007년부터 다음과 같은 내용으로 관련 작업을 해 왔다.

▲2007년 로봇윤리헌장안=6개 윤리원칙, 부칙:설계자, 제조자, 사용자의 규범을 내놨다.

▲2015년 로봇윤리헌장안=2007년 성과를 보완해 6개 기본원칙과 함께 부칙 설계자, 제작자, 사용자의 윤리를 내놨다. 이는 발표되진 않았다..

▲2018년 로봇윤리헌장안=틀을 갖춘 윤리헌장이라 볼 수 있다. 여기서는 3가지 기본 가치를 중심으로 고민했다. 인간의 존엄성 보호, 공공선 추구, 인간의 행복추구를 중심으로 연구했다. 5가지 실천원칙은 투명성, 제어가능성, 책임성, 안전성, 정보보호다. 이것이 확대됐다.

2023년 로봇윤리헌장안 심화연구는 로봇윤리 연구, 가이드라인 개발, 로봇윤리 확산의 3가지로 이뤄졌다. 내용 별로는 다음과 같다.

▲로봇 윤리연구=산업 환경 변화 및 기존 연구된 헌장을 보완해 로봇 윤리헌장 3가지를 수립하기 위한 정책 연구를 추진했다.

▲가이드라인 개발=국내 로봇산업 경쟁력 및 신 비즈니스모델 개발 시 윤리적 이슈 해소를 위한 분야별 로봇 윤리 가이드라인 개발에 중점을 뒀다. 로봇 제품 및 서비스 개발 활용시 필요한 윤리적 고려항목을 제시하고 자가 점검방안 등을 공유했다.

▲로봇 윤리 확산(윤리포럼)=전문가 의견 수렴 및 로봇 윤리 중요성 제고를 위한 컨퍼런스 개최를 통해 각 분야 의견 소통 및 홍보 활동 시행했다.

이와관련, 향후 포럼을 통해 시민과도 소통하는 장을 마련하려 하고 있다

◆로봇윤리헌장에 대한 논의

로봇윤리헌장의 성격은 설계자 제조자 사용자 등 보다는 국민 대상으로 지능형 로봇 촉진법 등 법, 제도, 규범을 정립하기 위한 기본 가치와 윤리지침을 규정하는 헌장이다.

그 구성은 인간의 더 나은 삶을 위한 로봇 제작, 생산, 사용자를 위한 세가지 기본 가치와 이를 반영한 여섯가지 윤리원칙으로 이뤄진다. 이는 2018년 버전을 보다 심도있게 논의해 로봇윤리다운 가치로 정립했다.

로봇윤리헌장의 3대 기본 가치는 ①인간을 이롭게 하는 로봇(침해금지) ②신뢰할 수 있는 로봇(안전성, 투명성, 책임성) ③공공선을 추구하는 로봇(공정성, 지속 가능성)이다.

이를 좀더 풀어보면 다음과 같다.

①인간을 이롭게 하는 로봇=로봇의 개발, 사용 목적과 그 행위는 인간의 삶의 질 향상, 행복 증진 및 개인 역량 강화를 위해 존재해야 한다. 로봇은 인간의 존엄성, 자유, 평등, 인권 등 기본권을 보호할 수 있도록 설계, 제작, 공급, 사용, 관리되어야 한다. (수렴을 통해 향후 로봇분야에 있을 다양한 윤리 이슈 연구)

②신뢰할 수 있는 로봇=로봇은 동작함에 있어서 인간의 안전을 확보해야 한다. 로봇은 목적과 의도에 부합되게 동작하는 신뢰성을 확보해야 한다. 로봇의 외형은 인간과 구별이 가능해야 하며, 로봇 간 식별이 되어야 한다.(장기적으로 로봇 윤리 국가표준 제정 등을 검토)

③공공선을 추구하는 로봇=로봇은 사회의 복지향상과 공공 복리에 기여하도록 설계, 제작, 공급, 사용, 관리되어야 한다. 로봇과 인간의 협업, 로봇 간의 동작은 공공선에 위배되지 않아야 한다. (분야별 가이드라인 수립을 위한 연구 지속)

3가지 기본 가치 밑에 위치할 6대 윤리원칙은 침해금지, 안전성, 투명성, 책임성, 공정성, 지속가능성이다.

이를 풀어보면 다음과 같다.

①침해금지=로봇은 원칙적으로 인간의 신체, 정신에 위해를 가하는 목적으로 개발되거나 사용되어서는 안된다. 로봇을 이용하여 타인의 사생활을 침해하거나 본래의 용도와 관련이 없는 데이터를 수집하지 않도록 해야 한다. (이는 가상공간에서의 정보 수집과는 완전히 차원이 다르다.) 인간, 동물, 자연사회에 대해 직 간접적인 해를 입히는 목적으로 로봇을 개발, 제조, 사용 등이 되지 않도록 노력해야 한다.

②안전성=로봇의 설계, 제작, 공급, 사용, 관리 과정에서 발생할 수 있는 잠재적 위험의 예방과 인간의 안전을 최우선으로 보장하도록 노력해야 한다. 로봇은 안전상의 이유로 스스로 작동을 중지하거나 외부에서 중지할 수 있는 제어기능 등이 있어야 한다.

③투명성=로봇이 인식, 판단, 동작하는 과정에 발생한 결과는 설명될 수 있어야 한다. 로봇 사용시 예상되거나 발생할 수 있는 위험에 대해 충분한 정보를 제공할 필요가 있다.

④책임성=로봇은 외형으로 개별 구분과 관리가 되어야 한다. 누구나 로봇의 설계, 제작, 공급, 사용, 관리 과정에서 발생할 수 있는 윤리적, 법적 책임과 의무를 준수해야 한다. 로봇은 파손과 분실 등에 대비한 보호모드를 가질 수 있다. (이는 로봇 자신과 로봇간 윤리를 말한다.)

⑤공정성=로봇의 설계, 제작, 공급, 사용, 관리 과정에서 사용자 집단의 다양성과 공정성을 고려 해야 하며, 성별, 연령, 장애, 종교 등에 대한 편향을 최소화해야 한다. 로봇에 대한 사회적 약자 및 취약계층의 접근성을 보장해야 한다.

⑥지속 가능성=생성AI에는 엄청난 탄소가 배출되는데 여기에 로봇이 결합한 지능형 로봇은 더욱더 많은 탄소를 배출하기에 이런 조항이 필요하다. 이를 위해 국가 및 공공기관은 로봇산업 생태계의 지속가능한 성장과 발전을 위하여 대책을 마련하고 장려해야 한다. 또 로봇에 대한 안전교육, 사용법 교육, 윤리교육이 사회구성원에게 이뤄져야 한다. 이와함께 로봇의 설계, 제작, 공급, 사용, 관리, 폐기 또는 재활용 과정에서 사회안정, 환경과 생태, 기후체계에 미치는 부정적 영향과 피해를 최소화해야 한다. (이번에 새로이 넣은 부분이다.)

◆향후 계획

한 교수는 또 이날 발표 자료를 통해 올해 연구회 연구결과를 발표하면서 이의 공론화를 시작한다고 밝혔다. 이를 위해 미래 핵심 성장동력인 로봇 산업의 윤리를 한 단계 발전시키고 산업 전반으로 인식 개선 및 홍보활동을 위한 로봇윤리연구회를 운영키로 했다. 또 민간 수요를 최대한 반영한 로봇윤리헌장 및 가이드라인 마련을 위한 산학연 전문가로 구성된 분과도 운영한다. 아울러 로봇 윤리헌장(안) 및 분야별 가이드라인 수립을 통해 향후 로봇분야에 있을 다양한 윤리 이슈 연구에도 들어가기로했다.

한 교수는 올해를 로봇 산업 발전과 더불어 로봇과 인간의 공존을 위한 로봇 윤리 필요성이 증가한 해로 평가했다. 즉, 다양한 로봇 윤리 이슈 선제적 대응을 위한 전문가 의견 수렴 및 소통활동 지속 추진이 필요해졌고, 국내 로봇산업 경쟁력 및 신 비즈니스 모델 개발 시 윤리적 이슈 해소를 위한 로봇 윤리 가이드라인이 필요해졌으며, 로봇 제품-서비스 개발 활용시 필요한 윤리적 고려 항목 제시와 더불어 자가 점검 방안을 지속할 연구가 더욱 더 필요해졌다는 것이다.

내년 과제와 계획으로는 ▲로봇 윤리 관련 인식 제고 ▲로봇 윤리 관련 선제적 이슈 대응 및 연구 ▲로봇윤리헌장 및 분야별 가이드라인 수립을 위한 연구 지속을 꼽았다.