▲‘인간과 로봇의 더 나은 미래를 위한 윤리적 방안’을 주제로 열린 토크쇼 모습. 사진 왼쪽부터 패널로 참가한 채은선 한국지능정보사회진흥원 수석, 조영훈 한국로봇산업협회 부회장, 좌장을 맡은 서울교대 변순용 교수, 이종영 중앙대 명예교수, 김선희 법무법인 율촌 변호사, 김진효 도구공간 대표

2023 로봇비즈니스 페어-‘첨단 로봇 시대의 과제, 로봇윤리’ 컨퍼런스에선 서울교육대 변순용 교수가 좌장을 맡아 ‘인간과 로봇의 더 나은 미래를 위한 윤리적 방안’을 주제로 토크쇼를 가졌다.

이번 토크쇼에는 이종영 중앙대 명예교수, 채은선 한국지능정보사회진흥원 수석, 조영훈 한국로봇산업협회 부회장, 김선희 법무법인 율촌 변호사, 김진효 도구공간 대표가 패널로 참여해 열띤 토론을 벌였다. 본격 토론에 앞서 패널 참석자들은 5분 정도 발제를 하고, 좌장이 제시한 주제에 맞춰 자신들의 의견을 밝혔다.

<발제 부분>

▲ 중앙대학교 이종영 명예교수가 로봇윤리와 법적규제방향에 대해 발표를 하고 있다

이종영 중앙대 명예 교수는 왜 다른 기술은 그렇지 않은데, 유독 로봇에게는 윤리 문제가 부각되고 있는가에 대한 의문을 제기했다. 특히 로봇 설계자가 의도하지 않은 방향으로 로봇기술이 발전해 인간에 피해를 줄 수 있다며 대응책을 마련해야 한다고 지적했다. 이 교수는 기술은 역사적으로 인간의 번영에 기여해왔으며, 인간이 내재적으로 갖고 폭력성을 인식할 필요성이 있으며 로봇 교육의 필요성이 높아지고 있다고 강조했다.

▲ 한국지능화정보사회진흥원 채은선 수석이 왜 '윤리'인가?에 대해 발표를 하고 있다

채은선 한국지능정보사회진흥원 수석은 “왜 로봇윤리를 만들어야 하는가”라는 화두를 꺼냈다. 채 수석은 윤리는 준수해야 하는 규범 형태 중 하나지만 법보다는 소프트한 것을 의미하고 결국 자율적인 이행을 이끌어낼 수 있는 수단이라고 말했다. 또한 법과 윤리의 관계에 관해선 윤리가 법을 대체하는 것이 아니라 법을 보완하는 중요한 수단이라고 지적했다. 인공지능은 소프트웨어로 정의하는데 물리적인 형태가 덧붙여져 로봇이 된다며 그런 측면에서 안전성이 중요하다고 강조했다. 사람과 유사한 동작을 수행하고, 유사한 모습을 하고 있는 게 바로 로봇인데 로봇과 사람간 상호작용을 담은 것이 바로 윤리가 되어야 한다는 것이다.

▲ 한국로봇산업협회 조영훈 부회장이 인간과 로봇의 더 나은 미래를 위한 윤리적 방안에 대한 의견에 대해 발표를 하고 있다

조영훈 한국로봇산업협회 부회장은 로봇윤리에 대한 현황 조사가 없고, 중소기업들의 로봇윤리에 대한 관심이 높지 않다고 진단했다. 아울러 로봇윤리가 기업경영에 부정적인 영향을 미칠 수 있다는 점을 우려했다. 따라서 로봇 윤리 논의 과정에서 인식조사가 선행되어야 하며, 로봇 윤리가 과도한 제한으로 작용하지 않도록 민간과 공존할 수 있는 가이드라인이 필요하다고 역설했다. 이를 통해 자율 규제가 만들어지고, 세련되게 성장할 수 있는 방안을 강구해야 한다는 것이다.

▲ 법무법인 율촌 김선희 변호사가 로봇 윤리 원칙을 위해 고려할 사항들에 대해 발표를 하고 있다

김선희 법무법인 율촌 변호사는 법률 전문가 측면에서 왜 로봇 윤리가 중요한지 살펴봤다며 인공지능 로봇이 IoT나 TV와 무엇이 다른가라는 문제를 제기했다. 근본적인 차이점은 로봇에게는 자율성이 있다는 것라고 지적했다. 그런데 사고가 발생하면 책임성의 문제가 생긴다. 예를 들어 자율주행자동차가 사람에게 상해를 입혔을 경우 로봇이 잘못했다고 볼 수 없다는 것이다. 로봇기술이 발전하고 있지만 법이 따라가지 못하고 있는데, 로봇 윤리가 이 부분을 충족해 줄 수 있다고 본다. 법이 기술을 따라가지 못하는 상황에서 로봇윤리는 사회적인 컨센스와 표준을 만드는 과정의 시작점에 있다고 볼 수 있다는 설명이다.

▲ 도구공간 김진효 대표가 자율주행 순찰로봇에 대해 발표를 하고 있다

김진효 도구공간 대표는 개정된 지능형 로봇법에서 안전 인증 기준이 도입됐는데, 최근 이를 반영하기 위해 노력하고 있다며, 앞으로 윤리 가이드라인을 만들어가는 노력도 병행할 것이라고 강조했다. 김 대표는 특히 글로벌 로봇기업들이 선언한 것처럼, 국내 로봇산업계에서도 로봇 윤리 관련 의식, 방향성 등을 공유하고 선언하는 무브먼트를 제안한다고 말했다.

패널 참석자들의 발제에 이어 본격적인 토론이 이어졌다. 주요 토론 내용을 소개한다.

좌장(변순용 교수)

▲ 토크쇼 좌장을 맡은 서울교육대학교 변순용 교수

내년에 생성형 인공지능 노트북이 나온다고 한다. 이를 채택한 로봇도 조만간 나올 것이다. '세탁기 윤리'가 필요하단 얘기는 없는데 로봇은 왜 굳이 로봇윤리가 필요한가라는 물음들이 제기되고 있다. 지능형 로봇, 생성형 로봇시대에 가장 중요한 윤리적인 이슈는 무엇이라고 생각하는가?

김진효 도구공간 대표

▲ 도구공간 김진효 대표

로봇 비즈니스를 직접 하는 입장에서 조금 다른 관점을 말씀드리고자 한다. 로봇을 기획, 제작, 사용하는 각각의 주체들이 있는데 로봇을 만나는 일반 시민들과 대중들 측면을 강조하고 싶다. 시민과 대중들도 로봇윤리를 가져야 한다. 호기심 때문에 로봇을 가로막거나 부수거나 해킹하는 것은 문제다. 인간-로봇 공존시대에 맞는 시민의식과 윤리의식이 필요하다.

조영훈 한국로봇삽업협회 부회장

▲ 한국로봇산업협회 조영훈 부회장

로봇윤리는 산업계 입장에선 규제로 작용할 가능성이 있다. 로봇윤리가 규제가 되지 않도록, 규제가 되지 않는 범위 내에서 현재 나와 있는 가이드라인을 산업에 맞도록 체계화하는 과정이 있어야한다. 자율규제를 통해 산업 현장과 일상 현장에서 봉착하는 문제를 최소화하는 게 중요한데 사업자들과 함께 고민해야 한다.

이종영 중앙대 명예교수

▲ 중앙대학교 이종영 명예교수

로봇은 계속 진화한다. 앞으로는 생성형 로봇에 대한 윤리가 중요해진다. 생성형 인공지능은 개발자가 통제할 수 없다는 문제가 있다. 통제하지 못하는데 어떻게 윤리를 요구할 수 있을까. 책임지지 못하는 부분은 더 이상 얘기하지 말라고 주장할 수도 있다. 심지어 생성형 지능 기술을 더 이상 개발하지 말라는 요구도 할 수 있다. 하지만 기술의 리스크가 높을수록 혜택도 크다. 기존의 윤리 문제로 생성형 인공지능 로봇 문제를 볼 수는 없다는 점을 숙고해야 한다. 생성형 인공지능 로봇의 경우에는 우리가 기존에 갖고 있는 윤리의 틀에서 문제를 보지 말아야 한다.

채은선 한국지능정보사회진흥원 수석

▲ 한국지능정보사회진흥원 채은선 수석

생성형 인공지능의 적용과 관련해 최근 굉장히 많은 문서가 나오고 있는데, 안전성, 보안성, 신뢰성 등 3가지가 가장 중요하게 다뤄지고 있다. 이 가운데 로봇의 작동 측면에서 보면 안전성이 현 시점에서 가장 강조되어야 한다.

김선희 법무법인 율촌 변호사

▲ 법무법인 율촌 김선희 변호사

저도 안전성이 가장 중요한 문제라고 생각하는데, 다만 법적으로 어느 정도 지금도 가능하지 않을까 생각한다. 지금 가장 문제되는 부분은 투명성을 어떻게 갖춰야 할 것인가 라는 부분인 것 같다. 기술이 엄청난 속도로 발전을 하고 있어 정책과 법이 기술을 따라가지 못하고 있고, 윤리 문제는 정답이 없는 부분이 많다.

인공지능 로봇이 사전에 학습된 데이터와 만들어진 알고리즘을 기준으로 사전에 프로그래밍된 방법으로 뭔가 결정을 내렸을 때 과연 어떻게 돼야 되는 것인가 하는 부분에서 답이 없는 경우가 많다. 트롤리 딜레마처럼 정답이 없다. 알고리즘과 데이터에 대해 투명하게 공개하고, 인간이 검증할 수 있는 장치를 만들어야 한다. 어떤 데이터를 학습시켰는지 투명하게 공개하고 문제가 발생했을 때는 인간이 사후에 검증할 수 있도록 하는 시스템을 갖추어야 한다.

좌장 (변순용 서울교대 교수)

생성형 인공지능이 어떤 학습 데이터를 가지고 학습했는지를 제대로 평가할수 있어야 하고 검증 시스템도 만들어야 한다. 과정을 모르더라도 결과를 보고 인공지능이나 로봇을 써도 되는지 아닌지를 결정할 수 있어야 한다. 물론 정답은 없지만 그럼에도 불구하고 답은 있어야 한다. 지금 현재 시점에서 최선의 선택을 하고, 잠재적인 위험성을 인식해야 한다. 두 번째 주제로 넘어가서 로봇윤리 문제에 대해 산업계의 우려와 대처 방안은 무엇인지 듣고 싶다.

조영훈 부회장

로봇윤리는 과도하면 규제가 된다. 로봇 사업자들이 가능하다고 생각하는 정도의 최선의 기준이 된다면 그건 규제가 되지 않을 수 있다. 안전성, 투명성, 신뢰성이 대단히 중요하지만 그 부분들은 기본적으로 비용을 수반한다. 비용을 수반하는 문제가 있기 때문에 어떻게 로봇윤리나 가이드라인을 최소화할 것인가가 중요한 부분이다. 사업자 단체 입장에서 보면 자율 규제도 필요하지만 프로모션이 중요하다. 현재 나온 로봇윤리나 가이드라인에 대해 업계의 의견도 들어봐야 한다. 소비자나 이용자가 문제를 제기하지 않을 정도로, 최소한의 자율 규제를 만들어내는 방법을 고민해야 할 것이다.

김진효 대표

로봇 활용에 대한 이데올로기 또는 프레임도 앞으로는 나올 것이다. 사회문화적인 상황이나, 로봇을 사용하는 분야별 특성들이 나오고, 개별적으로 어떤 윤리가 적용되어야 한다는 것이 나올 수 있다. 로봇 개발의 방법론 내지는 로봇을 개발하는 수단, 형태들도 굉장히 많이 바뀌고 있다. 사용자가 직접 커스터마이징하고, 로봇의 용도를 스스로 정의하는 시대가 오고 있다. 개인이 로봇을 어떻게 사용할지를 결정한다. 따라서 로봇 교육이 더욱더 중요해지고 있다. 로봇 사용에 대한 철학적인 문제도 대두되고 있다. 하나의 프레임워크안에 가두기보다는 자유롭고 투명하게 소통하는 장이 마련되어야 한다.

김선희 변호사

현재는 규제는 아니지만 이제 사회적인 규범이 만들어지는 과정이라고 생각한다. 다른 첨단 기술도 처음에는 규제가 없었다. 5~6년 지나면 규제가 생기는데, 과거 사례를 갖고 조사를 하고 과징금을 때리는 경우가 있다. 컨센서스를 만들어가면서 소통하고 준수를 하면, 사후적으로도 규제가 생겼을 때 스스로를 좀 보호받을 수 있는 방안이 마련될 수 있을 것이다.

이종영 교수

로봇이 다른 분야와 다른 것은, 윤리학자가 주목하고 있는 것 자체가 기존 기술과는 다르다는 것을 의미한다. 예를 들어 실외 이동로봇에 향후 어떤 변화가 생길까. 배달 로봇에 마약이나 총, 칼을 넣을 수도 있다. 이 경우 로봇 설계자에게 마약을 싣지 못하도록 할 것인가? 윤리와 법을 정해 놓고 틀을 만들어 놓으면 기술은 발전하지 못하고 결과적으로는 인간은 더 행복하지 못하게 되는 결과가 초래될 수 있다. 인간과 로봇 공존시대로 가는 마인드를 갖춰야 한다.

채은선

법이 재개정되기 위해선 많은 협의 과정과 시간이 요구된다. 윤리가 법적인 공백을 메꿀 수 있다. 윤리는 특히 경계가 없으며, 자유로운 측면이 있다. 윤리를 통해 행동의 규범을 제시할수 있는 것이다. 새로운 문화의 형성, 그리고 규범 문화를 형성해 나가는 과정에서 법으로 강제할 것을 윤리를 통해 최소화를 할 수 있지 않을까 생각한다.

좌장

로봇 윤리헌장을 세계 최초로 우리나라에서 제일 먼저 만들기 시작했다. 로봇 윤리 논의와 관련해 짧지 않은 역사의 흐름이 있었다. 로봇을 개발하고 사용하고 관리하는 사람들의 윤리에 초점이 맞춰져 있지만 좀 더 업그레이드가 되면 로봇의 윤리헌장으로 갈 수 있지 않을까 기대를 하고 있다. 어떻게 보면 총론에서 개발을 했다면 이제는 각론으로 들어가서 개별 영역별로 윤리 가이드라인을 만들었다는 의미는 굉장히 크다. 로봇 윤리의 역사에서 크게 한 걸음 더 나아갔다. 앞으로 진흥원 등 기관에서 보다 적극적으로 지원해서 보다 활발한 토론의 기회가 만들어지기를 기대한다.