▲ '인과관계와 기반에 공정한 인공지능' 주제로 초청강연하고 있는 유창동 KAIST교수

23일 여수 소노캄에서 개막한 ‘2021 제어·로봇·시스템학회 학술대회(ICROS 2021)’에선 KAIST 유창동 교수가 ”인간관계 기반에 공정한 인공지능 및 딥러닝 강화학습하는 로봇‘을 주제로 초청강연을 했다. 유교수는 인공지능 연구자가 앞으로 해결해야할 과제로 인과관계와 공정성 문제를 거론했다.

유 교수는 인류는 사람처럼 사고할 수 있는 기계를 꿈꿔왔고 이를 실현하기 위해 1950년대 중반에 인공지능이라는 분야를 만들었다고 말했다. "최근 10년 동안 인공지능 분야에서 많은 발전이 있었으며, 이제는 인공지능이 4차산업 혁명을 견인하고 있고 단순한 도움이 역할을 뛰어넘어서 사람을 평가하는 역할도 하고 있다"고 지적했다.

하지만 유 교수는 "인공지능의 동작원리를 잘 이해 못하고 사용하는 경우가 많아지고 있으며 인공지능이 공정하지 못하고 인과관계를 따지지 못하는 판단을 할 경우 사람이 직접적으로 피해를 볼 수 있다"고 강조했다. 또 "현재 인공지능을 연구, 그리고 활용하는 커뮤니티에서는 공정성과 인과관계 기반의 인공지능을 가장 중요한 과제 중에 하나로 삼고 있다"고 지적했다.

이날 초청 강연에서 먼저 유교수는 먼저 인공지능이 활용되고 있는 다양한 분야를 소개했다. 인공지능 비서, 자율주행, 전문가 시스템, 건강관리, 결정시스템, 신용평가 등이 대표적이다. 구체적으로 자율주행 분야의 ‘이미지 세그멘테이션’, 비디오 튜어링 테스트, 비디오 기반 대화시스템, 적대적 신경망 기반의 인공지능이 만들어낸 사진, 얼굴연산(DCGAN) 등 기술을 소개했다. 또 인류가 역사적으로 축적한 수많은 문헌들을 이해할 수 있는 인공지능 모델을 비롯해 오픈AI의 GPT와 BART,TS 등 인공지능 기술을 소개했다.

유 교수에 따르면 과거에는 '룰 베이스(rule base)' 기반으로 인공지능 연구가 이뤄졌으나 지금은 데이터 중심으로 변화했다고 설명했다. 지식이 데이터 기반으로 전환되면서 인공지능이 만든 이미지가 과거 애니메이션 수준이었다면 지금은 실제와 유사한 이미지를 만드는 게 가능해졌다고 설명했다.

유 교수는 딥러닝 기술이 도입되면서 축적된 데이터가 많아질수록 인공지능의 성능이 개선되고 있으며 필요한 부분의 데이터만 집중적으로 학습하는 것도 가능해졌다고 했다.

그러나 유 교수는 인공지능이 사람을 능가하는 계산능력을 갖게 됐지만 효율성은 떨어지는 문제점이 있다고 지적했다. 대표적으로 기계가 사람보다 좋은 판단과 기억력을 갖고 있으나 전력 사용량은 엄청나게 많이 든다는 설명이다.

또한 현재의 심층신경망 기술은 약간의 작업만 하면 인공지능을 바보로 만들 수 있다며 "약한 인공지능(특정 작업을 상관관계에 의존해 반복적으로 하는 인공지능)"에서 인과관계 기반의 "강한 인공지능"으로 발전해야한다고 했다. 가령 버스 사진에 약간의 변형을 가하면 인공지능이 버스를 제대로 인식하지못한다는 것.

유 교수는 인공지능 기술의 발전에도 "아직은 걸음마 단계에 있다"며 "사람처럼 인과관계를 따지지못하는 것"을 문제점으로 꼽았다. 현재의 인공지능은 '상관관계'를 기반으로 학습하지만 앞으로는 '인과관계'를 학습할 수 있도록 변화되어야한다고 강조했다. 인과관계 기반의 인공지능은 예측의 강인성을 확보할 수 있고 반사실적 상황에 대한 예측이 가능하단 설명이다. 또 강한 인공지능은 인간의 행동의 원인을 분석하고 지적 사고구조를 이해할 수 있으며 인간의 지적 능력을 뛰어넘을 수 있는 가능성이 있다는 설명이다.

유 교수는 현재의 인공지능에 편파적인 판단이나 편향성의 문제가 있다며 어떻게 공정성을 확보할 것인지가 연구자에게 중요해지고 있다고 셜명했다. 편향성 제거, 편향성 완화 알고리즘, 공정한 데이터 확보 등이 필요하다는 지적이다.

유 교수는 로봇이 익숙하지 않은 환경에서 운영을 하기위해 딥러닝 기반의 강화학습(DRL)이 연구되고 있다고 소개했다. 다만 심층 강화학습의 적용에도 불구하고 아직은 샘플 데이터의 비효율성, 시뮬레이션 환경과 실제 환경의 불일치 등 문제가 있다고 강조했다. 이를 극복하기위해 메타 러닝, 콘스트라티브 러닝(Contrastive learning) 등에 관한 연구가 이뤄지고 있다고 소개했다.