중국에서 인공지능(AI)과 로봇의 윤리 문제를 중점적으로 연구하는 허브가 출범했다.

중국 과기일보(科技日报)에 따르면 인공지능 발전 과정에서 나타나는 기술의 위험성과 윤리적 문제에 대응하기 위해 ‘베이징즈위안(智源)인공지능연구원’이 베이징에 '인공지능 윤리 및 안전 연구센터'를 설립했다. 인공지능 윤리와 안전 연구에 주력할 이 센터는 산업의 건전한 발전을 리드할 계획이다. 중국과학원자동화연구소 청이(曾毅) 연구원이 연구센터 주임을 맡았다.

이 연구센터는 인공지능 윤리와 안전에 대한 이론을 탐색하고 알고리즘 모형, 시스템 플랫폼, 산업 애플리케이션 등 연구를 진행하게 된다.

주로 4가지 방면에 주력한다. 첫번째는 머신러닝 모형과 플랫폼 구축의 위험성을 낮추고 머신러닝 모형 안전성에 대한 평가 체계를 만드는 것이다.

두번째는 인류 윤리 도덕에 부합하는 스마트 자기학습 모형 연구를 진행하는 것이다. 이를 통해 인공지능 행위와 인류의 가치관을 비교하고, 시뮬레이션 환경과 실제 환경에 대한 검증도 이뤄진다.

세번째는 데이터 안전 시범 애플리케이션 시스템을 구축하는 것이다. 데이터 인프라를 만들고 데이터 등급을 나누면서 제어하고 감시할 수 있는 체계다. 데이터 유출을 방지하면서 리스크를 막을 수 있게 한다.

네번째는 인공지능 리스크와 안전 종합 샌드박스 플랫폼 조성이다. 자동으로 검측할 수 있는 플랫폼을 만들고 데이터와 알고리즘의 안전성, 공정성, 추적 가능성, 리스크 유형을 분석할 수 있다. 영향도와 영향 범위도 파악할 수 있다. 이를 통해 인공지능 상품과 애플리케이션에 대한 위험성과 안전을 종합적으로 평가할 수 있다. (제휴=중국로봇망)