로봇신문사
> 뉴스 > 인공지능
"성차별적 AI로봇들이 몰려오고 있다"'라이브퍼슨' CEO ‘로버트 로카시오', 포춘에 기고
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2018.05.14  11:19:36
트위터 페이스북 구글+ 밴드

   
 
성차별적인 AI(인공지능) 로봇들이 오고 있다

인공지능과 로봇이 빠르게 확산되고 있지만 대부분의 기계와 서비스들이 성차별주의를 고착화시키고 있다는 지적이 제기됐다.

포춘은 최근 '라이브퍼슨(LivePerson)'의 CEO인 ‘로버트 로카시오(Robert LoCascio)’의 칼럼을 게재하며 성차별적인 AI 로봇에 대한 경각심을 가질 것을 주문했다. 로카시오는 기고에서 “최근 두 살짜리 딸이 아마존의 음성 비서 알렉사와 이야기하는 것을 엿들었는데 아이는 육체가 없는 목소리와 일반적인 인간의 목소리를 구분하지 않는다는 점, 그리고 어떤 사회적 관습에서도 무례한 것으로 간주되는 방식으로 알렉사에게 명령을 내리는 것을 알게 됐다”고 말하며 “알렉사가 내 딸에게 나쁜 본보기를 보이고 있다는 것을 깨달았다”고 말한다.

즉 여성의 목소리를 갖고 있는 이들 인공지능 비서가 지나치게 유순하고 순종적이며 어떤 차별적인 발언을 해도 모두 수긍하는 것처럼 보이기 때문에 여성들은 복종적이며, 무례함을 받아들여야 하고, 집에 있어야 하는 것 등에 대한 성차별 이데올로기를 고착시킬 수 있다는 것이다.

알렉사, 애플 시리, 구글 어시스턴트 및 마이크로소프트의 코타나 등 대표적인 가정용 인공지능 스피커는 현재 모두 여성 음성으로 말한다. 이런 경험은 그로 하여금 미묘한 인공지능 성차별주의에 눈뜨는 계기가 됐으며 앞으로 더 악화될 것이라는 두려움을 갖게도 했다고 밝히고 있다. 다음은 로카시오가 기고한 내용이다.

세계 최대의 기술 플랫폼인 구글, 페이스북, 애플은 올해 소비자와 브랜드 사이에서 문자 메시지를 신속하게 만들어 보내주는 새로운 서비스를 시작했다. 이들 기업이 수백만 개의 메시지를 효율적으로 처리하기 위해서는 인공지능 비서들의 역할이 필요하다. 결과적으로 어시스턴트 봇의 수가 수천 대로 빠르게 증가해 웹사이트, 앱 및 소셜 네트워크에서 수십억 명의 소비자와 소통하게 될 것이다.

대화형 인공지능 기술이 급격히 확산되면서 성차별주의는 아이들을 포함해 우리 주변의 세계로 파고들 수 있다. 반복을 통한 미묘한 강화는 시간이 지남에 따라 문제가 되는 심리적 형태로 나타날 수 있다. 지금은 봇의 활용도가 비교적 낮기 때문에 큰 문제로 보이지 않지만 로봇들이 웹 사이트와 앱을 완전히 대체하기 시작하면 인공지능은 훨씬 더 보편화되고 문제도 더 커진다.

우리가 방향을 전환하지 않는다면 차세대 대화형 인공지능 역시 현재의 성차별적인 알고리즘과 스크립트를 구축한 사람들에 의해 만들어질 것이다. 그리고 문제는 더욱 심각해질 것이다. 인공지능 시스템이 여성을 주방과 비서직으로 분류하고 남성에게는 임원 직책을 부여하도록 설계하는 엔지니어라면 대화식 인공지능에서 자신의 편견을 글로벌화하는 오류를 범하게 되는 것이다.

공통된 실마리는 남자이다. 오늘날의 인공지능은 백인 남성 엔지니어들이 자신들의 우월주의에 도전을 받거나 자신의 업무에서 비롯될지도 모르는 해악을 고려하기에는 너무 서둘러 개발됐다. 1995년부터 기술 회사 CEO로 일하면서 이는 지난 20년간 인터넷, 검색, 소셜 혁명 기간 동안 계속 유지된 패턴이다. 인공지능 혁명은 최근에 시작되었지만 이미 세계 인구의 절반인 여성을 소외시키고 있다. 부끄러운 일이다.

다시 한번 말하지만 기술 산업은 성차별에서 상습범이다. 매출액 기준으로 볼 때 미국의 20대 기술 기업 중에서 18개 기업의 CEO가 남성이다. 페이스북, 구글, 마이크로소프트의 엔지니어 5명 중 1명만이 여성이다. 인공지능 영역에서 보자면 2017년 주요 연례 AI전문가 모임인 NIPS(NenerInformationProcessingSystems)에 참석한 사람 중 83%가 남성이었고, 그 해의 NIPS 논문 작성자도 남자가 90%였다(인공지능 관련 성별 다양성에 관한 일반적인 통계는 아직 제공되지 않고 있다). 만약 여성들이 그 방정식에서 제외된 상태라면 어떻게 지속적이고 광범위한 인공지능 기술을 구축할 수 있을까. 이제 막 시작했지만 벌써부터 여러가지 우려가 많이 나온다. 제대로 확인하지 않으면 결과가 치명적일 수 있다.

대화형 인공지능의 재앙을 피하기 위해서는 컨택 센터 직원들이 코더(coder)와 함께 로봇 개발에 참여하는 것이다. 미국에서 65%의 여성이 종사하고 있는 고객 서비스 담당자는 코드를 작성하는 프로그래머보다 더 다양한 그룹이며 대기업의 평균 여성 엔지니어 수를 훨씬 상회한다.

인공지능 분야의 회사는 균형잡힌 인력을 채용하고 여성 리더와 협력해 남성 편견을 줄이며 여성 중심의 기술 이니셔티브를 만들어내야 한다. 또 봇 구축에 있어 일련의 모범 사례를 개발하고 업계 전반에 걸쳐 확산시켜야 한다. 인공지능은 엄청난 잠재력을 가지고 있지만 그 분야의 현장에서 스스로 책임질 수 있을 때까지는 필요한 관점과 포괄적인 진보를 놓쳐서는 안된다. 다양성은 숨겨진 편견을 복제하고 증폭시키는 것에 대한 최선의 방어책이다. 그것이 없다면 인공지능은 기술 산업의 다음 위기를 초래할 것이다.

조인혜  ihcho@irobotnews.com
조인혜의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 구글+ 밴드 뒤로가기 위로가기
이 기사에 대한 댓글 이야기 (4)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
편협
기술 분야 종사 인원 여성 비중이 20%가 안되서 성차별적 산업이면 그 반대는 남성차별적 산업인가?ㅋ 능력이나 관심도가 떨어지는 사람을 억지로 채용하는게 더 차별이지 원 참ㅋ 그러면서 여성 특권 중심의 기술을 만들어야된다며 대놓고 성차별적 주장을 버젓히 하는 그 이중성의 극치는 어디까지일지ㅋ
(2018-05-16 08:36:21)
편협
게다가 인공지능 알고리즘은 목소리하고는 전혀 상관이 없어 영국은 시리가 남자 목소리로 서비스되고 있는 판에 여자목소리가 주로 쓰인다는 거 만으로 남자엔지니어들이 성차별적 알고리즘 심고 있고 주장해대며 여성 인력을 채용해야 된다고 온갖 견강부회를 일삼으니ㅋ
(2018-05-16 08:35:06)
편협
오히려 인공지능 목소리가 전부 남성이었으면 전문적이고 유능하며 지적인 이미지는 전부 남성들이 독식한다며 남성 엔지니어들이 여성들은 목소리에서조차 철저히 배제하고 있다고 난리법석을 피워댔겠지..ㅋ 정말 그 편협한 무논리, 비논리는 어디까지일지...
(2018-05-16 08:29:45)
편협
얼마나 편협하면 이렇게 피해망상에 그지없는 아전인수와 견강부회의 주장을 버젓히 말해댈 수 있는건지ㅋ 오히려 인공지능이라는 이름하에 전부 여성으로 표현된다면 지능적이고 유능하고 만능적인 이미지가 전부 여성으로 표현되고 있는거고 인간에게 친근하고 조력을 주는 이미지는 전부 여성으로 표현되고 있는거며 남성은 여기서 전부 배제되며 그 반대의 이미지만 뒤집어 쓰고 있는건데?
(2018-05-16 08:26:30)
이 기사에 대한 댓글 이야기 (4)
최근인기기사
1
Shinshinsa’s new growth engine in robots and smart factories
2
신신사, 로봇ㆍ스마트 팩토리로 신성장동력 마련
3
와이랩, 신작 '캉타우' 네이버 웹툰 연재
4
아마존-MS, 인공지능 '알렉사'와 '코타나' 통합한다
5
한국로봇융합연구원
6
중국 식당으로 파고드는 로봇
7
중국, 농업용 로봇 보급 7개년 프로젝트 추진
8
VR 기반 재활과 기능적 전기자극 치료 병행 효과 입증
9
달라스에서 테스트 예정인 이동 배송 로봇 '마블'
10
'카페 X', 1200만 달러 펀딩 성공
로봇신문 소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책    본지는 인터넷신문위원회 자율심의 준수 서약사입니다
08298) 서울 구로구 공원로 41(구로동, 현대파크빌 427호)  |  대표전화 : 02)867-6200  |  팩스 : 02)867-6203
등록번호 : 서울 아 02659  |  등록일자 : 2013.5.21  |  발행인·편집인 : 조규남  |  청소년보호책임자 : 박경일
Copyright © 2013 로봇신문사. All rights reserved. mail to editor@irobotnews.com