▲ 하버드대 라타냐 스위니 교수

미 하버드대 컴퓨터 과학자인 ‘라타냐 스위니(Latanya Sweeney)’ 교수는 몇년전 한 저널리스트와 사무실에서 얘기를 나누던 중 불쾌한 경험을 했다. 구글 검색 엔진에서 자신의 이름을 쳤는데 검색 페이지에 이상한 광고가 떴다. 구글 애드 광고인데, 자신의 이름이 구속자로 나오는 서비스에 관한 광고였다. 저널리스트가 구속 사실에 관해 얘기해달라고 했는데 그녀는 정작 한번도 구속된 적이 없었다.

불쾌한 경험을 한후 그녀는 왜 이런 현상이 일어났는지를 연구했다. 구글과 로이터 사이트에 2000명의 실명을 넣고 검색한 결과 인종적인 특성에 따라 나오는 광고가 다르다는 사실을 발견했다. 지난 2013년 발표한 그녀의 연구에 따르면 아프리카-미국인의 이름은 25% 정도가 구속과 관련되어 있었다. 그녀의 연구 이후 구글 광고에는 더 이상 그러한 결과들이 나오지 않는다.

하지만 인공지능이 성차별주의자나 인종주의자가 될 가능성이 있다는 경고는 끊이지않고 나오고 있다. 프린스턴대학 ‘애일린 칼리스칸(Aylin Caliskan)’ 등 과학자들이 최근 ‘사이언스’에 기고한 연구에 따르면 인공지능 알고리즘은 로봇을 성차별주의자나 인종주의자로 만들 가능성이 있는 것으로 나타났다. 이는 사람들이 사용하는 말에 이미 편견이 내재되어 있는데 인공 지능 로봇이 이를 거르지않고 학습하는데 따른 것이다.

▲ 작년초 인종주의적 논란을 불러일으켰던 MS의 챗봇 '테이'

프린스턴대 연구자들은 컴퓨터가 사람의 언어를 번역하는 알고리즘에 주목했다. 이들은 2개의 가장 대중적인 ‘워드-임베더(word embedders)’ 알고리즘에 주목했다. 연구자들은 로봇에게 상이한 영어 단어의 데이터세트를 훈련시켰다. 이 데이터세트는 웹에서 수집한 8천400억개의 단어와 구글 뉴스 데이터베이스에서 수집한 1천억개의 단어를 포함하고 있다.

연구 결과 로봇은 사람이 단어에 대해 갖고 있는 편견을 그대로 학습했다. 예를 들어 꽃과 악기는 총이나 벌레보다 좋은 것으로 인식됐다. 연구팀은 숨어 있는 편견을 찾아내기 위해 심리적인 테스를 적용했다.

연구자들은 사람의 이름에도 인종적인 편견이 있다는 것을 확인했다. 아담, 폴, 아만다, 메간 등 유럽계 미국인의 이름은 즐겁다, 기쁘다 등 좋은 단어와 연관되어 있고, 아프리카계 미국인들의 이름은 남용, 살인 등 단어와 관련이 깊었다. 또 에이미, 리사, 앤 등은 ‘가정,’‘아이’.‘결혼’ 등과 관련이 많았고 폴, 마이크 등 이름은 월급, 관리, 전문가 등이란 단어와 관련이 깊었다. 남성적인 기술어(형제,아버지,아들)는 과학, 화학, NASA 등 용어와 많이 연결이 되었고 여성적인 기술어(어머니,자매,이모)는 시, 예술, 드라마 등과 관련이 많았다.

사실 인공지능 알고리즘의 편견은 여러 연구에서 확인되고 있다. 블룸버그 보도에 따르면 지난해 아마존이 당일 배송 서비스를 주요 시장에 도입했는데 흑인들이 우세한 지역은 이 서비스에서 배제되는 경우가 많았다. 인공지능 번역기도 성적인 편견을 드러낼 가능성이 있다. 성별을 지칭하는 대명사가 없는 터키어를 영어로 번역하는 과정에선 의사는 남성 대명사로, 간호원은 여성 대명사로 번역할 수 있다.