IBM이 인공지능의 편견을 방지하는 툴을 개발했다.

포춘지에 따르면 IBM은 인공지능 기술이 기업의 의도와는 달리 여성과 소수 민족 등의 특정 집단을 차별할 가능성이 있다고 보고 이를 줄이는데 도움을 주는 툴을 개발했다. IBM 왓슨의 CFO이자 수석 아키텍트인 루치르 푸리(Ruchir Puri)는 “이 도구는 특정 사람에게 대출을 거부할 때처럼 인공지능 소프트웨어가 의도하지 않은 편견을 가지고 있는지를 검사할 수 있다”고 설명했다.

요즘의 기술 산업은 사진에서 이미지를 자동으로 인식하거나 언어 번역 소프트웨어의 역량을 높이는 머신러닝 시스템의 편견 문제에 점점 더 적극적으로 대처하고 있다. 몇몇 기업들이 백인 사용자와 소수 그룹에서 동일하게 기술이 작동하지 않을 때 많은 사회적 비난에 직면하면서 학습 효과가 생긴 것이다. 연구자들은 마이크로소프트와 IBM의 안면인식 기술이 어두운 피부의 여성보다 밝은 피부의 남성 얼굴을 더 정확하게 식별할 수 있다는 사실을 발견했다. 두 회사는 이후 기술을 향상시키고 오류율을 감소시킨 것으로 알려진다.

연구자들은 이 중 일부 문제는 다양한 이미지가 없는 데이터 세트의 사용과 관련이 있을 수 있다고 지적했다. 중국 인공지능 기업 메그비(Megvii)와 함께 마이크로소프트와 IBM의 안면인식 기술을 조사했던 MIT 연구원 조이 부올람위니(Joy Buolamwini)는 개발팀 내 다양성 부족도 인공지능 편향에 기여할 수 있다고 전했다.

IBM 외에도 많은 회사가 인공지능 기술을 테스트하기 위한 도구를 도입하거나 출시할 계획이다. 구글이 최근 비슷한 도구를 발표했고 마이크로소프트는 지난 5월 유사한 기술을 미래에 출시할 계획이라고 밝혔다.

데이터 분석 스타트업인 다이브플랜(Diveplan)은 최근 포춘의 브레인스톰 테크 컨퍼런스에서 올해 말에 인공지능 감사 도구를 출시할 것이라고 발표했으며 컨설팅 업체 액센추어도 인공지능 공정성 도구를 공개한 바 있다.