로봇신문사
> 뉴스 > 인공지능
IBM, 인공지능 편견 방지하는 툴 개발인종 차별 등 차별 가능성 줄여
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2018.10.01  11:14:48
트위터 카카오톡 페이스북

IBM이 인공지능의 편견을 방지하는 툴을 개발했다.

포춘지에 따르면 IBM은 인공지능 기술이 기업의 의도와는 달리 여성과 소수 민족 등의 특정 집단을 차별할 가능성이 있다고 보고 이를 줄이는데 도움을 주는 툴을 개발했다. IBM 왓슨의 CFO이자 수석 아키텍트인 루치르 푸리(Ruchir Puri)는 “이 도구는 특정 사람에게 대출을 거부할 때처럼 인공지능 소프트웨어가 의도하지 않은 편견을 가지고 있는지를 검사할 수 있다”고 설명했다.

요즘의 기술 산업은 사진에서 이미지를 자동으로 인식하거나 언어 번역 소프트웨어의 역량을 높이는 머신러닝 시스템의 편견 문제에 점점 더 적극적으로 대처하고 있다. 몇몇 기업들이 백인 사용자와 소수 그룹에서 동일하게 기술이 작동하지 않을 때 많은 사회적 비난에 직면하면서 학습 효과가 생긴 것이다. 연구자들은 마이크로소프트와 IBM의 안면인식 기술이 어두운 피부의 여성보다 밝은 피부의 남성 얼굴을 더 정확하게 식별할 수 있다는 사실을 발견했다. 두 회사는 이후 기술을 향상시키고 오류율을 감소시킨 것으로 알려진다.

연구자들은 이 중 일부 문제는 다양한 이미지가 없는 데이터 세트의 사용과 관련이 있을 수 있다고 지적했다. 중국 인공지능 기업 메그비(Megvii)와 함께 마이크로소프트와 IBM의 안면인식 기술을 조사했던 MIT 연구원 조이 부올람위니(Joy Buolamwini)는 개발팀 내 다양성 부족도 인공지능 편향에 기여할 수 있다고 전했다.

IBM 외에도 많은 회사가 인공지능 기술을 테스트하기 위한 도구를 도입하거나 출시할 계획이다. 구글이 최근 비슷한 도구를 발표했고 마이크로소프트는 지난 5월 유사한 기술을 미래에 출시할 계획이라고 밝혔다.

데이터 분석 스타트업인 다이브플랜(Diveplan)은 최근 포춘의 브레인스톰 테크 컨퍼런스에서 올해 말에 인공지능 감사 도구를 출시할 것이라고 발표했으며 컨설팅 업체 액센추어도 인공지능 공정성 도구를 공개한 바 있다.

조인혜  ihcho@irobotnews.com
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
조인혜의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 구글+ 밴드 뒤로가기 위로가기
인기기사
1
케이알엠, 리트빅과 AI기반 ADAS 글로벌 판권 계약 체결
2
알에스오토메이션, 한국도미노피자와 전략적 제휴
3
플라나, AAM 시험 항공기 경북전문대에 납품
4
한국로봇산업진흥원, 로봇 SI 협력 간담회 및 공급-수요사 매칭 상담회 성료
5
오늘의 로봇기업 주식시세(2024-07-19)
6
고스트로보틱스 테크놀로지, 미국 GRC에 로봇 부품 공급
7
中 몐양 가전 공장에 휴머노이드 로봇 투입
8
‘2024 월드로봇 올림피아드 한국대회’, 다음달 10일 개막
9
美 UC샌디에이고, 2대의 로봇 핸드 원격 조작 시스템 개발
10
中 휴머노이드 로봇 스타트업 유닉스AI, '완다' 발표
로봇신문 소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책    *국제표준간행물번호 ISSN 2636-0381 *본지는 인터넷신문위원회 자율심의 준수 서약사입니다
08298) 서울 구로구 공원로 41(구로동, 현대파크빌 526호)  |  대표전화 : 02)867-6200  |  팩스 : 02)867-6203
등록번호 : 서울 아 02659  |  등록일자 : 2013.5.21  |  발행인·편집인 : 조규남  |  청소년보호책임자 : 박경일
Copyright © 2013 로봇신문사. All rights reserved. mail to editor@irobotnews.com