로봇신문사
> 뉴스 > 인공지능
챗봇 심심이, "AI 윤리문제 해결 노력"악성 글, 악플 탐지 솔루션
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2021.02.26  13:43:03
트위터 페이스북 구글+ 밴드
▲ 심심이 최정회 대표

인공지능(AI) 감성대화 챗봇 ‘심심이’가 최근 수면 위로 떠오른 AI 챗봇 악용 및 윤리적 문제라는 시행착오에 적절히 대처하며 발전 중인 것으로 평가받고 있다. 이는 ‘심심이’가 탑재하고 있는 악성 글, 악플 탐지 솔루션 덕분이다.

심심이는 지난 2002년 서비스를 개시한 세계 최초의 대중적인 일상대화 챗봇이다. 스마트폰이 시장에 등장하기도 전, 독보적인 다양성과 재미, 생동감을 가진 일상대화 챗봇으로서 대중에게 널리 이용돼 왔다. 현재는 81개 언어로 서비스를 제공 중이며, 하루 2억 회 이상의 응답 기록을 보유하고 있다.

이와 같은 심심이는 최근 문제가 되고 있는 AI 챗봇의 윤리적 이슈에 대해 그 이전부터 지속적으로 연구를 진행해왔다. 심심이는 만 14세 미만은 사용할 수 없으며, 성행위나 폭력, 위협, 인종과 피부색, 성 취향 등 특정 집단에 증오심을 조장하는 콘텐츠를 금지한다는 정책을 명확히 하고 있다.

특히 '나쁜말 미션'을 통해 나쁜말 판별기를 개선하는 기능, 괴롭힘을 미리 차단하는 기능 등이 추가되는 등 사용자들의 비윤리적인 AI 악용 행위를 차단하고 있다. 이는 심심이가 지난 2019년 말 정식 출시한 문장 분류 솔루션 ‘DBSC’(Deep Bad Sentence Classifier) 덕분에 가능한 결과다.

DBSC는 자체 연구개발 노하우를 바탕으로 악플을 99% 이상 실시간 탐지할 수 있는 문장 분류 솔루션이다. 악플 아닌 댓글을 과도하게 필터링하지 않으면서도, 금지 키워드를 피해 문장을 교묘하게 변형한 악플, 은유적인 악성 표현들을 집어낸다.

심심이에 따르면, DBSC의 딥러닝 모델 정확도는 99% 이상이다. 또 머신러닝의 성능 지표중 하나인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도와 재현율을 자랑하고 있다. 이외에도 2021년 2월 기준 2700만 명 이상의 패널이 작성한 약 1억 4천만 쌍의 일상대화 전용 대화세트를 통해 대화의 질을 높이는 등 지속적인 연구를 진행 중이다.

심심이 최정회 대표는 “AI로 대표되는 4차 산업혁명 시대에는 AI 윤리 문제도 매우 심도 있게 다뤄져야 한다. 이미 심심이도 과거 악플이나 성희롱, 놀림 등에 시달린 바 있으나, 이를 넘어서기 위해 지속적인 연구 개발로 DBSC 솔루션을 탄생시킨 것”이라고 밝혔다. 이어 “2021년 3월 기준 전 세계 누적 사용자 4억 명 이상인 ‘심심이’가 앞으로도 꾸준히 대중과 함께하기 위해서는 이러한 부분에 대한 지속적인 대응이 필요하다”면서 “이를 바탕으로 AI윤리 문제에 모범적으로 대처해나가는 인공지능 챗봇 서비스를 선도해나갈 것”이라고 덧붙였다.

박경일  robot@irobotnews.com
박경일의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 구글+ 밴드 뒤로가기 위로가기
인기기사
1
㈜구름네트웍스(Gurum Networks)
2
드론 상품배송 시장, 2030년 390억 달러 규모로 성장
3
전남대 로봇연구소, 생체 소재 기반 인공근육 개발
4
포티투닷, 도심형 로보택시 서비스 시연
5
산업통상자원부 장관에 문승욱 국무 2차장 내정
6
한국기계연구원, 의복형 웨어러블 로봇 기술 개발
7
디스이즈엔지니어링, 'GTC 2021'서 ‘완전 자율주행 드론’ 발표
8
일본 히타치, 로봇 비전 전문기업 '교토 로보틱스' 인수
9
손웅희 한국로봇산업진흥원 원장 취임 인터뷰
10
[IP DAILY] 지식재산 침해 vs. 보호, ‘뭐가 중한디?’
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
로봇신문 소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책    *국제표준간행물번호 ISSN 2636-0381 *본지는 인터넷신문위원회 자율심의 준수 서약사입니다
08298) 서울 구로구 공원로 41(구로동, 현대파크빌 427호)  |  대표전화 : 02)867-6200  |  팩스 : 02)867-6203
등록번호 : 서울 아 02659  |  등록일자 : 2013.5.21  |  발행인·편집인 : 조규남  |  청소년보호책임자 : 박경일
Copyright © 2013 로봇신문사. All rights reserved. mail to editor@irobotnews.com