로봇신문사
> 뉴스 > 인공지능
KAIST, 챗GPT 핵심 AI 반도체 개발전기및전자공학부 김주영 교수팀, 국제반도체설계자동화학회 최고 발표상 수상
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
승인 2023.08.04  09:42:34
트위터 페이스북 구글+ 밴드
▲ 연구팀이 개발한 LPU와 가속 어플라이언스

KAIST 전기및전자공학부 김주영 교수 연구팀이 챗GPT에 핵심으로 사용되는 거대 언어 모델의 추론 연산을 효율적으로 가속하는 AI 반도체를 개발했다고 4일 밝혔다.

연구팀이 개발한 AI 반도체 ‘LPU(Latency Processing Unit)’는 거대 언어 모델의 추론 연산을 효율적으로 가속한다. 메모리 대역폭 사용을 극대화하고 추론에 필요한 모든 연산을 고속으로 수행 가능한 연산 엔진을 갖춘 AI 반도체이며, 자체 네트워킹을 내장하여 다수개 가속기로 확장이 용이하다. 이 LPU 기반의 가속 어플라이언스 서버는 업계 최고의 고성능 GPU인 엔비디아 A100 기반 슈퍼컴퓨터보다 성능은 최대 50%, 가격 대비 성능은 2.4배가량 높였다. 이는 최근 급격하게 생성형 AI 서비스 수요가 증가하고 있는 데이터센터의에서 고성능 GPU를 대체할 수 있을 것으로 기대한다.

▲ LPU를 통한 거대 언어 모델의 연산 방식
▲ 연구팀이 개발한 LPU의 구조 개요

이번 연구는 김주영 교수의 창업기업인 ㈜하이퍼엑셀에서 수행했으며 지난 7월 12일(현지 시각) 샌프란시스코에서 진행된 국제반도체설계자동화학회(Design Automation Conference, 이하 DAC)에서 공학 부문 최고 발표상(Engineering Best Presentation Award)을 수상했다.

▲ DAC 학회에서 문승재(박사과정)가 수상하는 모습

DAC는 국제 반도체 설계 분야의 대표 학회이며, 특히 전자 설계 자동화(Electronic Design Automation, EDA)와 반도체 설계자산(Semiconductor Intellectual Property, IP) 기술 관련하여 세계적인 반도체 설계 기술을 선보이는 학회다. DAC에는 인텔, 엔비디아, AMD, 구글, 마이크로소프트, 삼성, TSMC 등 세계적인 반도체 설계 기업이 참가하며, 하버드대학교, MIT, 스탠퍼드대학교 등 세계 최고의 대학도 많이 참가한다.

세계적인 반도체 기술들 사이에서 김 교수팀이 거대 언어 모델을 위한 AI 반도체 기술로 유일하게 수상한 것은 매우 의미가 크다. 이번 수상으로 거대 언어 모델의 추론에 필요한 막대한 비용을 획기적으로 절감할 수 있는 AI 반도체 솔루션으로 세계 무대에서 인정받은 것이다.

KAIST 김주영 교수는 “미래 거대 인공지능 연산을 위한 새로운 프로세서 ‘LPU’로 글로벌 시장을 개척하고, 빅테크 기업들의 기술력보다 우위를 선점하겠다”라며 큰 포부를 밝혔다.

박경일  robot@irobotnews.com
이 기사에 대한 댓글 이야기 (0)
자동등록방지용 코드를 입력하세요!   
확인
- 200자까지 쓰실 수 있습니다. (현재 0 byte / 최대 400byte)
- 욕설등 인신공격성 글은 삭제 합니다. [운영원칙]
이 기사에 대한 댓글 이야기 (0)
박경일의 다른기사 보기  
폰트키우기 폰트줄이기 프린트하기 메일보내기 신고하기
트위터 페이스북 구글+ 밴드 뒤로가기 위로가기
인기기사
1
일본 '2023 국제로봇전', 29일 개막...역대 최대 규모
2
中 국유기업 CETC도 휴머노이드 로봇 공개
3
레나투스 로보틱스, '2023 국제로봇전'에 자동창고시스템 출품
4
쿤텍-KISA, 프라이빗 5G 클라우드 기반 로봇 응용 프로그램 보호 서비스 개발
5
KAIST-구글딥마인드, 시각 개념 이해하는 인공지능 구현
6
일본 미쓰비시전기, 산업용 로봇 신제품 출품
7
2023 로보컵 아시아태평양대회, 12월 6일 평창에서 개막
8
항공안전기술원, '2023 K-드론시스템 실증시연'
9
KAIST, '인공지능반도체대학원' 개원
10
대전 로봇기업들, '2023 국제로봇전'에 공동관 구성
로봇신문 소개기사제보광고문의불편신고개인정보취급방침이메일무단수집거부청소년보호정책    *국제표준간행물번호 ISSN 2636-0381 *본지는 인터넷신문위원회 자율심의 준수 서약사입니다
08298) 서울 구로구 공원로 41(구로동, 현대파크빌 526호)  |  대표전화 : 02)867-6200  |  팩스 : 02)867-6203
등록번호 : 서울 아 02659  |  등록일자 : 2013.5.21  |  발행인·편집인 : 조규남  |  청소년보호책임자 : 박경일
Copyright © 2013 로봇신문사. All rights reserved. mail to editor@irobotnews.com