국내 연구진이 챗GPT에 핵심으로 사용되는 거대 언어 모델의 추론 연산을 효율적으로 가속하는 인공지능 반도체를 개발했습니다.
KAIST 김주영 교수팀은 메모리 대역폭 사용을 극대화해 추론에 필요한 모든 연산을 고속으로 수행할 수 있는 인공지능 반도체 'LPU'를 개발했다고 밝혔습니다.
연구팀은 개발한 반도체 기반의 서버는 현재 업계 최고 성능을 가진 고성능 GPU보다 성능은 최대 50%, 가격 대비 성능은 2.4배 높다고 설명했습니다.
YTN 사이언스 양훼영 (hwe@ytn.co.kr)
[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]