칩 위에 메모리 통째로 얹었다...삼성전자 'zHBM' 승부수

삼성전자가 본격적인 인공지능 에이전트 시대를 맞아 AI 가속기 위에 메모리 반도체를 3차원으로 직접 얹는 차세대 'zHBM' 기술 비전을 전격 공개했습니다.

현지시간 16일 미국에서 열린 AI 인프라 서밋에서 삼성전자는 현재 초당 100토큰 수준인 대화형 AI의 응답 속도를 10배인 1천 토큰으로 끌어올리겠다는 목표를 제시했습니다.

이를 위해 가속기와 메모리를 나란히 배치하던 기존 방식을 벗어나 칩을 수직으로 쌓아 올려 데이터 이동 거리를 획기적으로 줄여 향후 HBM5 대비 최대 8배의 성능과 3배의 전력 효율을 내겠다고 설명했습니다.


YTN 권영희 (kwonyh@ytn.co.kr)