오픈AI가 브로드컴과 손잡고 자체 개발한 차세대 인공지능 칩 '할라페뇨'를 연내 실제 모델 구동에 투입할 계획이라고 밝혔습니다.
오픈AI 하드웨어 총괄은 할라페뇨가 전력당 처리량과 응답 속도 두 가지 핵심 지표에서 엔비디아의 최고 성능 칩을 앞질렀다고 강조했습니다.
이번에 공개된 신형 칩은 이미 학습을 마친 모델이 사용자의 요청에 응답하고 작업을 처리하는 '추론' 단계에 특화되어 설계되었습니다.
특히 IT 전문매체 세미애널리시스는 할라페뇨가 패키지당 15.4TB/s 대역폭의 HBM4 메모리를 탑재했으며, 그 공급업체가 삼성전자인 것으로 추정된다고 보도했습니다.
YTN 권영희 (kwonyh@ytn.co.kr)
[저작권자(c) YTN science 무단전재, 재배포 및 AI 데이터 활용 금지]