"마이크론, 36GB HBM3E 12단 출시…엔비디아 블랙웰 겨냥"

마이크로 HBM3Eⓒ트렌드포스

마이크론이 36GB(기가바이트) HBM3E 12단을 내놨다.

미 매체 탐스하드웨어는 지난 9일(현지시간) 마이크론이 HBM3E 12단 메모리 스택을 공식 출시했다고 보도했다.

신제품은 36GB(기가바이트) 용량으로, 엔비디아 H200 및 B100/B200 GPU(그래픽처리장치)와 같은 AI(인공지능) 및 HPC(고성능컴퓨팅) 워크로드를 위한 최첨단 프로세서를 위해 설계됐다.

늘어난 용량을 통해 데이터센터에서는 단일 프로세서에서 최대 700억개의 매개변수를 가진 메타의 라마2와 같은 대규모 AI 모델을 실행할 수 있다. 이 기능은 잦은 CPU(중앙처리장치) 오프로딩 필요성을 줄이고 GPU간 통신 지연을 최소화해 데이터 처리 속도를 높인다.

성능 측면에서 마이크론 HBM3E 12단은 9.2Gb/s 이상의 데이터 전송 속도로 1.2TB/s 이상의 메모리 대역폭을 제공한다. 이는 HBM3E 8단 스택 보다 전력 소비가 적다는 설명이다.

마이크론의 HBM3E 메모리 장치는 엔비디아의 H100 및 H200과 같은 AI 프로세서 패키징에사용되는 TSMC의 CoWoS 패키징 기술과 호환된다.

마이크론의 HBM3E 12단 출시로 메모리 제조사간 기술 경쟁은 한층 치열해질 전망이다. SK하이닉스는 이달 말부터 HBM3E 12단 제품 양산에 돌입한다고 밝힌 바 있다.

트렌드포스는 지난 3일 삼성전자가 HBM3E(8단) 납품을 위한 엔비디아 퀄테스트(품질 검증)를 마치고 제품을 출하했다고 밝혔다. 로이터는 삼성의 HBM3E 12단 퀄테스트는 아직 진행 중이라고 했다.