HBM 4장 카드뉴스

메모리 반도체 분야에서 쓰이는 High Bandwidth Memory(고대역폭 메모리)의 약자로, D램 칩을 수직으로 쌓고 실리콘 관통 전극(TSV)으로 연결해 프로세서와 데이터를 초광폭 통로로 주고받는 메모리입니다. 국제 표준화 기구 JEDEC이 규격을 정하며, 2025년 4월 확정된 HBM4 표준은 2,048비트 인터페이스로 스택당 최대 2TB/s 대역폭을 냅니다. LLM 추론 속도가 메모리 대역폭에 좌우되면서 AI 가속기의 핵심 부품이 됐습니다.

에이치비엠(HBM, High Bandwidth Memory)은 아파트처럼 위로 쌓아 올린 메모리입니다. 단층 주택(일반 D램)을 넓게 짓는 대신 고층으로 쌓고 초고속 엘리베이터(TSV)를 뚫어, GPU가 데이터를 훨씬 빠르게 꺼내 쓰게 해 줘요. AI가 답 한 토큰을 만들 때마다 수백억 개 파라미터를 반복해서 읽어야 하므로, 이 꺼내 쓰는 속도가 곧 AI 속도가 됩니다.

케이스 1: SK하이닉스(한국) — 12단 HBM3E 세계 최초 양산 SK하이닉스는 2024년 9월 세계 최초로 12단 36GB HBM3E 양산을 시작했습니다 [2]. D램 칩을 기존보다 40% 얇게 만들어 12단을 쌓았습니다 [2]. 2025년 9월에는 HBM4 개발 완료와 양산 준비를 역시 세계 최초로 발표했습니다 [3].