HBM

케이스 1SK하이닉스(한국) — 12단 HBM3E 세계 최초 양산

SK하이닉스는 2024년 9월 세계 최초로 12단 36GB HBM3E 양산을 시작했습니다 ^[2]. D램 칩을 기존보다 40% 얇게 만들어 12단을 쌓았습니다 ^[2]. 2025년 9월에는 HBM4 개발 완료와 양산 준비를 역시 세계 최초로 발표했습니다 ^[3]. 2025년 1분기에는 D램 매출 점유율 36%로 처음 1위에 올랐습니다 ^[6].
도입효과: HBM3E 12단 용량 36GB·동작 속도 9.6Gbps(양산 시점 업계 최대·최고 기준) ^[2], HBM 시장점유율 70%(2025년 1분기, Counterpoint 집계) ^[6]

케이스 2NVIDIA — 세계 최초 HBM3E 탑재 GPU H200

NVIDIA는 2023년 11월 세계 최초로 HBM3E를 실은 GPU H200을 발표했습니다 ^[4]. HBM3E 141GB, 대역폭 4.8TB/s 구성입니다 ^[4]. 생성형 AI와 LLM 가속을 전면에 내세웠습니다 ^[4].
도입효과: 메모리 용량 141GB·대역폭 4.8TB/s — 전전세대 A100 대비 용량 약 2배·대역폭 2.4배(공식 발표 기준) ^[4]

케이스 3삼성전자(한국) — 18개월 만의 퀄 통과와 2026년 완판

삼성전자의 12단 HBM3E는 2025년 9월 NVIDIA 품질 검증을 통과했습니다 ^[7]. 개발 완료 후 약 18개월에 걸친 보완 끝의 통과였습니다 ^[7]. 2025년 3분기부터 NVIDIA 공급을 시작했고, 2026년 HBM 공급 물량은 선주문으로 이미 소진됐다고 밝혔습니다 ^[7].
도입효과: 2026년 HBM 공급 물량 완판(2025년 10월 실적 발표 기준), HBM4는 11Gbps 동작 시연 ^[7]

케이스 4AMD — MI300X의 용량 우위 전략

AMD는 AI 가속기 MI300X에 HBM3 192GB를 실었습니다 ^[5]. 피크 메모리 대역폭은 5.3TB/s입니다 ^[5]. 대형 모델을 더 적은 가속기에 올리는 용량 우위 전략을 폈습니다 ^[5].
도입효과: 메모리 용량 192GB·대역폭 5.3TB/s(공식 스펙, AMD 자체 비교 기준 경쟁 제품 대비 용량 2.4배) ^[5]

오늘 바로 해보기
01. AMD MI300X 공식 페이지에서 메모리 타입·용량·대역폭 세 항목을 찾아 적습니다 ^[5].
02. NVIDIA H200 발표문에서 '141GB·4.8TB/s' 문장을 찾아 두 가속기를 표로 비교합니다 ^[4].
03. JEDEC의 HBM3(819GB/s)와 HBM4(2TB/s) 발표문을 놓고 3년 사이 대역폭이 몇 배 늘었는지 계산합니다 ^[1][8].
04. SK하이닉스 뉴스룸에서 'Llama 3 70B 파라미터를 초당 35회 읽는다'는 예시를 찾아, 대역폭이 곧 생성 속도인 이유를 정리합니다 ^[2].
05. AI 가속기 기사에서 'HBM 몇 단, 몇 GB' 표현이 나오면 세대(HBM3E·HBM4)와 적층 수를 구분해 읽는 연습을 합니다.

한계와 진화
한계는 만들기 어렵고 비싸다는 점입니다. 수요가 공급을 계속 앞질러 삼성전자조차 증설에도 2026년 물량이 선주문으로 소진됐습니다 ^[7]. 고객 인증 문턱도 높습니다. 삼성전자 12단 HBM3E는 개발 완료 후 약 18개월의 보완을 거쳐서야 NVIDIA 검증을 통과했습니다 ^[7]. 얇게 깎은 칩을 12단 이상 쌓는 공정 특성상 발열과 수율 관리가 난제로 꼽힙니다 ^[2].
진화의 중심은 HBM4입니다. 2025년 4월 JEDEC 표준이 확정됐고(2,048비트·스택당 2TB/s·최대 64GB) ^[1], SK하이닉스는 같은 해 9월 세계 최초로 개발 완료·양산 준비를 마쳤습니다 ^[3]. 표준(8Gbps)을 넘는 10Gbps 동작을 구현했고, 적용 시 AI 서비스 성능이 최대 69% 개선될 것으로 전망했습니다 ^[3]. 삼성전자는 TSMC와 협력해 11Gbps 시연으로 맞서고 있습니다 ^[7]. 경쟁이 심해지면서 고객 맞춤형(커스텀) HBM으로 진화하는 흐름입니다.