2건
NPU
엔피유
AI 반도체 분야에서 쓰이는 Neural Processing Unit(신경망 처리 장치)의 약자로, 신경망 연산을 저전력으로 빠르게 처리하도록 특화한 프로세서입니다. 범용 계산용 CPU, 병렬 그래픽 연산용 GPU와 달리 AI 추론 가속만을 노리고 설계됩니다. 성능은 초당 조 단위 연산 횟수인 TOPS로 표기합니다. 스마트폰·노트북의 온디바이스 AI부터 데이터센터용 AI 가속기까지 쓰임이 넓어지고 있습니다.
AI 트렌드
HBM
에이치비엠
메모리 반도체 분야에서 쓰이는 High Bandwidth Memory(고대역폭 메모리)의 약자로, D램 칩을 수직으로 쌓고 실리콘 관통 전극(TSV)으로 연결해 프로세서와 데이터를 초광폭 통로로 주고받는 메모리입니다. 국제 표준화 기구 JEDEC이 규격을 정하며, 2025년 4월 확정된 HBM4 표준은 2,048비트 인터페이스로 스택당 최대 2TB/s 대역폭을 냅니다. LLM 추론 속도가 메모리 대역폭에 좌우되면서 AI 가속기의 핵심 부품이 됐습니다.
AI 트렌드