4건
NPU
엔피유
AI 반도체 분야에서 쓰이는 Neural Processing Unit(신경망 처리 장치)의 약자로, 신경망 연산을 저전력으로 빠르게 처리하도록 특화한 프로세서입니다. 범용 계산용 CPU, 병렬 그래픽 연산용 GPU와 달리 AI 추론 가속만을 노리고 설계됩니다. 성능은 초당 조 단위 연산 횟수인 TOPS로 표기합니다. 스마트폰·노트북의 온디바이스 AI부터 데이터센터용 AI 가속기까지 쓰임이 넓어지고 있습니다.
AI 트렌드
MoE
믹스처 오브 엑스퍼츠
모델 구조 분야에서 쓰이는 Mixture of Experts(전문가 혼합)의 약자로, 여러 전문가 하위망 중 입력마다 일부만 골라 활성화하는 신경망 구조입니다. '라우터'라 불리는 게이팅 신경망이 토큰마다 소수의 전문가만 선택합니다. 전체 파라미터 수는 크게 늘리되 실제 계산에는 일부만 쓰기 때문에, 같은 연산량으로 더 큰 모델급 성능을 노립니다. Mixtral, DeepSeek-V3 같은 최신 대형 모델이 이 구조를 채택했습니다.
모델·서비스
Transformer
트랜스포머
AI 기초 분야에서 쓰이는 용어로, 2017년 구글 연구진이 발표한 신경망 구조로, 문장 안 모든 단어가 서로 어떤 관계인지 한 번에 계산하는 셀프 어텐션 방식으로 동작합니다.
기본
Deep Learning
딥러닝
AI 기초 분야에서 쓰이는 용어로, 사람 뇌신경 구조에서 착안한 다층 신경망을 데이터로 학습시켜 사진·음성·문장을 컴퓨터가 직접 인식·생성하게 만든 기계 학습 기법입니다.
기본