AI for Everyone

SEARCH RESULTS

“추론”

31건

Reasoning Model

AI 모델 분야에서 쓰이는 용어로, 답을 곧장 내놓지 않고 풀이 과정을 내부적으로 길게 생각한 다음 응답하도록 추론 단계를 강화 학습한 LLM 계열입니다.

Self-Consistency

셀프 컨시스턴시

Self-Consistency는 같은 질문에 대해 여러 개의 추론 경로를 뽑아 최종 답의 다수결을 취하는 디코딩·프롬프팅 기법입니다. 사고사슬 프롬프트는 그대로 두고, 탐욕적 디코딩 대신 온도를 높인 표본추출로 서로 다른 풀이를 여러 개 만든 뒤 가장 많이 나온 답을 고릅니다 [1]. 복잡한 문제라도 정답은 하나로 모인다는 가정에 기대므로, 답이 고정된 집합에서 나오는 수학과 논리 과제에 맞습니다. 추가 학습이나 사람 주석은 필요 없지만, 비용은 표본 수에 거의 비례해 늘어납니다 [1].

프롬프트·AI 활용

케이브이 캐시

LLM 추론 분야에서 쓰이는 Key-Value Cache(키-값 캐시)의 약자로, 언어 모델이 답을 생성할 때 앞 토큰들의 어텐션 계산 결과인 키와 값을 GPU 메모리에 저장해 두고 재사용하는 기법입니다. 매 토큰마다 전체 문맥을 다시 계산하는 낭비를 없애 생성 속도를 높입니다. 대신 문맥이 길어질수록 캐시가 메모리를 차지해, LLM 서빙 비용과 컨텍스트 길이 한계를 결정하는 핵심 변수가 됩니다. API 제공사의 프롬프트 캐싱 할인은 이 캐시를 재사용하는 상용화 형태입니다.

AI 반도체 분야에서 쓰이는 Neural Processing Unit(신경망 처리 장치)의 약자로, 신경망 연산을 저전력으로 빠르게 처리하도록 특화한 프로세서입니다. 범용 계산용 CPU, 병렬 그래픽 연산용 GPU와 달리 AI 추론 가속만을 노리고 설계됩니다. 성능은 초당 조 단위 연산 횟수인 TOPS로 표기합니다. 스마트폰·노트북의 온디바이스 AI부터 데이터센터용 AI 가속기까지 쓰임이 넓어지고 있습니다.

브이엘엘엠

LLM 추론·서빙 분야의 오픈소스 엔진으로, 같은 GPU에서 더 많은 요청을 처리하도록 메모리 관리를 최적화한 것이 핵심입니다. UC 버클리에서 시작했고, 운영체제의 가상 메모리에서 착안한 PagedAttention 기법으로 KV 캐시 낭비를 4% 미만으로 줄였습니다. 이름의 v도 가상(virtual)에서 왔습니다. 2023년 논문 기준 동급 지연시간에서 기존 서빙 시스템 대비 처리량을 2~4배 높였고, 지금은 사실상의 표준 오픈소스 추론 엔진으로 불립니다.

AI 개발도구

에이치비엠

메모리 반도체 분야에서 쓰이는 High Bandwidth Memory(고대역폭 메모리)의 약자로, D램 칩을 수직으로 쌓고 실리콘 관통 전극(TSV)으로 연결해 프로세서와 데이터를 초광폭 통로로 주고받는 메모리입니다. 국제 표준화 기구 JEDEC이 규격을 정하며, 2025년 4월 확정된 HBM4 표준은 2,048비트 인터페이스로 스택당 최대 2TB/s 대역폭을 냅니다. LLM 추론 속도가 메모리 대역폭에 좌우되면서 AI 가속기의 핵심 부품이 됐습니다.

Reinforcement Learning

리인포스먼트 러닝 (강화학습)

머신러닝 분야에서 쓰이는 용어로, AI가 정답을 통째로 배우는 대신 직접 행동해 보고 보상(점수)을 받으며 시행착오로 최적의 전략을 스스로 익히는 학습 방법입니다. 지도학습이 정답지 달린 문제집이라면, 강화학습은 점수판만 보고 게임을 반복해 실력을 올리는 방식입니다. 2016년 알파고로 대중에게 알려졌고, ChatGPT를 사람 선호에 맞게 다듬은 RLHF, 2025년 딥시크 R1의 추론 능력 학습까지 현대 AI 성능 도약의 핵심 기법으로 쓰입니다.

LG AI연구원이 개발한 대형 언어 모델(LLM) 계열의 브랜드로, 'EXpert AI for everyONE(모두를 위한 전문가 AI)'에서 이름을 따 왔습니다. 2021년 초거대 모델로 출발해 2025년 7월 추론을 결합한 국내 첫 하이브리드 모델 4.0(32B·1.2B)을 오픈 웨이트로 공개했고, 2026년 1월에는 MoE 구조의 K-EXAONE(총 2,360억·활성 230억 파라미터)으로 정부 독자 AI 파운데이션 모델 1차 평가 1위에 올랐습니다. 병리 진단 AI 'EXAONE Path' 등 산업·의료 특화 모델로 확장 중입니다.

모델·서비스

하이퍼클로바 엑스

네이버가 개발한 한국어 중심 대형 언어 모델(LLM) 계열이자 이를 기반으로 한 생성형 AI 브랜드입니다. 2023년 8월 공개 이후 검색(AI 브리핑), 대화형 서비스(클로바 X), 기업용 클라우드 API로 확장됐고, 2025년에는 경량 모델 3종(SEED)을 상업용 오픈소스로, 추론 특화 모델 씽크(THINK)를 순차 공개했습니다. 한국어 데이터 비중이 높아 국내 언어·문화 맥락 이해에 강점이 있으며, 네이버 소버린 AI 전략의 핵심 자산입니다.

모델·서비스

AI 서비스 분야에서 쓰이는 용어로, 챗봇이 즉답하는 대신 수 분에서 수십 분간 수십~수백 개의 웹 문서를 스스로 검색·열람·교차검증한 뒤 출처를 단 보고서 형태로 결과를 내놓는 에이전트형 조사 기능을 가리킵니다. 2024년 12월 구글 제미나이가 처음 선보였고, 2025년 2월 OpenAI가 같은 이름의 기능을 내놓으며 업계 공통 명칭처럼 굳었습니다. 추론 모델이 조사 계획을 세우고 검색 도구를 반복 호출하는 구조로, 시장조사·경쟁분석·문헌조사 같은 사무 업무에 쓰입니다.

모델·서비스

피지컬 에이아이

로보틱스·제조 분야에서 쓰이는 용어로, 화면 속에서 글과 이미지를 만드는 생성형 AI를 넘어 로봇·자율주행차·스마트팩토리처럼 물리 세계를 인식하고 움직이는 기계에 탑재되는 AI를 가리킵니다. 물리 법칙과 3차원 공간을 이해하는 월드 모델을 기반으로 기계가 보고(인식), 판단하고(추론), 움직이는(행동) 전 과정을 학습합니다. 2025년 CES에서 엔비디아가 '로보틱스의 ChatGPT 모먼트'를 선언하며 산업 화두로 떠올랐고, 휴머노이드 로봇과 자율 제조 투자로 이어지고 있습니다.

테스트 타임 컴퓨트

Test-Time Compute

AI 트렌드 분야에서 쓰이는 용어로, 모델을 더 크게 학습시키는 대신 답을 내는 추론 시점에 연산을 더 써서 성능을 끌어올리는 방식입니다. 모델이 답하기 전에 사고 사슬을 길게 돌리거나 여러 후보를 만들어 검증하는 식으로 추론 연산을 늘립니다. OpenAI는 o1이 학습 시점 연산뿐 아니라 생각하는 시간을 늘릴수록 성능이 꾸준히 좋아졌다고 밝혔습니다. 다만 효과는 문제 난이도에 따라 달라서, 모든 문제에서 똑같이 이득이 나지는 않습니다.

Knowledge Graph

널리지 그래프

현실의 개체(사람·장소·상품 등)를 점(노드)으로, 개체 사이의 관계를 선(엣지)으로 표현해 지식을 그물망 구조로 저장하는 방식입니다. '문자열이 아니라 사물'을 다루므로, 흩어진 데이터를 관계로 연결해 추론과 검색에 씁니다. 관계를 따라가며 여러 단계 떨어진 사실도 한 번에 찾을 수 있습니다. 검색엔진의 개체 정보 카드, 추천, 그리고 최근에는 LLM의 근거 데이터(GraphRAG)로 활용됩니다.

모델 미세조정 분야에서 쓰이는 Low-Rank Adaptation(저차원 적응)의 약자로, 사전학습된 가중치는 그대로 얼리고 각 층에 작은 저차원 행렬만 추가로 학습시키는 파라미터 효율적 미세조정 기법입니다. 전체 가중치를 다시 학습하지 않아 학습 비용과 저장 용량이 크게 줄어듭니다. 학습이 끝난 저차원 행렬은 원래 가중치에 합칠 수 있어 추론 속도도 그대로입니다. 2021년 마이크로소프트 연구진이 제안했고, 지금은 오픈소스 모델을 값싸게 특화시키는 표준 방법으로 쓰입니다.

Speculative Decoding

스페큘러티브 디코딩

작고 빠른 '초안(draft) 모델'이 다음 토큰 여러 개를 먼저 제안하면, 크고 정확한 본 모델이 이를 한 번에 검증해 맞은 부분까지 통째로 채택하는 추론 가속 기법입니다. 토큰을 하나씩 순서대로 생성하던 과정을 병렬 검증으로 바꿔 속도를 높입니다. 틀린 토큰이 나온 지점부터 본 모델이 다시 이어 씁니다. 최종 출력은 본 모델이 혼자 생성한 것과 동일하게 유지되는 것이 특징입니다. 2022년 구글 연구진이 정리했습니다.

Tree of Thoughts

AI 활용 분야에서 쓰이는 용어로, Chain-of-Thought를 한 단계 확장해 여러 후보 풀이 경로를 트리 구조로 펼친 다음 가장 좋은 경로를 골라 답하도록 만든 LLM 추론 기법입니다.

프롬프트·AI 활용

AI 활용 분야에서 쓰이는 용어로, ReAct(Reasoning + Acting, 추론과 행동 결합)의 약자로, LLM이 답하기 전에 생각을 적고 외부 도구를 호출하고 결과를 다시 생각하는 과정을 반복해 답에 도달하도록 만든 에이전트 패턴입니다.

프롬프트·AI 활용

Adaptive Reasoning

어댑티브 리즈닝

AI 활용 분야에서 쓰이는 용어로, LLM이 질문 난이도에 따라 추론에 쓸 시간·토큰을 알아서 늘리거나 줄여 답하는 방식으로, 추론 모델 시대의 자율적 사고량 조절 능력을 가리킵니다.

Extended Thinking

익스텐디드 씽킹

AI 활용 분야에서 Anthropic이 2025년에 도입한 기능으로, Claude가 답하기 전에 정해진 토큰 예산만큼 내부적으로 길게 생각한 다음 응답하도록 추론 깊이를 사용자가 직접 조절하는 모드입니다.

파이어웍스

AI 인프라 분야에서 미국 Fireworks AI가 2022년에 창업해 운영하는 오픈모델 추론 서비스로, Llama·Mistral·Qwen 같은 모델을 자체 최적화 엔진으로 빠르고 저렴하게 호출할 수 있게 해줍니다.

모델·서비스

AI 인프라 분야에서 미국 Together AI가 2022년에 창업해 운영하는 오픈모델 추론·학습 클라우드로, Llama·Mistral·Qwen 같은 오픈웨이트 모델을 API 한 줄로 호출해 쓸 수 있게 해줍니다.

모델·서비스

AI 인프라 분야에서 미국 Groq Inc.가 2016년에 창업해 자체 설계한 LPU 추론 칩으로, Llama·Mistral 같은 오픈 모델을 초고속으로 실행하는 클라우드 추론 서비스를 함께 운영합니다.

모델·서비스

AI 모델 분야에서 중국 Moonshot AI가 2025년에 공개한 Kimi 시리즈 2세대 LLM(Large Language Model, 거대 언어 모델)으로, 1M 컨텍스트와 추론·에이전트 작업에 강점을 가진 오픈웨이트 모델입니다.

모델·서비스

AI 모델 분야에서 중국 Alibaba가 공개한 오픈웨이트 LLM(Large Language Model, 거대 언어 모델) 시리즈로, 다국어·코딩·추론·멀티모달 기능을 갖춘 채로 가중치를 공개해 누구나 다운로드해 직접 운영할 수 있게 한 모델군입니다.

모델·서비스

AI 모델 분야에서 중국 DeepSeek사가 2024~2025년에 공개한 LLM(Large Language Model, 거대 언어 모델) 시리즈로, 미국 플래그십 모델 수준 성능을 훨씬 적은 학습 비용으로 달성한 추론·코딩 특화 오픈웨이트 모델입니다.

모델·서비스

AI 모델 분야에서 미국 xAI가 공개한 Grok 시리즈 4세대 LLM(Large Language Model, 거대 언어 모델)으로, X(구 Twitter) 실시간 데이터를 학습·참조해 시사·검색 강점을 가진 추론 모델 라인입니다.

모델·서비스

AI 모델 분야에서 Google이 2025년에 공개한 Gemini 3 시리즈 플래그십 LLM(Large Language Model, 거대 언어 모델)으로, 추론·멀티모달·1M+ 컨텍스트 처리를 한 모델에 통합한 차세대 라인업입니다.

모델·서비스

AI 모델 분야에서 OpenAI가 2026년에 공개한 GPT(Generative Pre-trained Transformer, 생성형 사전 학습 변환기) 계열 5세대 후속 모델로, 추론·멀티모달·도구 호출이 통합된 플래그십 LLM입니다.

모델·서비스

Claude Opus 4.7

클로드 오푸스

AI 모델 분야에서 Anthropic이 2026년에 공개한 Claude 4 계열 최상위 플래그십 모델로, 추론·코딩·에이전트 작업에 최적화된 대형 LLM(Large Language Model, 거대 언어 모델)입니다.

모델·서비스

AI 모델 운영 분야에서 쓰이는 용어로, 이미 학습이 끝난 모델이 실제 입력을 받아 결과를 계산해 돌려주는 단계를 가리키며, 사용자가 ChatGPT 같은 서비스에서 답을 받는 순간이 모두 추론입니다.

기술 분야 전반에 쓰이는 Artificial Intelligence(인공지능)의 약자로, 사람의 학습·추론·인식·언어 능력을 기계가 흉내 내거나 일부 능가하도록 만든 기술 분야입니다.

검색 · AI for Everyone