12

컨텍스트
Context Rot
입력 컨텍스트가 길어질수록 언어 모델의 처리 품질이 고르지 않게 저하되는 현상입니다. 벡터DB 기업 크로마가 2025년 7월 기술 보고서에서 이름을 붙였고, GPT-4.1, 클로드 4, 제미나이 2.5 등 18개 모델 실험에서 단순한 과제조차 입력이 길어지면 정확도가 떨어짐을 확인했습니다. 컨텍스트 윈도우가 커졌다고 넣는 만큼 다 잘 읽는 것은 아니라는 뜻입니다. 필요한 정보만 골라 넣는 컨텍스트 엔지니어링이 중요해진 배경으로 꼽힙니다.
프롬프트·AI 활용
컨텍스트 엔지니어링
Context Engineering
AI 엔지니어링 분야에서 쓰이는 용어로, LLM(대형 언어 모델)이 한 번에 읽는 컨텍스트 윈도우 안에 어떤 정보를 어떤 순서와 형태로 넣을지 설계하고 관리하는 기법입니다. 지시문뿐 아니라 도구 목록, 검색된 문서, 과거 대화 기록, 작업 메모까지 모델이 참고하는 모든 입력을 하나의 예산으로 보고 최적 구성을 찾습니다. 질문 문장을 다듬는 프롬프트 엔지니어링을 포괄하는 상위 개념으로, 2025년 이후 AI 에이전트 설계의 핵심 역량으로 자리 잡았습니다.
프롬프트·AI 활용
컨텍스트 윈도우
Context Window
AI 활용 분야에서 쓰이는 용어로, LLM이 한 번의 대화·요청에서 동시에 기억하고 처리할 수 있는 입력과 출력의 최대 토큰 수를 가리키며, 긴 문서 분석·코드 베이스 이해의 한계를 결정합니다.
기본
Context Injection
컨텍스트 주입
AI 활용 분야에서 쓰이는 용어로, 사용자가 입력하는 일반 프롬프트 안에 LLM이 답할 때 참고할 사내 자료·실시간 데이터·문서 조각을 함께 끼워 넣어 답변 정확도를 끌어올리는 방식입니다.
프롬프트·AI 활용
KV Cache
케이브이 캐시
LLM 추론 분야에서 쓰이는 Key-Value Cache(키-값 캐시)의 약자로, 언어 모델이 답을 생성할 때 앞 토큰들의 어텐션 계산 결과인 키와 값을 GPU 메모리에 저장해 두고 재사용하는 기법입니다. 매 토큰마다 전체 문맥을 다시 계산하는 낭비를 없애 생성 속도를 높입니다. 대신 문맥이 길어질수록 캐시가 메모리를 차지해, LLM 서빙 비용과 컨텍스트 길이 한계를 결정하는 핵심 변수가 됩니다. API 제공사의 프롬프트 캐싱 할인은 이 캐시를 재사용하는 상용화 형태입니다.
개발
Memory
메모리
AI 활용 분야에서 쓰이는 용어로, LLM이 한 대화 세션을 넘어 사용자의 이름·취향·기존 작업 내역을 지속적으로 기억하고 다음 대화에 자동으로 반영하는 장기 컨텍스트 기능을 가리킵니다.
프롬프트·AI 활용
MCP 클라이언트
MCP Client
AI 도구 연결 분야에서 쓰이는 Model Context Protocol(모델 컨텍스트 프로토콜)의 클라이언트 컴포넌트로, AI 모델이나 호스트 앱이 MCP 서버에 접속해 도구·자료를 호출하는 쪽 역할을 합니다.
AI 트렌드
MCP 서버
MCP Server
AI 도구 연결 분야에서 쓰이는 Model Context Protocol(모델 컨텍스트 프로토콜)의 서버 컴포넌트로, AI 모델이 외부 도구·자료에 접근할 수 있도록 도구 목록과 실행 함수를 표준 형식으로 노출합니다.
AI 트렌드
서브에이전트
Subagent
메인 에이전트가 특정 작업을 위해 별도로 호출하는, 격리된 컨텍스트와 권한을 가진 보조 AI 에이전트입니다.
AI 트렌드
Kimi K2
키미
AI 모델 분야에서 중국 Moonshot AI가 2025년에 공개한 Kimi 시리즈 2세대 LLM(Large Language Model, 거대 언어 모델)으로, 1M 컨텍스트와 추론·에이전트 작업에 강점을 가진 오픈웨이트 모델입니다.
모델·서비스
Gemini 3 Pro
제미나이
AI 모델 분야에서 Google이 2025년에 공개한 Gemini 3 시리즈 플래그십 LLM(Large Language Model, 거대 언어 모델)으로, 추론·멀티모달·1M+ 컨텍스트 처리를 한 모델에 통합한 차세대 라인업입니다.
모델·서비스
MCP
엠씨피
AI 도구 연결 분야에서 쓰이는 Model Context Protocol(모델 컨텍스트 프로토콜)의 약자로, 서로 다른 회사의 AI 모델이 같은 방식으로 외부 도구·자료에 접근하도록 한 공개 규약입니다.
AI 트렌드

플레이북 3

검색 · AI for Everyone