프롬프트·AI 활용

Self-Consistency는 같은 질문에 대해 여러 개의 추론 경로를 뽑아 최종 답의 다수결을 취하는 디코딩·프롬프팅 기법입니다. 사고사슬 프롬프트는 그대로 두고, 탐욕적 디코딩 대신 온도를 높인 표본추출로 서로 다른 풀이를 여러 개 만든 뒤 가장 많이 나온 답을 고릅니다 [1]. 복잡한 문제라도 정답은 하나로 모인다는 가정에 기대므로, 답이 고정된 집합에서 나오는 수학과 논리 과제에 맞습니다. 추가 학습이나 사람 주석은 필요 없지만, 비용은 표본 수에 거의 비례해 늘어납니다 [1].

입력 컨텍스트가 길어질수록 언어 모델의 처리 품질이 고르지 않게 저하되는 현상입니다. 벡터DB 기업 크로마가 2025년 7월 기술 보고서에서 이름을 붙였고, GPT-4.1, 클로드 4, 제미나이 2.5 등 18개 모델 실험에서 단순한 과제조차 입력이 길어지면 정확도가 떨어짐을 확인했습니다. 컨텍스트 윈도우가 커졌다고 넣는 만큼 다 잘 읽는 것은 아니라는 뜻입니다. 필요한 정보만 골라 넣는 컨텍스트 엔지니어링이 중요해진 배경으로 꼽힙니다.

LLM 평가 분야에서 쓰이는 기법으로, 강한 LLM(대규모 언어 모델)에게 다른 모델의 답변을 채점·비교·선택하게 해 사람 평가를 대신하게 하는 방법입니다. 이름 그대로 LLM을 심판(Judge)으로 세우는 방식입니다. 2023년 LMSYS 연구진이 MT-Bench 논문으로 용어를 대중화했고, GPT-4 판정이 인간 선호와 80% 넘게 일치한다는 결과가 출발점이 됐습니다. 정답이 하나로 정해지지 않는 개방형 답변을 대규모로 평가할 때 표준처럼 쓰입니다.

AI 엔지니어링 분야에서 쓰이는 용어로, LLM(대형 언어 모델)이 한 번에 읽는 컨텍스트 윈도우 안에 어떤 정보를 어떤 순서와 형태로 넣을지 설계하고 관리하는 기법입니다. 지시문뿐 아니라 도구 목록, 검색된 문서, 과거 대화 기록, 작업 메모까지 모델이 참고하는 모든 입력을 하나의 예산으로 보고 최적 구성을 찾습니다. 질문 문장을 다듬는 프롬프트 엔지니어링을 포괄하는 상위 개념으로, 2025년 이후 AI 에이전트 설계의 핵심 역량으로 자리 잡았습니다.

프롬프트·AI 활용 분야에서 쓰이는 용어로, 하나의 작업을 여러 단계로 쪼갠 뒤 앞 프롬프트의 출력이 다음 프롬프트의 입력이 되도록 연결하는 기법입니다. Anthropic 공식 문서는 각 LLM 호출이 앞 호출의 출력을 처리하는 순차 단계로 작업을 분해하는 것이라고 설명합니다. 목표는 지연을 감수하는 대신 정확도를 높이는 것입니다. 각 호출을 더 쉬운 과제로 만들기 때문입니다. 단계를 나누면 중간 결과를 검사하고 로깅하며 분기할 수 있는 점도 이점입니다.

AI 활용 분야에서 쓰이는 용어로, 운영 중인 프롬프트를 코드처럼 버전 관리해 변경 이력·롤백·A/B 테스트가 가능하게 하는 LLMOps 실무 기법입니다.

AI 활용 분야에서 쓰이는 용어로, 자주 쓰는 프롬프트를 카드 형태로 모아 두고 팀원이 검색·재사용·버전 관리할 수 있게 한 저장소를 가리키며, Anthropic Prompt Library가 대표적입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 특정 인물·직업·성격 설정을 주입해 그 역할에 맞춘 어조와 시선으로 답하도록 유도하는 프롬프트 기법입니다.

AI 활용 분야에서 쓰이는 용어로, LLM이 한 대화 세션을 넘어 사용자의 이름·취향·기존 작업 내역을 지속적으로 기억하고 다음 대화에 자동으로 반영하는 장기 컨텍스트 기능을 가리킵니다.

AI 활용 분야에서 OpenAI가 2023년 7월에 공개한 ChatGPT 설정 기능으로, 사용자가 자신의 직업·말투·관심사·답변 형식을 미리 적어 두면 이후 모든 대화에 자동으로 반영되도록 만든 기능입니다.

AI 활용 도구 분야에서 OpenAI가 2023년 11월에 발표한 사용자 맞춤형 ChatGPT를 가리키며, 누구나 코딩 없이 특정 작업 전용 챗봇을 만들어 GPT Store에서 공유할 수 있게 한 기능입니다.

AI 활용 분야에서 Anthropic이 2024년 6월에 공개한 Claude.ai 워크스페이스 기능으로, 사용자가 자료·지시사항을 한 폴더로 묶어 두면 그 안의 모든 대화가 같은 맥락을 공유하도록 만든 기능입니다.

AI 활용 분야에서 Anthropic이 2024년 6월에 공개한 기능으로, Claude가 생성한 코드·문서·이미지·인터랙티브 페이지를 대화창 옆 별도 패널에 띄워 즉시 미리보기·편집·공유할 수 있게 한 워크스페이스입니다.

AI 활용 분야에서 쓰이는 용어로, LLM API 호출 비용이 입력·출력 토큰 수 단위로 청구되는 구조와 그 단가를 일컫는 표현으로, 캐싱·배치·모델 선택으로 절감할 수 있습니다.

AI 활용 분야에서 쓰이는 용어로, LLM이 응답을 다 완성한 다음 한꺼번에 보내지 않고 토큰 단위로 생성되는 즉시 사용자 화면에 실시간으로 흘려보내는 출력 방식입니다.

AI 활용 분야에서 OpenAI가 2023년에 공개한 API 옵션으로, LLM 응답을 자유 텍스트가 아니라 JSON(JavaScript Object Notation) 형식으로 출력하도록 강제해 후속 코드가 안전하게 파싱할 수 있도록 한 모드입니다.

AI 활용 분야에서 쓰이는 용어로, LLM 응답을 미리 정의한 스키마(JSON·Pydantic·TypeScript 등)대로 강제하여 후속 코드가 안전하게 파싱·검증할 수 있게 만든 출력 방식입니다.

AI 활용 분야에서 OpenAI가 2023년 6월에 공개한 API 기능으로, LLM이 답변 도중 미리 등록된 외부 함수를 JSON 인자로 호출하도록 만들어 도구·DB·실시간 데이터와 연결할 수 있게 한 방식입니다.

AI 활용 분야에서 쓰이는 용어로, LLM API 호출 시 모델이 한 번의 응답에서 생성할 수 있는 최대 토큰 수를 사용자가 직접 지정해 응답 길이·비용·지연 시간을 제어하는 파라미터입니다.

AI 활용 분야에서 쓰이는 용어로, LLM이 다음 단어를 고를 때 누적 확률이 정해진 임계값까지 도달하는 후보군 안에서만 단어를 뽑도록 강제하는 핵심 표본 추출 파라미터입니다.

AI 활용 분야에서 쓰이는 용어로, LLM이 다음 단어를 고를 때 확률 분포를 얼마나 평탄하게 만들지를 조절해 응답의 창의성과 일관성 사이를 사용자가 직접 제어하는 파라미터입니다.

AI 활용 분야에서 쓰이는 용어로, 사용자가 입력하는 일반 프롬프트 안에 LLM이 답할 때 참고할 사내 자료·실시간 데이터·문서 조각을 함께 끼워 넣어 답변 정확도를 끌어올리는 방식입니다.

AI 활용 분야에서 쓰이는 용어로, 사용자가 LLM에 미리 걸린 안전 가드레일을 우회해 평소엔 거절하던 답변을 강제로 끌어내려고 시도하는 공격적 프롬프트 기법입니다.

AI 활용 분야에서 쓰이는 용어로, 공격자가 LLM이 읽는 외부 자료·이메일·웹페이지 같은 콘텐츠에 악의적 지시문을 숨겨 두어 모델이 원래 시스템 지시를 무시하고 따라가게 만드는 공격 기법입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 직접 작업을 시키는 대신 작업에 쓸 더 좋은 프롬프트를 만들어 달라고 부탁하는 메타 수준의 프롬프트 작성 기법입니다.

AI 활용 분야에서 쓰이는 용어로, ChatGPT·Claude 같은 LLM 대화에서 사용자가 매 차례 직접 입력하는 질문이나 지시 메시지를 가리키며, 시스템 프롬프트와 구분되는 일반 입력입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 대화 시작 전에 사람·인격·규칙을 미리 주입해 이후 모든 응답에서 그 지침을 따르도록 만드는 최상위 지시문입니다.

AI 활용 분야에서 쓰이는 용어로, Chain-of-Thought를 한 단계 확장해 여러 후보 풀이 경로를 트리 구조로 펼친 다음 가장 좋은 경로를 골라 답하도록 만든 LLM 추론 기법입니다.

AI 활용 분야에서 쓰이는 Chain-of-Thought(생각의 사슬)의 약자로, LLM에게 답을 곧장 내놓지 말고 풀이 과정을 단계별로 노출하라고 지시해 정답률을 끌어올리는 프롬프트 기법입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 정답 예시를 2~5개 함께 넣어 똑같은 형식·톤·기준으로 답하게 유도하는 프롬프트 기법입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 정답 예시를 단 하나만 보여주고 같은 형식·말투를 그대로 따라 새 답을 만들어 내도록 시키는 프롬프트 기법입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 예시 한 개도 보여주지 않고 작업 설명만 주어 곧바로 답을 내도록 시키는 방식으로, GPT-3 이후 일반화된 표준 사용 패턴입니다.

AI 활용 분야에서 쓰이는 용어로, LLM에 더 좋은 답을 끌어내기 위해 지시문(프롬프트)을 설계·다듬는 작업 일체를 가리킵니다.

AI 활용 분야에서 쓰이는 용어로, ReAct(Reasoning + Acting, 추론과 행동 결합)의 약자로, LLM이 답하기 전에 생각을 적고 외부 도구를 호출하고 결과를 다시 생각하는 과정을 반복해 답에 도달하도록 만든 에이전트 패턴입니다.

AI 활용 분야에서 쓰이는 용어로, LLM이 답변 도중 사람이 등록해 둔 외부 도구·API·코드를 호출해 정보를 가져오거나 작업을 처리하도록 만든 일반 능력을 가리키는 표현입니다.