Top-p 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, LLM이 다음 단어를 고를 때 누적 확률이 정해진 임계값까지 도달하는 후보군 안에서만 단어를 뽑도록 강제하는 핵심 표본 추출 파라미터입니다.

Top-p는 LLM(Large Language Model, 거대 언어 모델)이 다음 단어를 고를 때 "누적 확률 몇 %까지의 후보만 검토할지" 미리 정해 두는 다이얼이에요. 예를 들어 0.9로 두면 가능성 높은 단어들을 누적 90%까지만 모아 그 안에서 하나를 뽑고, 0.1로 두면 거의 1위 단어만 남아 매번 비슷한 답이 나옵니다. 조별 과제에서 "현실적인 후보 안건 90%만 추려 그 안에서 결정하자"고 미리 합의해 두는 것과 비슷해요. 같은 질문에 매번 같은 답이 필요한 추출·분류 업무는 0.1 근처, 카피·아이디어 발산처럼 다양성이 필요한 일은 0.9~0.95 근처가 기본입니다.

**케이스 1: OpenAI API — 창의적 글쓰기 기본값** B2C 마케팅 팀이 광고 헤드라인 100개를 한 번에 뽑거나 스토리텔링 초안을 받는 작업에서는 어휘 다양성이 필요합니다. OpenAI 공식 API 문서는 top_p 기본값을 1.0으로 두지만, 마케팅 카피·소설형 출력에는 0.9~0.95 구간을 권장합니다 [2]. 어휘 폭이 넓어지면서도 비문이나 환각은 줄어드는 균형점입니다 [2