Top-p 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, LLM이 다음 단어를 고를 때 누적 확률이 정해진 임계값까지 도달하는 후보군 안에서만 단어를 뽑도록 강제하는 핵심 표본 추출 파라미터입니다.

Top-p는 LLM(Large Language Model, 거대 언어 모델)이 다음 단어를 고를 때 "누적 확률 몇 %까지의 후보만 검토할지" 미리 정해 두는 다이얼이에요. 1로 두면 거의 1위 단어만 남아 매번 비슷한 답이 나옵니다. 조별 과제에서 "현실적인 후보 안건 90%만 추려 그 안에서 결정하자"고 미리 합의해 두는 것과 비슷해요. 95 근처가 기본입니다.

케이스 1: OpenAI API — 창의적 글쓰기 기본값 B2C 마케팅 팀이 광고 헤드라인 100개를 한 번에 뽑거나 스토리텔링 초안을 받는 작업에서는 어휘 다양성이 필요합니다. 95 구간을 권장합니다 [2]. 어휘 폭이 넓어지면서도 비문이나 환각은 줄어드는 균형점입니다 [2].