Temperature 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, LLM이 다음 단어를 고를 때 확률 분포를 얼마나 평탄하게 만들지를 조절해 응답의 창의성과 일관성 사이를 사용자가 직접 제어하는 파라미터입니다.

Temperature는 LLM(Large Language Model, 거대 언어 모델)이 다음 단어를 고를 때 얼마나 "안전한 선택"을 할지 정해 두는 다이얼이에요. 값이 0에 가까우면 가장 확률 높은 단어만 또박또박 고르고, 1을 넘으면 다양한 표현을 시도해요. 인턴 면접에서 정해진 답만 말할지, 자기 생각을 섞어 말할지 미리 정해 두는 옵션이라고 보면 됩니다.

케이스 1: 고객 문의 자동 분류 — temperature 0으로 같은 입력에 같은 라벨 B2C 운영팀이 매일 들어오는 고객 문의를 "환불·배송·계정·기타"로 분류하거나, 견적서 PDF에서 금액·기일을 JSON으로 추출하는 작업에서는 같은 입력에 항상 같은 라벨이 나와야 합니다. 3을 권장하고 [1], Anthropic 문서도 "분석·객관식 과제는 0에 가까운 값"을 안내합니다 [2].