추론 모델 4장 카드뉴스

AI 모델 분야에서 쓰이는 용어로, 답을 곧장 내놓지 않고 풀이 과정을 내부적으로 길게 생각한 다음 응답하도록 추론 단계를 강화 학습한 LLM 계열입니다.

시험에서 손 들기 전에 머릿속으로 한 번 풀어보고 답하는 친구처럼, 추론 모델은 사용자에게 답을 내보내기 전 자기 안에서 풀이 과정을 길게 굴려 봅니다. 일반 LLM이 질문을 듣자마자 떠오르는 답을 바로 말하는 친구라면, 추론 모델은 "잠깐, 한 번 더 검토할게" 하고 속으로 단계별로 따져 본 다음 입을 떼는 친구예요. 이 "잠깐 생각하는 시간" 덕분에 수학 올림피아드나 복잡한 코딩 같은 어려운 문제에서 정답률이 크게 오르지만, 대신 답이 나오기까지 몇 초에서 수십 초가 더 걸리고 비용도 함께 늘어납니다.

**케이스 1: OpenAI o1 — 미국 수학 올림피아드 예선에서 GPT-4o의 6배 정답률** 2024년 9월 OpenAI 공식 발표에 따르면, 미국 수학 올림피아드(AIME) 2024 예선에서 GPT-4o가 13.4%만 풀었던 문제를 o1은 83.3%까지 풀었습니다.[1] 박사 수준 과학 추론 벤치마크인 GPQA Diamond에서도 o1이 78.0%를 기록해 전문 박사 응시자 평균(69