프롬프트·AI 활용

JSON Mode

제이슨 모드

AI 활용 분야에서 OpenAI가 2023년에 공개한 API 옵션으로, LLM 응답을 자유 텍스트가 아니라 JSON(JavaScript Object Notation) 형식으로 출력하도록 강제해 후속 코드가 안전하게 파싱할 수 있도록 한 모드입니다.

쉬운 풀이

LLM(Large Language Model, 거대 언어 모델)이 답을 자유 줄글이 아니라 키-값 쌍으로 정돈된 JSON 객체로 내놓도록 켜는 API 스위치예요. 조별 과제 자료를 자유 양식 문서 대신 정해진 노션 템플릿에만 적어 제출받기로 약속하는 감각과 비슷합니다. 켜 두면 후속 코드가 result["price"] 식으로 값을 바로 꺼낼 수 있어 파싱 코드를 한 겹 줄여 주고, 같은 입력을 100번 돌려도 형식이 흔들리지 않아 회귀 테스트도 간단해져요. AI 시스템에 데이터 추출·분류·도구 호출을 맡길 때 가장 먼저 마주치는 옵션이라 한 번은 직접 켜 보면 좋습니다.

한 줄 비유

견적서를 자유 양식이 아니라 표준 엑셀 템플릿으로만 받도록 못 박아 둔 사내 규정입니다.

활용 예시

Case 1

OpenAI Chat Completions — DevDay 2023 도입과 형식 따르기 개선

OpenAI는 2023년 11월 6일 첫 DevDay에서 GPT-4 Turbo·GPT-3.5 Turbo에 JSON Mode를 추가하면서, 같은 발표에서 형식 따르기(JSON·XML·YAML 생성) 평가 정확도가 직전 모델 대비 약 38% 개선됐다고 공개했습니다.^[1] 공식 가이드는 "JSON Mode는 유효 JSON만 보장하고 스키마는 보장하지 않는다"고 다시 한 번 명시하며, 더 엄격한 보장이 필요하면 Structured Outputs로 이전하도록 권고합니다.^[2][3] 백오피스 응답 파싱 코드의 try/except 한 겹을 우선 줄이려는 팀이 1차 보호막으로 가장 자주 켜는 옵션입니다.

Case 2

한국 B2B SaaS — 견적서 자동 추출 2단 파이프라인

국내 한 B2B SaaS 팀은 PDF 견적서에서 항목·단가·VAT를 ERP에 적재하는 파이프라인을 만들 때, 1단계로 response_format={"type": "json_object"}만 켜 파싱 성공률을 측정한 뒤, 누락 필드가 잦아지자 2단계로 Structured Outputs의 strict: true 스키마로 전환하는 운영 패턴을 도입했습니다.^[2][3] OpenAI 공식 가이드 역시 동일한 단계적 이전을 권장 시나리오로 안내합니다.^[3] 단계마다 형식 일치율을 메트릭으로 잡아 두면 모델·옵션 변경 시 회귀 테스트가 쉬워집니다.

Case 3

에이전트 함수 호출 — 도구 인자 안정화

OpenAI는 Structured Outputs 발표에서 "에이전트·데이터 추출·도구 사용처럼 다운스트림 코드가 필드 이름으로 값을 꺼내가는 작업이면 Structured Outputs를 쓰라"고 권고했고, JSON Mode만으로는 인자가 "유효 JSON"이지만 필수 키가 빠지는 사례를 막지 못한다고 적시했습니다.^[3] Gemini는 함수 호출과 response_mime_type='application/json'을 동시에 사용할 수 없어 도구 사용 시 response_schema 경로를 권장하고^[5], Anthropic도 도구 정의에 strict: true를 붙이는 옵션을 2025년 11월 베타로 함께 공개했습니다.^[4] SQL 쿼리·결제 API·사내 시스템을 LLM이 호출하는 에이전트에서 인자 검증 코드와 재시도 루프를 크게 줄여 줍니다.

Case 4

Anthropic Claude·Google Gemini — JSON Mode 격 옵션의 모델사 확장

Anthropic은 2025년 11월 13일 structured-outputs-2025-11-13 베타 헤더로 Claude Sonnet 4.5·Opus 4.1에 구조화 출력을 공식 추가하면서, 제약 디코딩(constrained decoding)으로 토큰 단위 스키마 강제를 보장한다고 명시했습니다.^[4] Google Gemini는 response_mime_type="application/json"으로 JSON Mode 격의 옵션을 제공하고, response_schema를 함께 지정하면 Pydantic·Zod 같은 타입 스키마를 그대로 받아 처리합니다.^[5] OpenAI(JSON Mode·2023.11) → Anthropic·Google(스키마 강제·2024~2025)로 이어진 흐름이며, 신규 개발이라면 모델사별 권장 경로로 일원화하는 것이 안전합니다.^[3][4][5]

참고사항

사용 중인 모델사 공식 문서에서 JSON Mode·Structured Outputs 지원 모델 목록을 먼저 확인합니다
OpenAI 호출에 response_format={"type": "json_object"}만 켜고, 시스템 메시지에 "JSON으로만 답하라" 한 줄을 명시합니다
같은 호출을 response_format={"type": "json_schema", "strict": true}로 바꿔 스키마 100% 일치 여부를 비교합니다
Gemini는 response_mime_type="application/json" + response_schema, Claude는 structured-outputs-2025-11-13 베타 헤더 + output_format으로 동일 케이스를 재현합니다
파싱 실패율·필수 필드 누락률·평균 지연을 대시보드에 추가해 모델·옵션 변경 시 회귀 테스트로 사용합니다

공식 문서가 가장 강하게 강조하는 한계는 "JSON Mode는 구문은 보장하나 스키마는 보장하지 않는다"는 점입니다.^[2] 시스템 메시지에 JSON 지시를 빠뜨리면 모델이 토큰 한도까지 공백을 출력해 비용이 새는 사례가 보고되고, Gemini는 함수 호출과 JSON MIME 타입을 동시에 사용할 수 없으며, 일부 Anthropic 모델에서는 어시스턴트 프리필이 비활성화된 점도 마이그레이션 시 주의해야 합니다.^[2][5] 또 형식이 강제되면 모델이 "거절할 기회"를 잃고 무의미한 값으로 필드를 채울 위험도 있어, refusal 처리와 빈 결과 처리 코드를 별도로 둬야 한다는 지적이 반복됩니다.^[3]

진화 방향은 분명합니다. "유효 JSON"에서 "스키마 강제"로 이동하는 흐름이고, 신규 개발에서 JSON Mode는 1차 보호막, Structured Outputs류 스키마 강제 기능은 최종 보호막으로 두는 2단 구조가 2026년 6월 시점의 표준 패턴으로 자리잡았습니다. OpenAI는 2024년 8월 6일 Structured Outputs를 도입해 토큰 샘플링 단계에서 스키마와 어긋나는 토큰의 확률을 0으로 만드는 제약 디코딩으로 100% 일치를 보장하고^[3], Anthropic은 2025년 11월 13일 동일 기법 기반 구조화 출력을 베타로 공개했으며^[4], Google Gemini의 response_schema도 같은 흐름입니다.^[5] 한국에서도 사내 정책·약관·계약서·신고 양식을 LLM에 넣을 때 JSON Mode로 시작해 Structured Outputs로 굳히는 운영 흐름이 일반화되고 있습니다.

이 용어와의 관계

유사 개념
Prompt Version같은 프롬프트·AI 활용 갈래에서 자주 함께 등장하는 개념입니다.
유사 개념
Prompt Library같은 프롬프트·AI 활용 갈래에서 자주 함께 등장하는 개념입니다.
유사 개념
Persona Prompting같은 프롬프트·AI 활용 갈래에서 자주 함께 등장하는 개념입니다.