Streaming 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, LLM이 응답을 다 완성한 다음 한꺼번에 보내지 않고 토큰 단위로 생성되는 즉시 사용자 화면에 실시간으로 흘려보내는 출력 방식입니다.

Streaming은 사용자가 보낸 질문에 대해 LLM(Large Language Model, 거대 언어 모델)이 답을 다 만들어 놓고 통째로 던지는 대신, 토큰이 하나씩 만들어질 때마다 곧장 화면에 흘려보내는 출력 방식이에요. 카톡 보낼 때 상대가 다 쓰고 한 번에 보내는 게 아니라 '입력 중'이 뜨면서 한 줄씩 차오르는 감각과 비슷합니다. 전체 응답 시간 자체는 똑같지만 첫 글자가 보이는 시점이 앞당겨져 같은 모델·같은 답인데도 훨씬 빠르게 느껴져요. 챗봇·코딩 보조·음성 비서 같은 거의 모든 AI 제품의 기본 옵션입니다.

**케이스 1: OpenAI Chat Completions — 챗봇 UX의 기본 옵션** OpenAI Chat Completions와 Responses API는 `stream=true` 플래그 하나로 토큰 단위 SSE 스트림을 반환합니다.[1] 응답 본문은 한 번에 오는 `message` 대신 `delta` 필드에 담겨, 화면에 즉시 출력 가능합니다.[1] 업계 가이드라인은 챗봇이 "반응한다