Streaming 4장 카드뉴스

AI 활용 분야에서 쓰이는 용어로, LLM이 응답을 다 완성한 다음 한꺼번에 보내지 않고 토큰 단위로 생성되는 즉시 사용자 화면에 실시간으로 흘려보내는 출력 방식입니다.

Streaming은 사용자가 보낸 질문에 대해 LLM(Large Language Model, 거대 언어 모델)이 답을 다 만들어 놓고 통째로 던지는 대신, 토큰이 하나씩 만들어질 때마다 곧장 화면에 흘려보내는 출력 방식이에요. 카톡 보낼 때 상대가 다 쓰고 한 번에 보내는 게 아니라 '입력 중'이 뜨면서 한 줄씩 차오르는 감각과 비슷합니다.

[4] 사용자 설문이나 GPT 기반 상담 챗봇을 만들 때 기본값으로 켜 두는 옵션입니다. [5] 강의 자막, 콜센터 상담사 보조 화면, 회의록 실시간 공유 같은 화면에 그대로 붙일 수 있는 방식입니다. [2] 코딩 에이전트·리서치 에이전트의 진행 상황 표시 UI에 사용하기 좋은 구조입니다.