SSE 기반 Streaming Response를 통한 사용자 대기 경험 최적화

Context

LLM 응답과 같은 Time Taking Processes 처리 시 단일 응답 방식의 긴 대기 시간 발생. 기존 Short Polling 및 Long Polling 방식의 반복적 요청으로 인한 네트워크 오버헤드와 비효율적 리소스 소모 한계 직면.

Technical Solution

• HTTP 표준 기반의 Server Sent Events 채택을 통한 서버-클라이언트 간 단방향 스트리밍 채널 구축
• 텍스트 블록 단위의 data, event, id, retry 필드 구조를 활용한 데이터 전송 최적화
• 서버가 데이터 생성 즉시 Push하는 메커니즘을 통한 Sequential Character Printing 구현
• 상태 비저장(Stateless) 특성의 HTTP 프로토콜 위에서 지속적인 연결 상태 유지로 요청-응답 사이클 제거
• 단순 PDF 생성부터 복잡한 뱅킹 트랜잭션까지 적용 가능한 Event Stream 아키텍처 설계