Google Gemini API 기반의 구조화된 텍스트 생성 파이프라인 설계

Context

사용자 선택 재료와 맛의 조합을 통한 이색 레시피 생성 기능 구현. AI 응답의 가변성을 제어하고 안정적인 출력 형식을 유지해야 하는 과제 직면.

Technical Solution

• React(Vite) 기반의 프론트엔드와 Spring Boot(Java 17) 백엔드를 분리한 클라이언트-서버 아키텍처
• Google Gemini API를 단순 챗봇이 아닌 특정 포맷의 텍스트 생성 엔진으로 활용하는 설계
• 서버 사이드 API Key 관리 전략을 통한 클라이언트 측 키 노출 원천 차단
• 엄격한 프롬프트 제약 조건 설정을 통한 출력 길이 제한 및 고정 포맷 유지
• AI API 호출 실패 또는 비활성화 상태를 대비한 Non-AI Fallback Generator 구현
• 예기치 못한 긴 응답을 방지하기 위한 백엔드 단의 Output Trimming 처리

Key Takeaway

LLM 도입 시 외부 API 의존성을 낮추기 위해 대체 로직(Fallback)을 설계하고, 출력 데이터의 일관성을 위해 프롬프트 제약과 결과값 가공 공정을 병행하는 전략의 중요성.