Gemini와 Backboard를 통한 상태 유지형 AI Agent 아키텍처 구현

EcoAgents — I built an AI agent that knows your carbon footprint and never lets you forget it

Navin Kumar R2026년 4월 19일8분intermediate

AI 요약

Context

기존 탄소 발자국 계산 도구의 Stateless한 특성으로 인한 일회성 사용자 경험이 한계점으로 작용. 단순 계산기를 넘어 사용자 식별과 기억력을 갖춘 지속 가능한 코칭 시스템으로의 전환이 필요함.

Auth0 v4 SDK 도입을 통한 세션 기반 Identity 계층 구축으로 사용자 식별 체계 마련
Backboard의 'Auto' Memory 모드 활용을 통해 대화 내 사실과 선호도를 자동 추출하는 Persistent Memory 레이어 설계
Gemini 2.5 Flash 모델에 Typed JSON 스키마를 강제하는 Prompt Engineering으로 분석 데이터의 구조적 일관성 확보
ReadableStream 기반의 Streaming Response 구현을 통한 LLM 응답 지연 시간의 사용자 체감 최적화
Resend API와 연동한 Agentic Workflow를 구축하여 미완료 액션 기반의 개인화된 푸시 알림 자동화
Vercel Edge Functions 상에서 ImageResponse를 활용한 동적 OG Image 생성으로 공유 가능성 확대

실천 포인트

1. 단순 Chatbot을 Agent로 확장 시 Identity(인증), Memory(저장), Reasoning(추론), Action(실행)의 4가지 레이어 연결 구조를 검토하십시오.

2. LLM 응답의 파싱 에러를 방지하기 위해 정규표현식을 통한 Code Fence 제거 후 JSON.parse를 수행하는 전처리 로직을 적용하십시오.

3. 사용자 경험 향상을 위해 LLM의 전체 응답 대기 대신 generateContentStream을 활용한 청크 단위 렌더링을 도입하십시오.

태그