상태 기반 Supervisor Layer 도입을 통한 모바일 챗봇 세션 연속성 확보

"My Mobile Coding Agent Kept Starting New Sessions. I Taught It to Remember the Last Task"

CodeKing2026년 5월 8일5분intermediate

AI 요약

Context

모바일 환경의 짧고 모호한 Follow-up 메시지로 인해 기존 Runtime 세션이 종료된 후 새로운 태스크가 시작되는 Session Drift 발생. 단순 프롬프트 튜닝으로는 해결 불가능한 채널 레이어의 컨텍스트 유지 한계 노출.

단순 프롬프트 수정 대신 채널 레이어 내 구조화된 Memory 기반의 Supervisor Path 설계
대화별 Brief(Task Title, Provider, Status, Result, Suggestion)를 저장하여 세션 종료 후에도 맥락 유지
isDescriptiveTaskFollowUp 및 isNaturalLanguageTaskContinueIntent 로직을 통한 Follow-up Intent 정밀 분류
이전 태스크의 Provider 정보를 보존하여 기본 설정값이 아닌 실제 사용된 LLM 모델로의 일관된 라우팅 구현
remembered_follow_up 식별자를 통해 신규 실행 시에도 이전 태스크와의 명시적 관계를 유지하는 구조 채택
단순 상태 확인 질문(progress, done?)을 Runtime으로 전달하지 않고 Supervisor Brief 내에서 직접 응답하는 필터링 계층 구축

실천 포인트

1. AI 에이전트 설계 시 Prompt Magic보다 상태 기반의 구조적 메모리 계층(Supervisor Layer)을 우선 검토할 것

2. 모바일 UX 고려 시 사용자의 모호한 입력(Continue, Retry)을 처리할 전용 Intent Classifier 구현 여부를 확인할 것

3. 세션 종료 후 재시작 시 Default 설정이 아닌 '마지막 성공 Provider'를 추적하는 Provider Preference 로직을 적용할 것

4. 모든 상태 질문이 런타임에 도달하지 않도록 캐시된 상태 정보(Brief)를 통한 응답 경로를 분리할 것

태그