LLM 기반 Generative Tool을 Transactional B2B Architecture로 전환한 설계 전략

Context

단순 생성형 LLM 기반의 여행 일정 계획 서비스가 실제 B2B 비즈니스 환경의 트랜잭션 처리 능력을 갖추지 못해 발생한 아키텍처 불일치 상황. 특히 Stateless한 모델 특성으로 인한 실시간 재고 반영 불가 및 Pricing Hallucination 문제로 인한 서비스 신뢰도 저하 발생.

Technical Solution

• LLM의 역할을 단순 Brain에서 Natural-Language Renderer로 재정의하여 입력 파싱과 출력 포맷팅에 한정시킨 설계
• 결정론적 결과 보장을 위해 모든 가격 및 예약 정보 생성을 모델 내부 추론이 아닌 실시간 Inventory API 호출 기반의 RAG 구조로 구현
• 단순 문서 기반 RAG를 넘어 분 단위로 만료되는 실시간 Pricing API 응답값을 데이터 소스로 활용하는 동적 컨텍스트 주입 전략 채택
• Stateless LLM의 한계를 극복하기 위해 GDS, Wholesaler API 등 외부 시스템의 상태를 변경하고 추적하는 별도의 Integration Layer 구축
• 비즈니스 워크플로우 중심의 설계를 통해 생성된 텍스트를 실제 Bookable한 계약 문서로 전환하는 Deterministic Infrastructure 확보