HTTP 기반 LLM 인터페이스를 통한 비즈니스 로직 추상화 및 자동화

Context

기존의 검색 기반 도구가 수행하지 못하는 추론 및 개인화 작업의 필요성 증대. 단순 데이터 매칭을 넘어 텍스트 내 패턴을 인식하고 상황에 맞는 응답을 생성하는 고차원적 처리 구조 요구.

Technical Solution

• Input(Prompt) → Foundation Model → Output(Response)로 이어지는 단순 HTTP 요청 기반의 아키텍처 설계
• AI, Foundation Models, LLMs의 계층적 구조 정의를 통한 도메인 모델 정립
• Amazon Bedrock과 같은 Model Hub를 활용해 인프라 관리 부담 없이 다양한 LLM을 교체 가능한 플러그인 형태로 운용
• 사전 학습된 데이터의 패턴 매칭을 통한 확률적 텍스트 생성 메커니즘 적용
• 단순 요약을 넘어 해석(Interpretation)과 개인화(Personalization) 단계로 이어지는 점진적 프롬프트 확장 전략