피드로 돌아가기
Dev.toAI/ML
원문 읽기
JVM 기반 AI 툴링 구축을 위한 Spring-style IoC 프레임워크 Sprout 공개
Sprout: a Spring-style, Spring-compatible framework for building AI tooling in Java
AI 요약
Context
기존 Java 생태계 내 AI 라이브러리들이 단순 API Client 수준에 머무는 한계 존재. 기존 JVM 백엔드 인프라와 유기적으로 통합되지 않아 AI 기능을 추가할 때 별도의 아키텍처 레이어를 구축해야 하는 비효율성 발생.
Technical Solution
- Spring-style IoC Container 도입을 통한 @Component, @Autowired 기반의 의존성 주입 및 빈 관리 체계 구축
- ModelExecutor 추상화를 통한 Provider-agnostic 설계로 벤더 SDK 의존성 제거 및 모델 교체 유연성 확보
- @Tool 어노테이션 기반의 자동 JSON-Schema 생성 로직을 통한 LLM Tool-calling 파이프라인 단순화
- AbstractConversationStore 인터페이스를 활용한 스레드 세이프 인메모리 및 외부 저장소 교체 가능 구조 설계
- Open Extension SPI 설계를 통한 신규 모델 프로바이더 및 전송 계층의 모듈형 확장성 보장
- Model Context Protocol(MCP) 지원을 통한 외부 도구 서버 연결 및 자체 도구의 서버화 기능 통합
실천 포인트
- 기존 Spring Boot 환경에 AI 에이전트를 통합할 때 Sprout-spring-boot-starter 검토 - 특정 LLM 벤더 종속성을 피하기 위해 ModelExecutor 기반의 추상화 레이어 적용 - 복잡한 Tool 정의 대신 Java 메서드 시그니처 기반의 자동 스키마 생성 활용 - 에이전트 간 협업 구조 설계 시 AgentOrchestrator의 Concurrent run 및 Delegation 패턴 적용