Roslyn과 Redis 기반 AST 캐싱으로 토큰 비용 80% 절감 및 LLM 환각 제거

Context

LLM의 학습 데이터 컷오프 시점으로 인한 NuGet API 환각 현상 및 대규모 소스 코드 로드 시 발생하는 Context Window 낭비 문제 발생. 소스 코드 전체를 외부 서버로 전송하는 과정에서 발생하는 보안 취약점 및 개인정보 유출 위험 상존.

Technical Solution

• Roslyn 기반의 AST 분석을 통한 구조적 메타데이터 추출로 전체 파일 덤프 방식의 토큰 낭비 제거
• Redis 기반 AST 캐시 레이어 도입 및 FileSystemWatcher를 통한 300ms 단위 증분 업데이트 구조 설계
• MetadataLoadContext를 이용한 NuGet DLL 바이너리 직접 리플렉션으로 최신 API 버전의 정확한 시그니처 제공
• 세마포어 락 및 경로 샌드박싱을 적용한 원자적 파일 수정 시스템 구축으로 파일 시스템 안정성 확보
• 프로젝트 기반 스코핑 및 메서드 콜 그래프 분석 기능을 통한 멀티 프로젝트 환경의 영향도 분석 지원
• SSE 전송 방식의 MCP(Model Context Protocol) 서버 구축으로 로컬 메타데이터 기반의 온프레미스 분석 환경 구현