AI Agents are Fragile. Why I Built an Execution-Layer Firewall.

Context

LLM 기반 에이전트 프레임워크(LangChain, AutoGen, OpenAI Swarm, CrewAI)는 비결정론적(stochastic)인 LLM 출력을 Python의 결정론적 백엔드 도구와 연결할 때 타입 미스매칭 문제를 겪는다. LLM이 None을 문자열 필드에 할당하거나 배열을 불린 값으로 전달할 때 기본 오케스트레이션 프레임워크는 TypeErrors와 KeyErrors를 발생시켜 전체 asyncio 이벤트 루프를 종료한다.

Technical Solution

• 결정론적 퍼징 & 스키마 격리: toolguard test 명령어로 대상 Python 도구에 null, 누락된 필드, 대량의 문자열 등 엣지 케이스를 프로그래매틱하게 주입해 최악의 JSON 할루시네이션을 시뮬레이션하고, 크래시 발생 시 클린한 Pydantic 스키마 diff를 LLM에 반환해 자체 수정 유도
• 로컬 크래시 리플레이: --dump-failures 플래그로 프로덕션 크래시 발생 시 정확한 딕셔너리 페이로드를 .toolguard/failures/ 디렉토리에 자동 저장
• 재귀적 DFS 스캐너: 복잡한 RAG 데이터베이스나 중첩된 객체 반환 내부의 프롬프트 인젝션을 탐지하기 위해 Python 객체의 dict 바인딩을 깊이 우선 탐색으로 순회
• Golden Traces (DAG 컴플라이언스): 엔터프라이즈 환경에서 인증 도구가 환급 도구보다 먼저 성공적으로 완료되도록 강제하는 등 작업의 엄격한 순서를 수학적으로 보장
• 휴먼 인 더 루프 리스크 티어: 읽기 전용 도구(Tier 0)는 정상 실행하고, 데이터베이스 수정 같은 파괴적 백엔드 작업은 배경 스레드에서 영 레이턴시 휴먼 승인 프롬프트를 트리거해 메인 서버의 응답성 유지
• 결정론적 CI/CD 통합: 1초 이내에 JUnit XML 리포트와 신뢰성 점수(100점 만점)를 LLM API 비용 없이 생성하고, GitHub Action 또는 GitLab 파이프라인을 차단
• 7개 에이전트 프레임워크 어댑터 제공: FastAPI, AutoGen, Swarm, LangChain, CrewAI, LlamaIndex, MiroFish에 네이티브 파이어월 어댑터 배포

Impact

마케팅 비용을 사용하지 않고 오픈소스 공개 5일 이내 700회 이상 저장소 클론과 200명 이상의 인프라 엔지니어의 시스템 통합 달성.

Key Takeaway

LLM 에이전트의 프로덕션 안정성은 모델의 추론 능력(Layer-1)이 아닌 스키마 검증과 실행 계층 보호(Layer-2)에서 결정된다. 에이전트 기반 시스템에서는 입력 검증 및 크래시 격리를 위한 전용 실행 계층 방화벽이 필수 원시 계산 요소다.