10.9만 라인 ERP 구축 중 발견한 AI 에이전트 5대 Silent Failure 해결 전략

Context

AI 에이전트를 활용한 솔로 ERP 개발 과정에서 Crash와 같은 명시적 오류가 아닌, 논리적 결함이 숨어드는 Silent Failure의 위험성 식별. 깨끗한 코드와 Green 테스트 결과가 오히려 시스템의 실제 결함을 은폐하는 역설적 상황 발생.

Technical Solution

• Symptom 기반 패치 금지 및 Input-Output 전체 Pipeline 검증을 통한 Root Cause 해결 강제
• Tautology 방지를 위해 모든 Contract Test에 반드시 실패 케이스(Negative Case)를 포함하는 검증 구조 설계
• AI의 Hallucination 방지를 위해 기억(Memory)에 의존하지 않고 ADR(Architecture Decision Record) 원문을 즉시 Read하는 프로세스 확립
• DB Enum과 TS Type 간의 Drift 감지를 위해 정기적인 SELECT DISTINCT 기반의 Cross-Audit 스크립트 운용
• Fix 범위 내 Refactoring 금지 및 별도 티켓 분리를 통한 Scope Creep 방지 및 사이드 이펙트 최소화