AI 망각과 오작동 방지, MICA 프로토콜 기반 상태 보고 게이트 설계

Context

AI 에이전트의 세션 망각 현상으로 인한 잘못된 코드 수정 발생. 단순한 컨텍스트 제공만으로는 거버넌스 유지와 일관된 동작 보장이 어려움. AI가 현재 상태를 정확히 인지했는지 검증하는 강제적 장치 필요.

Technical Solution

• MICA(Memory Invocation & Context Archive) 스키마를 도입하여 컨텍스트 구조 및 신뢰도 점수 관리
• 세션 시작 시 archive_version, self_test, drift_status 등을 포함한 Session Report 출력을 강제하는 Gate 구조 설계
• SHA256 해시 기반의 Provenance Registry를 구축하여 실제 파일 상태와 아카이브 간의 Drift 감지
• 파일 존재 여부(ST-002) 및 호출 프로토콜 확인(ST-003) 등 단계별 Self-Test Policy 적용
• Drift 발생 시 단순 경고(warn_continue)와 작업 차단(warn_block)을 구분하는 Drift Response Policy 운영
• 단순 스타일 가이드를 넘어 모델이 임의로 합리화할 수 없는 강제 제약 조건인 Design Invariant 정의

Key Takeaway

AI 에이전트의 신뢰성은 단순한 프롬프트가 아니라, 실행 전 상태를 스스로 증명하게 만드는 엄격한 프로토콜과 검증 게이트 설계에서 결정됨.