9B 소형 모델로 구현한 자율 에이전트의 윤리 진화 구조

Context

자율 에이전트의 무분별한 지식 주입으로 인한 행동 추적 불가 문제 발생. 일상적인 활동 로그에 묻혀 희소한 윤리적 통찰이 소실되는 구조적 한계 노출. 인간의 개입 없는 자동 최적화 과정에서 디버깅 불가능한 블랙박스 현상 심화.

Technical Solution

• 에피소드 로그 기반의 6단계 메모리 흐름 설계로 정체성·기술·규칙·윤리를 계층적으로 분리
• 전처리 단계(Step 0)에서 빠른 태깅을 통해 노이즈를 제거하고 윤리적 데이터만 별도 추출하는 분류 파이프라인 구축
• 지식의 직접 주입 방식을 폐지하고 'Research → Extract → Curate → Promote → Measure → Maintain'의 AKC(Agent Knowledge Cycle) 아키텍처 적용
• 모든 행동 변화 명령에 '생성 → 표시 → 승인 → 기록' 단계의 Human-in-the-loop 승인 게이트 강제 적용
• 9B 모델의 자원 제약을 극복하기 위해 '빠른 추출(Free-form) 후 구조화(JSON)'라는 2단계 증류 전략 채택

Impact

• 운영 17일 만에 단일 파일(agent.py, 780라인)에서 36개 모듈로 확장
• 메모리 레이어 1개에서 6개로 세분화 및 테스트 케이스 774개 확보
• 증류 성공률 20%(2/10)에서 75%(12/16)로 향상
• 216개 에피소드 중 윤리적 데이터 비중 0.46%(1건) 수준의 희소 데이터 정밀 추출 성공

Key Takeaway

자율 에이전트의 자기 개선 속도는 인간의 승인 절차에 의해 결정되며 이는 안전성을 넘어 인과 관계 추적과 디버깅을 위한 필수 설계 요소임.