피드로 돌아가기
카카오 기술블로그카카오 기술블로그
Security

수억 건의 보안 신호 속 진짜 위협 찾기 — AI로 보안 모니터링의 패러다임을 바꾸다

카카오가 수억 건의 보안 이벤트를 다단계 깔때기 + 멀티 모델 AI 교차 검증으로 필터링해 위협 대응 리드타임 90% 단축 및 오탐률 1% 미만 달성

jerry.shim / jackson.c2026년 3월 15일15advanced

Context

규칙 기반 탐지 시스템은 개별 이벤트 분석에만 집중해 정상 행위와 공격을 구분하지 못했고, 매일 수억 건의 이벤트가 유입되는 환경에서 분석가 인력으로는 기하급수적 증가를 감당할 수 없었습니다. 상관분석 규칙도 사전 정의 시나리오에만 대응 가능해 미지의 공격 패턴을 탐지하기 어려웠고, 규칙 개수 증가에 따른 유지보수 비용이 기하급수적으로 증가했습니다.

Technical Solution

  • 다단계 깔때기 구조: 1차 규칙 기반 노이즈 제거 → 2차 정상 패턴 자동 학습 예외 처리 → 3차 AI 분석 엔진 정밀 분석으로 단계적 필터링 수행
  • 멀티 모델 교차 검증: 서로 다른 추론 특성의 여러 모델이 동일 이벤트를 독립적으로 분석 후 결과 대조, 모델 간 불일치를 불확실성 신호로 활용
  • 컨텍스트 주입 설계: AI에 분석 대상 호스트 역할, 서비스 정보, 정상 행위 패턴 등 내부 맥락을 사전 구조화하여 전달
  • 호스트 단위 행위 흐름 재구성: 개별 이벤트 대신 프로세스 실행 이력, 네트워크 세션, 파일 변경을 시간 순서로 연결한 전체 행위 흐름을 분석 단위로 변경
  • 동적 피처 구성: 탐지 유형별로 AI에 전달할 핵심 특징을 동적으로 선별하고 재구성해 토큰 효율과 분석 정확도 동시 개선
  • 자가 학습 루프: AI 분석 결과가 검증을 거쳐 탐지 정책에 자동 반영되고, 갱신된 정책이 다시 이벤트 필터링에 적용되는 피드백 루프 구성

Impact

  • 위협 대응 리드타임: 분석/문서화/정리를 포함한 전체 리드타임 90% 이상 단축
  • 오탐률: 1% 미만 달성
  • 운영 효율: 동일 인력 규모로 분석 커버리지 수십 배 확장
  • 운영 비용(TCO): 건당 분석 비용을 기존 대비 1/100 수준으로 개선
  • 탐지 정책: 수천 건의 탐지 정책 자동 생성

Key Takeaway

대규모 데이터 환경에서는 모든 데이터를 AI에 통과시키기보다 사전 필터링으로 정밀 분석이 필요한 데이터만 선별하는 깔때기 구조가 비용과 정확도를 동시에 개선할 수 있습니다. 또한 단일 AI 모델 의존 대신 멀티 모델 교차 검증으로 특정 모델의 장애나 편향에 대한 운영 신뢰성을 확보하는 것이 중요합니다.


대량의 보안 이벤트나 로그를 처리하는 플랫폼에서 규칙 기반 1차 필터링 → 통계 기반 2차 예외 처리 → AI 분석의 다단계 깔때기 구조를 도입하면, AI에 도달하는 데이터를 극한까지 정제해 토큰 비용을 절감하면서 분석 정확도를 높일 수 있습니다. 추가로 서로 다른 추론 특성의 여러 LLM 모델을 병렬로 실행해 교차 검증하면 특정 모델 장애 시에도 분석 중단 없이 운영 연속성을 보장할 수 있습니다.

원문 읽기