ML과 커스텀 룰 엔진 기반의 결제 사기 방지 시스템 구축 전략

Context

결제 서비스 내 신용카드, 은행 송금, e-wallet을 대상으로 한 부정 결제 위협 증가. 기계적 탐지만으로는 대응하기 어려운 비즈니스 특화 사기 패턴 존재. 실시간 탐지와 수동 제어 사이의 유연한 보안 계층 필요.

Technical Solution

• 과거 거래 데이터를 학습한 Machine Learning 모델을 통해 위치, 디바이스 핑거프린트, 거래 금액 기반의 리스크 스코어링 수행
• Velocity Engine을 활용한 단기간 반복 거래 패턴 및 IP 기반의 카드 테스팅 공격 실시간 감지
• Allow, Block, Review 세 단계의 우선순위 계층 구조를 가진 Rules Engine 설계
• BIN Range, 국가 코드, 3D Secure 요구사항 등 다차원 파라미터를 조합한 커스텀 필터링 로직 구현
• 카드 핑거프린트 기반의 화이트리스트(Allowed Cards) 및 블랙리스트(Blocked Cards) 관리 리스트 운영
• API 엔드포인트와 Webhook을 통한 외부 애플리케이션과의 실시간 사기 이벤트 연동 구조

Impact

• 2,500 EUR 초과 고액 거래에 대한 자동 차단 룰 설정 가능
• Review 상태 거래에 대해 7일 이내 수동 승인 또는 거절 처리 프로세스 적용

Key Takeaway

범용적인 ML 모델의 탐지 능력과 비즈니스 도메인 지식이 반영된 결정론적 룰(Deterministic Rule)을 계층적으로 결합하여 탐지 정확도와 제어 가능성을 동시에 확보하는 하이브리드 보안 설계 방식.