피드로 돌아가기
FHE programs have precision bugs random testing can't find — here's an adversarial search tool that does
Dev.toDev.to
AI/ML

CMA-ES 기반 Adversarial Search로 FHE 정밀도 오류 탐지율 4,259배 향상

FHE programs have precision bugs random testing can't find — here's an adversarial search tool that does

BAder82t2026년 4월 18일4advanced

Context

CKKS 스킴 기반 FHE ML 모델에서 연산 중 누적되는 Noise로 인해 특정 입력값에서 Plaintext 결과와 큰 괴리가 발생하는 Precision Bug 존재. 입력 공간의 약 10⁻⁵ 수준인 극소 영역에서만 발생하는 특성으로 인해 일반적인 Random Testing으로는 결함 발견이 불가능한 한계 직면.

Technical Solution

  • CMA-ES(Covariance Matrix Adaptation Evolution Strategy) 알고리즘을 채택하여 고차원 입력 공간 내 정밀도 오류 밀집 영역을 효율적으로 탐색하는 구조 설계
  • Plaintext와 FHE 결과 간의 Divergence, Noise Budget 소모량, Multiplicative Depth 활용도를 결합한 3-term Noise-aware Fitness Function 구현
  • FHE Adapter 인터페이스를 통해 OpenFHE, Microsoft SEAL, Zama Concrete 등 다양한 백엔드 라이브러리의 내부 상태 정보 추출 및 피드백 루프 구축
  • Training Distribution 중심의 샘플링에서 벗어나 모델이 선언한 전체 Input Space를 탐색하는 Adversarial Search 전략 적용
  • CI/CD 파이프라인 내 Oracle Check 게이트를 배치하여 설정된 Threshold 초과 시 Merge를 차단하는 자동화된 검증 프로세스 도입

1. FHE 모델 배포 전 Plaintext 모델과의 Semantic Divergence 검증 단계 포함 여부 확인

2. Noise Budget 소모가 심한 Multiplicative Depth가 깊은 경로의 입력값 집중 분석

3. 단순 정확도 측정을 넘어 Adversarial Input을 통한 최악의 케이스(Worst-case) 정밀도 측정

4. 발견된 Worst-input을 기반으로 Modulus Schedule 및 Polynomial Approximation 최적화 수행

원문 읽기