피드로 돌아가기
Dev.toAI/ML
원문 읽기
Gemma 4 E4B와 LiteRT 기반의 150ms 미만 On-Device SMS 위협 탐지 구현
SafeSMS: On-Device Threat Detection with Gemma 4 E4B, no internet required
AI 요약
Context
기존 SMS 스팸 필터의 Cloud 기반 분석 방식에 따른 심각한 개인정보 유출 우려 및 네트워크 의존성 문제 발생. 데이터 프라이버시 확보와 오프라인 환경에서의 실시간 탐지를 위한 Local AI 아키텍처 요구됨.
Technical Solution
- LiteRT 프레임워크를 통한 Gemma 4 E4B 모델의 On-Device Inference 구현으로 외부 네트워크 통신 완전 배제
- Android Broadcast Receiver와 Background Service를 연동한 실시간 메시지 캡처 및 분석 파이프라인 구축
- Classification과 Reasoning을 결합한 구조화된 Prompting 전략으로 탐지 결과의 투명성과 정확도 동시 확보
- SQLite 로컬 DB를 활용한 탐지 이력 저장 및 Jetpack Compose 기반의 실시간 분석 UI 렌더링
- 모바일 리소스 제약을 고려한 경량 모델 채택으로 배터리 소모 최소화 및 백그라운드 처리 효율 최적화
Impact
- SMS당 추론 시간 50~150ms 달성으로 실시간 응답성 확보
- 네트워크 권한 제거를 통한 데이터 유출 가능성 0% 구현
Key Takeaway
Edge AI를 활용하여 데이터 전송 비용과 프라이버시 리스크를 제거하면서도, 특정 도메인(SMS 분석)에 최적화된 경량 모델로 충분한 추론 성능을 낼 수 있음을 증명한 설계 사례
실천 포인트
- 모바일 환경에서 프라이버시가 핵심인 기능 설계 시 Cloud API 대신 LiteRT/TFLite 기반 On-Device 모델 검토 - LLM 결과의 신뢰성 확보를 위해 단순 라벨링이 아닌 'Reasoning'을 포함한 구조화된 출력 포맷 설계 - 백그라운드 서비스에서 AI 모델 구동 시 배터리 효율을 위해 모델 파라미터 크기와 추론 주기를 정밀하게 튜닝