Gemma 4 E2B와 LiteRT 기반 온디바이스 멀티모달 아키텍처 구현

Context

심리 분석 앱의 민감한 데이터 처리를 위해 클라우드 추론을 배제한 완전한 Local-first 아키텍처 요구. 기존 Thin-client 모델은 데이터 유출 위험과 네트워크 의존성으로 인해 개인정보 보호 및 오프라인 환경 대응에 한계 노출.

Technical Solution

• GGUF 포맷의 하드웨어 가속 불가 문제를 해결하기 위해 Android NPU 최적화 레이아웃인 LiteRT-LM 포맷 채택
• Qualcomm QNN Delegate의 오디오 서브그래프 퓨전 미지원으로 인한 'Code 13' 크래시 해결을 위해 Secure Hybrid Pipeline 설계
• 오디오 추론 실패 시 transient STT 엔드포인트를 통해 텍스트만 추출하고, 핵심 분석 로직은 Gemma 4 온디바이스 엔진에서 처리하는 Graceful Degradation 전략 적용
• 물리적 arm64-v8a NPU 하드웨어와 x86 에뮬레이터 간의 바이너리 맵핑 불일치를 확인하여 실기기 기반 QA 프로세스 확립
• 스토리지 압박 및 설치 마찰 최소화를 위해 Android AI Core의 Gemini Nano 우선 확인 후 Gemma 4를 Fallback으로 사용하는 계층적 모델 로딩 구조 설계