Apache 2.0 라이선스 기반 1.4GB RAM 구동 가능한 Edge AI 아키텍처 구현

Context

기존 Cloud AI 모델의 높은 API 비용과 데이터 프라이버시 제약으로 인한 Edge Computing 수요 증가. 거대 Dense 모델의 연산 비용 및 메모리 점유율로 인한 일반 클라이언트 하드웨어의 실행 병목 발생.

Technical Solution

• E2B 모델 내 Layer-Signals 구조를 도입하여 각 독립 레이어에 세분화된 컨텍스트 신호를 주입한 효율적 토큰 관계 분석 설계
• 26B 모델에 Mixture-of-Experts(MoE) 아키텍처를 적용하여 128개 전문 서브 네트워크 중 8개만 활성화하는 동적 라우팅 구현
• MoE 구조를 통해 전체 파라미터 대비 실제 연산 비용을 3.8B 수준으로 낮춘 런타임 최적화 달성
• Apache 2.0 라이선스 채택을 통한 법적 제약 제거 및 폐쇄형 데이터 기반의 Local Fine-Tuning 자율성 확보
• 로컬 하드웨어 최적화를 통한 Cloud API 의존성 제거 및 데이터 유출 가능성을 원천 차단한 온디바이스 실행 환경 구축