피드로 돌아가기
Dev.toInfrastructure
원문 읽기
ARM 4Core/24GB RAM 자원 최적화를 통한 5가지 고밀도 워크로드 구현
I Had a Free Oracle Cloud ARM Box With 24GB RAM — So I Got Weird With It
AI 요약
Context
Oracle Cloud Free Tier의 과잉 스펙(ARM 4Core, 24GB RAM)을 단순 정적 페이지 서빙에 사용하는 자원 낭비 상황 분석. 메모리 집약적 작업과 ARM 아키텍처 최적화를 활용한 시스템 효율 극대화 필요성 제기.
Technical Solution
- llama.cpp의 ARM/NEON 최적화 및 24GB RAM을 활용한 7B~13B 파라미터 LLM 추론 환경 구축
- 네트워크 I/O 중심의 Bazel/Turborepo Remote Cache 서버 배포를 통한 CI 빌드 시간 단축 및 메모리 인덱싱 최적화
- Airbyte OSS의 높은 초기 메모리 점유(6GB)와 DuckDB의 In-memory 분석 구조를 결합한 서버리스 데이터 파이프라인 설계
- Pterodactyl 패널 기반의 ARM 전용 바이너리 배포를 통한 다중 게임 서버 컨테이너 오케스트레이션 구현
- Browserless Chromium 인스턴스의 높은 RAM 요구사항을 24GB 메모리 풀로 해결하여 최대 40개 동시 세션 처리 구조 설계
실천 포인트
- ARM 아키텍처 배포 시 Docker 이미지의 Architecture 필드 검증을 통한 에뮬레이션 오버헤드 방지 - VCN Security List와 OS iptables의 2중 방화벽 설정 동기화 여부 확인 - 클라우드 제공사의 Idle Instance 회수 방지를 위한 주기적인 활동 생성(Cron job) 설정