피드로 돌아가기
Dev.toBackend
원문 읽기
2KB 경량 프로세스와 Reduction 기반 스케줄링을 통한 무중단 확장성 확보
The BEAM Is Not Like Other Runtimes (And That's Why Elixir Scales the Way It Does)
AI 요약
Context
JVM 기반의 Thread 모델은 Shared Mutable State와 Global GC로 인한 Stop-the-world 현상 및 리소스 오버헤드 발생. OS Thread 기반의 동시성 제어는 메모리 소모와 Context Switching 비용으로 인해 수만 개 이상의 연결 처리에 한계 직면.
Technical Solution
- OS Thread와 분리된 2KB 단위의 Lightweight Process 도입을 통한 메모리 효율 극대화
- Time-slice가 아닌 2000 Reduction 단위의 Preemptive Scheduling 적용으로 특정 프로세스의 CPU 독점 방지
- Process별 독립 Heap 할당 및 개별 Garbage Collection 수행을 통한 Global GC pause 제거
- Shared Memory를 배제한 Message Passing 기반 통신 구조 설계로 데이터 격리 및 장애 전파 차단
- epoll/kqueue 기반의 IO Multiplexing을 런타임 수준에서 처리하여 Non-blocking IO 구현
- Failure-isolated 구조 설계를 통한 프로세스 충돌 시 독립적 Heap 회수 및 Supervisor 기반의 즉각적 복구
실천 포인트
1. 대규모 동시성 요구 시스템 설계 시 OS Thread 대신 User-level Thread/Process 모델 검토
2. 전역 상태 공유를 최소화하고 Message Passing 패턴을 통한 데이터 흐름 설계
3. 개별 작업 단위의 리소스 할당 및 회수 구조를 통해 Stop-the-world 리스크 제거
4. 대용량 데이터 전송 시 Copy 비용을 고려하여 메시지 크기를 최소화하는 전략 수립