소형 LLM의 에너지 효율과 성능을 극대화하는 인간 개입 수식 HAIL 공개

Context

기존 LLM 추론 연구는 모델의 자율적 프로세스로만 에너지 소비를 측정. 인간의 개입을 단순한 품질 교정 도구로 취급하는 한계 존재. 작업 분해와 인간의 검증이 실제 에너지 낭비 감소에 미치는 영향에 대한 정량적 분석 부재.

Technical Solution

• 인간을 추론 비용 방정식의 명시적 변수로 포함한 HAIL(Human-Augmented Inference for Lightweight Models) 프레임워크 설계
• 인간의 개입 수준(H)과 조율 효율성(γ)을 기반으로 에러 감소율을 계산하는 $\delta(H) = (1 − H)^\gamma$ 함수 도입
• 하드웨어 비용 대비 출력 품질을 측정하는 QDH(Quality-per-Dollar-Hour) 지표 정의
• 단순 작업 분해보다 단계별 검증과 문맥 유지라는 인간의 능동적 조율이 세만틱 에러 해결의 핵심임을 식별
• 복잡도 임계점(C*)을 설정하여 자율 실행과 인간 개입 간의 최적 효율 지점 결정
• Claude Code의 'harness' 구조처럼 모델 외부의 오케스트레이션 층이 실제 시스템 지능의 핵심임을 분석

Key Takeaway

소형 모델의 성능 한계는 모델 자체의 파라미터 증설보다 정교한 외부 오케스트레이션 층과 적절한 인간 개입 지점 설계로 극복 가능.