3B SLM 기반 DharmaOCR 출시 및 Claude Code 과금 버그 분석

Context

범용 LLM의 높은 추론 비용과 Latency로 인해 특정 도메인 최적화 모델의 필요성 증대. Claude Code의 경우 실험적 기능의 내부 Routing 오류로 인해 특정 문자열 포함 시 요금제 우회 현상 발생.

Technical Solution

• OCR 특화 3B 파라미터 규모의 Specialized SLM 설계를 통한 추론 효율성 극대화
• 대규모 LLM 대비 낮은 Resource 점유율로 비용 및 Latency 병목 지점 해결
• Hugging Face 기반 모델 및 데이터셋 공개를 통한 OCR 벤치마크 검증 체계 구축
• Claude Code 내 'HERMES.md' 문자열 인식 시 Max Plan Bundled Usage를 무시하고 Standard API Rate를 적용하는 내부 Routing 로직 결함 확인
• 특정 패턴 매칭 기반의 예외 처리 누락으로 인한 의도치 않은 API 과금 경로 활성화

Impact

• 특정 사용자에게 최대 $200의 예상치 못한 API 과금 발생
• DharmaOCR 도입을 통한 범용 모델 대비 비용 효율적 OCR 성능 확보

Key Takeaway

특수 목적 도메인에서는 범용 거대 모델보다 최적화된 SLM이 비용 및 성능 면에서 유리함. 또한 실험적 기능의 Routing 설계 시 엄격한 예외 처리와 과금 Guardrail 설정이 필수적임.