Nemotron 30b 기반 Three.js 게임 생성 자동화 시도와 RAG 도입을 통한 컨텍스트 최적화 분석

Context

LLM을 활용해 Three.js 기반의 인터랙티브 게임을 자동 생성하는 시스템 구축 시도. 모델의 추론 능력 한계와 제한된 Context Window로 인해 복잡한 게임 로직 구현 시 코드 결함 및 렌더링 실패 발생.

Technical Solution

• Nemotron 30b 모델에 상세 지침을 포함한 Long Prompt를 적용하여 초기 게임 생성 로직 설계
• Skill Cards 도입을 통한 도메인 지식 주입 시도 중 Context Window 초과 문제 확인
• Compute 비용 절감을 위한 짧은 Context Window 설정이 모델의 추론 성능 저하로 이어지는 Trade-off 발생
• Codex 모델을 활용해 Skill Cards 정보를 단일 텍스트 파일로 Distillation 하여 데이터 밀도 향상
• 최적화된 텍스트 데이터에 RAG(Retrieval-Augmented Generation) 구조를 적용하여 관련 기술 컨텍스트의 효율적 주입 구현
• 복잡한 게임 로직의 한계를 인정하고 Single-shot 생성 기반의 단순 HTML 도구로 기능을 축소하여 안정성 확보