피드로 돌아가기
GeekNewsAI/ML
원문 읽기
Rich Sutton의 AI 창의성과 발견
단순 모방 LLM을 넘어 RL 기반 변이-평가-보존 루프로 구현하는 AI 창의성 설계
AI 요약
Context
지도학습 기반 생성 AI는 학습 데이터의 최빈값을 모방하는 구조적 한계로 인해 새로운 과학적 발견이나 수학적 증명 수행에 제약 발생. 원천 자료의 품질에 의존하는 특성상 데이터 범위를 벗어난 출력은 Hallucination으로 처리되어 진정한 의미의 창의적 발견이 불가능한 구조임.
Technical Solution
- Variation, Evaluation, Selective Retention의 3단계 피드백 루프를 통한 발견 프로세스 자동화 설계
- 단순 확률적 샘플링이 아닌 명시적 목표(Explicit Goal)와 검증 가능한 보상(Verifiable Reward) 체계 도입
- RL-Lyft, AlphaZero 사례와 같이 외부 환경의 엄격한 평가 함수를 결합하여 최적의 궤적을 선택적으로 보존하는 구조 채택
- 가소성 유지를 위해 사용률이 낮은 뉴런을 무작위로 재초기화하는 Continual Backpropagation 기법 적용
- LLM을 단일 모델이 아닌, 생성-테스트-개선 루프를 수행하는 에이전트식 하네스(Agentic Harness)의 구성 요소로 배치
실천 포인트
1. LLM 도입 시 단순 텍스트 생성이 아닌 '검증 가능한 피드백 루프' 설계 여부 검토
2. 정답이 없는 도메인에서 RLVR(Reinforcement Learning from Verifiable Rewards) 적용 가능성 분석
3. 모델의 정체 방지를 위한 가중치 재초기화 또는 지속적 변이 생성 전략 수립
4. LLM을 최종 출력기가 아닌, 외부 컴파일러/터미널/평가기와 결합된 에이전트 구조로 설계