GPT-5.4 Pro가 하이퍼그래프의 Ramsey형 수학 난제 해결

Context

LLM이 훈련 데이터에 없는 문제를 해결할 수 있는지에 대한 근본적 의문이 제기되었다. '훈련 데이터에 없으니 불가능하다'는 단순한 설명으로는 수학 올림피아드 우승 모델이나 새로운 알고리즘 제안 사례를 설명할 수 없었다.

Technical Solution

• 신경망 내부 회로에서 압축된 추상 전략 학습: 단순 암기가 아니라 일반화된 연산을 수행하는 메커니즘 확보
• RL(강화학습)과 메모리 추가를 통한 한계 극복: 경험 학습 부족을 보완하는 구조 도입
• 자동 검증 가능한 도메인(수학·코딩)에서 RLVR 접근법 적용: 명확한 규칙과 검증 가능성을 기반으로 학습 효율 향상
• 컨텍스트 관리를 통한 토큰 최적화: Opus 4.6이 약 25만 토큰을 소비하면서 문제 해결 시 토큰 낭비 최소화
• 도메인 전문가의 문제 해결 방식을 LLM에 학습: 기존 증명의 재샘플링 방식으로 새로운 해답 도출

Impact

GPT-5.4 Pro와 다른 최신 모델이 Epoch의 Open Problems 리스트에서 'moderately interesting' 수준의 하이퍼그래프 Ramsey형 문제를 해결하였다. 동일 난이도 리스트의 나머지 3개 문제도 향후 풀릴 가능성이 제시되었다.

Key Takeaway

LLM의 능력은 훈련된 비용 함수(cost function)에 의해 결정되며, 수학·코딩처럼 자동 검증이 가능한 분야에서는 RLVR 방식의 빠른 발전이 가능하지만, 사회적 보상이나 불확실성이 큰 영역에서는 진전 속도가 제한된다. 모든 발견이 기존 아이디어의 조합적 합성 결과라는 점에서 '진정한 새로움'의 벤치마크 설계가 핵심 과제이다.