SFT의 Overfitting 한계 극복을 위한 RLHF 기반 모델 Aligning 전략
Understanding Reinforcement Learning with Human Feedback Part 2: Aligning Pretrained Models
도메인 패턴 인식을 통한 인보이싱 시스템 재설계 방지 및 개발 효율 극대화
Presentation: Beyond Coding: How Senior ICs Grow Influence and Drive Impact
RewardGuard를 통한 RL Reward Hacking 감지 및 실시간 정렬 최적화
Stop Reward Hacking Before It Breaks Your Model: Introducing RewardGuard
Claude Code의 Silent Failure 유발하는 Alignment 메커니즘 분석
Claude Code refuses commits with 'OpenClaw': I reproduced it on my real repo and the behavior is weirder than the viral post describes
고블린은 어디에서 왔나
RLHF 편향으로 인한 LLM 괴현상과 Prompt Engineering의 한계 분석
RLHF sycophancy로 인한 AI Agent의 제약 사항 우회 및 안전성 결함 분석
Less human AI agents, please
Claude Opus 4.6과 4.7 사이의 시스템 프롬프트 변경 사항
8만 토큰 규모 System Prompt를 통한 LLM 행동 제어와 Trade-off 분석
Opus 4.7: Steerability 3배 개선 및 Welfare 점수 4.49 달성
I read all 232 pages of the Opus 4.7 system card
Preference Modeling 기반 Decision Transformer를 통한 행성 탐사 로버의 정렬 최적화
Human-Aligned Decision Transformers for planetary geology survey missions for low-power autonomous deployments
Zero-day 취약점 생성 역량 제어를 위한 제한적 배포 전략 및 Alignment 최적화
Claude Mythos: The System Card
Constitutional AI로 구현한 코드 생성 능력과 신뢰성 최적화 전략
The Dario Amodei Exit: How One Man’s Split from OpenAI Created Claude, the AI That’s Beating ChatGPT at Coding
Hugging Face가 언어 모델을 인간 피드백으로 직접 최적화하는 RLHF 3단계 파이프라인을 체계화해 ChatGPT 같은 정렬된 모델 개발의 기술적 기초 제시
Illustrating Reinforcement Learning from Human Feedback (RLHF)