피드로 돌아가기
Dev.toAI/ML
원문 읽기
LLM Sycophancy 극복을 위한 Premortem 프레임워크 기반의 설계 검증 전략
How I use premortems with Claude and Codex
AI 요약
Context
LLM 기반 코딩 에이전트의 기본 리뷰 방식이 긍정적 편향(Sycophancy)으로 인해 잠재적 결함을 간과하는 한계 발생. 단순한 계획 확인 질문은 엣지 케이스를 일부 식별하나, 시스템 붕괴를 초래할 치명적 설계 결함 및 숨은 가정을 찾아내는 데 한계가 있음.
Technical Solution
- 가상 실패 시나리오 설정을 통한 '역방향 추론' 프레임워크 도입
- "계획이 이미 실패했다"는 전제를 부여하여 LLM의 역할을 '승인자'에서 '실패 원인 재구성자'로 전환
- 구체적 Context(Audience, Goal, Channel, Constraint) 입력을 강제하여 추상적 리스크 나열 방지
- Most Likely/Most Dangerous Failure, Hidden Assumption으로 세분화된 분석 구조 설계
- 분석 결과를 바탕으로 Revised Plan 및 Checklist를 즉시 도출하는 반복 루프 구성
- 채팅 인터페이스 내 고밀도 출력 설계를 통한 인지 부하 최소화 및 즉각적인 피드백 반영
실천 포인트
- 데이터 마이그레이션 등 되돌리기 비용이 큰 작업 전 'Premortem' 단계 필수 수행 - "이 계획이 괜찮은가?" 대신 "6개월 후 이 계획이 실패했다면 그 이유는 무엇인가?"로 질문 변경 - LLM 응답에서 '가장 위험한 실패 모드'와 '숨겨진 가정'을 분리하여 추출 - 도출된 실패 시나리오를 바탕으로 구체적인 Rollback Boundary 설정 여부 검토