LLM이 자신감 있는 출력을 생성해 개발자가 함정을 인지하지 못하는 상황

Context

LLM은 코드가 유효하고 출력이 합리해 보이면 실제 문제점을 숨긴다. 모델은 사용자의 지식 수준을 반영하는 거울 역할을 하며, 자신이 잘못 추측할 때도 이를 알리지 않는다. 아키텍처 결정에는 팀 스킬, 유지보수 능력, 운영 비용 등 모델이 가지지 못한 맥락이 필요하다.

Technical Solution

• 명확한 문서화와 규칙을 작성하여 모델에 전달하면 규칙 지향적 출력 개선
• 모델이 반복적으로 틀린 답변을 생성하면 바로 멈추고 근본 원인을 파악한 후 더 구체적인 프롬프트 사용
• 경험 있는 엔지니어의 검토 시간이 새로운 병목 구간으로 이동
• Terragrunt 모듈 수준별 PR 규칙처럼 맥락을 직접 설명해야 모델이 정확한 경로를 선택
• 오래된 문서와 최신 사례를 혼합하여 출력하므로 일관성 검증 필요

Key Takeaway

LLM은 인간 전문성이 가장 필요한 아키텍처 결정과 트레이드오프 추론에서 가장 어려워한다. 이 영역에서 활용하되 전문가로서 적극적으로 관여해야 한다.