피드로 돌아가기
Dev.toAI/ML
원문 읽기
Ahmad Awais,WordPress和API的专家谈如何妙用DeepSeek和自己的AI助手Command C
Middleware 기반 Tool Call 교정을 통한 DeepSeek 모델 효용성 극대화
AI 요약
Context
LLM의 Tool Call 과정에서 발생하는 문법 오류가 시스템의 무한 루프와 태스크 정지를 유발함. 특히 DeepSeek V4와 같은 특정 모델에서 정해진 포맷을 준수하지 않는 'Hallucination' 성향이 강해 모델 교체 없이의 해결책이 필요함.
Technical Solution
- AI-Environment 간의 상호작용을 제어하는 Middleware 기반 'Repair Layer' 설계
- AI의 잘못된 Tool Call 요청을 인터셉트하여 의도를 분석하고 정규 포맷으로 자동 변환하는 Fuzzy Matching 로직 적용
- 수정된 요청으로 작업을 선행 수행한 뒤, 결과값과 함께 정답 포맷을 AI에게 피드백하는 'Correction-Loop' 구현
- 사용자의 코딩 습관(패키지 매니저, 버전 관리 방식 등)을 학습하여 프로젝트 내 Taste 파일로 저장하는 Context Injection 시스템 구축
- 디자인 프레임워크(OKLCH 모델 등)를 시스템 프롬프트에 주입하여 일관된 UI/UX 출력을 유도하는 Design Contract 설계
실천 포인트
1. LLM의 Tool Call 실패 시 단순 재시도 대신, Middleware에서 입력값의 의도를 분석하여 정규화하는 로직 검토
2. AI에게 오류 메시지만 전달하지 말고, '정답 예시 + 작업 결과'를 동시에 제공하는 피드백 루프 설계
3. 반복되는 사용자 설정(Preference)을 정형화된 파일(Taste file)로 관리하여 Prompt Token 낭비를 줄이고 일관성 확보