피드로 돌아가기
Dev.toAI/ML
원문 읽기
Custom AI Instructions 도입으로 API 호출 변경 없이 계정별 AI 응답 커스터마이징 가능함
Your AI API, your rules: Introducing Custom AI Job instructions
AI 요약
Context
기존 SharpAPI의 범용 AI 엔드포인트는 특정 비즈니스 맥락에 맞지 않는 응답을 생성함. 커스텀 미들웨어를 통해 매번 컨텍스트를 수동 주입해야 하는 보일러플레이트 코드가 발생함.
Technical Solution
- Customize AI Jobs 시스템: 계정별, 엔드포인트별 persistent instruction 저장소로 동작함
- 대시보드 인라인 에디터: 전문 문법 없이 plain language로 instruction 작성 가능함
- 서버 사이드 주입: API 요청 형식, 헤더, 파라미터 변경 없이 server-side에서 자동 적용함
- 토글 기반 관리: 활성화/비활성화/삭제로 instruction lifecycle 관리 가능함
Impact
Middleware 유지보수 코드 제거 효과. 팀 환경에서 계정 간 격리를 보장함.
Key Takeaway
AI 응답 커스터마이징을 인프라 계층에서 해결하면 애플리케이션 레벨의 복잡도를 낮출 수 있음.
실천 포인트
SharpAPI 사용 시 Resume Scoring 등 AI 엔드포인트에서 일관된 커스텀 기준 적용이 필요한 경우, Customize AI Jobs에서 instruction 작성 후 토글 활성화할 것. API 호출 변경 없이 즉시 적용됨.