IBM이 Mellea 0.4.0과 3개의 Granite Libraries를 출시하여 Granite 모델 기반 AI 워크플로우에 구조화된 스키마 검증과 안전성 기능 제공

Context

일반적인 프롬프팅 기반 LLM 프로그램은 확률적 동작으로 인해 예측 불가능하고 유지보수가 어렵다. 특정 작업(쿼리 재작성, 환각 감지, 정책 준수 확인)을 수행할 때 일반 목적 모델 하나에 의존하면 정확도가 낮다.

Technical Solution

• Constrained decoding을 통한 스키마 보장: Native integration으로 Granite Libraries와 연결하여 구조화된 출력 강제
• Instruct-validate-repair 패턴 도입: Rejection sampling 전략으로 생성된 결과를 검증하고 실패 시 재생성
• 특화된 LoRA 어댑터 기반 Granite Libraries 구성: Granite-4.0-micro 모델에 대해 granitelib-core-r1.0(요구사항 검증), granitelib-rag-r1.0(RAG 파이프라인 사전/사후 처리), granitelib-guardian-r1.0(안전성·정확성·정책 준수) 3개 라이브러리 제공
• 이벤트 기반 콜백을 통한 관찰성: Observability hooks로 워크플로우 모니터링 및 추적 기능 추가
• 조합 가능한 파이프라인 아키텍처: 구조화된 repair loop와 composable pipeline으로 유지보수 가능한 AI 워크플로우 구성

Key Takeaway

특화된 모델 어댑터와 구조화된 제어 흐름(constrained decoding + validation + repair loop)을 결합하면 일반 모델의 기능을 해치지 않으면서도 특정 작업의 정확도와 안전성을 동시에 향상할 수 있다.