What's New in Mellea 0.4.0 + Granite Libraries Release

IBM이 Mellea 0.4.0과 3개의 Granite Libraries를 출시하여 Granite 모델 기반 AI 워크플로우에 구조화된 스키마 검증과 안전성 기능 제공

2026년 3월 20일5분intermediate

AI 요약

Context

일반적인 프롬프팅 기반 LLM 프로그램은 확률적 동작으로 인해 예측 불가능하고 유지보수가 어렵다. 특정 작업(쿼리 재작성, 환각 감지, 정책 준수 확인)을 수행할 때 일반 목적 모델 하나에 의존하면 정확도가 낮다.

Technical Solution

Constrained decoding을 통한 스키마 보장: Native integration으로 Granite Libraries와 연결하여 구조화된 출력 강제
Instruct-validate-repair 패턴 도입: Rejection sampling 전략으로 생성된 결과를 검증하고 실패 시 재생성
특화된 LoRA 어댑터 기반 Granite Libraries 구성: Granite-4.0-micro 모델에 대해 granitelib-core-r1.0(요구사항 검증), granitelib-rag-r1.0(RAG 파이프라인 사전/사후 처리), granitelib-guardian-r1.0(안전성·정확성·정책 준수) 3개 라이브러리 제공
이벤트 기반 콜백을 통한 관찰성: Observability hooks로 워크플로우 모니터링 및 추적 기능 추가
조합 가능한 파이프라인 아키텍처: 구조화된 repair loop와 composable pipeline으로 유지보수 가능한 AI 워크플로우 구성

Key Takeaway

특화된 모델 어댑터와 구조화된 제어 흐름(constrained decoding + validation + repair loop)을 결합하면 일반 모델의 기능을 해치지 않으면서도 특정 작업의 정확도와 안전성을 동시에 향상할 수 있다.

실천 포인트

LLM 기반 에이전트 또는 RAG 시스템을 구축하는 팀에서 Mellea의 instruct-validate-repair 패턴과 Granite Libraries의 특화된 LoRA 어댑터를 조합하면 쿼리 재작성·환각 감지·정책 준수 검증을 구조화된 방식으로 구현할 수 있고, constrained decoding으로 출력 스키마를 보장하면서도 기존 모델 성능을 유지할 수 있다.

태그

#Granite #Mellea #RAG #Constrained Decoding #LLM

원문 읽기