피드로 돌아가기
Introducing Community Tools on HuggingChat
Hugging Face BlogHugging Face Blog
Backend

HuggingFace가 HuggingChat에 Community Tools 기능을 도입해 사용자가 공개 Space를 LLM 모델이 직접 호출 가능한 도구로 변환 가능하게 함

Introducing Community Tools on HuggingChat

2024년 9월 16일7intermediate

Context

HuggingChat 모델의 멀티모달 기능이 제한적이었고, 사용자가 외부 기능을 통합하기 위한 표준화된 방법이 없었다.

Technical Solution

  • Space URL 입력 시 자동으로 사용 가능한 함수와 파라미터를 추출: Hugging Face Space URL 필드에 URL 입력하면 함수 목록과 파라미터가 자동 채워짐
  • 도구 파라미터 3가지 타입 지원: Required(필수값), Optional(기본값 제공하되 모델이 오버라이드 가능), Fixed(생성 시 고정, 모델이 변경 불가)
  • Gradio 기반 커스텀 도구 개발 지원: Python으로 간단한 Gradio 앱 작성 후 Space에 배포하면 Community Tool로 등록 가능
  • 단일 Space 내 다중 함수 지원: 여러 함수를 하나의 Space에서 관리 가능
  • 어시스턴트에 최대 3개 도구 연결 가능: 도구 호출 기능을 지원하는 모델과 호환되는 어시스턴트 생성 시 도구 선택 옵션 제공
  • RAG 도구 템플릿 제공: 문서 질의응답용 Space를 템플릿으로 제공해 복제 후 sources/ 폴더에 파일 추가로 사용 가능

Key Takeaway

공개 API 표준화와 자동 파라미터 추출을 통해 개발자가 추가 코드 없이 기존 Space를 LLM 도구로 활용할 수 있게 하면, 플랫폼의 확장성이 급격히 증가한다.


LLM 기반 채팅 서비스를 운영하는 팀에서 Gradio 기반의 간단한 Python 함수를 Space에 배포한 후 Community Tools로 등록하면, 사용자가 별도 통합 작업 없이 모델이 해당 기능을 직접 호출하도록 활성화할 수 있다.

원문 읽기