#mistral-7b

Apple가 WWDC 24에서 Core ML의 Swift Tensor와 Stateful Buffers를 도입해 Mistral 7B(70억 파라미터 LLM)을 Mac에서 4GB 미만의 메모리로 실행 가능하게 변화

WWDC 24: Running Mistral 7B with Core ML