Hugging Face BlogTechnology Innovation Institute(TII)가 순수 State Space Model 기반 Falcon Mamba 7B를 개발해 Attention 메커니즘 없이도 Transformer 수준의 성능 달성Welcome Falcon Mamba: The first strong attention-free 7B modelAI/MLintermediate20 분 소요2024년 8월 12일