bonsai 2 27b
Bonsai 2 27B — открытая троичная GGUF-модель рассуждений класса 27B для локального запуска через llama.cpp на CUDA, Metal или CPU.
AIDeveloper ToolResearch
directory.product.screenshots
Обзор
模型簡介
Доступны две упаковки размером около 5,95–7,21 ГБ и контекст 262K. Нужен форк llama.cpp от Prism ML с поддерживаемыми ядрами.
The model card also documents local serving, quantization, context, and backend considerations for developers and researchers.
