bonsai 2 27b
Bonsai 2 27B è un modello aperto di ragionamento GGUF ternario di classe 27B per inferenza locale con llama.cpp, CUDA, Metal o CPU.
AIDeveloper ToolResearch
directory.product.screenshots
Panoramica
模型簡介
Offre due pacchetti da circa 5,95–7,21 GB, contesto 262K e pesi ternari. È richiesto il fork llama.cpp di Prism ML.
The model card also documents local serving, quantization, context, and backend considerations for developers and researchers.
