bonsai 2 27b
Bonsai 2 27B llama.cpp, CUDA, Metal या CPU पर local inference के लिए खुला 27B-class ternary GGUF reasoning model है।
AIDeveloper ToolResearch
directory.product.screenshots
अवलोकन
模型簡介
यह लगभग 5.95–7.21 GB के दो पैक और 262K context देता है। आवश्यक kernels के लिए Prism ML का llama.cpp fork इस्तेमाल करना पड़ता है।
The model card also documents local serving, quantization, context, and backend considerations for developers and researchers.
