laya mlx
Apple silicon पर MLX FP16 में Laya typed decision मॉडल चलाएँ और PyTorch या Transformers के बिना choice, ordinal-score और boolean अनुमान पाएँ।
directory.product.screenshots
अवलोकन
परिचय
laya mlx Apple silicon के लिए convaiinnovations/laya का native MLX FP16 conversion है। यह Hugging Face पर Apache-2.0 लाइसेंस के साथ उपलब्ध है।
मुख्य क्षमताएँ
- laya-mlx runtime से लोड होकर MLX में गणना करता है।
- choice, ordinal score और boolean noul प्रश्नों को समर्थन देता है।
- ModernBERT-large और 512-token कुल context का उपयोग करता है।
- FP16 weights रखता है और PyTorch या Transformers की आवश्यकता नहीं होती।
उपयोग और सीमाएँ
macOS 14+ और Python 3.11+ वाले Apple silicon Mac पर runtime इंस्टॉल करें, aac6fef/laya-mlx लोड करें, typed questions सहित टेक्स्ट को agent.predict में दें और result["answers"] पढ़ें। आधिकारिक उदाहरण विभाग चयन और refund अनुरोध की जाँच दिखाता है। M3 Max परीक्षण में 63/63 argmax समानता और अधिकतम 0.0054443 probability अंतर बताया गया है; यह port fidelity का माप है, हर उत्तर की शुद्धता की गारंटी नहीं।
कीमत और उपलब्धता
कोई paid plan या hosted inference प्रकाशित नहीं है, इसलिए मॉडल को free वर्गीकृत किया गया है। इसे Hugging Face से डाउनलोड किया जा सकता है और MLX, Safetensors, English, Apple silicon तथा decision-model tags हैं।
Screenshots
