laya mlx
Esegui il modello di decisioni tipizzate Laya con MLX FP16 su Apple silicon per previsioni choice, ordinal-score e boolean senza PyTorch o Transformers.
directory.product.screenshots
Panoramica
Panoramica
laya mlx è una conversione nativa MLX FP16 di convaiinnovations/laya per Apple silicon, pubblicata su Hugging Face con licenza Apache-2.0.
Funzioni
- Usa il runtime laya-mlx ed esegue i calcoli in MLX.
- Supporta domande choice, ordinal score e boolean noul.
- Usa ModernBERT-large con un contesto totale di 512 token.
- Mantiene i pesi FP16 e non richiede PyTorch o Transformers.
Uso e limiti
Installa il runtime su un Mac Apple silicon con macOS 14+ e Python 3.11+, carica aac6fef/laya-mlx, passa testo e dizionario di domande a agent.predict e leggi result["answers"]. L’esempio ufficiale mostra il routing di un reparto e il rilevamento di una richiesta di rimborso. I test su M3 Max riportano 63/63 di concordanza argmax e una differenza massima 0.0054443: sono misure di fedeltà del port, non una garanzia di correttezza delle risposte.
Prezzo e disponibilità
Non sono pubblicati piani a pagamento o inferenza ospitata; il modello è classificato gratuito. È scaricabile da Hugging Face con i tag MLX, Safetensors, English, Apple silicon e decision-model.
Screenshots
