laya mlx
Запускайте typed decision-модель Laya с MLX FP16 на Apple silicon для choice-, ordinal-score- и boolean-предсказаний без PyTorch и Transformers.
directory.product.screenshots
Обзор
Обзор
laya mlx — нативная конверсия convaiinnovations/laya в MLX FP16 для Apple silicon, опубликованная на Hugging Face под Apache-2.0.
Возможности
- Загружается через runtime laya-mlx и выполняет вычисления в MLX.
- Поддерживает вопросы choice, ordinal score и boolean noul.
- Использует ModernBERT-large и общий контекст 512 токенов.
- Сохраняет веса FP16 и не требует PyTorch или Transformers.
Использование и ограничения
Установите runtime на Mac с Apple silicon, macOS 14+ и Python 3.11+, загрузите aac6fef/laya-mlx, передайте текст и словарь typed-вопросов в agent.predict и прочитайте result["answers"]. Официальный пример показывает маршрутизацию отдела и проверку запроса на возврат. Тесты на M3 Max сообщают совпадение argmax 63/63 и максимальную разницу вероятности 0.0054443; это проверка точности порта, а не гарантия правильности каждого ответа.
Цена и доступность
Платный тариф или размещённый inference не опубликованы, поэтому модель классифицирована как бесплатная. Её можно скачать с Hugging Face; указаны теги MLX, Safetensors, English, Apple silicon и decision-model.
Screenshots
