Перейти к содержимому
Новости

Meta Muse Glimmer: офлайн-ИИ на одном GPU

Логотип Meta с надписью Build with Muse на тёмном фоне

Meta Muse Glimmer: мощный ИИ офлайн на одном GPU

Meta выпустила языковую модель Muse Glimmer с примерно 30 миллиардами параметров под лицензией Apache 2.0 — её можно скачать бесплатно, запустить без интернета и даже использовать в коммерческих проектах. Главный барьер — требование к видеопамяти: минимум 24 ГБ VRAM, что автоматически отсекает большинство потребительских видеокарт.

Что такое Muse Glimmer и откуда она взялась

Модель вышла 10 августа 2026 года и разработана в Meta Superintelligence Lab. По сути, это результат дистилляции: более крупная модель Muse Spark «обучила» компактную Muse Glimmer отвечать на вопросы. Модель принимает на вход текст и изображения, выдаёт только текст, поддерживает более 100 языков и работает с контекстным окном свыше 131 000 токенов. База знаний ограничена датой 4 января 2026 года. Веса модели доступны на Hugging Face — их можно свободно скачивать, модифицировать и применять в коммерческих целях.

24 ГБ VRAM — минимальный порог входа

В полной точности модель потребовала бы 64 ГБ видеопамяти. Квантизация до примерно 4 бит сжимает языковую часть до менее чем 20 ГБ, оставляя место для энкодера изображений и кэша диалога. Meta предлагает два готовых варианта: K-Quant-Dynamic рассчитан на 32 ГБ VRAM и теряет в среднем 0,2% точности по 15 бенчмаркам, а K-Quant-17GB вписывается в 24 ГБ с потерей 1,0%.

На практике это означает, что модель запустится на GeForce RTX 5090, RTX 4090, RTX 3090 или Mac с чипом M4 Max. Карты среднего класса с 12 ГБ видеопамяти уже не подходят.

Ускоритель DFlash: втрое быстрее без дополнительного железа

Чтобы локальная модель не тормозила, Meta разработала вспомогательный механизм DFlash. Он предлагает сразу 16 токенов за раз, а большая модель проверяет весь блок за один проход и исправляет лишь ошибочные. По данным Meta, производительность на RTX 5090 вырастает с 74,9 до 233,4 токена в секунду — в 3,1 раза. MacBook с M5 Max ускоряется с 26,6 до 50,2 токена, M4 Max — с 23,7 до 37,8.

В тот же день AMD опубликовала предварительные результаты: мини-ПК с Ryzen AI Max+ 395 обеспечивает до 24 токенов в секунду, а Radeon AI PRO R9700 — до 53, при тестировании на Windows через llama.cpp.

Сравнение с конкурентами: сильные и слабые стороны

Meta сравнивала Muse Glimmer с Google Gemma4-31B и Alibaba Qwen3.6-27B. В задачах планирования с использованием инструментов модель Meta уверенно лидирует: 75,5 балла на MCP Atlas против 54,2 у Gemma4 и 62,5 у Qwen, а также 74,6 на DeepSearch QA против 61,7 и 71,1 соответственно.

Однако Qwen выигрывает в других сценариях. При управлении реальным графическим интерфейсом счёт составляет 65,9 против 75,6 в пользу Qwen, в работе с терминалом — 51,7 против 60,7. Отдельного внимания заслуживает тест безопасности Siren AgentDojo, измеряющий устойчивость к prompt injection-атакам: Muse Glimmer показывает 28,4% успешных атак — лучше Qwen, но хуже Gemma4 с её 25,6%. Это стоит учитывать, если планируете давать модели доступ к личным файлам или почте.

Как установить и запустить

На Hugging Face доступны четыре пакета: базовая модель с полными весами в формате BF16, файлы GGUF для llama.cpp, сборки ExecuTorch для устройств Apple и ускоритель DFlash. Самый простой способ запуска — LM Studio, где модель находится через поиск. AMD рекомендует иметь более 32 ГБ видеопамяти или эквивалентный объём системной памяти. При меньшем количестве VRAM часть модели придётся выгружать в обычную оперативную память — это заметно снижает скорость.

Сообщество отреагировало оперативно: менее чем через сутки после релиза на Hugging Face появились уже 57 дополнительных квантизаций и шесть файнтюнов. Запустить модель в браузере, как это было возможно с Kimi K3, здесь не получится — без подходящего железа Muse Glimmer недоступна.

Muse Glimmer — один из наиболее серьёзных open-source вариантов для тех, кому нужен мощный локальный ИИ-ассистент без облака и подписок, хотя планка входа в 24 ГБ VRAM пока остаётся высокой даже для энтузиастов.

Источник: Notebookcheck