Meta Muse Glimmer: офлайн-ИИ на одном GPU
Meta Muse Glimmer: мощный ИИ офлайн на одном GPU
Meta выпустила языковую модель Muse Glimmer с примерно 30 миллиардами параметров под лицензией Apache 2.0 — её можно скачать бесплатно, запустить без интернета и даже использовать в коммерческих проектах. Главный барьер — требование к видеопамяти: минимум 24 ГБ VRAM, что автоматически отсекает большинство потребительских видеокарт.
Что такое Muse Glimmer и откуда она взялась
Модель вышла 10 августа 2026 года и разработана в Meta Superintelligence Lab. По сути, это результат дистилляции: более крупная модель Muse Spark «обучила» компактную Muse Glimmer отвечать на вопросы. Модель принимает на вход текст и изображения, выдаёт только текст, поддерживает более 100 языков и работает с контекстным окном свыше 131 000 токенов. База знаний ограничена датой 4 января 2026 года. Веса модели доступны на Hugging Face — их можно свободно скачивать, модифицировать и применять в коммерческих целях.
24 ГБ VRAM — минимальный порог входа
В полной точности модель потребовала бы 64 ГБ видеопамяти. Квантизация до примерно 4 бит сжимает языковую часть до менее чем 20 ГБ, оставляя место для энкодера изображений и кэша диалога. Meta предлагает два готовых варианта: K-Quant-Dynamic рассчитан на 32 ГБ VRAM и теряет в среднем 0,2% точности по 15 бенчмаркам, а K-Quant-17GB вписывается в 24 ГБ с потерей 1,0%.
На практике это означает, что модель запустится на GeForce RTX 5090, RTX 4090, RTX 3090 или Mac с чипом M4 Max. Карты среднего класса с 12 ГБ видеопамяти уже не подходят.
Ускоритель DFlash: втрое быстрее без дополнительного железа
Чтобы локальная модель не тормозила, Meta разработала вспомогательный механизм DFlash. Он предлагает сразу 16 токенов за раз, а большая модель проверяет весь блок за один проход и исправляет лишь ошибочные. По данным Meta, производительность на RTX 5090 вырастает с 74,9 до 233,4 токена в секунду — в 3,1 раза. MacBook с M5 Max ускоряется с 26,6 до 50,2 токена, M4 Max — с 23,7 до 37,8.
В тот же день AMD опубликовала предварительные результаты: мини-ПК с Ryzen AI Max+ 395 обеспечивает до 24 токенов в секунду, а Radeon AI PRO R9700 — до 53, при тестировании на Windows через llama.cpp.
Сравнение с конкурентами: сильные и слабые стороны
Meta сравнивала Muse Glimmer с Google Gemma4-31B и Alibaba Qwen3.6-27B. В задачах планирования с использованием инструментов модель Meta уверенно лидирует: 75,5 балла на MCP Atlas против 54,2 у Gemma4 и 62,5 у Qwen, а также 74,6 на DeepSearch QA против 61,7 и 71,1 соответственно.
Однако Qwen выигрывает в других сценариях. При управлении реальным графическим интерфейсом счёт составляет 65,9 против 75,6 в пользу Qwen, в работе с терминалом — 51,7 против 60,7. Отдельного внимания заслуживает тест безопасности Siren AgentDojo, измеряющий устойчивость к prompt injection-атакам: Muse Glimmer показывает 28,4% успешных атак — лучше Qwen, но хуже Gemma4 с её 25,6%. Это стоит учитывать, если планируете давать модели доступ к личным файлам или почте.
Как установить и запустить
На Hugging Face доступны четыре пакета: базовая модель с полными весами в формате BF16, файлы GGUF для llama.cpp, сборки ExecuTorch для устройств Apple и ускоритель DFlash. Самый простой способ запуска — LM Studio, где модель находится через поиск. AMD рекомендует иметь более 32 ГБ видеопамяти или эквивалентный объём системной памяти. При меньшем количестве VRAM часть модели придётся выгружать в обычную оперативную память — это заметно снижает скорость.
Сообщество отреагировало оперативно: менее чем через сутки после релиза на Hugging Face появились уже 57 дополнительных квантизаций и шесть файнтюнов. Запустить модель в браузере, как это было возможно с Kimi K3, здесь не получится — без подходящего железа Muse Glimmer недоступна.
Muse Glimmer — один из наиболее серьёзных open-source вариантов для тех, кому нужен мощный локальный ИИ-ассистент без облака и подписок, хотя планка входа в 24 ГБ VRAM пока остаётся высокой даже для энтузиастов.
Источник: Notebookcheck