Ollama для Mac поддерживает локальный синтез речи
Ollama для Mac научился озвучивать текст локально
Ollama — один из самых популярных инструментов для локального запуска AI-моделей — получил поддержку синтеза речи прямо на устройстве. Пока функция доступна только на Mac, но поддержка Windows и Linux уже в планах.
Что такое Ollama и почему это важно
Ollama — платформа с открытым исходным кодом, которая позволяет скачивать и запускать AI-модели локально, без отправки данных на внешние серверы. Приложение работает на Mac, Windows и Linux. На GitHub проект набрал почти 185 000 звёзд и около 18 600 форков — это один из самых популярных AI-проектов на платформе.
На macOS Ollama использует Apple MLX — открытый фреймворк машинного обучения от Apple, который задействует унифицированную память Apple Silicon. Благодаря этому совместимые модели работают быстрее и эффективнее. Пользователи могут загружать модели из репозиториев вроде Hugging Face и запускать их без подключения к интернету, хотя производительность и масштаб доступных моделей напрямую зависят от «железа» конкретного Mac.
Phonon: первая TTS-модель в Ollama
Разработчики Ollama объявили о поддержке Phonon — семейства text-to-speech моделей от компании Gradium. Это первый случай, когда платформа поддерживает генерацию речи. Синтез происходит в реальном времени: слушать ответ можно прямо в процессе его генерации, не дожидаясь завершения.
Благодаря фреймворку MLX, Ollama показал на тестах с MacBook Pro с чипом M5 Max скорость генерации речи на 35% выше, чем собственная реализация Gradium, при этом сохранив аналогичный показатель word error rate относительно референсной реализации в Hugging Face Transformers.
Языки и голоса
Phonon поддерживает пять языков: английский, французский, немецкий, испанский и португальский. Для каждого из них доступны отдельные модели, а также единая мультиязычная модель, охватывающая все пять. Пользователи могут выбирать голоса с разными акцентами — например, американский или британский английский, в зависимости от выбранной модели.
Как попробовать
Новые речевые модели уже доступны на Mac с Apple Silicon под управлением Ollama версии 0.40.11 и выше. Модель Phonon можно скачать напрямую через интерфейс Ollama. Аудиопримеры, инструкции и примеры кода для работы через API опубликованы в официальном блоге проекта на ollama.com.
Поддержка синтеза речи в Ollama — значимый шаг для тех, кто хочет строить приватные AI-решения без облака. С учётом заявленной производительности на Apple Silicon, Mac снова оказывается привлекательной платформой для локальных AI-задач.
Источник: 9to5Mac