Перейти к содержимому
Новости

DeepInfer: DeepSeek открыла код инференс-фреймворка

Логотип DeepSeek на фоне кода инференс-фреймворка DeepInfer

DeepSeek открыла исходный код своего инференс-фреймворка DeepInfer

DeepSeek опубликовала в открытом доступе DeepInfer — собственный фреймворк для инференса, который компания использует в промышленных условиях. Цель — помочь сообществу снизить вычислительные затраты и сделать AI-инфраструктуру более доступной и энергоэффективной.

Что такое DeepInfer и зачем его открыли

DeepInfer уже работает в продакшене, обслуживая модель DeepSeek-V4.1-Flash: обеспечивает высокую пропускную способность при минимальных задержках. 20 октября 2026 года команда DeepSeek анонсировала открытие исходного кода фреймворка на GitHub, сопроводив это заявлением о намерении передать сообществу весь производственный стек.

Пост набрал 1,4 миллиона просмотров за несколько часов, что говорит о высоком интересе разработчиков к инициативе.

Технические возможности фреймворка

Архитектура и оптимизации

DeepInfer включает несколько ключевых компонентов:

— Высокопроизводительные ядра и оптимизированный движок инференса
— Поддержку распределённого инференса и спекулятивного декодирования (speculative decoding)
— SWA Bounded Replay и генерацию структурированных выходных данных

Репозиторий будет пополняться: компания планирует выкладывать сюда инференс-код для будущих моделей DeepSeek, а также продолжать работу над оптимизациями.

deepseek-recipe: ещё один open-source компонент

Параллельно DeepSeek открыла компонент deepseek-recipe — производственный модуль для кодирования и декодирования токенов. Его логика обработки полностью соответствует официальному API DeepSeek, что позволяет воспроизвести поведение публичного API в собственных развёртываниях. Репозиторий доступен на GitHub по адресу github.com/deepseek-ai/deepseek-recipe.

Открытость как стратегия

DeepSeek последовательно придерживается принципа открытости: открытые модели, открытые ядра, открытый инференс. Компания заявляет о намерении продолжать работу с сообществом над повышением эффективности крупномасштабного инференса — как для частных развёртываний, так и для публичных облаков.

Выход DeepInfer в open-source — это практический шаг, а не просто декларация: организации получают доступ к реальному производственному стеку, а не к учебным демонстрациям.

Разработчики, которым важна стоимость вычислений и энергопотребление AI-систем, могут уже сейчас изучить код, вносить вклад и строить собственные решения на базе DeepInfer.

Источник: X (DeepSeek)