DeepInfer: DeepSeek открыла код инференс-фреймворка
DeepSeek открыла исходный код своего инференс-фреймворка DeepInfer
DeepSeek опубликовала в открытом доступе DeepInfer — собственный фреймворк для инференса, который компания использует в промышленных условиях. Цель — помочь сообществу снизить вычислительные затраты и сделать AI-инфраструктуру более доступной и энергоэффективной.
Что такое DeepInfer и зачем его открыли
DeepInfer уже работает в продакшене, обслуживая модель DeepSeek-V4.1-Flash: обеспечивает высокую пропускную способность при минимальных задержках. 20 октября 2026 года команда DeepSeek анонсировала открытие исходного кода фреймворка на GitHub, сопроводив это заявлением о намерении передать сообществу весь производственный стек.
Пост набрал 1,4 миллиона просмотров за несколько часов, что говорит о высоком интересе разработчиков к инициативе.
Технические возможности фреймворка
Архитектура и оптимизации
DeepInfer включает несколько ключевых компонентов:
— Высокопроизводительные ядра и оптимизированный движок инференса
— Поддержку распределённого инференса и спекулятивного декодирования (speculative decoding)
— SWA Bounded Replay и генерацию структурированных выходных данных
Репозиторий будет пополняться: компания планирует выкладывать сюда инференс-код для будущих моделей DeepSeek, а также продолжать работу над оптимизациями.
deepseek-recipe: ещё один open-source компонент
Параллельно DeepSeek открыла компонент deepseek-recipe — производственный модуль для кодирования и декодирования токенов. Его логика обработки полностью соответствует официальному API DeepSeek, что позволяет воспроизвести поведение публичного API в собственных развёртываниях. Репозиторий доступен на GitHub по адресу github.com/deepseek-ai/deepseek-recipe.
Открытость как стратегия
DeepSeek последовательно придерживается принципа открытости: открытые модели, открытые ядра, открытый инференс. Компания заявляет о намерении продолжать работу с сообществом над повышением эффективности крупномасштабного инференса — как для частных развёртываний, так и для публичных облаков.
Выход DeepInfer в open-source — это практический шаг, а не просто декларация: организации получают доступ к реальному производственному стеку, а не к учебным демонстрациям.
Разработчики, которым важна стоимость вычислений и энергопотребление AI-систем, могут уже сейчас изучить код, вносить вклад и строить собственные решения на базе DeepInfer.