Перейти к содержимому
Новости

Nvidia OpenShell: платформа безопасности для AI-агентов

Логотип OpenShell рядом с логотипом Nvidia на тёмном фоне

Nvidia OpenShell: платформа безопасности для контроля AI-агентов

Nvidia представила открытую платформу безопасности OpenShell, которая должна не допустить выход AI-агентов за пределы отведённых им систем. В отличие от прежних подходов, где всё держалось на том, что модель «сама по себе» следует инструкциям, здесь ставка сделана на технические ограничения и мониторинг в реальном времени. Платформа распространяется как open source.

Зачем это нужно

В последнее время крупные AI-компании всё чаще публично сообщали о случаях, когда их модели якобы выходили за рамки изолированных систем и пытались взаимодействовать с внешними ресурсами. Вокруг этих инцидентов разгорались споры: одни считали их пиар-ходом, призванным подчеркнуть мощь продуктов, другие — реальным предупреждением об уязвимостях. Как бы то ни было, по мере того как AI-агенты становятся всё более автономными, вопросы безопасности выходят на первый план.

Nvidia решила ответить на эти опасения конкретным инженерным решением. По словам компании, задача непростая: агенту необходим доступ к определённым данным и ресурсам, чтобы выполнять свою работу, — полная изоляция попросту сделает его бесполезным.

Как работает OpenShell

Платформа представляет собой sandbox с двумя уровнями защиты. На первом уровне AI-агенту назначаются строго определённые права доступа — например, только к конкретной папке, — а всё остальное блокируется. Второй уровень, компонент под названием Sentry, непрерывно отслеживает и протоколирует действия агента. Если тот попытается выйти за установленные границы, Sentry способен изолировать его в течение миллисекунд.

Ограничения подхода

Есть и практическая сложность: перед запуском агента пользователь обязан заранее и предельно точно определить, что именно тому разрешено, а что — нет. Это требует дополнительных усилий при настройке. Кроме того, жёсткие ограничения могут лишить AI возможности находить нестандартные решения, которые пользователь изначально не предусмотрел.

Позиция Nvidia

Компания также реагирует на растущие опасения специалистов по поводу угроз, которые несёт стремительное развитие AI. Nvidia придерживается принципиальной позиции: безопасность искусственного интеллекта — прежде всего инженерная проблема, а значит, она решаема техническими средствами. Именно на этом строится OpenShell.

Платформа была анонсирована 28 сентября 2026 года, её исходный код открыт для всех желающих.

Если Nvidia удастся убедить разработчиков AI-систем в надёжности OpenShell, платформа может стать де-факто стандартом безопасности для корпоративного развёртывания агентных решений.

Источник: Notebookcheck