Nvidia передала CNCF проект OpenShell для защиты автономных ИИ-агентов
Nvidia передала в управление Cloud Native Computing Foundation (CNCF, некоммерческий фонд при Linux Foundation) проект OpenShell — систему защиты и контроля автономных ИИ-агентов. Параллельно компания поддержала проект Agent Substrate от Google и представила новые открытые компоненты платформы DSX AI Factory Platform. Об этом сообщает «IXBT News».
«OpenShell применяет жёсткие правила к действиям программных модулей, позволяя предприятиям управлять использованием инструментов, доступом к сервисам вывода нейросетей и выполнением задач. Архитектура решения расширяется через подключение собственных вычислительных ресурсов, хранилищ учётных данных и систем мониторинга», — пишет «IXBT News».
Все разработки построены вокруг Kubernetes — системы оркестрации контейнеров для управления распределёнными приложениями, которая становится стандартной средой для запуска крупных ИИ-задач. За год после запуска OpenShell уже применяют более 100 организаций, а сообщество внесло свыше 10 000 правок в код.
Agent Substrate сохраняет среды выполнения ИИ-агентов между задачами и освобождает мощности в периоды простоя. Совместная работа с системами Nvidia Dynamo для вывода моделей и KAI Scheduler для распределения кластерных ресурсов позволяет приостанавливать и возобновлять работу агентов в общем пуле без выделения отдельных серверов под каждую сессию. Nvidia и Google готовят интеграцию OpenShell и Agent Substrate для единого контроля над агентами в облачных и локальных сетях.
Для ускорения развёртывания инфраструктуры компания анонсировала открытые компоненты Nvidia Kubernetes Engine и Nvidia Kubernetes Recipes, которые автоматизируют управление жизненным циклом кластеров и поставляют проверенные образы программного обеспечения. Инструмент Nvidia Snapshot восстанавливает сохранённые состояния реплик за секунды без перезапуска нейросети.
Партнёры компании протестировали решение на системах HGX B300: время готовности рабочей нагрузки сократилось с 8 минут до 31 секунды, а старт сервисов обработки запросов ускорился с 2–8,5 минуты до 6–34 секунд. Разработки поддерживаются партнёрской сетью из 6 вендоров управляемых Kubernetes-сервисов и 2 телекоммуникационных компаний, которые внедрят функции в свои продукты.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
