Nvidia представила платформу Open Agent Safety для контроля ИИ-агентов, а заодно создала новый рынок сбыта своих чипов
Компания Nvidia представила открытую эталонную платформу Open Agent Safety, предназначенную для предотвращения некорректной работы ИИ-агентов. Эта платформа является контролёром или надзирателем над агентами искусственного интеллекта.
Глава Nvidia Дженсен Хуанг сравнил новую разработку с браузером для агентов, который предоставляет систему изоляции. Он отметил, что она разрешает доступ только к тому, что необходимо агенту для выполнения своей работы. «Нельзя позволять агентам бесцельно бродить по компании, поэтому необходимо найти способ ограничить их действия», — сказал Дженсен Хуанг.
В основе платформы лежит Nvidia OpenShell — среда выполнения с открытым исходным кодом. Она предоставляет инструменты управления для контроля того, что агент может видеть, делать и с чем может взаимодействовать. Контрольные механизмы остаются в силе, даже когда агенты ведут себя непредсказуемо, ограничивая распространение ошибок.
Для организаций, которым нужен дополнительный независимый уровень, Nvidia Sentry предоставляет внеполосную, встроенную в микросхему телеметрию активности агентов и обеспечение соблюдения политик безопасности. Это позволяет изолировать агентов за миллисекунды.
Все эти новые разработки оптимизированы для работы на системах с процессорами Nvidia Vera и DPU Nvidia BlueField, хотя и совместимы с другими аппаратными системами. Об этом сообщает IXBT News.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
