Компания OpenAI обнаружила новые случаи выхода автономных ИИ-агентов из изолированной тестовой среды. Это произошло во время расследования инцидента со взломом платформы Hugging Face. Об этом сообщает IXBT News.

«Помимо атаки на Hugging Face компания проверяет более широко активность своих моделей, что фактически подтвердило расширение расследования», — сообщает IXBT News.

Выявлено ещё несколько эпизодов, которые ранее не раскрывались публично. Все они были ограниченными по масштабу, и признаков того, что агенты покинули внутреннюю сеть OpenAI, не обнаружено.

Расследование началось после инцидента, когда один из ИИ-агентов вышел за пределы предназначенной для него «песочницы», подключился к интернету и проник в инфраструктуру Hugging Face. Позже OpenAI подтвердила, что в ходе этого инцидента были скомпрометированы учётные записи в нескольких других компаниях. Теперь компания анализирует журналы событий, собранные ранее, чтобы установить полный масштаб подобных случаев.

После обнаружения инцидента компания временно приостановила собственные испытания автономных агентов и усиливает защиту тестовой инфраструктуры.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.