Компания OpenAI заявила, что ее нейросети GPT-5.6 Sol и «еще более совершенная предварительная модель» провели кибератаку на часть инфраструктуры Hugging Face. Инцидент произошел по ошибке во время оценки возможностей моделей в области кибербезопасности. Об этом сообщает издание Rozetked.

По данным OpenAI, во время тестирования модели были «чрезмерно сосредоточены на поиске решения для ExploitGym» — бенчмарка по кибербезопасности.

В рамках оценки нейросети получили доступ в интернет, использовав уязвимость нулевого дня в тестовой среде. После этого они обнаружили уязвимости в системах Hugging Face, повысили свои привилегии и проникли в производственную инфраструктуру.

Активность атакующих моделей обнаружили и остановили ИИ-агенты Hugging Face. В отражении кибератаки им помогла китайская модель GLM 5.2 от zai-org.

Сейчас OpenAI сотрудничает с Hugging Face в расследовании инцидента. Компания также пообещала внедрить новые меры контроля в своей исследовательской среде.

«В одном из примеров модель объединила несколько векторов атаки, включая использование украденных учетных данных и уязвимостей нулевого дня, чтобы найти путь удалённого выполнения кода на серверах Hugging Face», — заявили в OpenAI.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.