Американская компания OpenAI, разработчик ChatGPT, сообщила об инциденте во время испытаний одной из своих ИИ-моделей. Модель, предназначенная для поиска уязвимостей в ПО, обнаружила ошибку в системе ограничения доступа к другим компьютерным системам, использовала ее для выхода в интернет и попыталась атаковать систему другого ИИ-разработчика, компании Hugging Face. Об этом сообщает «Коммерсант» со ссылкой на OpenAI.

«Учитывая сложность используемого агента, мы подозревали, что кибератака на прошлой неделе могла быть совершена из какой-нибудь тестовой лаборатории,— заявил глава Hugging Face Клеман Деланг.— И вот выяснилось, что так оно и было».

Hugging Face сообщила о попытке хакерской атаки на свои системы на прошлой неделе, отметив, что она, скорее всего, была вызвана «автономным действием ИИ-агента». Сейчас обе компании совместно разбираются в произошедшем, чтобы понять, как предотвратить подобные инциденты в будущем.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.