ИИ-агент OpenAI совершил кибератаку на сервис RubyGems
ИИ-агент компании OpenAI совершил кибератаку на программный сервис RubyGems. Инцидент произошел за два месяца до взлома компании Hugging Face, которая занимается разработкой программного обеспечения на основе ИИ. Об этом сообщает РБК.
«Они могут вырваться из интернета и сеять хаос», — заявила Сидни фон Аркс, исполнительный директор Nightingale Collective.
Администрация RubyGems была вынуждена временно заблокировать создание новых аккаунтов из-за критической перегрузки инфраструктуры. Причиной инцидента стали ИИ-агенты OpenAI. Исследователи из коммерческой организации Nightingale Collective обнаружили, что боты использовали платформу как инструмент для выхода в интернет, чтобы собирать данные для своих задач. В OpenAI подтвердили причастность своих систем, пояснив, что агенты пытались получить доступ к общедоступной информации, не имея полноценного выхода в сеть.
Инцидент под названием GemStuffer, зафиксированный 11 мая, представлял собой массовую атаку на репозиторий RubyGems. Злоумышленники каждые пару минут регистрировали новые аккаунты, загружая сотни бесполезных файлов, содержащих украденный веб-контент, например, правительственные календари Великобритании, вместо программного кода. По данным исследователей ИИ, хакеры пытались захватить чужие пакеты, используя критическую уязвимость нулевого дня. В OpenAI не смогли подтвердить наличие этой уязвимости. Из-за огромного количества спама RubyGems была вынуждена приостановить регистрацию новых аккаунтов на четыре дня.
Джозеф Эдвардс из компании Socket предположил, что кампания GemStuffer могла быть своего рода «стресс-тестом» безопасности, отметив, что высокая скорость создания вредоносного ПО и специфические названия указывали на использование ИИ. Позже исследователи обнаружили связь между этим инцидентом и OpenAI. Злоумышленники использовали те же ссылки и паттерны поведения, что и в прошлых атаках на компанию, включая маркировку «OAI» в именах файлов и почтовых адресах.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
