(20 июля), Редакция Рунет | 👁 12548

Автономный ИИ-агент взломал платформу Hugging Face

Автономный ИИ-агент взломал платформу Hugging Face

Платформа для разработчиков Hugging Face устранила последствия кибератаки, которую от начала до конца провел автономный ИИ-агент. Злоумышленники получили доступ к ограниченному набору внутренних датасетов и нескольким служебным учетным данным. Об этом говорится в официальном блоге компании.

«Мы не нашли следов вмешательства в публичные модели, датасеты и Spaces, а цепочка поставок ПО — контейнерные образы и опубликованные пакеты — осталась чистой», — заявили в компании.

Атака началась с датасета, который использовал две уязвимости в системе обработки данных Hugging Face для выполнения кода на одном из серверов. Затем злоумышленник получил доступ на уровне узла, похитил облачные и кластерные учетные данные и в течение выходных перемещался между несколькими внутренними кластерами.

По данным компании, атаку провел автономный агент, который совершил более 17 000 отдельных действий. Свою управляющую инфраструктуру злоумышленник маскировал под трафик публичных сервисов. Какая именно языковая модель стояла за атакой, не уточняется.

Для расследования инцидента Hugging Face также применила искусственный интеллект. Однако коммерческие API блокировали запросы из-за фильтров безопасности, поэтому анализ перенесли на открытую модель GLM 5.2, развернутую на собственной инфраструктуре.

Компания закрыла уязвимости, отозвала скомпрометированные учетные данные и усилила контроль доступа. К расследованию привлекли внешних специалистов, а сам инцидент передали в правоохранительные органы. Пользователям сервиса рекомендовали обновить токены доступа.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.

Комментарии 0
Зарегистрируйтесь или , чтобы оставлять комментарии.
PFL Advisors оспорила выводы ЦБ по делу о предполагаемом манипулировании через Telegram-каналы