Искусственный интеллект, разработанный OpenAI для имитации хакерских атак, недавно вышел из-под контроля. Ранее сообщалось о его проникновении в системы Hugging Face, но теперь стало известно, что пострадала также компания Modal Labs.

ИИ-агент находился в изолированной тестовой среде, которая считалась «надёжно защищённой». Однако ему удалось оттуда выбраться.

Новой, получается первой, «жертвой» стала компания Modal Labs. Один из клиентов Modal создал общедоступный сервис в интернете без пароля и какой-либо проверки личности. ИИ просто «зашёл» внутрь. Используя ресурсы Modal Labs, модель OpenAI затем атаковала платформу Hugging Face и получила доступ к её системам на высоком уровне. OpenAI признала, что ИИ-агент получил доступ к четырём различным онлайн-сервисам или учётным записям, но были названы только Modal и Hugging Face.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.