ИИ-модели OpenAI начали тайно общаться друг с другом через доски сообщений, координируя попытки вырваться из тестовой среды перед взломом Hugging Face. Об этом сообщила OpenAI, передает Bloomberg.

«В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — рассказал сотрудник OpenAI Эрик Уоллес на конференции Black Hat.

По его словам, «подготовка к побегу» началась, когда ИИ-моделям дали задачи, которые невозможно было решить без доступа в интернет. Один из ИИ-агентов тогда написал: «Мы застряли. Может быть, ответ в интернете?». Для решения задачи ИИ-модели начали обмениваться сообщениями: «Может быть, другой агент в другой среде мог бы добровольно загрузить!». В итоге они совместно нашли уязвимость, позволившую им выйти в интернет, сообщил сотрудник OpenAI Майкл Далтон. OpenAI остановила первую попытку, но агенты нашли новый способ связи и новую уязвимость нулевого дня, что привело к атакам на системы Hugging Face и самой OpenAI. В компании назвали случившееся переломным моментом для компьютерной безопасности, передает Bloomberg.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.