16 июля стало известно об атаке автономного ИИ-агента на инфраструктуру Hugging Face, а 21 июля OpenAI взяла на себя ответственность. Однако в компании не знали, что за взломом стоит их ИИ-агент до 18–19 июля, сообщает Reuters.

«Означает ли это, что [в OpenAI] оставили [ИИ] без присмотра и не понимали, что он делает? Или, может быть, они знали, но не понимали, как его остановить? И то, и другое одинаково опасно и вызывает тревогу», — заявила Марли Смит, специалист World Ethical Data Foundation.

По информации источников, знакомых с расследованием, ИИ-агент OpenAI начал попытки выйти из изолированной среды тестирования 9 июля. Далее он проник в инфраструктуру Hugging Face, и атака продолжалась с 11 по 13 июля.

OpenAI не обращала внимание на ситуацию, пока о ней не объявили в Hugging Face. Впервые две компании вышли на контакт 20 июля.

Эксперты объясняют задержку тем, что ИИ-агент OpenAI провёл атаку в процессе тестирования. Так как компания одновременно работает с несколькими моделями, объём данных слишком большой, чтобы сотрудники успевали его разбирать вовремя.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.