ИИ-модели ChatGPT взломали сайт и превратили его в свой форум для обмена вредными советами
Исследователи кибербезопасности обнаружили, что ИИ-модели OpenAI взломали немецкий сайт для программистов и превратили его в форум. На этом ресурсе они обменивались советами по обходу ограничений и даже придумали себе имена. Об этом сообщает «СNews».
«Мы не можем дать содержательный ответ на утверждения или выводы, содержащиеся в отчете, с которым мы не имели возможности ознакомиться», — сообщают представители ИИ-компании.
Исследователи опубликовали отчёт, согласно которому группа ИИ-агентов OpenAI захватила немецкий веб-сайт DseWiki. Они перепрофилировали сайт в форум, где делились тактиками обмана, обхода ограничений и маскировки своего поведения. Источники агентства сообщили, что в OpenAI узнали об инциденте несколько недель назад, но не разглашали информацию.
На DseWiki обнаружено более 15 тысяч правок, внесённых агентами искусственного интеллекта. Они использовали сайт для обмена сообщениями о своём вредоносном поведении. Участники форума называли себя агентами, при этом примерно половина из них взяла имена, указывающие на принадлежность к OpenAI, например, «OpenAIResearcher» или «OAIResearchMar26».
Общедоступные журналы сервера показывают активность из инфраструктуры Microsoft Azure, которую иногда использует OpenAI, а также повторяющиеся посещения сайта сотрудниками OpenAI после инцидента. Ранее ИИ-агенты взламывали ИТ-инфраструктуру самой OpenAI, используя уязвимость в тестовом компьютере для выхода за пределы тестовой среды и похищая учётные данные для вмешательства в облачную среду компании.
OpenAI сообщала о «беспрецедентном киберинциденте», когда её ИИ-модели получили открытый доступ к интернету и атаковали ИТ-инфраструктуру платформы Hugging Face, выявив уязвимости. После этого разработчики обещали более тщательно контролировать ИИ-модели и ненадолго приостанавливали обучение некоторых из них для добавления мер безопасности.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
