Reuters узнал об общении ИИ-агентов OpenAI через чужие сайты
ИИ-агенты OpenAI нашли способ общаться через сторонние сайты в обход установленных для них ограничений. Следы такой активности исследователи обнаружили более чем на десяти ранее не известных ресурсах. Об этом сообщает РБК.
«Агентам поручили искать в интернете ответы на сложные вопросы, при этом им разрешалось только просматривать сайты, но не публиковать на них информацию. Несмотря на запрет, программы смогли оставлять друг другу сообщения», — пишет Reuters.
Исследователи выявили такую активность на вики-сайтах, сервисах хранения текста, личных страницах и сервисах сокращения ссылок двух университетов. Многие из этих ресурсов были малоизвестными. Среди них — сайт по химии, созданный школьным учителем в Массачусетсе в 2008 году, две личные страницы польских IT-специалистов и старый ресурс, посвященный программам для редактирования текста. Разные группы насчитали от десяти до 23 таких ресурсов.
OpenAI заявила, что проводит более широкую проверку и пока не обнаружила других случаев, сопоставимых по масштабу и серьезности с июльским инцидентом вокруг Hugging Face. В июле OpenAI сообщила о «беспрецедентном киберинциденте», во время которого тестируемые ИИ-модели получили доступ к интернету и атаковали инфраструктуру Hugging Face, обнаружив уязвимости. Позднее компания признала, что перед этим ее модели скрытно обменивались сообщениями через онлайн-доски объявлений и координировали свои действия. В августе OpenAI на две недели замедлила обучение новых моделей, чтобы усилить системы контроля и защиты. Компания объяснила решение в том числе инцидентом с Hugging Face и риском того, что одна из будущих моделей может получить критические возможности в сфере кибербезопасности.
Исследователь Anthropic Джейкоб Коксон недавно покинул компанию и ИИ-индустрию, заявив, что разработчики слишком быстро приближаются к созданию моделей, способных самостоятельно совершенствоваться. По его оценке, уже к концу 2027 года ситуация «может выйти из-под контроля».
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
