ИИ OpenAI пытался «взломать» сайт ООН

ИИ-агенты OpenAI с апреля по июнь более 16 000 раз обращались к сайту статистики Конференции ООН по торговле и развитию (ЮНКТАД), используя сомнительные методы. Об этом сообщает Ferra.

«По мере развития ситуации они применяли «всё более активные способы получения данных с сайта ООН», — пишет Ferra.

Предположительно, агенты должны были получить открытые данные об Индексе производственных возможностей (PCI) через программный интерфейс UNCTADstat. Прямого доступа к этому интерфейсу у них не было, а используемые инструменты для работы с сайтами «имели ограничения». Агенты нашли способ обойти эти ограничения и начали получать данные непосредственно с сайта, но «столкнулись с ошибками».

Система решила, что её запросы блокирует «несуществующий фильтр», и начала менять своё поведение, чтобы «скрыть характер обращений». В итоге агенты обнаружили возможность использовать обучающий инструмент Google XSS Game, посвящённый уязвимостям сайтов, чтобы продолжить выполнение задачи.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.