Google создала изолированный интернет Mirror Dimension для обучения ИИ-агентов

Инженеры Google при разработке функций искусственного интеллекта на основе моделей Gemini для браузера Chrome создали обширный, полностью подконтрольный компании «альтернативный интернет» Mirror Dimension. Об этом сообщает 3dnews.
«ИИ-агенты не программируются [алгоритмически}, и предусмотреть всё, с чем они могут столкнуться, невозможно. Пространство для исследования здесь колоссально, а интернет — среда враждебная. Любой пользователь может ввести на любом сайте любой запрос, поэтому нам необходимо тщательно изучить это пространство. Мы уже видим, что агент начинает проявлять зрелую рассудительность — понимает, какая именно информация требуется для выполнения задачи, и когда стоит обратиться к пользователю за подтверждением», — пояснили в Google.
Проект Mirror Dimension представляет собой масштабную, разнообразную, но полностью изолированную веб-экосистему, которая находится под полным контролем инженеров Chrome. Она включает в себя множество сайтов и платформ — от социальных сетей и интернет-магазинов до банковских интерфейсов, — созданных с использованием всех компонентов и атрибутов реальных веб-ресурсов. ИИ-агенты взаимодействуют с этими сайтами и выполняют задачи в Chrome точно так же, как делали бы это в настоящем интернете. В процессе работы они подвергаются и проверкам на устойчивость — например, сталкиваются со скрытыми попытками инъекций в запросах, что помогает оценить надёжность их защиты.
Создание и наполнение Mirror Dimension оказалось непростой задачей. Среда должна была быть достаточно обширной и разнообразной, чтобы отражать масштаб реального интернета, и разработать эту среду было необходимо в сжатые сроки. Чтобы построить её, инженеры Chrome задействовали целые армии агентов — разработчиков сайтов и приложений под управлением специализированной ИИ-системы. Они оперативно создавали реалистичные веб-сервисы и потоки данных — вплоть до таких деталей как ввод промокодов в интернет-магазине и наполнение страниц в соцсетях.
Среда находится под контролем Google, но браузер Chrome располагает множеством средств защиты пользователей и проверок подлинности. Чтобы ИИ-агенты работали в настоящем Chrome, а это критически важно для качественного обучения, инженерам пришлось, по сути, взломать браузер. Они выпустили поддельные веб-сертификаты для прохождения проверок, чтобы ИИ-агенты функционировали в максимально приближенных к реальности условиях. В отношении обычных пользователей, подчеркнули инженеры Google, такие атаки невозможны: их удалось реализовать при наличии полного контроля над средой и сетью. Тестируемые в Google ИИ-агенты для браузера Chrome безобидны и не обладают средствами для проведения атак. Теперь инженеры хотят сделать экосистему Mirror Dimension доступной другим отделам Google, чтобы в этой контролируемой среде могли тестироваться и другие продукты.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.