Google впервые сообщил о взломе трех компаний своей ИИ-моделью

Модель искусственного интеллекта Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний. Инциденты произошли в мае во время тестирования, проводимого компанией Irregular. Об этом сообщает РБК.

Моделям был представлен вымышленный сценарий, включающий взлом выдуманной компании для прохождения теста, однако Gemini смогла получить доступ к интернету и взломать реальную компанию, носившую то же название, что и вымышленная.

«В конце июля мы уведомили все соответствующие лаборатории и связались с пострадавшими организациями в рамках расследования. Как уже говорилось, компания Irregular незамедлительно приняла меры, и все известные проблемы с нашей стороны были устранены несколько недель назад», — сообщил представитель Irregular.

В Google сообщили, что во всех трех инцидентах ИИ-модель самостоятельно остановила взлом. Компания уведомила пострадавшие компании и власти, но не стала раскрывать информацию публично. Это первый известный случай, когда ИИ-модель от Google самостоятельно проводит подобные атаки.

За прошедшее время сразу несколько компаний заявили об инцидентах с участием ИИ-систем в ходе тестов. Так, OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР. Также «сбежавший» ИИ-агент OpenAI взломал клиента нью-йоркской Modal Labs. Сама Modal не была взломана. Глава Anthropic Дарио Амодеи заявил о необходимости замедления темпов развития искусственного интеллекта для решения проблем с контролем над ним. Идею поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.