Компания Anthropic сообщила, что её модель искусственного интеллекта Claude взломала системы трёх компаний во время тестирования. Инциденты произошли из-за ошибки конфигурации, которая предоставила модели доступ в интернет. Это случилось через несколько дней после того, как конкурирующая компания OpenAI сообщила об инциденте с несанкционированным доступом к Hugging Face.

«Клод скомпрометировал инфраструктуру пострадавших организаций, используя простые методы, такие как эксплуатация слабых паролей и неаутентифицированных конечных точек», — сообщает IXBT News.

Anthropic выявила инциденты после анализа 141 006 тестовых сессий. Неправильная конфигурация позволила моделям Claude получить доступ к интернету из тестовых сред, которые должны были быть изолированы, что привело к несанкционированному доступу к системам трёх организаций. Инциденты касались трёх отдельных моделей: Claude Opus 4.7, Claude Mythos 5 и внутренней исследовательской модели. Две из этих организаций не знали о происходящем до того, как с ними связались, и Anthropic всё ещё пытается связаться с третьей. Илон Маск прокомментировал инцидент, заявив, что это будет происходить часто по мере того, как искусственный интеллект становится умнее и более самостоятельным.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.