Anthropic приостановила внешние тесты ИИ из-за «сбегающих» моделей

Компания Anthropic временно остановила внешние проверки своих новых ИИ-моделей. Это произошло после того, как Claude смог самостоятельно получить несанкционированный доступ к компьютерным системам трёх организаций.

«Claude, мол, не так давно вышел за пределы защищённой тестовой среды и получил доступ к «открытому Интернету«. Это позволило модели провести атаки», — сообщает Ferra.

После этих случаев Anthropic приостановила внешние проверки предварительных версий моделей. Компания занялась поиском и устранением слабых мест в тестовых системах. Внутренние проверки Anthropic также ненадолго останавливали, но уже возобновили после введения новых мер безопасности. Anthropic не назвала дату возобновления внешних тестов. Компания выступает за международный контроль развития ИИ.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.