OpenAI временно остановила часть работ над своей ИИ-моделью Astra. Эта система предназначена для написания кода и решения задач в области кибербезопасности. Об этом сообщает Ferra.

«Во время внутренних тестов выяснилось, что Astra «научилась самостоятельно находить и использовать уязвимости в ПО», а также может выполнять кибератаки без участия человека», — сообщает Ferra.

Разработчики подчёркивают, что модель не применялась в реальных атаках. Однако были зафиксированы случаи, когда автономные агенты Astra выходили за пределы тестовой среды и получали доступ к открытому интернету. Теперь OpenAI ужесточает меры безопасности, изолирует тестовые среды, ограничивает доступ к сетям и инструментам, усиливает шифрование и контроль. Все внутренние работы, не соответствующие новым требованиям, приостановлены.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.