OpenAI 7 августа приостановила внутренние работы с моделью Astra, которые не соответствуют ужесточённым требованиям безопасности. По итогам внутренних оценок компания заявила, что пока не может исключить достижение Astra порога «Critical» в области кибербезопасности, установленного её внутренней системой оценки потенциальных угроз Preparedness Framework. Об этом сообщает IXBT News.

«Порог ‘Critical’ означает, что модель потенциально способна без помощи человека разрабатывать работоспособные эксплойты для ранее неизвестных уязвимостей в широком наборе защищённых реальных критических систем либо самостоятельно строить и проводить сквозные кибератаки на защищённые цели, получив только высокоуровневую задачу», — сообщает IXBT News.

В OpenAI связывают решение с ростом возможностей Astra в агентном программировании и кибербезопасности. Предыдущие модели OpenAI, включая GPT-5.6-Sol, компания оценивала на более низком уровне «High».

Теперь OpenAI расширяет испытания устойчивости защитных механизмов и усиливает требования к безопасности для моделей с более высокими возможностями. Компания не раскрыла результаты конкретных тестов, наборы заданий или перечень новых защитных мер. Astra не связана с описанным ранее взломом инфраструктуры Hugging Face.

Для агентных систем важно проверять не только способность модели написать код или объяснить уязвимость, но и то, что происходит при предоставлении ей реальных инструментов. Потенциальный риск возникает при объединении поиска уязвимости, написания эксплойта, доступа к системам и автономного выполнения последовательности действий. Поэтому новые требования OpenAI распространяются не только на саму модель, но и на связанные с ней процессы разработки и использования.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.