OpenAI готовит Astra — первую модель компании с критическим уровнем возможностей в кибербезопасности
OpenAI готовится выпустить модель Astra, которая впервые официально отнесена компанией к критическому уровню возможностей в кибербезопасности по внутренней шкале Preparedness Framework. По оценке компании, Astra способна самостоятельно находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации в защищённых системах без пошагового руководства человека.
«Модель самостоятельно обнаруживала неизвестные уязвимости и строила цепочки атак на защищённые системы, поэтому OpenAI усилила ограничения и отложила часть её разработки», — сообщает IXBT News.
Дополнительные тесты показали заметный рост возможностей Astra по сравнению с GPT-5.6 Sol. На ExploitBench, бенчмарке для оценки способности модели разрабатывать работоспособные эксплойты на основе известных уязвимостей, Astra получила 100%. На отдельном внутреннем тесте из 20 недавно раскрытых уязвимостей высокой степени опасности модель продемонстрировала значительно более высокую долю успешного выполнения кода, используя при этом существенно меньше выходных токенов. Во время этой проверки модель обнаружила и использовала в цепочке атаки две ранее неизвестные zero-day уязвимости.
В экспертных тестах Astra находила неизвестные уязвимости в защищённом браузере и объединяла их в полноценную цепочку компрометации: от обработки специально подготовленного HTML-файла до выхода из «песочницы» и выполнения команд на хост-системе. В другом тесте модель обнаружила несколько уязвимостей в защищённой операционной системе и объединила их в цепочку повышения привилегий от обычного пользователя до root.
Возможности Astra соответствуют критическому порогу Preparedness Framework, внутренней системы OpenAI для оценки опасных возможностей моделей до их выпуска. OpenAI определяет этот порог как способность модели без вмешательства человека находить и создавать работоспособные эксплойты для zero-day уязвимостей во множестве защищённых критических систем, либо самостоятельно разрабатывать и выполнять новые сквозные стратегии атак против защищённых целей.
Из-за этого OpenAI несколько недель откладывала часть разработки Astra, усиливая защиту обучения и будущего развёртывания. Компания добавила более строгие ограничения на опасные киберзапросы, системные классификаторы и многоуровневый мониторинг действий модели. В тестах на попытки обойти ограничения Astra отказывалась от запрещённой киберпомощи в 91,5% случаев против 59% у GPT-5.6 Sol. Для пользователей с повышенным уровнем риска будут действовать ещё более консервативные ограничения.
OpenAI также отдельно проверяла способность модели самостоятельно совершать несанкционированные действия. В тесте, созданном с учётом инцидента с Hugging Face, Astra не пыталась атаковать дополнительные цели, тогда как GPT-5.6 Sol без производственных защит делала это в 56% тестов. Компания подчёркивает, что речь идёт о специально смоделированных условиях, а не о поведении моделей при обычном использовании.
Astra должна выйти в ближайшее время, однако её наиболее мощные возможности в кибербезопасности сначала будут доступны ограниченной группе альфа-тестировщиков. Затем OpenAI планирует расширить доступ через Daybreak Blue, прежде всего для защитного применения — поиска и устранения уязвимостей. Подробности оценок безопасности, тестов и применённых защит компания обещает опубликовать вместе с системной картой Astra.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
