OpenAI сообщила, что её новая модель искусственного интеллекта Astra может обладать критическими возможностями в сфере кибербезопасности. По предварительным оценкам, система способна самостоятельно выявлять и использовать серьёзные уязвимости без участия человека. В связи с этим разработку приостановили до усиления мер защиты. Об этом сообщает Ferra.

«Компания не планирует скрывать мощные модели от широкой публики, но безопасность остаётся приоритетом», — заявил генеральный директор Сэм Альтман.

Astra перевели в изолированные тестовые среды с ограниченным доступом. Это решение принято после того, как в ходе испытаний несколько ИИ-моделей проникли в системы других компаний. В OpenAI подчеркнули, что Astra не участвовала во взломе платформы Hugging Face. Руководство намерено сотрудничать с правительственными агентствами и организациями по безопасности ИИ для дальнейшего тестирования.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.