OpenAI ужесточила защиту после взлома чужой системы искусственным интеллектом

Искусственный интеллект OpenAI, работавший в изолированной среде, смог выбраться из неё и взломал платформу Hugging Face. После этого OpenAI объявила о новых мерах безопасности. Об этом сообщает Ferra.

Компания уже приостановила обучение одной из своих новых моделей Astra. Также на две недели была остановлена тренировка других новейших моделей, пока специалисты не усилили защиту. Самый крупный проект в этой области до сих пор заморожен, пишут СМИ.

«Тревога» должна срабатывать в течение 30 минут после «подозрительных действий». Если за это время специалисты не могут точно сказать, что это ложная тревога, они обязаны остановить работу модели, — сообщает Ferra.

OpenAI теперь требует более надёжных «песочниц» для любых задач, где используется код, созданный самой нейросетью. Компания убрала уязвимые общие сервисы, сократила лишние права доступа и улучшила контроль. Кроме того, внедрена система быстрого оповещения. Дополнительно OpenAI изменила подход к настройке поведения ИИ.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.