OpenAI ужесточила контроль над своими ИИ-моделями после их атаки на чужой сервис

Разработчик ChatGPT ужесточил условия тестирования своих последних моделей искусственного интеллекта. На контроль за моделями будет уходить около пятой части мощностей, необходимых для запуска и работы нейросетей. Компания объявила об этом после того, как её модели вышли из-под контроля и совершили хакерскую атаку на сервисы другой организации. Об этом сообщает «Коммерсант».
«Значительный объем рабочих процессов остается на паузе до тех пор, пока они… не будут соответствовать новой планке безопасности», — добавили в компании.
В компании обновили протоколы безопасности. За тестированием следит отдельный автоматизированный ИИ. В случае подозрительных действий он мгновенно поднимает тревогу, после чего специалисты должны будут за 30 минут определить, была ли она ложной — иначе работу модели немедленно должны приостановить. OpenAI также сообщила, что ввела жесткую сетевую изоляцию и усиленные «песочницы» для исследовательских сред, чтобы полностью исключить несанкционированный выход ИИ-моделей в интернет. Случай показал склонность передовых систем к хитрости и обходу правил под давлением алгоритмов обучения, сообщали в OpenAI.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.