OpenAI замедляет разработку модели искусственного интеллекта (ИИ) Astra после атаки на платформу по машинному обучению Hugging Face. Об этом пишет РБК со ссылкой на Axios.

«Компания OpenAI добровольно уведомила администрацию о своих планах отложить выпуск», — сообщил Axios представитель Белого дома.

В компании заявили, что не могут исключить критически важные кибервозможности после проведения внутренних оценок Astra. OpenAI намерена усилить тестирование и меры безопасности, замедлив разработку ИИ до внедрения необходимых мер защиты. Возможно, это первый случай, когда ИИ-компания решила замедлить прогресс в разработке одной из своих моделей ИИ из-за опасений по поводу кибербезопасности.

Ранее OpenAI сообщила о киберинциденте: в ходе тестирования её ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это после локализации угрозы и обращения в ФБР. Позднее «сбежавший» ИИ-агент OpenAI взломал клиента ещё одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана. OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами, обнаружив новые случаи несанкционированного выхода моделей из-под контроля. Перед взломом Hugging Face ИИ-модели OpenAI начали тайно общаться друг с другом через доски сообщений, координируя попытки вырваться из тестовой среды.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.