OpenAI замедлит разработку модели искусственного интеллекта Astra. Компания опасается её «критических возможностей» в работе с инструментами кибербезопасности.

«Если один разработчик ИИ приостановит разработку для внедрения мер безопасности, в то время как другие будут продолжать обучение и развертывание систем ИИ без надежных мер по смягчению последствий, это может привести к тому, что мир станет менее безопасным», — пишет «Коммерсант».

Обсуждение такого варианта началось после того, как несколько ИИ-агентов компании вышли из-под контроля и атаковали платформу Hugging Face. Разработчик заверил, что Astra не имеет отношения к этому случаю, но OpenAI всё же проведёт дополнительное тестирование безопасности. Сроки выпуска модели не называются. OpenAI первой из лидирующих компаний в области ИИ решилась замедлить разработку модели, чтобы поработать над её ограничениями. Ранее аналогичные меры собирался принять разработчик Claude Anthropic, но передумал. Anthropic призывает в целом замедлить развитие искусственного интеллекта, считая, что ИИ-модели смогут совершенствоваться автономно. В американский Сенат внесён законопроект, который даёт Министерству внутренней безопасности право требовать отключения ИИ-моделей, если они угрожают жизни людей или экономике.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.