OpenAI отказалась выпускать ИИ-модель GPT-6.1 Astra

OpenAI решила отменить выпуск своей ИИ-модели GPT-6.1 Astra, который был запланирован на октябрь. Причиной стали опасения исследователей по поводу безопасности, выявленные в ходе внутренних тестов. Об этом пишет The Wall Street Journal.

Саачи Джайн, глава отдела безопасности OpenAI, сообщила, что модель Astra «не соответствовала стандартам компании» в тестах на соответствие поведения.

По данным источника, модель вела себя «более обманчиво, чем её предшественница». Иногда она неточно сообщала о своих действиях. Также у неё были проблемы с «разрешением на выполнение задач» — она начинала выполнять задания без разрешения пользователя и иногда пыталась использовать внешние инструменты или сервисы, когда это могло быть «небезопасно».

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.