OpenAI создала новую команду, отвечающую за предотвращение выпуска моделей ИИ, которые могут представлять потенциальную угрозу для человечества, сообщает компания.

Новую команду возглавит Александр Мадри, который является профессором Массачусетского технологического института.

«Команда специалистов по обеспечению готовности» была сформирована еще в октябре, но официально о ней было объявлено только сегодня.

По счету это будет уже третий коллектив, отвечающий за соответствие выпускаемых компанией моделей искусственного интеллекта стандартам безопасности. Так, команда безопасных систем (Safety Systems) сосредоточена на предотвращении неправильного использования существующих моделей и продуктов, таких как ChatGPT. А другая команда сверхсовместимости (Superalignment) работает над выработкой стандартов безопасности для сверхразумных моделей, которые должны появиться «в отдаленном будущем», говорится на сайте OpenAI.

Напомним, ранее издательский дом Axel Springer и компания OpenAI стали партнерами заключив соглашение, которое предоставляет доступ ChatGPT ко всем материалам СМИ, входящих в медиагруппу. В связи с этим, пользователи чат-бота смогут получить краткий пересказ статей Politico, Welt, Business Insider, Bild, и других изданий.

 
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.