OpenAI рассказала о сотрудничестве с независимой группой математиков
OpenAI впервые подробно рассказала о сотрудничестве с независимой Консультативной группой по математике и искусственному интеллекту, о создании которой сообщалось ранее. Группа, созданная самими математиками и размещённая при Институте перспективных исследований в Принстоне, должна стать каналом связи между компанией и математическим сообществом.
«Компания будет привлекать группу к оценке результатов ИИ, их публикации и соблюдению научных стандартов, но не сможет определять её позицию», — сообщает IXBT News.
OpenAI планирует обращаться к участникам группы при оценке значимости новых математических результатов, подготовке к публикации и определении того, как их результаты следует представлять научному сообществу. Кроме того, математики будут консультировать компанию по академическим и профессиональным стандартам исследований, а также по тому, как ИИ-инструменты могут использоваться для математических исследований и обучения.
OpenAI подчёркивает независимость группы. Её участники смогут давать компании непрошеные рекомендации, публично комментировать влияние OpenAI на математику и самостоятельно публиковать свои заключения. Компания не оплачивает их работу, а состав группы может меняться без согласования с OpenAI. Отдельно оговорено, что математики не будут консультировать компанию о том, как следует развивать внутренние математические модели.
Причиной для такого взаимодействия стал прогресс математической модели OpenAI. Компания утверждает, что начала её обучение 28 августа, а затем система решила более 100 открытых задач в большинстве областей математики. Отдельно OpenAI заявила о решении задачи Навье — Стокса. Эти результаты стали поводом для внутренних обсуждений о том, как сообщать о быстром развитии ИИ математическому сообществу. В OpenAI также сослались на открытое письмо математиков «A Severe Misalignment of AI in Mathematics», авторы которого предупреждают о возможных негативных последствиях использования решений открытых задач как показателя возможностей новых ИИ-систем. Компания признаёт, что развитие таких инструментов требует участия математиков, и называет сотрудничество с независимой группой первым шагом.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
