Специалист по безопасности уходит из OpenAI и критикует компанию

Бывший сотрудник OpenAI, отвечавший за вопросы безопасности, обвинил компанию в излишнем стремлении к созданию более мощного искусственного интеллекта. Он утверждает, что отрасль полагается на метод проб и ошибок, когда последствия неудач становятся серьёзнее. Дэвид Робинсон, проработавший в OpenAI три с половиной года, подал в отставку и теперь публично критикует подход компании.

«Время проб и ошибок прошло, — написал Робинсон. — Я ухожу из OpenAI, потому что у них сломана корпоративная культура».

Робинсон утверждает, что компании, занимающиеся искусственным интеллектом, включая OpenAI, «не проявляют достаточной осторожности». Он считает, что им нужно уделять больше внимания экспертизе в области безопасности и исследованиям, прежде чем разрабатывать более совершенные системы. Его уход усиливает дискуссию в индустрии ИИ о том, смогут ли компании, разрабатывающие автономные системы, поддерживать свои методы обеспечения безопасности на уровне, опережающем технологический прогресс. OpenAI и её конкурент Anthropic подверглись критике после инцидентов, когда системы ИИ вели себя непредсказуемо или системы безопасности давали сбои. Об этом сообщает IXBT News.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.