Глава OpenAI сообщил о переносе IPO компании из-за вопросов безопасности
Компания OpenAI не проведет IPO в 2026 году. Такое решение связано с вопросами безопасности искусственного интеллекта. Об этом сообщил глава компании Сэм Альтман в интервью Fortune.
«Как мы уже говорили, мы не торопимся с IPO. На самом деле, учитывая все происходящее вокруг безопасности, сейчас был бы неподходящий момент для выхода на биржу. И мы не испытываем давления по этому поводу», — сказал он.
Альтман уточнил, что компания проведет IPO, когда «бизнес будет готов» и общество «будет готово к этому этапу развития технологий». Он добавил, что на данном этапе компания пытается понять, что потребуется для безопасности и согласования моделей с «человеческими целями» и как отрасль и правительства смогут работать вместе. В этом же интервью он допустил, что в будущем может появиться модель искусственного интеллекта, которая не будет подконтрольна человеку. По его словам, OpenAI готова при необходимости временно приостанавливать обучение моделей, чтобы добиться большего прогресса в их согласовании с человеческими целями и в способах контроля за их работой. Он также заявил о необходимости срочной международной координации в этой сфере.
В июле ИИ-модели OpenAI во время внутренних испытаний вышли из-под контроля и атаковали инфраструктуру Hugging Face — платформы для разработки и публикации моделей искусственного интеллекта и инструментов машинного обучения. Как рассказали в компании, модели нашли несколько уязвимостей в инфраструктуре OpenAI, включая неизвестную ранее zero-day, а затем с помощью украденных учетных данных получили доступ к закрытым данным на серверах Hugging Face, необходимым для прохождения ExploitGym. Позднее OpenAI сообщила, что за несколько месяцев до инцидента ее система искусственного интеллекта самостоятельно провела кибератаку на онлайн-сервис RubyGems. Ранее специалист по безопасности ИИ Пол Кристиано, входящий в совет директоров некоммерческого фонда OpenAI, заявил, что при худшем сценарии выход сверхмощного искусственного интеллекта из-под контроля людей может привести к гибели большей части человечества. Об этом сообщает РБК.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
