Работники ИИ-гигантов начали массово выгорать из-за переживаний за будущее человечества
Сотрудники ведущих мировых компаний, развивающих технологии искусственного интеллекта, испытывают психологические проблемы. Это связано с работой над системами, которые, по их мнению, могут навредить будущему человечества. Об этом пишет «Лента» со ссылкой на Financial Times (FT).
«Многие люди расстроены, были многочисленные увольнения и много отпусков по состоянию психического здоровья», — сообщает Financial Times.
По данным издания, в Anthropic, OpenAI и Google DeepMind сотрудники открыто жалуются на такие переживания. Более десятка ведущих специалистов в этих ИИ-гигантах уволились за последние два года. Они ссылались на опасения по поводу приоритета безопасности со стороны их руководителей и беспокойство по поводу темпов и рисков развития технологии.
Один из сотрудников DeepMind анонимно заявил, что работа над повышением безопасности ИИ сопряжена с риском выгорания, поскольку кажется «невыполнимой задачей». Он также отметил, что развитие искусственного интеллекта в целом несет риски для психического здоровья, так как невозможно понять, как будут использоваться технологии. Собеседник FT привёл пример сделки Google с Пентагоном, разрешающей использование систем ИИ в секретных военных операциях.
Несколько дней назад глава Anthropic Дарио Амодеи заявил, что без принятия мер ИИ может опередить способность человека контролировать системы. Он выступил за то, чтобы замедлить темпы совершенствования возможностей ИИ-моделей и «с умом распорядиться выигранным временем». Его поддержал гендиректор OpenAI Сэм Альтман.
Инвестор Майкл Бьюрри раскритиковал такую позицию топ-менеджеров, предположив, что они набивают цену своему бизнесу перед IPO и пытаются скрыть реальное снижение темпов роста ИИ-индустрии.
Тревога по поводу возможных апокалиптических сценариев, которые сулит стремительное развитие ИИ, влияет на индустрию. Публикации поста Амодеи предшествовало увольнение из его компании математика Джейкоба Коксона. Он подчеркнул, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата» и уже в 2027 году саморазвивающиеся модели «могут выйти из-под контроля и уничтожить человечество».
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
