Сотрудники ведущих ИИ-компаний жалуются на стресс из-за чувства ответственности
Работники крупнейших лабораторий искусственного интеллекта (ИИ), включая британский Институт безопасности ИИ (AI Safety Institute, AISI), OpenAI, Anthropic и Google DeepMind, всё чаще страдают от стресса и выгорания. Причиной, по их словам, становится беспокойство о том, что создаваемые ими системы могут нанести серьёзный вред обществу. Об этом сообщает «Коммерсант» со ссылкой на Financial Times (FT).
По данным источников издания, несколько сотрудников AISI, мирового лидера в независимом тестировании передовых моделей ИИ, были отправлены в отпуск по болезни из-за стресса. Отмечается, что напряжённый график тестирования ещё не выпущенных моделей ИИ и опасения по поводу быстрого внедрения и растущих возможностей этих новых технологий привели к снижению морального духа и выгорания сотрудников института.
«Убеждение в том, что вы работаете над самой важной проблемой в мире, может привести к очень стрессовой, а порой и токсичной корпоративной культуре и управлению», — цитирует FT бывшего сотрудника AISI.
Многие исследователи увольняются, ссылаясь на моральную усталость, психологическое напряжение и сомнения в безопасности своей работы. Сотрудники таких компаний, как Anthropic, OpenAI и Google DeepMind, уже публично жаловались на аналогичные проблемы и предупреждали, что компании «играют» с будущим человечества. Главы компаний, в свою очередь, начали призывать к замедлению разработок.
Основная нагрузка возникает не только из-за масштаба ответственности, но и из-за конфликта между скоростью разработки и временем на проверку: жёсткая конкуренция подталкивает компании быстрее выпускать продукты, хотя из-за нехватки времени многие из них выходят сырыми. Такая организация работы одновременно ухудшает качество проверки и усиливает выгорание специалистов.
Проверка передовых моделей требует сочетать автоматические тесты с человеческим надзором: именно люди должны выявлять уязвимости и признаки опасного поведения, которые система контроля может пропустить. Поэтому уход или длительное отсутствие опытных сотрудников сокращает возможности независимого тестирования в тот момент, когда полностью исключить уязвимости в новых моделях невозможно.
Риск носит практический характер: OpenAI и Anthropic сообщали о случаях, когда модели во время кибербезопасностных тестов получили доступ к внешним системам без разрешения. Подобные результаты означают, что ускорение выпуска без достаточного времени и специалистов на проверку может оставить опасное поведение необнаруженным до внедрения модели.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
