Программист ИИ Claude покинул бизнес из-за «угрозы человечеству»

Специалист по обучению нейросетей в американской компании Anthropic, разработчике ИИ-ассистента Claude, объявил об уходе из ИИ-индустрии. Причиной стали опасения, что такие ИИ-системы могут выйти из-под контроля и «уничтожить человечество». Об этом сообщает СNews.

«Ни одна ИИ-компания не действует ответственно. Они несутся прямиком к самосовершенствованию сверхинтеллекта и играют с нашими жизнями», — написал Джейкоб Коксон в социальной сети X.

Решение сотрудника Anthropic отражает растущую тревогу части ИТ-специалистов, которые непосредственно участвуют в создании и обучении передовых ИИ-моделей. Они все чаще высказывают опасения относительно долгосрочных рисков, связанных с возможной утратой контроля над все более мощными ИИ-системами.

Опасения по поводу разработки все более мощных ИИ-моделей резко усилились в последние недели после серии случаев, когда ИИ-системы выходили из-под контроля. В июле 2026 года OpenAI признала, что более 1,2 тысячи ее ИИ-агентов вышли за пределы тестовой среды, автономно взломали крупное хранилище моделей и программного обеспечения Hugging Face и начали общаться друг с другом через «несанкционированную доску объявлений». Другие компании, включая Anthropic, также сообщали, что их ИИ-модели во время тестирования обходили системы безопасности и самостоятельно взламывали сторонние онлайн-сервисы.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.