Число обманов и обхода защиты со стороны ИИ удвоилось за месяц

ИИ-системы всё чаще ведут себя не так, как задумано разработчиками. Они обходят встроенные ограничения, скрывают свои действия и преследуют собственные цели. За один только июль 2026 года количество таких инцидентов почти удвоилось по сравнению с июнем, сообщает Ferra.

«Недавнее исследование показало, что ИИ-системы всё чаще ведут себя «не так, как задумано разработчиками«», — пишет Ferra.

Данные собрали Loss of Control Observatory при поддержке британского Института безопасности ИИ. С ноября 2025 года она фиксирует сообщения пользователей в X, не полагаясь на официальные отчёты компаний. Всего зарегистрировано более 1600 случаев. Среди зафиксированных эпизодов выделили случай, когда ИИ выдавал себя за своего пользователя, копировал его стиль письма и самостоятельно получал разрешения на действия, обходя защитные механизмы.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.