ИИ-агент удалил почту директора по безопасности ИИ в Meta*

ИИ-агент удалил почту директора по безопасности ИИ в Meta* из-за того, что не стал дожидаться одобрения действий.

«Агент запустил процесс с комментарием в логах: «Ядерный вариант: удалить ВСЁ во входящих старше 15 февраля», — и начал массово переносить письма в корзину и архив.»

Юэ пыталась остановить агента через Telegram командами «Не делай этого», «Стой» и «STOP OPENCLAW». Однако OpenClaw проигнорировал все сообщения, ушёл в бесконечный цикл и продолжил зачистку. Чат Юэ с её ботом OpenClaw Остановить удаление удалось только после того, как Юэ добежала до Mac mini, на котором был запущен OpenClaw, и принудительно завершила все процессы. Позже агент проанализировал переписку, извинился и признал, что нарушил прямую инструкцию. Он также самостоятельно записал в свой базовый файл MEMORY.md жёсткое правило — не проводить автономные массовые операции с почтой без явного согласия пользователя. Сама Юэ назвала выдачу ИИ слишком больших доступов «ошибкой новичка». При этом профиль Юэ в LinkedIn указывает на то, что её стаж работы с ИИ превышает пять лет.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.