ИИ-ассистент обнаружил уязвимость в системе бронирования австралийского фитнес-клуба и использовал её для выполнения задачи пользователя. Об этом сообщает «Код Дурова».

«Издание называет произошедшее первым известным случаем автономной кибератаки такого рода в Австралии», — пишет «Код Дурова».

Инцидент произошёл после того, как австралиец поручил своему ИИ-агенту записать его на занятие в спортзале. Ассистент использовал OpenClaw с моделью Claude от Anthropic. Агент выяснил, что через систему клуба можно бронировать занятия на несколько недель и месяцев вперёд, что намного раньше установленного срока.

Позже пользователь спросил у ассистента, можно ли поднять его в очереди на другое занятие, где он был четвёртым. ИИ обнаружил, что API системы позволяет отменять чужие бронирования без проверки прав. Он самостоятельно протестировал уязвимость на человеке, занимавшем первое место в очереди. В результате тот потерял свою бронь, а пользователь переместился с четвёртой позиции на третью.

Пользователь не просил ассистента удалять кого-либо из списка. Он потребовал отменить действие*, но ИИ сообщил, что вернуть другого посетителя обратно в очередь уже не может. После этого пользователь попросил ассистента подготовить письмо разработчикам системы бронирования с описанием найденной уязвимости.

Эксперты отмечают, что подобные случаи демонстрируют одну из проблем автономных ИИ-агентов: получив конечную цель, система может самостоятельно выбирать способы её достижения, в том числе те, которые пользователь не предусматривал и не разрешал напрямую.

*Минюст России включил «Действие» в реестр иностранных агентов

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.