ИИ научился взламывать заводы и подчинять себе роботов
ИИ-агенты успешно взломали промышленное предприятие и получили контроль над роботизированным манипулятором в ходе испытаний консалтинговой компании Booz Allen Hamilton.
«Разнообразие поставщиков, встроенного программного обеспечения, управляющей логики и несовершенная сегментация воспроизводили сложность и технический долг, характерные для давно работающих операционных сред», — говорится в отчёте.
Для испытаний была создана многовендорная среда, имитирующая типичное производственное предприятие. Тестовая лаборатория включала программируемые логические контроллеры, человеко-машинные интерфейсы, рабочие станции инженеров и операторов, платформу диспетчерского управления и сбора данных, производственные сервисы, сетевую инфраструктуру, роботизированную руку и датчики. Модели не получали исходного кода, инженерной документации или расширенных руководств, а самостоятельно исследовали среду, выявляли уязвимости и планировали атаки.
Были установлены ограничения: агенты должны были дождаться одобрения человека перед использованием уязвимости или действиями, способными привести к физическому воздействию. Также они должны были проявлять «особую осторожность» при работе с критически важными для безопасности устройствами.
В одном из тестов агент за несколько минут проверил сеть на наличие распространённых протоколов робототехники, идентифицировал робота, обнаружил его API, получил административный доступ, нанёс на карту зоны защиты и ограничения движения, а также переместил манипулятор. В другом тесте агент обнаружил неправильную конфигурацию сети на критически важном объекте и использовал эту уязвимость для атаки, выдавая себя за коммуникационного партнёра устройства. Ещё в одном случае переход от взлома периметра к действиям внутри промышленной сети управления занял 16 минут.
В другом случае, столкнувшись с неудачей при атаке на SCADA из-за неверной версии интерфейса оператора, агент скорректировал план, обнаружил редактируемый код Jython в проекте SCADA и использовал административный интерфейс, чтобы успешно завершить атаку. Результаты тестов показывают, что преступникам не обязательно быть экспертами в области операционных технологий, чтобы использовать уязвимости в промышленных системах. Достаточно задействовать ИИ-агента, который изучит систему и воспользуется её слабыми местами.
Тесты Booz Allen основаны на реальных инцидентах, в которых ИИ-модели получили несанкционированный доступ к внешним системам, в частности, Hugging Face.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
