Ростех разработал инструмент для выявления теневого ИИ

«РТ-Информационная безопасность», входящая в госкорпорацию Ростех, подготовила для RT Protect EDR средства обнаружения неконтролируемых агентов искусственного интеллекта (ИИ) на рабочих компьютерах. Система определяет не только наличие программ, но и их активность, включая запуск команд и работу с файлами. Об этом сообщает Ferra.

Разработчики отмечают, что одного анализа сетевого трафика недостаточно, поскольку некоторые модели работают непосредственно на компьютере.

Специалисты изучили Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline, OpenHands и локальную среду Ollama. Исследование учитывало процессы, файлы, каталоги, установку программ и сетевые обращения. На основе данных созданы два пакета для RT Protect EDR. «Контроль ИИ-агентов» связывает активность с учетной записью и показывает используемые данные и команды. «Теневой ИИ» выявляет несанкционированные клиенты, локальные модели и обращения к внешним сервисам.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.