На фоне активного внедрения технологий искусственного интеллекта в корпоративный сектор компания Microsoft выразила обеспокоенность относительно потенциальных угроз безопасности. Согласно информации из отчета Microsoft Cyber Pulse, значительная доля ведущих мировых компаний уже применяет ИИ-агентов для автоматизации различных бизнес-процессов. В частности, свыше 80 процентов организаций из списка Fortune 500 используют такие системы в сферах от продаж до управления персоналом. При этом почти треть этих агентов функционирует без одобрения IT-подразделений или служб безопасности, а специализированные инструменты защиты применяют менее половины компаний.

«Вся эта инновация происходит на фоне серьёзных угроз. Как когда-то был риск инсайдеров среди сотрудников, теперь мы должны не допустить его среди агентов», — подчеркнул Васу Джаккал, вице-президент Microsoft Security.

Корпорация Microsoft ввела термин «двойные агенты» для описания ситуации, когда системы искусственного интеллекта, изначально разработанные для выполнения полезных задач, могут быть скомпрометированы. Посредством инъекций или внедрения закладок в модели такие агенты способны начать действовать против интересов организации. Внутренние испытания, проведенные специалистами Microsoft, продемонстрировали возможность получения несанкционированного доступа к конфиденциальным данным и выполнения вредоносных команд.

Для решения этой проблемы Microsoft представила платформу Agent 365. Данное решение предназначено для централизованного контроля, аудита и управления ИИ-агентами на основе принципов нулевого доверия. Система фиксирует всех агентов, присваивает им уникальные идентификаторы, осуществляет мониторинг аномальной активности и позволяет оперативно блокировать подозрительные объекты. Agent 365 интегрируется с существующими продуктами Microsoft Defender, Entra и Purview, расширяя защитные механизмы на виртуальных пользователей. Все действия агентов документируются для последующего аудита, а доступ к информационным ресурсам регулируется политиками минимальных привилегий.

Microsoft также предлагает комплексное решение Microsoft 365 Enterprise 7 (E7). Этот пакет объединяет Agent 365, ассистента Copilot и расширенные средства безопасности в рамках единой ежемесячной подписки стоимостью 99 долларов США за пользователя. Компания полагает, что такой подход поможет корпорациям ускорить внедрение защитных мер и минимизировать операционные риски, связанные с использованием искусственного интеллекта.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.