Сбер обновил модель угроз для систем искусственного интеллекта

Сбер опубликовал обновлённую модель угроз для систем искусственного интеллекта. Документ учитывает массовое внедрение генеративных моделей, мультиагентных систем и RAG-архитектур. Он размещён в открытом доступе на портале «Кибрарий» в разделе для экспертов.

«В модели описаны 37 угроз и 51 способ их реализации. Для каждой указаны возможные последствия, нарушаемые свойства информации и связанные объекты», — сообщает Ferra.

Перечень объектов защиты был расширен. В него включили критические точки, которые раньше не рассматривались. Это позволяет точнее оценивать риски с учётом архитектуры конкретного ИИ-решения. Документ предназначен для разработчиков, MLOps-инженеров, архитекторов и специалистов по безопасности. Он помогает выстраивать системный подход к защите на всех этапах — от сбора данных до эксплуатации моделей. Модель основана на анализе актуальных угроз, мировых практиках и опыте Сбера. Организации могут использовать её для выявления и приоритизации угроз на ранних стадиях проектирования.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.