Банк России выпустил рекомендации по безопасному использованию искусственного интеллекта (ИИ) финансовыми организациями. Регулятор выделил риски утечек данных, кибератак и ошибочных ответов нейросетей, которые все активнее применяются в клиентском сервисе, антифроде и скоринге. Об этом сообщает издание «Код».

«Рекомендации ЦБ важны тем, что переводят разговор об ИИ из плоскости экспериментов в плоскость управляемых процессов. Для бизнеса уже недостаточно просто разрешить или запретить нейросети. Нужно понимать, где именно ИИ используется, какие данные в него попадают, кто является владельцем процесса и кто отвечает за последствия ошибки», — отметила ведущий эксперт UDV Group Ольга Луценко.

Один из главных рисков связан с данными, на которых обучается ИИ. Если они неполные, искаженные или подменены, система может выдавать неверные рекомендации. В банковской сфере ошибка модели может повлиять на клиента, финансовую операцию или внутренний процесс.

Отдельную проблему представляет неконтролируемое использование нейросетей сотрудниками. Они могут загружать в публичные ИИ-сервисы фрагменты договоров, клиентские данные или внутренние инструкции для ускорения работы. С точки зрения информационной безопасности это создает теневой канал утечки данных, поскольку компания не контролирует, какая информация покинула ее контур.

Полный запрет на использование нейросетей не является рабочей стратегией, так как бизнес не хочет отказываться от повышения скорости и снижения нагрузки на персонал. Вместо этого финансовым организациям необходимо описать допустимые сценарии применения ИИ, определить разрешенные сервисы и категории данных, которые запрещено передавать вовне.

Контроль за ИИ должен начинаться до запуска модели и включать оценку рисков, классификацию данных, настройку доступов и правила проверки ответов. В процессе эксплуатации потребуется постоянный мониторинг и обучение сотрудников правилам безопасной работы с нейросетями.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.