Cloud.ru опубликовал исходный код инструмента Guardrails Filter для защиты чувствительных данных при работе с большими языковыми моделями. Теперь российские компании смогут бесплатно развернуть сервис в своей инфраструктуре и использовать его с ИИ-моделями любых провайдеров. Об этом говорится в сообщении компании.

Guardrails Filter работает как посредник между корпоративными приложениями и ИИ-моделью. Инструмент проверяет запросы пользователей и ответы модели на наличие чувствительной информации. Перед отправкой запроса сервис заменяет персональные данные, API-ключи, пароли и другую конфиденциальную информацию на синтетические значения. После получения ответа от модели Guardrails Filter восстанавливает исходные данные, не передавая их самой языковой модели.

Опенсорс-версия не привязана к платформе Cloud.ru. Компании могут развернуть ее внутри своей инфраструктуры и управлять через личный кабинет — настраивать правила защиты, просматривать логи и оповещения. Пользователи могут применять стандартные правила обнаружения или создавать собственные, например, для внутренних номеров договоров или кодовых названий проектов. В сервис также встроено журналирование событий безопасности и тестовый режим Ghost Mode.

Качество работы Guardrails Filter подтверждено на публичном бенчмарке pii-bench, где инструмент набрал 93,1 балла по метрике F1, а точность срабатываний достигла 99,9%. Исходный код доступен на Githab и GitVerse.

«Спрос на генеративный ИИ быстро растет, но требования к безопасности по-прежнему остаются одним из главных барьеров для его внедрения. Guardrails Filter создавался как часть нашей собственной ИИ-платформы именно для таких сценариев. Теперь мы открываем исходный код проекта, чтобы компании могли быстрее построить безопасную инфраструктуру для работы с языковыми моделями в собственном ИТ-контуре», — сказал генеральный директор Cloud.ru Михаил Лобоцкий.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.