Cloud.ru открыл исходный код инструмента для безопасной работы с ИИ
Компания Cloud.ru опубликовала исходный код инструмента Guardrails Filter для защиты чувствительных данных при работе с большими языковыми моделями. Российские компании смогут бесплатно развернуть сервис в собственной инфраструктуре и использовать его с ИИ-моделями любых провайдеров. Об этом сообщили в Cloud.ru.
Guardrails Filter работает как посредник между корпоративными приложениями и ИИ-моделью. Инструмент автоматически проверяет запросы пользователей и ответы модели на наличие чувствительных данных. Перед отправкой запроса сервис заменяет персональные данные, API-ключи, пароли и другую конфиденциальную информацию синтетическими значениями, а после получения ответа от модели восстанавливает исходные данные.
Опенсорс-версия не привязана к платформе Cloud.ru. Бизнес может развернуть ее внутри своей инфраструктуры и самостоятельно управлять сервисом через личный кабинет. Пользователи могут использовать стандартные правила обнаружения чувствительных данных или создавать собственные, например, для внутренних номеров договоров или идентификаторов клиентов. В сервис также добавили журналирование событий безопасности и тестовый режим Ghost Mode для проверки работы до включения защиты.
Качество работы Guardrails Filter подтверждено на публичном бенчмарке pii-bench, где инструмент набрал 93,1 балла по метрике качества распознавания F1, а точность срабатываний достигла 99,9%. Это означает, что сервис надежно обнаруживает чувствительные данные и почти не принимает обычный текст за конфиденциальную информацию.
Исходный код Guardrails Filter доступен на Githab и GitVerse.
«Спрос на генеративный ИИ быстро растет, но требования к безопасности по-прежнему остаются одним из главных барьеров для его внедрения. Guardrails Filter создавался как часть нашей собственной ИИ-платформы именно для таких сценариев. Теперь мы открываем исходный код проекта, чтобы компании могли быстрее построить безопасную инфраструктуру для работы с языковыми моделями в собственном ИТ-контуре», — заявил генеральный директор Cloud.ru Михаил Лобоцкий.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
