Softline 85% директоров по ИБ в Казахстане назвали безопасное использование ИИ главным вызовом
На конференции PROFIT Security Day 2025 были озвучены результаты опроса KPMG: 85% руководителей служб информационной безопасности Казахстана называют обеспечение безопасного использования ИИ внутри компаний своим главным вызовом. Для российского бизнеса эта проблема не менее актуальна: сотрудники передают корпоративные данные в публичные нейросети быстрее, чем компании успевают установить правила и технические ограничения. Об этом сообщает «Код Дурова».
Последствия такого стихийного внедрения очевидны: чувствительная информация уходит на серверы сторонних провайдеров, часто без возможности удаления и с риском использования этих данных для дообучения чужих моделей. При этом 76% директоров по информационной безопасности в Казахстане ожидают, что в период с 2025 по 2028 год злоумышленники начнут применять принципиально новые, более эффективные схемы кибератак. Наши эксперты ГК Softline подчеркивают: внутренняя небрежность с данными создает идеальную почву для будущих инцидентов, делая компании уязвимыми еще до того, как хакеры применят новые методы.
«Полный запрет публичных нейросетей не дает компании контроля над реальным поведением сотрудников. Нужны разрешенные инструменты, понятные правила работы с данными и технический мониторинг. Реестр моделей и журналирование запросов позволяют установить, где используется ИИ и какие сведения ему передаются», — считает Виктор Гулевич, руководитель направления информационной безопасности управления международного бизнеса ГК Softline.
Основной риск, который наблюдают в ГК Softline, — это так называемый «теневой ИИ». Сотрудники используют публичные чат-боты для перевода текстов, генерации кода или анализа таблиц без согласования с ИТ-службой. Компания часто даже не подозревает, какие именно сервисы применяются в ежедневных рабочих процессах и сохраняются ли введенные запросы на стороне вендора. Как подтверждает практика аналитиков Softline, тотальные запретительные меры здесь не работают. Блокировка популярных сайтов лишь загоняет проблему в тень, заставляя сотрудников искать обходные пути или использовать личные устройства, что полностью выводит процесс из-под корпоративного контроля.
Вместо запретов специалисты ГК Softline рекомендуют переходить к управляемому использованию технологий. Первый шаг — создание реестра разрешенных ИИ-моделей. Для работы с действительно конфиденциальными данными необходимо внедрять закрытые, корпоративные версии нейросетей, которые гарантированно не передают информацию третьим лицам. Опыт внедрений Softline показывает, что технический контроль также требует модернизации. Системы предотвращения утечек данных (DLP) можно и нужно тонко настраивать на обнаружение попыток выгрузки корпоративных сведений в публичные облачные сервисы. Кроме того, важно журналировать запросы и ответы в разрешенных корпоративных инструментах, чтобы в случае инцидента можно было оперативно восстановить картину происходящего.
При разработке внутренних политик наши эксперты Softline советуют опираться на проверенные международные рамки. В частности, на стандарт управления искусственным интеллектом ISO/IEC 42001, модель управления рисками ИИ NIST AI RMF и перечень уязвимостей приложений на базе больших языковых моделей OWASP Top 10 for LLM Apps. По опыту ГК Softline, ждать появления громких прецедентов — опасная стратегия. Компаниям необходимо уже сегодня учитывать все используемые ИИ-сервисы в общей системе контроля внешних приложений и жестко регламентировать правила передачи данных, не дожидаясь, пока регулятор или инцидент сделают это за них.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
