4% разработчиков ПО сообщили о кибератаках на рабочие ИИ-инструменты

Российские разработчики программного обеспечения (ПО) стали фиксировать кибератаки на ИИ-решения, используемые в работе. С момента внедрения искусственного интеллекта 4% компаний-разработчиков столкнулись с промпт-инъекциями на чат-боты ассистентов и модификацией пользовательских клиентов. Об этом сообщает РБК.

«С момента внедрения искусственного интеллекта 4% компаний-разработчиков столкнулись с промпт-инъекциями на чат-боты ассистентов и модификацией пользовательских клиентов — это изменение кода для обхода системы безопасности или перехвата данных, показал опрос», — сообщает РБК.

Еще 22% компаний не отслеживали атаки на ИИ, а оставшиеся участники исследования уверены, что не сталкивались с таким воздействием. В исследовании приняли участие 54 российских разработчика, занимающие 30% индустрии тиражируемого ПО. Все компании заявили об использовании искусственного интеллекта в своей работе, более 80% организаций применяют ИИ для разработки кода. Сотрудники всех опрошенных компаний используют теневой ИИ: в 59% случаев — частично, в 41% — массово.

Аналитики выделили четыре типа ключевых атак на искусственный интеллект: инъекция промпта, утечка системного промпта, извлечение данных через ответы модели и отравление данных обучения. Эксперты IT-рынка, а также представители компаний в сфере кибербезопасности и программного обеспечения подтверждают тренд. Успешная атака на ИИ-сервисы позволяет хакерам получать доступ не только к данным компании, но и к функциям внутренних систем.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.