Anthropic сообщила о «краже» разработок китайскими компаниями

Компания Anthropic, разработчик чатбота Claude, опубликовала отчёт о «дистилляционных атаках» со стороны китайских ИИ-компаний. По данным компании, за последние месяцы эти атаки стали «крупнее и агрессивнее». Об этом сообщает Ferra.

«Китайцы якобы разными «хитростями« заставляют Claude показать ход своих рассуждений. Эти данные затем используют, чтобы обучить уже собственную (более слабую) модель», — пишет Ferra.

Anthropic зафиксировала почти 200 миллионов обращений, связанных с пятью отдельными кампаниями. Целями были «самые ценные навыки Claude»: работа с инструментами, программирование, анализ данных и рассуждения. Крупнейшая кампания приписана Alibaba. Она якобы сделала 151 миллион обращений, до трёх миллионов в день, через 3 500 аккаунтов. Все они использовали один и тот же запрос.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.