Anthropic обновила правила маркировки контента, созданного искусственным интеллектом Claude. Эти изменения касаются всех моделей ИИ, которые будут запущены после 2 августа. Теперь компания разъяснила, как именно устроен водяной знак в текстах Claude.

Суть маркировки текста заключается в создании определённого шаблона, который незаметен для обычного пользователя, но распознаваем при наличии ключа. «LLM генерируют по одному слову за раз. Каждый раз, когда модель выбирает следующее слово, она выбирает из списка потенциальных кандидатов, в конечном итоге останавливаясь на наиболее разумном или вероятном варианте [обычно] выбор определяется случайным числом. Водяные знаки используются, [чтобы] создать в ответах Claude определенный шаблон», — сообщает Rozetked.

При выборе следующего слова ИИ полагается не на случайность, а на информацию в ключе. Это приводит к созданию шаблонной последовательности токенов, которую можно распознать.

В компании отмечают, что водяные знаки не влияют на качество работы Claude. Для читателя ответ с водяным знаком неотличим от ответа без него. Скрытых символов нет, поэтому маркировка не требует дополнительных токенов и не влечёт лишних затрат.

Кроме того, в Anthropic обращают внимание, что водяные знаки не содержат никакой идентифицирующей информации и не позволяют отследить конкретных человека, организацию или чат.

Для работы с кодом у Claude действуют другие правила: когда выбор стоит между дачей единственного правильного ответа и созданием шаблона, ИИ выбирает первый вариант. «В случаях, когда требуется точный результат — когда выбора нет, и выбор другого термина привёл бы к фактической ошибке или поломке кода — водяной знак не применяется», — сообщает Rozetked.

Пока у Anthropic нет ИИ-моделей, соблюдающих новые правила, так как все имеющиеся модели вышли до 2 августа. Сейчас компания также работает над API для обнаружения водяных знаков.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.