Треть пользователей из США грубит чат-ботам и добивается результата реже
Больше трети американских пользователей чат-ботов на основе нейросетей время от времени проявляют грубость в общении с ними, рассчитывая быстрее получить желаемый результат, но чаще добиваются противоположного. Об этом пишет The Register со ссылкой на результаты исследования компании Searchable.
Исследователи проанализировали 8 млн сообщений переписки с ИИ пользователей-добровольцев, согласившихся принять участие на условиях анонимности. Среди сервисов, применявшихся участниками, — ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic). В пул данных вошла переписка за период с сентября 2025 г. по сентябрь 2026 г.
Промпты, содержащие оскорбления и брань, приводили к решению задачи, поставленной перед моделью, вслед за его отправкой, лишь в 24% случаев. Более сдержанные пользователи добивались желаемого результата в 35% случаев.
Searchable — британская технологическая компания, учреждена в 2025 г., занимается аналитикой видимости брендов в ответах ИИ-поисковиков и чат-ботов.
Мужчины более склонны к проявлению агрессии в диалогах с чат-ботами, чем женщины: они использовали ругательства примерно на треть чаще — 22 случая на 10 тыс. слов против 16,5. Возраст пользователя тоже коррелирует с количеством проклятий в адрес ИИ-собеседника: в группе 35–44 лет уничижительная лексика встречается заметно чаще (21,7 слова на 10 тыс.), чем в группе 18–24 лет (13,3 на 10 тыс.). В региональном разрезе главными грубиянами оказались представители штата Невада (22,7 бранных слова на 10 тыс.), самыми вежливыми — жители Нью-Джерси.
Представитель Searchable рассказал The Register, что 52% грубых сообщений, адресованных чат-ботам, можно разделить на три основные категории по предпосылкам возникновения: недовольство тем, что ИИ не выполняет указания, выдает некорректную информацию или плод «галлюцинаций» LLM либо неверно интерпретирует пользовательский промпт. «8% оскорбительных сообщений были отправлены сразу после того, как чат-бот полностью отклонил запрос или начал читать пользователю нотации о правилах безопасности. Отказы в основном поступали после запросов на генерацию изображений, часто с реальными людьми или знаменитостями, а также на написание текста песни в стиле конкретного исполнителя», — заявил спикер.
В ноябре 2026 г. компания Anthropic, разработчик моделей семейства Claude, ввела новые правила пользования сервисами, которыми теперь запрещается проявлять систематическую и бессмысленную жестокость по отношению к Claude. Компания решила обновить правила после появления на GitHub экспериментального проекта «камеры пыток для ИИ». В его рамках авторы попытались воплотить на практике идеи из исследовательской работы «The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It», посвященной тому, как большие языковые модели реагируют на информацию о боли, повторяя человеческие реакции, отмечает The Register.
По мнению Криса Доннелли (Chris Donnelly), главы и основателя Searchable, Anthropic приняла правильное решение, отметив, что порицание абьюзивного поведения в отношении нейросетей позволит улучшить взаимоотношения и между людьми. «На мой взгляд, изменение политики Anthropic — позитивный шаг, — говорит Доннелли. — Это должно помочь людям извлечь больше пользы из чат-ботов и пресечь уничижительное поведение, которое, как показывают предыдущие исследования, может влиять на то, как люди общаются друг с другом».
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
