Сотни подрядчиков OpenAI вручную читают переписки пользователей ChatGPT

OpenAI привлекла сотни сторонних подрядчиков, которые вручную читают и оценивают реальные переписки пользователей с ChatGPT. Специалисты обучают языковые модели в рамках внутренней инициативы под кодовым названием Project Lily. Об этом сообщает «Код Дурова».

«Задача рецензентов — кратко сформулировать суть запроса человека и выставить баллы четырём сгенерированным ответам по шкале от одного до семи. Эксперты также отслеживают «сикофантию« (чрезмерную угодливость чат-бота), попытки очеловечивания и неуместные эмодзи», — сообщает 404 Media.

Хотя в рабочем интерфейсе скрыты имена учётных записей, а текст предварительно проходит через алгоритм Privacy Filter, конфиденциальные данные всё равно доходят до людей. В OpenAI подтвердили, что фильтр может пропускать личную информацию. Рецензентам часто виден блок воспоминаний пользователя, где указаны контекст его прошлых обращений и примерная геолокация.

Специалисты получают более 50 долларов в час через сторонние компании, такие как агентство Crossing Hurdles и платформа Mercor. Компания Anthropic также признала, что привлекает людей для ручной проверки диалогов с моделью Claude.

В OpenAI уточнили, что отправку переписок можно заблокировать: для этого нужно вручную отключить параметр «Improve the model for everyone» в настройках ChatGPT. Пункт активен по умолчанию для тарифов Free, Plus и Pro, однако его деактивация защитит только новые диалоги и не затронет уже обработанные данные.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.