США обвинили TikTok в экспериментах над детьми с опасным контентом
TikTok проводил эксперименты, в ходе которых тысячи пользователей, включая детей и подростков, получали неработающие версии функций безопасности. Об этом сообщает Reuters со ссылкой на материалы судебного иска генерального прокурора штата Нью-Йорк Летиции Джеймс.
«Эта функция предназначена для обеспечения прозрачности алгоритма и контроля над ним. Плацебо-группа полностью противоречит этому», — написал сотрудник во внутреннем чате, говорится в иске.
Речь идет о так называемых плацебо-экспериментах, в рамках которых некоторым пользователям предоставляли неработающую версию функции Algo Refresh. Она предназначена для сброса алгоритма рекомендаций, в частности чтобы избавиться от нежелательного или потенциально вредного контента. Попавшие под «эксперимент» пользователи полагали, что активировали функцию, однако их лента рекомендаций не менялась. При этом у другой группы, получившей работающую версию инструмента, рекомендации обновлялись. Согласно иску, TikTok неоднократно проводил такие эксперименты в 2023 году на тысячах пользователей. Компания сравнивала поведение тех, кому была доступна функция, с поведением тех, кто ее фактически не получил. TikTok изучал продолжительность пребывания пользователей на платформе и влияние инструмента на рекламные доходы, утверждается в материалах дела. Один из менеджеров TikTok, отвечавших за цифровое благополучие пользователей, предупреждал о проблемах с такими испытаниями и возможности введения людей в заблуждение. Власти Нью-Йорка также утверждают, что TikTok вводил пользователей в заблуждение относительно работы Algo Refresh. Компания сообщала, что инструмент сбрасывает алгоритм рекомендаций, хотя в действительности изменения были временными. Представитель TikTok заявил Reuters, что эти обвинения искажают принцип работы Algo Refresh. «Мы постоянно совершенствуем нашу платформу, а это означает, что, как и большинство компаний, регулярно тестируем новые продукты и функции, чтобы оценить пользовательский опыт и понять, как они работают в реальных условиях», — сообщил представитель компании.
В обнародованных материалах также говорится о другой серии экспериментов TikTok, о которой ранее сообщал Bloomberg. Компания случайным образом выбирала пользователей и отключала в их аккаунтах функции безопасности, ограничивающие доступ к потенциально вредному контенту. По данным Bloomberg, один из участвовавших в эксперименте подростков из Нью-Йорка покончил с собой после того, как ему показывали материалы о самоповреждении и самоубийстве. В иске говорится, что внутренняя проверка выявила большое количество такого контента в его ленте. Иск против TikTok Летиция Джеймс подала в 2024 году. Нью-Йорк стал одним из более чем двух десятков американских штатов, обвинивших компанию в создании платформы, вызывающей зависимость у детей, и введении пользователей в заблуждение относительно ее безопасности. TikTok отвергает обвинения властей Нью-Йорка и заявляет, что безопасность несовершеннолетних пользователей является одним из приоритетов компании.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
