«Одноклассники» сократили токсичность в комментариях на 47% благодаря ИИ

26 ноября 2024, Инна Горбачева | 👁 7930

«Одноклассники» сократили токсичность в комментариях на 47% благодаря ИИ

Соцсеть «Одноклассники» (ОК, принадлежит VK) внедрила систему машинного обучения для автоматического выявления токсичных комментариев и временного ограничения их авторов в написании новых сообщений. Это позволило сократить количество негативных высказываний под публикациями на 47%, сообщает пресс-служба компании.

"Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против «токсичности». Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем", — прокомментировал директор по продукту ОК Александр Москвичев.

Модель машинного обучения, обученная на 400 тысячах недружелюбных высказываний, позволяет автоматически ограничивать пользователей, оставляющих оскорбительные комментарии, на период от одного часа до 24 часов. 

Исследование соцсети показало, что более 40% опрошенных пользователей испытывают злость из-за негативных комментариев. Новая модель, вместе с другими продуктовыми решениями, не только помогает бороться с токсичностью, но и направлена на привлечение новых пользователей и возвращение на платформу тех, кто редко её посещает.

Напомним, ранее ОК внедрили функцию автоматического обнаружения и скрытия эротического контента в соцсети.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.

Комментарии 0
Зарегистрируйтесь или , чтобы оставлять комментарии.