«Одноклассники» сократили токсичность в комментариях на 47% благодаря ИИ
Соцсеть «Одноклассники» (ОК, принадлежит VK) внедрила систему машинного обучения для автоматического выявления токсичных комментариев и временного ограничения их авторов в написании новых сообщений. Это позволило сократить количество негативных высказываний под публикациями на 47%, сообщает пресс-служба компании.
Модель машинного обучения, обученная на 400 тысячах недружелюбных высказываний, позволяет автоматически ограничивать пользователей, оставляющих оскорбительные комментарии, на период от одного часа до 24 часов.
Исследование соцсети показало, что более 40% опрошенных пользователей испытывают злость из-за негативных комментариев. Новая модель, вместе с другими продуктовыми решениями, не только помогает бороться с токсичностью, но и направлена на привлечение новых пользователей и возвращение на платформу тех, кто редко её посещает.
Напомним, ранее ОК внедрили функцию автоматического обнаружения и скрытия эротического контента в соцсети.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.