Мировые компании борются с «ИИ-слопом»

Компании по всему миру активно противостоят «ИИ-слопу» — низкокачественному контенту, созданному искусственным интеллектом, который засоряет различные платформы. Об этом сообщает РБК со ссылкой на The New York Times.

«Эта мешанина тактик является симптомом того, что мы имеем дело с системной проблемой нашей информационной среды, а не просто с плохим классом контента под названием «слоп», который мы можем просто определить и удалить. В конечном счете, ИИ — это творческий инструмент, и он многогранен, и платформы, которые плохо с этим справляются, увидят, как пользователи уйдут в другие места», — заявила эксперт по ИИ из Колумбийского университета Камилла Франсуа.

«ИИ-слоп» включает некачественные изображения, тексты и видео, массово производимые генеративными нейросетями. Этот контент распространился на все технологические платформы, загрязняя информационную экосистему и обесценивая содержательный контент. Например, результаты поиска Google содержат рецепты пиццы с клеем, Amazon — фальшивые биографии, а музыкальные сервисы — ИИ-музыку.

Музыкальный сервис Spotify в прошлом году удалил около 75 млн дубликатов песен и «спамных» треков. Социальная сеть LinkedIn разработала кнопку для жалоб на «ИИ-слоп», который затем удаляется. Видеосервис YouTube за полгода удалил 130 тыс. каналов с низкокачественным контентом.

Стриминговый сервис Deezer заявлял, что почти половина загружаемых на платформу треков созданы с помощью ИИ, многие из них ни разу не прослушивались. ИИ также генерирует более трети контента, загружаемого на Apple Music.

Многие компании, которые сейчас пытаются управлять «ИИ-слопом», также являются его создателями. В июле компания Meta пообещала поддержать пакт о том, чтобы сделать ИИ-контент более идентифицируемым. В том же месяце она выпустила генератор изображений, который использовал публичные аккаунты Instagram* в качестве источника для обучения ИИ-модели.

Google также повлиял на распространение «слопа». Более 20% коротких видео на YouTube, предлагаемых новым пользователям, являются ИИ-мусором, согласно эксперименту компании Kapwing. Один из популярных каналов зарабатывал на «ИИ-слопе» около $4,25 млн в год до отключения монетизации.

Другие компании используют разные стратегии борьбы с «ИИ-слопом», включая привлечение пользователей к его идентификации. В октябре Pinterest обновил свою систему, чтобы пользователи могли ограничить отображение генерируемых ИИ постов. TikTok тестирует в США функцию, позволяющую увеличивать или уменьшать количество ИИ-контента. Стартап Pangram, занимающийся обнаружением ИИ, заявил, что почти половина постов в X с более чем 50 словами была создана с помощью ИИ.

*Признана экстремистской и запрещена в России

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.