Украинский студент Богдан Кулыныч получил $3,5 тыс за победу в конкурсе Twitter по поиску несовершенства работы их сервиса. Он доказал, что совокупность команд в алгоритме соцсети выполнялась необъективно по отношению к другим расам, сообщает The Guardian.

«Эти внутренние предубеждения по своей природе трансформируются во вред от недостаточной репрезентативности, когда алгоритм применяется в дикой природе, отсекая тех, кто не соответствует предпочтениям алгоритма: по массе тела, возрасту или цвету кожи. Такая предвзятость может привести к исключению миноритарных групп населения и увековечиванию стереотипных стандартов красоты», — пишет в своей работе аспирант швейцарского университета EFPL Богдан Кулыныч.

Для проверки предвзятости алгоритма студент искусственно создал почти идентичные лица, а после наделил их различными особенностями внешности. Далее он прогнал изображения через алгоритмы Twitter, которые отвечают за составление персонализированной ленты, рекомендаций аккаунтов и обрезку опубликованных пользователями изображений. Их задача: автоматически показать в ленте наиболее важную и интересную часть фото или картинки, которая целиком не помещается в стандартную рамку. Благодаря проведенному эксперименту программист смог выявить, что алгоритм обрезки изображений Twitter предпочитает молодые, стройные лица со светлой кожей, в то время как изображения темнокожих или цветных людей вовсе могут быть обрезаны.

Также в конкурсе был участник, доказавший, что алгоритм Twitter, вероятнее всего, обрежет часть изображения с арабским текстом, чем с английским. Другой программист доказал, что алгоритм благосклоннее относится к более светлым эмодзи.

Алгоритм Twitter, который автоматически подгоняет большие изображения под размер окна превью, работает в соцсети с 2018 года. А первые обвинения в неосознанном расизме были еще в сентябре 2020 года.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.