Что-то странное в рекомендациях TikTok

Когда исследователь искусственного интеллекта Марк Фаддул присоединился к TikTok несколько дней назад, он увидел кое-что интересное: когда он подписался на новую учетную запись, профили, рекомендации TikTok, казались устрашающе, физически похожими на фотографию профиля первой учетной записи.

Например, следование за молодой блондинкой дает рекомендации следовать за более молодой блондинкой. Следование темнокожим мужчинам привело к рекомендациям следовать за чернокожими мужчинами. Вслед за белыми мужчинами с бородой были выработаны рекомендации для большего количества белых мужчин с бородой. Следование пожилым людям породило рекомендации для других пожилых людей. И так далее.

Эксперимент Фаддула в TikTok не был научным исследованием. Он просто представляет собой первоначальный опыт работы одного отдельного исследователя на платформе. Recode просмотрел скриншоты, присланные Faddoul, и провел некоторые из тех же поисков, что и он. Эти поиски дали аналогичные результаты: рекомендованные подписки имели тенденцию физически походить на исходную учетную запись, за которой следовал, хотя они не всегда были теми же учетными записями, что появлялись в результатах Faddoul.

Recode также отслеживал некоторые другие случайно выбранные аккаунты, но они не обязательно давали рекомендации, которые разделяли одну легко наблюдаемую идентичность. Иногда наблюдались сходства в описании и рекомендованном аккаунте, но эти поезда не были явно физическими. Вместо этого все рекомендованные аккаунты имели общий интерес, например, бродвейские мюзиклы, природа или домашние животные.

Стоит отметить, что по крайней мере еще один человек, комментируя ветку Twitter, в которой Фаддул первоначально опубликовал свои результаты, сказал, что они не смогли воспроизвести его результаты. Но опыт Фаддула, тем не менее, поднимает вопрос о том, как эти механизмы рекомендаций работают на платформах социальных сетей. Когда вы следите за кем-то с определенными демографическими характеристиками, почему вам могут рекомендовать людей с такими же физическими идентификаторами? И как это влияет на восприятие людьми социальных сетей?

Платформы часто пытаются создать алгоритмы рекомендаций, которые будут давать результаты, соответствующие вашим интересам. Но эти рекомендации могут иметь непредвиденные последствия и вызывать опасения по поводу так называемых пузырей фильтра (это результаты высоко персонализированного интернет-контента, который приводит к ощущению изоляции). Если вы подписываетесь в социальных сетях только на людей, которые выглядят как вы или разделяют ваши интересы, например, вы можете застрять в бесконечной обратной связи. Возникает петля, которая может исказить ваше мировоззрение.

Поэтому, если опыт Фаддула характерен для большинства людей на платформе, то в TikTok может возникнуть та же проблема, которая преследовала другие, более старые платформы социальных сетей, такие как Twitter и Facebook.