Алгоритм Тик Тока почти слишком хорош в предложении релевантного контента – до такой степени, что это может нанести ущерб психическому здоровью некоторых пользователей.
Практически невозможно избежать триггерного контента в ТикТок и из-за характера бесконечной страницы «Для вас» в приложении пользователи могут легко оказаться в ловушке, прокручивая предлагаемый контент, подобранный для их конкретных триггеров.
Например, в TikTok процветают видео, прославляющие расстройство пищевого поведения. У тега #flatstomach 44,2 миллиона просмотров. Теги #proana и #thinsp0, сокращённо от «проанорексический» и «тонкое вдохновение», набрали 2,1 миллиона и 446 тысяч просмотров соответственно. Как старший редактор Рэйчел Шарлин Льюис написала на портале Bitch, культура «проана» и Интернет переплелись задолго до того, как TikTok появился на телефонах всех подростков. В начале существования социальных сетей молодые люди использовали форумы и чаты, чтобы отслеживать свою потерю веса и обмениваться советами по диете. В начале 2010-х годов в Tumblr процветали блоги о расстройствах пищевого поведения, прославляющие острые ключицы и худощавые грудные клетки. Совсем недавно сообщество аккаунтов в Твиттере, посвящённых расстройствам пищевого поведения, использовало мемы, чтобы побудить участников придерживаться ограничительного режима питания.
В то время как у людей была возможность наткнуться на части сообщества с РПП (расстройство пищевого поведения) на других платформах, пользователи с большей вероятностью находили это сообщество, специально его разыскивая. Но в TikTok пользователям скармливают контент алгоритмически, в зависимости от их интересов. Если пользователь задерживается на видео с тегами #diet или #covid15 (фраза, используемая для обозначения веса, набранного в карантине с 2,1 миллиона просмотров), приложение продолжит предлагать контент о похудении и соблюдении диеты. Это скользкий путь к очереди из дневников питания о жизни на зелёном чае, рисовых лепёшках и других низкокалорийных продуктах, популярных среди людей с расстройствами пищевого поведения.
«Вместо того, чтобы топить пользователя в контенте, которым он вряд ли наслаждается, каждая онлайн-платформа использует алгоритмы, чтобы лучше контролировать «поток воды из шланга».
Дэвид Полгар, специалист по технической этике, сидящий в Консультативном совете по контенту TikTok, сравнивает страницу ТикТока «Для вас» со шлангом, подключенным к мощному источнику воды. Вместо того, чтобы топить пользователя в контенте, которым он вряд ли наслаждается, каждая онлайн-платформа использует алгоритмы, чтобы лучше контролировать «поток воды из шланга.
«Это поднимает очень деликатные вопросы на тему того, как убедиться, что пузырь фильтров не увеличивается, чтобы никто не оказался в кроличьей норе», – сказал Полгар в телефонном разговоре. Он отметил, что в прошлом году YouTube получил серьёзную негативную реакцию из-за того, что предлагал видеоролики о заговоре всё более радикальных правых, основанные на истории просмотров пользователей.
По иронии судьбы моё погружение в РПП в TikTok началось с видео, в которых популярного автора критиковали за бесчувственность к выздоровлению от расстройства пищевого поведения. Эддисон Рэй Истерлинг, 19-летняя танцовщица из TikTok с 56 миллионами подписчиков, в июне подверглась критике за то, что рекламировала American Eagle, танцуя под песню о дисморфии. Одетая в пару светлых «маминых джинсов», Истерлинг танцует под припев из песни Beach Bunny «Королева выпускного бала». В песне и правда есть фраза «мамины джинсы», но ей предшествуют слова: «Заткнись, посчитай свои калории. Я никогда не выглядела хорошо в маминых джинсах».
Истерлинг столкнулась с негативной реакцией других пользователей TikTok, особенно тех, кто восстанавливается от РПП. В одном дуэте с теперь уже удалённым видео молодая женщина прямо в кадре показывает свою систему для кормления и насмехается над танцем Истерлинг. Другие пользователи поделились видео о своём собственном опыте расстройства пищевого поведения, чтобы показать, насколько серьёзными они могут быть. Одна из них попыталась указать на то, насколько бесчувственной была реклама Истерлинг, описав свои собственные ограничения в еде. Другая девушка из TikTok попыталась подчеркнуть, насколько разрушительными могут быть расстройства пищевого поведения, рассказав, как она фантазировала о том, чтобы разрезать себе живот и избавиться от жира на нём.
Пользователи TikTok непреднамеренно впитали тот самый менталитет, который способствует процветанию расстройств пищевого поведения: конкуренцию.
Пытаясь критиковать Истерлинг, пользователи TikTok непреднамеренно впитали тот самый менталитет, который способствует процветанию расстройств пищевого поведения: конкуренцию. Эшли Литвин, сертифицированный диетолог\нутрициолог, специализирующаяся на лечении пациентов с расстройствами пищевого поведения, сказала порталу Mashable, что даже после выздоровления сравнение симптомов может вызывать чувство соперничества. Многие люди, страдающие расстройствами пищевого поведения, стремятся быть не просто худыми, а самыми худыми. Те, кто выздоравливает, могут даже захотеть стать самыми больными.
«Люди с расстройствами пищевого поведения иногда не чувствуют себя «в порядке», если они не самые больные в комнате или в социальных сетях, – сказала Литвин в электронном письме. – Это может быть чрезвычайно опасно, поскольку люди с РПП будут делать всё возможное, чтобы «победить» среди всех самых больных, и часто подвергают своё тело серьёзному ущербу, чтобы попасть на свой пьедестал».
Критика Истерлинг путём освещения экстремальных привычек, таких как жевание льда и очищение организма после переедания, на самом деле более вредна для восстановления после РПП, чем оригинальный танец Истерлинг. Потому что это может мотивировать кого-то имитировать такое поведение и срываться. По мере того как я углублялась в действующий из лучших побуждений, но заблуждающийся контент, описывающий подсчёт калорий, экстремальные упражнения и другие саморазрушительные привычки, моя страница «Для вас» стала показывать мне больше контента о фитнесе и диете. Всего через несколько дней после того, как я лайкнула видео с тегом #edrecovery, моя страница «Для вас» показала мне видео, в котором женщина добилась плоского живота, пропуская приёмы пищи в пользу жевательной резинки и чая.
На страницу «Для вас» пользователей TikTok удаётся попасть не только контенту с тематикой РПП. В приложении циркулируют видео о членовредительстве, самоубийстве, сексуальном насилии, жестоком обращении, проблемах с психическим здоровьем и о множестве других потенциально триггерных тем. Как и на любой другой социальной платформе, невозможно полностью защитить себя от триггерного контента. Однако TikTok имеет уникальную структуру, позволяющую продолжать показывать триггерный контент, если пользователи с ним взаимодействуют.
Однако TikTok имеет уникальную структуру, позволяющую продолжать показывать триггерный контент, если пользователи с ним взаимодействуют.
Несколько месяцев назад, стремясь быть более прозрачным на фоне проблем безопасности из-за китайской компании-собственника, TikTok раскрыл, как работает его алгоритм. Когда пользователь загружает видео, алгоритм показывает его небольшой группе других пользователей, которые могут с ним взаимодействовать, независимо от того, подписаны ли они на пользователя, разместившего видео. Если группа взаимодействует с роликом, лайкает его, делится им или даже просто просматривает его целиком, алгоритм показывает видео ещё большей группе. Если и они отзываются положительно, видео снова показывают ещё большей группе, и этот процесс продолжается до тех пор, пока ролик не станет вирусным.
Чтобы определить интересы отдельного пользователя, TikTok использует различные индикаторы, такие как подписи, звуки и хештеги. Если пользователь взаимодействовал с этими индикаторами, например просматривал видео, подписанное определённой фразой, до конца, алгоритм считает это зелёным светом и продолжает рекомендовать видео, подобные этому.
Это не столько вредоносный план, как в сериале «Чёрное зеркало», предвещавший захват роботами, сколько досадное упущение в функции, которая была придумана из лучших побуждений. Концепция полного запрета потенциально триггерного контента вызвала споры о том, обязаны ли частные компании, такие как платформы социальных сетей, соблюдать принципы свободы слова. Также невероятно сложно модерировать такой контент. Пользователям ТикТок удаётся обходить запреты путём неправильного написания определённых фраз. Самоубийство, например, из «suicide» превращается в «suic1de» или в более болезненно беззаботных видеороликах – в «aliven’t». Тег #thinspo заблокирован, а тег #thinsp0 – нет. Пользователи не смогут найти контент с тегами #depression, но у #depresion 498,8 миллиона просмотров.
Некоторые пользователи социальных сетей – будь то в TikTok, Twitter или YouTube – используют неофициальное социальное соглашение об использовании предупреждений о триггерах при обсуждении потенциально травмирующего контента. Предупреждения о триггерах вызывают особые споры, а консервативные критики связывают этот термин со студентами колледжей, которые не могут справиться с трудными разговорами. Хотя триггерные предупреждения изначально были разработаны, чтобы позволить выжившим с посттравматическим стрессовым расстройством избежать травмирующего контента, их эффективность сомнительна. В неформальном эксперименте пользователь TikTok под ником loveaims, борющаяся с анорексией, предварила фотографии себя со своим самым низким весом двумя предупреждениями. Затем вместо того, чтобы показывать какие-либо фотографии, она сделала выговор другим пользователям TikTok.
«Это доказывает, что предупреждения о триггерах не делают ничего, – написала loveaims в своём видео. – Люди будут игнорировать их. Они не «предупреждают других» о самом триггерном и неприемлемом контенте, который публикуют люди».
Итак, что вы можете сделать, чтобы не оказаться втянутым в потенциальный рецидив? Мы не можем ожидать, что авторы будут полностью избегать триггерного контента, и мы не можем ожидать, что у всех будут одинаковые стандарты в отношении того, что «считается» потенциально опасным контентом.
Также сложно проактивно избегать триггеров в TikTok – хоть пользователи и могут указывать, что им не интересны определённые видео, и блокировать определённые звуки и определённых пользователей, они не могут блокировать ключевые слова. Как член Консультативного совета по контенту TikTok Полгар хочет видеть больше доступных настроек, чтобы пользователи могли лучше контролировать, какой контент они видят.
«Если что-то оскорбительно для человека, и он указал на это, должна быть лучшая возможность уменьшить вероятность того, что этот контент будет показан снова, потому что это должно быть решением конкретного человека», – сказал Полгар.
Кроме того, платформы могут лучше работать в партнёрстве с организациями, занимающимися психическим здоровьем, для предоставления ресурсов, связанных с определёнными фразами. Например, в ответ на безудержную дезинформацию о COVID-19 TikTok добавил баннер к видео, помеченными определёнными ключевыми словами, который приводил пользователей к информации о том, как распространяется вирус и как предотвратить заражение. Полгар сказал, что платформа находится в процессе работы с организациями, занимающимися психическим здоровьем, чтобы предоставить своим пользователям ресурсы по поддержанию психического здоровья.
«То, что многие платформы пытаются сделать, это в основном …гарантировать, что показ контента, если он оскорбителен или триггерит вас, можно изменить простым способом и с помощью интуитивного дизайна», – продолжил Полгар. Если пользователи сталкиваются с чем-то потенциально триггерным, они должны иметь возможность «кликнуть на что-нибудь», что защитит их.
С другой стороны, пользователи могут избегать контента, который может нанести вред их психическому здоровью, не взаимодействуя с ним. Однако это гораздо легче сказать, чем сделать, и, учитывая, насколько трудно избежать рецидива, Литвин предлагает более крайнюю меру. Если вы застряли в вихре алгоритмически созданной травмы, удалите свою учётную запись и начните заново.
«Это сбрасывает алгоритм, чтобы учётные записи с едой, расстройством питания или бикини не появлялись постоянно в вашей ленте», – написала Литвин. Она добавила, что недавний пациент завёл новую учетную запись в TikTok и намеренно искал видео о дизайне интерьеров и архитектуре. Просматривая, делясь и комментируя видео с определёнными тегами, пациент Литвин создал эстетически приятную ленту контента, не относящегося к РПП. «Мы не можем полностью избавиться от возможности увидеть такой аккаунт, но если большая часть ленты – совершенно другая отрасль, то вероятность того, что триггерный контент появится, будет меньше».
Если у вас уже есть большое количество подписчиков, а вы не хотите начинать с нуля, вы также можете сформировать свою страницу «Для вас», чтобы смотреть другой контент вместо видео о привычках в еде. Умышленно просматривая видео, которые не относятся к еде и диетам, пользователи TikTok могут обучить алгоритм показывать другой контент.
Конечно, возможный триггер может время от времени попадать в вашу тщательно подобранную ленту. В таких случаях, по словам Литвин, лучше выключить телефон, позвонить либо своему психологу, либо любимому человеку и попросить отвлечься.
Если вы оказались в ловушке контента, который доставляет вам неудобства, начните взаимодействовать с тегами, которые приносят вам радость, – тщательно разработанные дизайны островов в игре Animal Crossing, успокаивающие ролики о вязании, новорождённые котята, делающие свои первые шаги, могут быть хорошей отправной точкой. Тот факт, что вы можете столкнуться с триггерным видео в TikTok, не означает, что они должны составлять всю вашу страницу «Для вас».
Остались вопросы по TikTok? Получи консультацию от человека, который реально в этом разбирается.
