Эрик Хан, глава отдела безопасности, TikTok США
ТикТок – это разнообразное и растущее сообщество. Среди наших пользователей есть бабушки и дедушки, которые показывают нам свои танцевальные движения; фермеры, которые показывают нам свои поля; медсёстры, которые делятся тем, что такое жизнь на передовой линии пандемии; и активисты, которые приводят нас на марши и акции протеста. Часть магии TikTok заключается в том, как люди из всех слоёв общества используют платформу для объединения через творческое, подлинное выражение.
Моя команда и я как руководитель отдела безопасности работаем над тем, чтобы защитить наших пользователей от вещей, которые могут помешать их способности безопасно самовыражаться и иметь положительный опыт работы с приложением. В нашем, кажется, всё более разобщающемся мире одна из областей, которую мы особенно стремимся улучшить, – это наша политика и действия по отношению к контенту и поведению, которые проецируют ненависть. Наша цель – искоренить ненависть в TikTok.
Сегодня мы хотим поделиться пятью способами, над которыми мы усердно работаем, чтобы противостоять распространению ненависти на нашей платформе.
- Развитие нашей политики по отношению к разжиганию ненависти. Мы продолжаем активно подходить к остановке распространения ненависти и известных экстремистских группировок, которые пропагандируют ненависть и насилие. Это начинается с наших Правил сообщества – кодекса поведения для нашего растущего глобального сообщества – которые запрещают любую форму ненавистнической речи или идеологии, а также притеснения и издевательства. Мы определяем ненавистническую речь как “контент, который намеревается или уже нападает, угрожает, подстрекает к насилию или обесчеловечиванию отдельного лица или группы лиц на основе таких охраняемых признаков, как раса, религия, пол, гендерная идентичность, национальное происхождение и многое другое”.
Мы активно работаем над обнаружением и удалением такого контента до того, как он достигнет нашего сообщества, и мы тщательно просматриваем контент, о котором наше сообщество нам сообщает. Мы регулярно консультируемся с экспертами, чтобы помочь нашей политике развиваться, как это делает само ненавистническое поведение. Например, в этом году мы расширили эту политику, чтобы лучше учитывать сценарии, которые заставляют других чувствовать себя исключёнными или обособленными от чего-либо. Наша работа – сохранять бдительность ради блага и безопасности нашего сообщества.
- Противодействие речи, поведению и группам, которые несут ненависть. Мы не потерпим ненависти в TikTok. Мы удаляем контент, разжигающий ненависть, включая домогательства на расовой почве, с нашей платформы по мере того, как нам становится об этом известно. Мы также блокируем аккаунты, которые периодически это продвигают. У нас есть позиция абсолютной нетерпимости к организованным группам ненависти и к тем, кто с ними связан, например к аккаунтам, которые распространяют или связаны с превосходством белых или национализмом, превосходством мужчин, антисемитизмом и другими идеологиями, основанными на ненависти. Кроме того, мы удаляем преследования на расовой почве и отрицание жестоких трагедий, таких как холокост и рабство. Также при разработке нашей политики, чтобы защитить людей от вреда, мы можем принимать во внимание поведение, которое не приветствуется на платформе, такое как учётная запись, принадлежащая лидеру известной ненавистнической группы.
С начала 2020 года мы удалили более 380 000 видео в США за нарушение нашей политики по отношению к разжиганию ненависти. Также мы запретили более 1300 аккаунтов за поведение или контент, проецирующий ненависть, и удалили более 64 000 подобных комментариев. Чтобы быть ясным, эти цифры не отражают 100% показатель успеха в ловле каждого кусочка контента или поведения, которые высказывают ненависть, но они действительно указывают на нашу приверженность действию.
Другая стратегия – затруднить людям поиск контента и аккаунтов, проецирующих ненависть, что создаёт пространство для более позитивного и радостного контента. Например, если кто-то ищет полную ненависти идеологию или группу, такую как “heil Hitler” или ”groyper”, мы применяем различные подходы, чтобы остановить распространение ненависти, включая удаление похожего контента, отказ от отображения результатов или перенаправление поиска на наши Правила сообщества для ознакомления нашего сообщества с нашей политикой против проявлений ненависти. Это не безотказное решение, но мы работаем над тем, чтобы быстро применять этот подход к группам ненависти по мере их появления.
- Повышение культурной осведомлённости в нашей модерации контента. Как команда по безопасности, мы должны распознавать множество форм ненависти, чтобы можно было разработать политику и стратегии соблюдения правопорядка для эффективной борьбы с ней. Мы периодически обучаем наши команды по соблюдению правопорядка, чтобы они лучше выявляли развивающееся проявление ненависти, символы, термины и оскорбительные стереотипы.
Например, мы признаём, что разные сообщества имеют разный жизненный опыт, и язык, ранее использовавшийся для исключения и унижения групп людей, теперь возвращается этими сообществами и используется в качестве терминов для расширения прав и ответной речи. Мы работаем над включением эволюции самовыражения в нашу политику и обучаем наши команды модераторов лучше понимать такое более тонкое содержание, как культурное присвоение и ругательства. Если член группы, лишённой гражданских прав, такой как сообщества ЛГБТК+, латиноамериканцев, азиатских американцев и жителей островов Тихого океана, чернокожих и коренных жителей, использует оскорбления как термин расширения прав и возможностей, мы хотим, чтобы наши модераторы понимали контекст, стоящий за этим, и не удаляли контент ошибочно. С другой стороны, если оскорбление используется с ненавистью, оно не принадлежит к TikTok. Обучение наших групп модерации контента этим важным особенностям – это постоянная работа, и мы стремимся сделать это правильно для наших пользователей.
- Повышение прозрачности в работе с нашим сообществом. Мы хотим, чтобы наше сообщество знало, что мы прислушиваемся к их отзывам и работаем над тем, чтобы причины, по которым контент может быть удалён, были совершенно прозрачны. Например, недавно мы выпустили функцию, которая уведомляет пользователей, если они сделали дуэт или реакцию на видео, которое было удалено за нарушение наших Правил сообщества. Эта функция была создана в ответ на отзывы пользователей, которые создавали дуэты, осуждающие другой контент; они часто чувствовали себя обманутыми, когда их собственное видео исчезало, что могло произойти только потому, что исходное видео, на которое они делали дуэт, было удалено.
Также мы работаем над улучшением процесса подачи апелляций и активно знакомим с принципами сообщества. Например, если пользователь введёт запрос #whitelivesmatter, он получит напоминание о наших правилах и нашем стремлении создать уважительное и разнообразное сообщество.
- Инвестирование в наши команды и партнёрские отношения. Мы продолжаем инвестировать в наши группы по обеспечению правопорядка, чтобы улучшать их способность как можно быстрее обнаруживать и сортировать проявления ненависти или оскорбления. Недавно мы привлекли руководителей, обладающих глубокими знаниями в этих областях, в наши продуктовые и инженерные группы, чтобы сосредоточить внимание на эффективности и прозрачности правоприменения.
Мы также активно работаем, чтобы учиться и получать отзывы от таких экспертов, как члены нашего Консультативного совета по контенту и организаций гражданского общества. Наша отрасль не всегда принимала эти решения правильно, но мы стремимся учиться на ошибках других и наших собственных. Мы ожидаем, что будем нести ответственность за любые недостатки и успехи. Работая вместе, мы продолжим улучшать нашу политику, процессы и продукты, которые сделают TikTok местом, где каждый чувствует себя желанным гостем.
Мы осознаем, что, возможно, полностью искоренить ненависть в TikTok – это непреодолимая задача, но это не остановит наши попытки. Каждый прогресс, которого мы достигаем, приближает нас к более дружелюбному опыту сообщества для людей в TikTok и за его пределами. Эти вопросы сложны и постоянно меняются не только для нас, но и для всех интернет-компаний. Мы стремимся сделать это правильно для нашего сообщества.
Остались вопросы по TikTok? Получи консультацию от человека, который реально в этом разбирается.
