Основателю ByteDance, Чжану Имину, было 29, когда он создал компанию в 2012 году. Чжан, который редко даёт интервью, вырос в провинции Фуцзянь, сын государственного служащего и медсестры, он поступил в университет в северном портовом городе Тяньцзинь. Чжан недолго поработал в китайском Microsoft и некоторое время метался между стартапами. Тогда он предложил китайским инвесторам идею приложения, собирающего новости, который использовал бы машинное обучение для предоставления людям того, что они хотят читать. Приложение, названное Jinri Toutiao, было запущено в течение года. Его имя значит “сегодняшние верхние заголовки”. Это немного напоминает Reddit, если бы его направлял ИИ, а не голосование пользователей.
Как ТикТок, Toutiao начинает скармливать вам контент сразу же, как вы его откроете, и приспосабливает контент, отслеживая и анализируя ваше поведение, время дня и ваше местоположение. Оно может делать вывод на основании того, как пользователи читают, пока едут на работу или с работы домой, и на что им нравится смотреть перед тем, как идти спать. По имеющимся данным, приложением ежедневно активно пользуются сто двадцать миллионов пользователей, большинству которых более тридцати лет. В среднем они могут читать их тщательно подобранные ленты больше часа каждый день. У этого приложения есть репутация продвижения быдловатых кричащих заголовков.
В Китае повседневная жизнь стала даже более зависимой от технологий, чем жизнь в США. Люди могут платить за вещи, позволив камерам просканировать их лица. В прошлом году старшая школа Ханчжоу установила сканеры, которые записывают школьные классы каждые тридцать секунд и идентифицируют выражения лиц как нейтральное, счастливое, грустное, злое, расстроенное или удивлённое. Китайское правительство собирало так называемую Систему социального доверия – соцсеть, покрывающую оценки кредитоспособности населения, с помощью скрытых вычислений, которые объединяли информацию из публичных источников и закрытых баз данных. Правительство также установило точки отсчёта для прогресса в сфере разработки искусственного интеллекта на каждые пять лет. В прошлом году Тяньцзинь объявил о планах вложить шестнадцать миллиардов долларов в финансирования ИИ. Шанхай объявил о планах на вложение пятнадцати миллиардов.
Есть два основных подхода к искусственному интеллекту. В символическом искусственном интеллекте люди дают компьютерам набор конкретных правил, которые помогают им выполнять какое-либо задание. Это хорошо работает для таких вещей, как шахматы, но ежедневные вещи вроде идентификации лиц и толкования языка обычно управляются человеческими инстинктами так же сильно, как и правилами. А теперь другой подход, известный как нейронная сеть или машинное обучение, который начал преобладать в течение последних двадцати лет. Согласно этой модели компьютеры учатся с помощью распознавания шаблонов в базе данных и постоянно приспосабливаются, пока желаемый результат – правильно обозначенное лицо, должным образом переведённая фраза – не будет достигнут. В системе такого сорта количество информации, в общих чертах, намного важнее, чем изысканность программы, которая объясняет её. Огромное количество пользователей, которые есть у китайских компаний, и виды данных, которые приходят со взаимодействием техники и обычной жизни, дают тем компаниям ключевое преимущество.
Часто китайские компании частично финансируются государством и открыто уступают его требованиям, передавая ему сообщения пользователей и историю покупок. Например, на статуе, стоящей перед главным офисом Tencent, который владеет WeChat, есть надпись “Следуйте за нашей партией”. Издание Wall Street Journal сообщило, что в пекинском офисе ByteDance есть комната для команды по кибербезопасности, состоящей из сотрудников китайской полиции. Компания информирует их, когда “находит такой криминальный контент, как терроризм и педофилию” в своих приложениях. В прошлом году ByteDance было приказано приостановить Toutiao и закрыть приложение с мемами Neihan Duanzi (название значит что-то типа “предполагающий шутки”). Такой приказ поступил потому, что государство посчитало, будто контент в этих приложениях стал слишком вульгарным и слишком необузданным. Чжан опубликовал извинение, написанное языком контролирующего государства. ByteDance позволял появляться контенту, который был “несоизмерим с ценностями социалистического ядра и должным образом не осуществлял руководство общественным мнением”, – сказал он.
Три дня спустя Times сообщил, что китайское правительство разработало технологию по идентификации лиц, чтобы определять уйгуров, мусульманское меньшинство страны, через национальную сеть камер слежения. Китай поместил более миллиона уйгуров в синьцзянские лагеря перевоспитания (учреждения в Китае для принудительного содержания граждан, исповедующих ислам), подвергнув их арестам, судам и тюремным заключениям. В августе я спросила представителя ByteDance о страхе за то, что тот массивный клад из лиц крупным планом, накопившийся в их продуктах, может быть неправильно использован. “Если даже люди были бы уверены, что ByteDance не сделает ничего дурного”, – сказала я, – “что будет, если другая компания получит доступ к вашей базе данных?” Представитель ответил мне, что вся информация об американских пользователях хранится в США и Сингапуре. И небрежно отметил, что люди также дали доступ к своим лицам и на других платформах. Конечно, техно-компании США часто не кажутся достаточно радушными по отношению к правительству, по крайней мере, публично. Американская система имеет свои недостатки.
Dinesh Raman, исследователь регулировки ИИ в Токио, который изучал ByteDance в качестве консультанта для некоторых инвесторов, говорил о способностях ИИ компании со смесью тревоги и обожания. “Эта система выполняет миллиарды вычислений в секунду”, – сказал он, – “информация передаётся в таком масштабе, который я никогда раньше не видел”. Raman настоял на том, что ТикТок хранит свою платформу тщательно охраняемой частично через алгоритмы, которые могут обнаружить ролики с опасным контентом. (Компания сказала мне, что модераторы ТикТока обучены применять разные стандарты для разных рынков.) Он указал мне на челлендж “Gaga Dance”, мем в индонезийском ТикТок, который просил пользователей повторять позы радостных жёлтых нарисованных человечков, проплывающих по экрану. Он предположил, что так ИИ тренируется на вычислении позы. Такая своеобразная возможность глубокого обучения со значительными выводами после наблюдения. OpenPose – программа, разработанная в Carnegie Mellon, использовалась японской телефонной компанией для уведомления продавцов о покупателях, чьи движения предположительно сигнализируют, что они собираются что-то украсть.
Китайское правительство больше интересует наблюдение и контроль за своими собственными гражданами, чем слежка за иностранцами. Одна из причин, почему ByteDance запустил ТикТок как отдельный от Douyin организм, – установка защитного экрана между государством Китай и пользователями за пределами Китая. Но вмешательство государства может пересекать границы. В августе Facebook и Twitter показали, что ранее они обнаружили доказательства того, будто китайское правительство распространяло дезинформацию о протестах в Гонконге, которые начались в июне после призыва о выходе из законопроекта об экстрадиции и с тех пор только увеличились в размерах, требуя демократических реформ.
Если вы поищите в ТикТок хештег #HongKong, то найдёте кучу видео, но вам придётся потрудиться, чтобы найти хоть что-то о протестах. Хештег #protest показывает демонстрации по всему миру: Лондон, Мельбурн, Южная Африка и даже Индия, но почти ничего из Гонконга. (В Instagram оба хештега работают и показывают множество подобных изображений.) Тем временем поиски одного из основных хештегов на китайском языке, который протестующие в Гонконге использовали на других платформах, выводит небольшую горстку роликов с общим количеством просмотров в 110 тысяч. (Как заметил Washington Post в расследовании, касающемся отсутствия гонконгских протестов в ТикТок, у видео, помеченных хештегом #snails, есть более 6,5 миллиона просмотров.) Это правда, что база пользователей из Гонконга мала. Относительно говоря, ТикТок сообщил мне, что там приложением пользуются меньше 150 тысяч ежедневно активных пользователей. Хотя то же самое можно сказать и о Твиттере, но там ролики с протестов были чрезвычайно популярны.
Как правило, про ТикТок думают как о месте для безделья, чем платформе для политического обсуждения. А администрация ТикТока отвергла идею о том, что компания вручную или с помощью алгоритмов сдерживает контент, относящийся к Гонконгу. Но один из рисков уделения внимания развлечениям, которые управляются негласно контролируемыми алгоритмами, в том, что те, кто владеют этими алгоритмами, всегда будут говорить, что они всего-лишь предоставляют нам то, что мы хотим увидеть.
Платформа, созданная для вирусного общения, по своей природе никогда не будет свободна от политики. В августе новый вид роликов начал появляться в Douyin. Уйгуры в Китае пользовались инструментами для редактирования в приложении, чтобы под грустную музыку размещать себя напротив фона с их любимыми, которые исчезли. В одном из них заплаканная молодая женщина, одетая в жёлтую футболку, держит поднятыми четыре пальца, по одному за каждого человека, которые изображены на фото сзади неё. Это может быть двойным сигналом: “четыре” и “смерть” на китайском произносятся одинаково. Douyin удалил многие из этих роликов, но, как и всё, что вирусится в ТикТок, они нашли свою аудиторию в Instagram и Twitter.
Как ТикТок удерживает наше внимание (6\6).
Остались вопросы по TikTok? Получи консультацию от человека, который реально в этом разбирается.
