Трамп, уйгуры и критика Компартии: как работает политическая цензура в TikTok

Как и многие другие компании в мире соцсетей, ByteDance, родительская организация TikTok, хранит библиотеку специализированных глоссариев, где указано, что именно пользователям самых популярных платформ смотреть можно, а что ― нельзя. Однако, как выяснил Forbes USA, инструментарий китайского гиганта распространяется не только на стандартные черные списки модерации. Внутренние документы корпорации свидетельствуют о том, что ByteDance отслеживает ― а в некоторых случаях еще и скрывает ― публикации о правительстве КНР, торговле между США и Китаем, бывшем президенте и кандидате на выборах 2024 года Дональде Трампе, преследуемом этническом меньшинстве уйгуров и даже о некоторых американских конкурентах TikTok.

Цензура в публикациях

Списки ByteDance, с которыми корпорация отслеживает на своих платформах «деликатные слова», имеют названия типа следующих:

• «Словарь деликатных фраз в отношении отдельных людей на TikTok»;
• «Запрещенные слова в адрес Трампа»;
  
• «Запрещенные слова в адрес Путина»;
  
• «Скрытие слов в комментариях японских пользователей TikTok»;
  
• «Специальные запрещенные слова в отношении Си и Пэна»;
  
• «Запрещенные слова в видео Douyin из Синьцзяна»;
  
• «Стратегии отбора тем в отношении уйгурско-ханьских пар»;
  
• «Тематическая стратегия в отношении стратегической политики Китая»;
  
• «Местная жизнь — независимость Тайваня и Гонконга»;
  
• «Слежка YouTube на внутреннем рынке»;
  
• «Запрещенные негативные фразы в отношении фирменных продуктов»;
  
• «Тематический глоссарий по освещению в TikTok работы правительства».
  

Во внутреннем руководстве, которое, скорее всего, написано сотрудниками ByteDance в Китае и пекинским подрядчиком Jiyun Hudong, говорится о фирменном «глобальном глоссарии» «распространенных неприемлемых слов с высокой степенью риска». В документе указано, что система создана в 2017 году и призвана помогать в выявлении, оценке и удалении этих слов изо всех продуктов ByteDance, так как они «сопряжены с рисками для корпоративной безопасности, репутации и дохода». «Интересы бизнеса превыше всего», ― уточняется в файле.

В системе Forbes USA нашел более 50 списков со словами «TikTok» и «США» в названии, а внутренние материалы доказывают, что доступ к инструменту сотрудники TikTok получали в течение прошедшего года. В других перечнях открыто упоминаются китайский аналог TikTok под названием Douyin и прочие продукты ByteDance вроде Lark, Toutiao и Resso.

Пресс-секретарь TikTok Джейми Фавацца предположила, что многочисленные материалы, оказавшиеся в распоряжении Forbes USA, могут быть «в значительной степени устаревшими или неполными», заявив, что ни один из списков, о которых говорится в данной статье, не использовался в TikTok ни в прошлом, ни в настоящее время. На вопрос о том, почему в названии данных списков есть «TikTok» и «США», если они на платформе никогда не применялись, Фавацца ответила, что «не может строить догадки по поводу названий списков» без передачи конкретных документов.

«TikTok и Douyin ― это разные приложения для разных рынков с отдельными стратегиями по обработке контента и исходными кодами, ― сообщила Фавацца. ― В данных приложениях используются отдельные платформы обработки и списки ключевых слов под управлением отдельных команд». По словам представительницы, система обработки деликатных ключевых слов ByteDance и TikTok, до недавнего времени носившая одно и то же имя, была разделена в 2019 году. Как подчеркивает Фавацца, с тех пор TikTok-версия инструмента управляется отдельно.

Вопросы о том, применяются ли списки слов к Douyin или другим продуктам ByteDance (к ним относятся приложения Lemon8 и CapCut, с недавних пор резко набирающие популярность в Соединенных Штатах), в родительской компании оставили без ответа. Также в ByteDance не ответили на многочисленные вопросы о предназначении таких списков, как «Запрещенные слова в адрес Трампа», «Стратегии отбора тем в отношении уйгурско-ханьских пар», «Слежка YouTube на внутреннем рынке», «Тематическая стратегия в отношении стратегической политики Китая», и о том, кто их составил и как они применяются.

Пресс-секретарь ByteDance Дженнифер Бэнкс сказала следующее: «Фирма Jiyun Hudong, являющаяся подрядчиком Douyin Information Service Co., координирует модерацию контента на наших платформах в Китае, в том числе в рамках Douyin. Команды, управляющие модерацией для платформ на внутреннем китайском рынке и за рубежом, ― разные и отдельные друг от друга единицы, эти сотрудники оформлены в различных организациях и располагают разными инструментами модерации».

Десятки нынешних и бывших сотрудников TikTok и ByteDance рассказали Forbes USA, что разделение между двумя компаниями носит по большому счету поверхностный характер. А сотни документов, с которыми ознакомилась редакция, свидетельствуют об отсутствии внутри компаний функционального разделения при доступе к информации, пользовательским данным и инструментам, ― то же самое касается и систем обнаружения по деликатным ключевым словам. Наряду с тем, что за прошлый год доступ к инструменту ByteDance получали сотрудники TikTok, в документах сказано, что алгоритм координировали и работники ByteDance в Китае. Фавацца заявила, что без конкретных имен определить, предоставлялся ли каким-то сотрудникам доступ к системе, TikTok не может.

В отчете 2021 года от аналитической лаборатории The Citizen Lab отмечается, что TikTok и Douyin «имеют много общих фрагментов исходного кода», они построены на одной базе и подогнаны под нужды рынка. Судя по отчету, в различных регионах «некоторые настройки можно включать или отключать», но, как объясняют эксперты, гарантировать, что для TikTok программные ограничения Douyin сняты, почти невозможно.

Согласно записям, инструменты модерации и другие внутренние программы также собирают данные о «частоте обращений» по деликатным словам, в том числе информацию о пользователях из Соединенных Штатов. В одном документе, где упоминаются TikTok и другие продукты ByteDance, говорится о недавнем обновлении, благодаря которому в систему модерации был интегрирован «новый сервис по обнаружению текста», упрощающий отслеживание и анализ «записи обращений по деликатным словам» в режиме реального времени (как минимум одним из управленцев проекта был инженер в Пекине). Фавацца, официальный представитель TikTok, заявила, что отслеживание данных по кликам на деликатные либо запрещенные слова «просто помогает нам оценивать эффективность» и что «доступ ограничен».

Китайское правительство использует социальные сети, чтобы добраться до жителей США, которые высказываются против Коммунистической партии Китая, в том числе на годовщину бойни на площади Тяньаньмэнь в Пекине. В апреле Министерство юстиции США предъявило обвинения именно в этом десяткам полицейских, связанных с правительством КНР.

Об инструменте ByteDance для обнаружения деликатных слов стало известно всего через месяц после того, как генеральный директор TikTok Чжоу Шоуцзы впервые дал показания перед Конгрессом в попытке убедить американских законодателей в том, что дочерняя фирма ByteDance в состоянии оградить данные пользователей из Соединенных Штатов от Китая и что контент, который американцы видят на платформе, неподвластен капризам китайского режима. В ответ на неоднократные вопросы о способности Пекина влиять на то, что в TikTok показывается (или не показывается), включая контент с критикой в адрес партии, Чжоу такую возможность отрицал.

«Мы не продвигаем и не удаляем контент по запросу китайского правительства, ― говорил Чжоу Шоуцзы председателю комитета по энергетике и торговле при Палате представителей, республиканке Кэти Макморрис Роджерс. ― Это наша обязанность... обезопасить платформу от каких бы то ни было манипуляций со стороны любого правительства».

Репортеры Forbes USA обнаружили, что китайские государственные СМИ и ByteDance с TikTok имеют множество общих сотрудников, а также уличили первых в использовании TikTok с целью влияния на мнение американской общественности по поводу политики США. В этом году соцсеть начала добавлять специальные ярлыки в аккаунты СМИ, связанные с государством. А в отчете The Citizen Lab, на который Чжоу ссылался в своем выступлении перед Конгрессом, чтобы развеять опасения из-за связей TikTok с Китаем, на самом деле говорится, что доказательств для «подтверждения или опровержения наличия на TikTok политической цензуры» «недостаточно».

«Интересы бизнеса превыше всего»

В некоторых наименованиях списков слов ByteDance, с которыми ознакомился Forbes USA, указан непосредственно TikTok, другие же открыто упоминают Douyin (в нем процветает жесткая цензура китайского правительства), но в остальных не говорится ни о том ни о другом. Ряд этих непонятных перечней, по-видимому, относится к Соединенным Штатам, например «Запрещенные слова в адрес Трампа» и «Глоссарий авторских прав НБА». Многочисленные вопросы о том, как применяются списки, где различие между TikTok и Douyin не проводится, в ByteDance оставили без ответа.

В одном руководстве по инструменту ByteDance идет речь о «ключевых критических словах», куда входят выражения типа «код шесть — четыре», вероятное обозначение 6/4 или 4 июня, даты жесткого подавления протестов на площади Тяньаньмэнь в 1989 году. Судя по документам, другие списки в фирменном словесном алгоритме касаются острых геополитических вопросов, например Украины и России, обсуждения независимости Тайваня и Гонконга, а также свободы слова в Тибете («TikTok-аудио запрещенные слова в регионе Тибет»). Несколько других относятся к критическим для ByteDance продуктам, упоминаниям конкурентов TikTok и деликатным либо запрещенным отсылкам к уйгурскому меньшинству, против которого китайское правительство осуществляет геноцид.

К примеру, перечень под названием «Стратегии отбора тем в отношении уйгурско-ханьских пар» сосредоточен вокруг браков и отношений между уйгурами и китайцами ханьского происхождения (этническим большинством страны). В недавнем отчете о правах человека зафиксирован рост числа принудительных браков между женщинами-уйгурками и мужчинами-ханьцами, и подобные союзы, заключаемые в основном насильно, названы «формой преступления по гендерному признаку, которое идет вразрез с международными стандартами прав человека и способствует продолжающемуся геноциду». Авторы отчета нашли на Douyin контент с изображением уйгурско-ханьских свадеб, а поиск Forbes USA по запросу «уйгуры и ханьцы» на TikTok выдал похожие видео с якобы веселыми торжествами. Пресс-секретарь TikTok Фавацца заявляет, что «это не TikTok-список, а строить догадки о том, существует ли такой для других приложений ByteDance, я не могу».

Сотрудники могут вводить целые списки слов либо конкретный текст и фразы в «инструмент обнаружения», который, как говорится в одном корпоративном руководстве по его использованию для TikTok, осуществляет поиск «на предмет наличия в запросе деликатных слов с целью их запрета и удаления из поисковой выдачи».

В другом документе указан ряд способов, которыми система обрабатывает «деликатные слова»: одни получают пометки «на уничтожение» и «удалить сразу», другие же деликатные фразы, собранные алгоритмом, отображаются только автору публикации, получают запрет на дальнейшее распространение либо скрываются иным образом.

Согласно руководству, доступ к инструменту ByteDance и материалам в нем, кажется, жестко контролируется двумя десятками сотрудников ByteDance и Jiyun Hudong в Китае. «Данный глоссарий содержит деликатную информацию, ― гласит документ, ― и есть риск утечки».

Фавацца, представительница TikTok, отмечает, что сам инструмент, списки слов, применяемые к видеоплатформе, и доступ к ним контролируются подразделением соцсети по доверию и безопасности. По словам пресс-секретаря, доступ к спискам TikTok «ограничен и открывается при наличии разрешения», а, «согласно политике TikTok, прежде чем в список можно будет добавить ключевое слово для США, его необходимо отправить на рассмотрение и согласование специально выбранному члену команды TikTok в Соединенных Штатах».

«Так они ведут бизнес»

Большинство крупных социальных сетей имеют правила и инструменты для фильтрации контента и описаний к нему, поощряющих жестокость, грубость и нарушающих закон. Как и у других компаний, в TikTok некоторые списки слов нацелены на то, чтобы защитить пользователей от просмотра таких вещей, как нанесение самоповреждений, суицид, и другого опасного контента.

В конце марта гендиректор TikTok Чжоу на слушании в Конгрессе США заявлял, что «опасения по поводу потенциальных манипуляций со стороны TikTok в плане безопасности, конфиденциальности данных и контента на самом деле применимы не только к нам». «Страна владельца с решением этим проблем никак не связана», ― добавил руководитель социальной сети.

Однако Уильям Эванина, бывший начальник контрразведки в американском правительстве, утверждает, что проблема именно в том, что TikTok принадлежит китайцам. Как объясняет эксперт, правоохранительные органы не имеют доступа к пользовательским данным компаний и не могут их просматривать без соответствующего ордера, повестки или постановления суда. С другой стороны, в Китае разделение между корпоративной средой и государственным органами крайне расплывчато, и чиновники могут делать это без всякой необходимости соблюдать какие-то законы. Просто так они ведут бизнес, констатирует специалист.

«Принципиальная разница заключается в том, что ByteDance прислуживает правительству и Министерству государственной безопасности, ― рассуждает Эванина. ― Да, Facebook (принадлежит Meta, признанной экстремистской и запрещенной в России) и Google для защиты своих активов на собственных платформах по всему миру делают то же самое, но они не отчитываются перед ЦРУ и АНБ. А те не выдают Facebook такие методички».

Помимо соображений свободы слова, с точки зрения кибербезопасности эксперты заявляют, что главная опасность системы мониторинга ByteDance кроется в ее потенциале следить за тем, как часто конкретные слова появляются, кто их произнес или кликнул по ним, где эти люди находятся и кто еще на них подписан. В КНР закон обязывает компании предоставлять информацию по запросу государства, и, как объясняют специалисты, от ByteDance могут требовать делиться этими деликатными данными с руководством партии, причем не важно, исходила активность изнутри Китая, из США или какой-нибудь другой страны. В TikTok сказали, что предоставлять какие бы то ни было данные пользователей китайское правительство социальную сеть не просило, добавив, что подобный запрос был бы отклонен.

«Списки слов ― это неопровержимое доказательство того, что они озабочены конкретными вещами и хотят отслеживать, кто что говорит, когда и как часто», ― поясняет Эванина.

Бывший начальник юридического отдела Агентства национальной безопасности США Гленн Герстелл добавляет, что высказывания против Китая в онлайне, будь то критика на TikTok или в поисковой выдаче Google, сопряжены с риском сами по себе. «Если начинаете критиковать председателя Си и говорить о площади Тяньаньмэнь, готовьтесь принять риск того, что вами может заинтересоваться Министерство государственной безопасности КНР», ― предостерегает он, добавляя, что в этом плане широкая общественность несколько наивна.

«Все мы знаем, что социальные сети общедоступны, но забываем, что слова чреваты последствиями, ― отмечает Герстелл. ― Что, если бы существовала специальная версия Google для Министерства государственной безопасности, которая сканирует весь интернет и фиксирует каждый случай, когда кто-то упоминает площадь Тяньаньмэнь?»

«Если делаете что-то в публичном поле, то есть на общедоступном сайте, то вызываете не только интерес самого приложения, но еще и приковываете к себе внимание за пределами сервиса со стороны любого, у кого есть доступ к публичному ресурсу, ― заключает эксперт. ― А уж они-то могут следить за вами, как им заблагорассудится».

Перевод Forbes.com