Настройка приватности: как TikTok пытается бороться с детской порнографией
«Не стесняйся, девочка. Переходи по моему посту в приват. Давай повеселимся». Найти подобные публикации в TikTok очень просто. Обычно они похожи на рекламу и принадлежат, казалось бы, безобидным учетным записям.
Однако зачастую это самые настоящие порталы, связанные с сексуализированным насилием над детьми — в буквальном смысле спрятанные у всех на виду. Такое публикуется в приватном режиме и по настройкам отображается только авторизованному владельцу аккаунта. Со стороны смотреть не на что, но внутри ― видео с малолетними, которые раздеваются догола, мастурбируют и участвуют в других действиях сексуального характера. А попасть туда проще простого — достаточно попросить у незнакомца пароль от TikTok-аккаунта.
Политика безопасности социальной сети открыто запрещает пользователям делиться с кем-либо своими учетными данными для входа. Но в результате расследования Forbes USA выяснилось, что именно это и происходит. Процесс сбора информации редакция проводила вместе с экспертом-юристом, чтобы в итоге выяснить, насколько беспрепятственно несовершеннолетние жертвы сексуальной эксплуатации и маньяки могут общаться друг с другом и делиться противозаконными изображениями в одной из крупнейших в мире социальных сетей. Одно только количество обнаруженных Forbes учетных записей с приватными постами, а также частота, с которой новые страницы появляются сразу после блокировки старых, свидетельствуют об огромном слепом пятне системы. Из-за всего этого модерация оказывается неэффективна, и, несмотря на политику нулевой терпимости к материалам с сексуальным насилием над детьми, TikTok с трудом выполняет свои же правила.
Проблема того, что закрытые сообщества в социальных сетях становятся рассадниками незаконной и насильственной активности, присуща не только TikTok. Группы, поощряющие насилие над детьми, можно, к примеру, найти и на Facebook (принадлежит Meta, которая признана в России экстремистской и запрещена). В Meta давать комментарии на этот счет отказались. Но на волне растущей популярности TikTok среди американской молодежи ― а приложением хотя бы раз в день пользуется больше половины несовершеннолетних американцев ― актуальность вопроса обострилась настолько, что теперь этим заинтересовались региональные и федеральные власти Соединенных Штатов.
«На платформе есть учетные записи, в которых полно материалов с насилием над детьми и сексуальной эксплуатацией, но они от искусственного интеллекта как-то ускользают, ― сетует Сеара Адер, сама пережившая в детстве сексуализированное насилие со стороны взрослых и вот уже год обращающая внимание своих TikTok-подписчиков на то, как в приложении допускается эксплуатация в отношении детей. ― Это происходит на только на этой площадке, но довольно часто ведет в другие соцсети, где ситуации бывают еще опаснее».
Впервые с «постами в привате» Адер столкнулась в марте. Тогда кто-то с приватной учетной записи под ником @My.Privvs.R.Open («Мой.Привт.Открыт») опубликовал видео с «совершенно голой и делающей непристойные вещи» девочкой 10-12 лет и отметил Адер. Девушка немедленно воспользовалась специальным инструментом TikTok и пожаловалась на видео с «порнографией и наготой». В тот же день она получила уведомление о том, что «никаких нарушений не обнаружено».
На следующий день Адер опубликовала в TikTok первое из нескольких видео, в которых обращает внимание на противозаконные приватные аккаунты вроде того, на который наткнулась сама. Ролик стал настолько вирусным, что попал в ленту к близкому родственнику помощника федерального прокурора США по южному округу Техаса. Узнав, в чем дело, обвинитель связался напрямую с Адер, чтобы разобраться во всем, но сказал девушке, что комментарии для данной статьи давать не может.
Кроме того, Адер проинформировала и Министерство внутренней безопасности. На вопрос Forbes о том, идет ли в отношении TikTok какая-либо официальная проверка, ведомство не ответило, но специальный агент Уэйлон Хинкл связался с Адер для сбора дополнительных сведений и в электронном письме от 31 марта сообщил ей, что «мы над этим работаем». В пресс-службе самой сети о том, идет ли какое-то взаимодействие с Министерством либо с прокурорами штатов, ничего не говорят.
Представительница TikTok Масау Каллинен заявила в электронном письме, что площадка руководствуется принципом «нулевой терпимости по отношению к материалам с сексуальным насилием над детьми и этому отвратительному поведению, строго запрещенному на нашей платформе». Она также добавила: «Когда мы фиксируем подобный контент, то незамедлительно его удаляем, блокируем аккаунты и составляем отчет [в Национальный центр по поиску пропавших и подвергшихся насилию детей (National Center for Missing & Exploited Children)]». В компании дополняют, что все публикующиеся в соцсети видео, как общедоступные, так и приватные (в том числе те, которые может просматривать только владелец конкретной страницы), подлежат модерации с помощью фирменного искусственного интеллекта, а в отдельных случаях просматриваются живыми сотрудниками. Отслеживаться могут и личные сообщения. По данным TikTok, аккаунты, которые пытаются вымогать или распространять материалы с сексуальным насилием над детьми, удаляются.
В приложении имеются инструменты для отправки жалоб на учетные записи, посты и личные сообщения с нарушающими правила материалами. Forbes воспользовался ими и сообщил поддержке о нескольких видеороликах и аккаунтах, через которые ведется сбор контента в группы с приватными публикациями. В ответ на все жалобы пришел однотипный ответ — «нарушений нет». Когда Forbes указал представителям TikTok на очевидные упущения в письме по электронной почте, компания подтвердила, что контент нарушает правила, и тут же его удалила.
Опасность прямо под носом
Встретить в TikTok «посты в привате» (некоторые называют их режимом «только для меня») совсем не трудно. Хоть непосредственный поисковый запрос по сочетанию «посты в привате» и выдает сообщение о том, что «эта фраза может ассоциироваться с поведением или контентом, которые нарушают наши правила», предупреждение легко обойти через так называемый algospeak, «зашифрованный язык». Нарочные опечатки вроде «првт», сленговое слово «прив», перемешанные буквы типа «постпривт» и такие хештеги, как #postinprvts («постывпрвт») ― это лишь некоторые поисковые ключи, результаты по которым дают сотни, скорее всего, нарушающих правила аккаунтов и приглашений присоединиться. Для увеличения числа просмотров некоторые публикации также включают метки #viral («вирусное») и #fyp (сокращение от англ. «For You Page» ― «Рекомендации», та самая лента, которую более миллиарда пользователей TikTok видят, открывая приложение). В пресс-службе соцсети заявили, что упоминать в аккаунтах и контенте «посты в привате» или вариации данной фразы TikTok запрещает. Лишь после того, как Forbes пожаловался на конкретные примеры проблемного «шифра», платформа заблокировала некоторые хештеги и поисковые запросы, и теперь по ним отображается предупреждение: «Этот контент может ассоциироваться с сексуализированным контентом с несовершеннолетними. Создание, просмотр или распространение этого контента незаконно и может привести к серьезным последствиям».
Всего за несколько дней активного пользования соцсетью приложение начало предлагать подписчику небольшого количества таких приватных аккаунтов десятки других страниц с похожими именами вроде pos.t.i.n.privs («пост.ы.в.прив») и logintoseeprivatevids («залогиньсяисмотриприватныевидосы»). Предложения стали часто мелькать в ленте «Рекомендаций» под ритмичную фоновую музыку с кнопкой «Подписаться» внизу экрана. На вопрос о том, дается ли приоритет аккаунтам с материалами сексуального содержания, в пресс-службе TikTok не ответили.
После недолгих поисков пользователь получил первые данные для авторизации в нескольких учетных записях с приватными публикациями. Проверка, если таковая вообще была, в основном касалась пола и обязательства присылать изображения. Один человек, искавший девочек для постов в только что созданном приватном аккаунте, написал, что ищет девушек старше 18, но сойдут и те, которым 15-17 лет, и добавил: «Я даю электронную почту и пароль только тем, кому можно доверять. Всякое бывает». Авторы других объявлений набирали девочек в возрасте «13+» и «14-18» лет.
Получить доступ к аккаунтам с приватными постами крайне просто ― не требуется даже двухэтапная верификация. Пользователи TikTok могут активировать эту дополнительную меру безопасности, однако по умолчанию она отключена.
На одной странице было более десяти скрытых видео ― на нескольких из них девушки выглядели несовершеннолетними. В одной публикации девочка снимала с себя школьную форму и нижнее белье, полностью раздеваясь, хотя «контент, изображающий процесс раздевания несовершеннолетнего лица», в TikTok запрещен. В другом видео юная девушка имитировала секс с подушкой в слабо освещенной комнате, хотя соцсеть запрещает «контент, который прямо или косвенно изображает половые акты с участием несовершеннолетних». В двух других постах были девочки в ванной, которые снимали с себя блузки, бюстгальтеры и поглаживали себя по груди.
В тайных группах участвуют и пользователи TikTok, представляющиеся несовершеннолетними. На одно недавнее приглашение присоединиться к приватному аккаунту откликнулись девочки в возрасте якобы 13, 14 и 15 лет. Настоящий возраст и пол этих пользователей выяснить не удалось.
В описаниях профиля и комментариях других пользователей встречались просьбы перенести обмен приватными постами из TikTok на другие площадки, включая Snapchat и Discord, хотя TikTok прямо запрещает контент, который «направляет пользователей за пределы платформы для получения и распространения материалов с сексуальным насилием над детьми». В одном из таких случаев комментатор по имени Люси, утверждавшая, что ей 14 лет, поместила в описание своей страницы ссылку на канал в Discord. В графе было указано: «ПО$ТЫ В ПРВТ / Стучись в прив Discord». Ссылка вела на Discord-канал с двумя десятками участников, обменивающихся порнографией с людьми всех возрастов, в основном женского пола. В некоторых записях в Discord был виден логотип TikTok (то есть изначально ролики загружались туда) и изображены, по-видимому, несовершеннолетние обнаженные девушки, занимающиеся мастурбацией или оральным сексом. Владелец сервера Discord грозился удалять людей из группы, если они не будут делиться свежим материалом. К моменту публикации статьи никакого ответа от пресс-службы геймерской соцсети на запрос комментария не поступило.
По словам Хейли Макнамары, директора Международного центра по борьбе с сексуальной эксплуатацией (International Centre on Sexual Exploitation), подобная активность, к сожалению, нередкое явление во всех основных социальных сетях с функционалом закрытых сообществ. «В отношении закрытых или полузакрытых групп наблюдается тенденция к тому, что они становятся удобной средой для общения между маньяками, а также теми, кто хочется обмениваться материалами с сексуальным насилием над несовершеннолетними, ― рассказывает она Forbes. ― Подобные площадки и так всегда использовались для обхаживания и даже рекламы и продажи людей в сексуальное рабство». Она также добавила, что, помимо Snapchat и Discord, организация зафиксировала аналогичную активность в Instagram ― там это происходит на закрытых страницах и в избранном кругу «близких друзей».
Родительская компания Meta давать комментарии отказалась. Представители Snap заявили, что в фирменном мессенджере сексуальная эксплуатация и насилие по отношению к пользователям запрещены, а еще имеются различные механизмы защиты, осложняющие поиск подростков на платформе маньякам и посторонним людям.
Если верить документам, при защите несовершеннолетних TikTok полагается на политику безопасности, но Макнамара видит совершенно иную картину: «Настоящая проверка происходит на практике». Эксперт поясняет, что, когда речь заходит об активном контроле за сексуализацией детей или обмене материалами деликатного содержания, «TikTok проигрывает».
«Эти технологические компании делают новые инструменты, функции и запускают их без обстоятельного анализа онлайн-безопасности, особенно для детей, ― продолжает Макнамара, призывая создавать защитные механизмы соразмерно настройкам приватности. ― Режим «только для меня» ― это самый свежий пример того, как компании пренебрегают безопасностью детей и игнорируют проактивные подходы к борьбе с проблемой на внешней стороне системы».
Доктор Дженнифер Кинг, научный сотрудник по вопросам приватности и политики обработки данных в Стэнфордском институте по разработке антропоцентрического искусственного интеллекта, отмечает, что видит эффективные способы применения подобных настроек приватности. В самом TikTok говорят, что авторы контента могут использовать данный режим при тестировании новых видео и составлении графика их публикации. Однако Кинг не понимает, почему соцсеть решила не делать двухэтапную верификацию настройкой по умолчанию (это уже отраслевой стандарт) и не фиксирует многочисленные попытки авторизации в нарушение правил платформы.
«Сигнал весьма тревожный, ведь любому понятно, что это происходит», ― уверена Кинг, ранее создававшая инструмент для обнаружения материалов с сексуальным насилием над детьми для Yahoo!.
«Зачастую приходится играть наперегонки со временем: пользователь создает аккаунт и либо как можно быстрее публикует кучу подобного контента, либо спешно его потребляет, прежде чем страницу обнаружат, закроют или пожалуются на нее... Все сводится к тому, чтобы распространить видео как можно скорее», ― рассуждает она. По мнению Кинг, участники этого процесса рассчитывают на то, что аккаунт продержится всего пару часов или дней, поэтому обнаружение и блокировка необычных и частых авторизаций ― совсем несложная с технической точки зрения задача ― может «осложнить процесс и закрыть лазейки», которыми пользуются злоумышленники.
Несмотря на то что политика платформы запрещает давать посторонним реквизиты для входа в систему, пресс-служба TikTok рассказала Forbes, что есть случаи, когда доступ к одному и тому же профилю разрешается иметь сразу нескольким людям ― это касается менеджеров, агентов и специалистов по работе с социальными сетями, которые помогают вести страницы некоторым инфлюенсерам. Компания также обратила внимание на то, что двухэтапная верификация требуется для учетных записей ряда пользователей с большой аудиторией.
Кинг убеждена: пока популярные общедоступные аккаунты с крупной базой подписчиков привлекают к себе куда больше внимания, «отдельная страница без особо бурной активности, публикующая всего по паре роликов», может попросту ускользнуть из вида. Но TikTok стоит на том, что вне зависимости от числа подписчиков правила сообщества на всех пользователей распространяются одни и те же и что эти положения платформа стремится добросовестно исполнять.
Адер, тиктокерша и защитница прав детей, жалуется на то, что делает работу по модерации контента за TikTok. Для этого ей приходится оставаться в курсе постоянно изменяющихся способов, с помощью которых в соцсети пользуются несовершенством технологий или применяют их не по назначению. Тем не менее попытки связаться с TikTok успеха не имели.
Адер призналась, что даже выходила «на охоту в LinkedIn» и отправляла сообщения сотрудникам, у которых есть хоть какая-то возможность донести ее претензии до вышестоящего руководства.
«Извините, если это переходит границы, но я отчаянно хочу, чтобы проблеме наконец уделили нужное внимание, ― вспоминает она собственное обращение в адрес одного работника TikTok, рассказывая о «приватных постах» и о том, как, по ее мнению, пользователи обманывают искусственный интеллект, «начиная свои видео несколькими секундами черного экрана».
«Я собственными глазами видела один ролик, вышедший из привата, и там был совершенно голый ребенок, занимающийся непристойными вещами. Я пожаловалась на пост, но в ответ никаких нарушений обнаружено не было, ― продолжает девушка. ― С тех пор как я опубликовала видео о произошедшем, мне написали двое детей и сказали, что их тоже обхаживал автор одного из профилей, а затем выяснилось, что за аккаунтами стоит взрослый человек. Пожалуйста, можете ли вы хоть как-то помочь?»
Адер рассказала Forbes, что «никакого ответа так и не дождалась ― вообще ни от кого».
Но она по-прежнему слышит истории пользователей TikTok, в том числе совсем юных девушек, которые сталкивались с постами в привате. «Среди написавших мне несовершеннолетних родителям о случившемся не рассказывает почти никто, ― подчеркивает тиктокерша. ― Их тяготит страх неизвестности, а мне разбивает сердце ужасный опыт пережитой ими ситуации».
Перевод Антона Бундина