Жестокий роман: как алгоритмы соцсетей пропускают неприемлемый контент
Приложения, за которыми стоят корпорации ByteDance и Tencent, публикуют в Facebook и Instagram (принадлежат корпорации Meta, которая признана в России экстремистской и запрещена) сотни рекламных объявлений откровенно сексуального содержания с изображением насилия и контентом, поощряющим самоповреждения.
В рекламных объявлениях, нарушающих политику Meta, приводятся отрывки эротических веб-романов с элементами фантастики вроде оборотней и вампиров ― зачастую вместе с короткими видеороликами и изображениями, взятыми со страниц инфлюенсеров, из фильмов и сериалов. Посредством таких описаний сексуального насилия, изображений униженных женщин и девушек рядом с мускулистыми мужчинами реклама подталкивает пользователей к загрузке приложений, где можно читать истории по главам.
В одной публикации с рассказом о «ночном ужасе», где девушку принуждают к «спариванию» с «существом», имеется фото звезды бразильского футбола Неймара, пририсованное к стоковому изображению избитой женщины. Представитель Неймара сообщил Forbes, что изображение использовано без разрешения спортсмена.
Данная реклама была запущена для iReader, приложения, в которое ByteDance, материнская компания TikTok, вложила в 2020 году $170 млн. По состоянию на 1 октября были активны 83 других объявления от iReader с главой из рассказа под названием «Его личный спермобак» и реалистичным описанием сексуального насилия. Многочисленные просьбы прокомментировать эти материалы представители iReader оставили без ответа.
Рекламные посты от приложения Mytopia, которым владеет ByteDance, содержали не менее тревожный контент. В трех публикациях было текстовое описание того, как девочку-подростка домогается сводный брат, а еще в трех содержался романтизированный рассказ о том, как юная девушка наносила себе порезы. После обращения со стороны Forbes компания ByteDance поставила рекламную кампанию Mytopia на паузу, а пресс-секретарь китайского медиагиганта Билли Кенни заявил, что рекламные объявления «не соответствуют нашим ценностям».
28 сентября приложение Webnovel, принадлежащее China Literature, дочерней компании Tencent, запустило рекламу с комиксами сексуального содержания об инцесте между матерью и сыном. После обращения Forbes за комментарием China Literature приостановила кампанию. В официальном заявлении пресс-секретарь Мэгги Чжоу сообщила: «Мы можем подтвердить, что данные рекламные записи сделаны сторонними организациями без оповещения China Literature и в нарушение нашей политики в отношении контента».
ByteDance (владелец TikTok) и Tencent (владелец WeChat и некоторых самых известных в мире видеоигр) давно пытаются доказать, что через их продукты людям не продвигается контент с поощрением сексуальных действий, насилия и самоповреждений. Однако несмотря на то что китайские технологические гиганты вкладывают огромные средства в удаление подобного контента из TikTok и WeChat, они в то же самое время платят фирмам-создателям эротических веб-романов, чтобы те их писали и продвигали пользователям Meta через встроенную рекламную платформу.
Корпорация Meta, в свою очередь, оказалась по большей части неспособна сдержать этот поток публикаций жесткой эротики, нарушающих ее собственные правила. Данные фирменной системы Ad Library показали, что, хотя в Meta действительно выявляли и удаляли такие посты, рекламодатели запускали в ленту еще больше. Более того, алгоритм обнаружения у Meta кажется слабым и непоследовательным, поскольку активными остаются записи с текстом, очевидно нарушающим правила платформы, которые были сделаны еще несколько недель назад. Пока Forbes не связался с Meta, поисковые запросы через Ad Library вроде «его член» и «изнасилуй меня» выдавали сотни результатов ― и почти все вели к приложениям с веб-романами.
Пресс-секретарь Meta Энди Стоун заявил, что до обращения от Forbes компания удалила десятки рекламных записей от фирм-создателей веб-романов и что с момента предоставления изысканий было удалено еще почти 200 постов и страниц. Тем не менее накануне публикации этой статьи в системе появилось пять новых вариаций рекламы со «спермобаком» от страницы, которую Forbes отметил для Meta. Быстрый поиск через Ad Library выдает сотни аналогичных результатов.
Популярность приложений вроде Webnovel, Mytopia и iReader резко выросла во время пандемии. Сначала они стали популярны в Китае, где приложение Tomato Novel от ByteDance загружено свыше 60 млн раз. Но в последнее время они набрали аудиторию и в Соединенных Штатах. Так, согласно исследованию маркетингового агентства Sensor Tower, приложение iReader в 2021 году загрузили 1,5 млн раз, а Webnovel в 2022-м ― более 2 млн раз. И хотя в этом секторе доминируют китайские сервисы, американские приложения предлагают похожие продукты: например, Kindle Vella от Amazon содержит аналогичные темы и отчасти даже те самые истории, что и на других платформах. Ни на Facebook, ни на Instagram данный сервис не рекламируется.
В этом году интернет-портал Rest of World, освещающий новости мира технологий, писал, что китайские веб-романы часто оказываются чрезвычайно прибыльными ― компании зарабатывают на них до 10 раз больше, чем платят авторам. Но вся эта прибыль, вероятно, по большей части держится на маркетинге: издание Protocol сообщает, что в 2021 году 42,7% китайских веб-романов попало в поле зрения зарубежных читателей благодаря рекламе.
Рынок не ограничивается приложениями под покровительством Tencent или ByteDance. На позапрошлой неделе Forbes насчитал свыше 1000 рекламных сообщений от более сотни Facebook-страниц китайских приложений с веб-романами. Некоторые публикации не выходили за рамки допустимого, предлагая самые стандартные романтические истории, но другие нарушали политику Meta, запрещающую откровенно сексуальный контент.
Один пост, появившийся в ленте за день до публикации этой статьи, продвигал приложение под названием MoboReader и описывал сцену, в которой женщину пытается убить ее муж (сбивая ее машиной), а потом насилует другой мужчина. На просьбу прокомментировать эту запись в MoboReader не ответили.
Отрывок текста как минимум в 32 других рекламных публикациях в тот же день включал натуралистичное и романтизированное описание того, как девочка-подросток наносит себе повреждения после изнасилования. Эти объявления были запущены приложением Supernovel, в пользовательском соглашении которого владельцем значится Cloudary Holdings, дочерняя фирма Tencent. В обеих организациях какие бы то ни было связи с приложением отрицают.
В 2019 году китайский блог TechNode сообщал, что китайское правительство на три месяца закрыло популярное среди китайских читателей приложение с веб-романами от ByteDance. Власти свое решение объяснили распространением «низкопробного контента непристойного содержания». Однако по мере роста индустрии веб-романов ByteDance и Tencent увеличили объем инвестиций в этот бизнес.
В декабре 2019-го ByteDance приобрел контрольный пакет акций в MyMind Culture, родительской компании нескольких приложений с веб-романами на китайском языке. В июле 2020-го медиагигант выкупил долю 10% в фирме Beijing Dingtian Culture Entertainment, управляющей аналогичными приложениями, включая SweetRead и DmRead. Через несколько месяцев ByteDance заплатил $170 млн за 11% активов в китайском магазине электронных книг Zhangyue, который также выступает разработчиком приложений iReader, ForNovel, Novelink, Favoread и Noveltells. В 2021 году ByteDance запустил сервис Mytopia, нацеленный, как и iReader, на зарубежную аудиторию.
Билли Кенни, пресс-секретарь ByteDance, утверждает, что корпорация (в Zhangyue она вложилась через свое инвестиционное подразделение Quantum Jump) «не имеет никакого отношения к стратегии развития глобальных продуктов и бизнеса Zhangyue». Тем не менее в апреле Zhangyue заявлял акционерам: «Господин Чжан Чао, директор подразделения новых предприятий ByteDance, занимает в компании руководящую должность. Наша компания и ByteDance сотрудничают в различных сферах, таких, как авторское право и реклама». На возникшие в этой связи вопросы о характере данного сотрудничества Кенни не ответил.
Tencent владеет конгломератом China Literature, контролирующим флагманское англоязычное приложение Webnovel через компанию Cloudary Holdings. В пользовательских соглашениях ряда других приложений, рекламируемых на Facebook, в том числе iNovel, eReader, SuperNovel, PopNovel, Mobooks и MyNovel, фирма Cloudary Holdings указана как управляющая организация. Тем не менее Мэгги Чжоу, пресс-секретарь China Literature, заявила Forbes, что эти сервисы не находятся во владении China Literature или Cloudary Holdings и не управляются ими.
Многие из этих приложений, по-видимому, также берут контент у инфлюенсеров и из сериалов и кинофильмов. Вдобавок к рекламе с Неймаром Zhangyue пускали в ленту объявления с фотографиями других знаменитостей, включая Кайли Дженнер и фитнес-инфлюенсера Чадоя Леона. Изображение блогера было пририсовано к фотографиям напуганной женщины, сам он говорит, что об iReader слышит впервые: «Фотографиями они пользуются без моего разрешения». Представитель Дженнер давать комментарий по этому поводу отказался.
В рекламе приложений Zhangyue, а также iNovel, Supernovel и др. используются фрагменты известных фильмов, включая «Сумерки», «Звездные войны», киноленты по комиксам DC и Marvel. Представитель Warner Bros. (владельца комиксов DC) заявил, что контент киностудии был использован без разрешения, в Disney (владелец Marvel и франшизы «Звездные войны») и Summit Entertainment (правообладатель серии фильмов «Сумерки») на запросы о комментарии не ответили.
На многих Facebook-страницах, запускающих подобную рекламу, также видны признаки обхода запретов, то есть компании сознательно избегают блокировок со стороны Meta. Некоторые приложения нарочно пишут с ошибками слова, которые могут привести к жалобам. В одной публикации от iReader персонаж был описан «видимой буквой V, нисходящей к его ген.ит4лиям». На других страницах iReader, включая рекламу Noveltells и Novelink, к бранным словам добавлялись лишние буквы, чтобы получалось, например, «суччка» или «шллюха».
Новые приложения выводили рекламу сразу на много страниц. Такая тактика часто применяется сетями, чтобы одно или два удаления материала не свернуло всю кампанию. Публикации, продвигавшие приложение Noveland, размещались как со страниц под названиями от Noveland1 по Noveland8, так и с другими вариантами вроде Noveland App или Noveland Romance Story. Страницы Noveland11, Noveland12 и Noveland13 были созданы в прошлом месяце, но на данный момент рекламных объявлений не запускали. Запросы комментариев в Noveland были проигнорированы.
Другие рекламные посты были сделаны со страниц с более запоминающимися названиями. Так, некоторые записи, продвигавшие iReader, были размещены со страниц на тему оборотней под названиями Alpha King (англ. «Альфа-король»), Gamma Fire (англ. «Гамма-огонь») и Ugly Mate (англ. «Ужасный приятель»), а также с бессмысленными заголовками вроде Genius Babies и Llj-Hhh. Приложение из Филиппин Pinky Novel публикует рекламные материалы со страницы под названием Kz Car Tint & Accesories, а приложение AhaNovel размещает объявления со страницы, которая называется Raped by Mr. CEO (англ. «Изнасилована господином генеральным директором»). На просьбы прокомментировать это ни Pinky Novel, ни AhaNovel не ответили.
Несмотря на то что Forbes отправил Meta жалобу на страницу утром 28 сентября, на момент написания данной статьи страница оставалась по-прежнему доступна.
Зато неактивна теперь страница, на которой Facebook в 2021 году рассказывал о Webnovel как об «истории успеха» в области рекламных партнерств. На вопрос о том, является ли приложение Webnovel, по мнению Meta, примером для других рекламодателей по сей день, пресс-секретарь корпорации не ответил.
Перевод Антона Бундина