Ловцы радуги: как видеосервисы выявляют пропаганду ЛГБТ
RuTube без ЛГБТ
Национальный видеохостинг RuTube (входит в «Газпром-Медиа», ГПМ) тестирует технологии для автоматического выявления запрещенного ЛГБТ-контента в пользовательских загрузках, рассказал Forbes представитель RuTube.
«Автоматическая модель определения возможной ЛГБТ составляющей («международное общественное движение ЛГБТ» признано в России экстремистским и запрещено — Forbes) в видеоматериале сейчас работает в тестовом режиме на 30% контента от общего числа пользовательских загрузок», — сообщили в RuTube. В анализе видео используется система распознавания, выявляющая ЛГБТ-контент по цветовой гамме, символике и эмблемам. Комментарии с недопустимыми смайлами или ЛГБТ-символикой автоматически удаляются, говорит представитель сервиса: «В случае спорных материалов — финальное решение принимает эксперт-модератор».
Технологии автоматизированной оценки содержания материалов разработали в RuTube, они пока применяются только в рамках этой платформы, уточнил представитель сервиса. Ежедневная аудитория RuTube, по собственным данным, превышает 5 млн пользователей.
Запрещенный контент
ЛГБТ-материалы сейчас находятся под пристальным вниманием государства. Если они содержат в себе пропаганду нетрадиционных сексуальных отношений, регулятор обязан принять решение о блокировке интернет-ресурса, на котором они опубликованы.
Пакет поправок о полном запрете пропаганды ЛГБТ подписан президентом 5 декабря 2022 года. Нововведения расширили запрет на пропаганду ЛГБТ в отношении всех российских граждан — как взрослых, так и несовершеннолетних. С 2013 года он действовал только в отношении детей.
24 ноября 2022 года госсекретарь США Энтони Блинкен в своем аккаунте в соцсети X (ранее называлась Twitter, заблокирована в России) предупредил, что «расширение информационного запрета станет очередным серьезным ударом по свободе самовыражения и правам человека ЛГБТКИ+ персон в России». Он также призвал депутатов отозвать законопроект и уважать права человека и достоинство каждого.
Однако поправки в закон «Об информации» и КоАП, по данным сайта Госдумы, единогласно утвердили руководители всех фракций и более 300 депутатов. Председатель Госдумы Вячеслав Володин счел это «лучшим ответом Блинкену». «Не надо нам навязывать чуждые ценности», — заявил он.
В декабре 2022 года в КоАП также были внесены изменения, которые ввели административную ответственность за демонстрацию ЛГБТ для несовершеннолетних через интернет и в СМИ.
Материалы с демонстрацией нетрадиционных сексуальных отношений должны иметь маркировку «18+», напоминает представитель Роскомнадзора (РКН). «Согласно российскому законодательству, владельцы аудиовизуальных сервисов (АВС, в реестре РКН к этой категории относится 24 сервиса) обязаны самостоятельно выявлять и исключать с принадлежащих им ресурсов все материалы с ЛГБТ-пропагандой, а также обеспечивать распространение аудиовизуальных произведений с демонстрацией ЛГБТ со знаком «18+» в закрытом контуре недоступном для несовершеннолетних», — уточняет представитель ведомства.
«Границы размыты»
Автоматическая модерация ЛГБТ-контента — это экзотика для онлайн-кинотеатров, отметил в разговоре с Forbes топ-менеджер телекоммуникационной компании, развивающей крупный стриминг. По его словам, отдельные сервисы исследуют возможность применения технологий искусственного интеллекта, но пока модерация осуществляется «в ручном режиме» из-за неоднозначности понятия пропаганды ЛГБТ.
Непонятно, что считать «ЛГБТ-пропагандой», соглашается источник в IT-компании, занимающейся анализом изображений. «Условно, если две девушки держатся за руки или двое мужчин обнимаются — это оно или не оно? Границы размыты», — констатирует собеседник Forbes.
В стриминге «Триколор кино и ТВ онлайн» «Национальной спутниковой компании» (НСК) модерация медиатеки осуществлялась силами штатных сотрудников. Это следует из решения Московского районного суда Санкт-Петербурга, где рассматривалось дело о распространении стримингом ЛГБТ-пропаганды.
«В «Триколор» — 50 000 часов на каналах и в VoD (video on demand, «видео по запросу». — Forbes), и их осматривают четыре редактора отсмотра. С декабря 2022 года по настоящее время (август 2023-го. — Forbes) четыре редактора отсмотра посмотрели полностью «от и до» более 2000 тайтлов (наименований, в сериях и того больше) и по итогам отсмотра отцензурировали в той или иной степени порядка 1000 тайтлов. Из них: сняли с публикации навсегда — 184 тайтла, сняли с публикации, отцензурировали, вернули в публикацию — 25 тайтлов, исправили возрастную маркировку — 790 тайтлов», — приводится в решении позиция представителя НСК.
По словам президента компании «Крибрум» (разрабатывает IT-решение для мониторинга соцсетей) Игоря Ашманова, автоматическая фильтрация контента имеет смысл в случае, если на площадку загружаются ролики «широкими народными массами», как на YouTube или TikTok. У российских онлайн-кинотеатров все же не так много контента, чтобы они не имели возможности отмодерировать ЛГБТ-сцены силами штатных сотрудников, уверен он. Ошибки в работе автоматических систем фильтрации ЛГБТ-контента в стримингах, по его словам, не заметит большая часть аудитории.
Одним из последствий этой ситуации стало то, что она добавила преимуществ пиратам, говорят участники рынка. «Пиратские сайты в выгодном положении. Они не только пожинают плоды от показа нелегального контента, в том числе ЛГБТ, и получают доходы от рекламы, но и блокировать их некому, так как зарубежные мейджоры, которые раньше могли пожаловаться на то, что их контент распространяется нелегально, и заблокировать ресурс, ушли с рынка, — поясняет источник Forbes в одном из российских онлайн-кинотеатров. — При этом государственные органы продолжают штрафовать легальные онлайн-кинотеатры и телеканалы за демонстрацию и пропаганду ЛГБТ в то время, как тот же самый контент можно посмотреть на любом пиратском сайте и бесплатно и без ограничений».
Обучение от регулятора
С начала действия закона о запрете ЛГБТ-пропаганды РКН провел масштабную профилактическую работу с представителями АВС и телеканалов по разъяснению критериев отнесения информации к запрещенной из-за наличия пропаганды и демонстрации ЛГБТ, заявил Forbes представитель ведомства.
«В ходе консультаций на конкретных примерах детально прорабатывалось применение норм законодательства. На базе ГРЧЦ (Главный радиочастотный центр.— Forbes) проведены двухдневные образовательные семинары для представителей отрасли, на которых у участников была возможность задать интересующие их вопросы. Профилактический период длился четыре месяца, за это время сервисы имели возможность внести необходимые изменения в свои медиатеки», — сообщили в РКН.
По данным ведомства, с момента вступления в силу поправок в КоАП 5 декабря 2022 года РКН составил протоколы по ч. 2 ст. 6.21.2 КоАП РФ (демонстрация ЛГБТ несовершеннолетним без соответствующей маркировки. — Forbes) в отношении 12 аудиовизуальных сервисов, общая сумма наложенных судом штрафов составила 29,3 млн рублей.
Допущенные АВС нарушения запрета демонстрации ЛГБТ несовершеннолетним легко выявляются и подтверждаются в судебном порядке, обращают внимание в РКН. Каждый случай, составленный протокол и размер штрафа рассматриваются и определяются судами в индивидуальном порядке. За такое правонарушение КоАП предусматривает штрафы: для должностного лица до 400 000 рублей, для юридического — до 4 млн рублей, либо административное приостановление деятельности на срок до 90 суток.
«В последнее время РКН отмечает существенное снижение количества выявляемых материалов у АВС, содержащих некорректную возрастную маркировку картин с демонстрацией нетрадиционных сексуальных отношений. Последний раз РКН выявлял такие нарушения в ноябре 2023 года. Это говорит о том, что владельцы аудиовизуальных сервисов ответственно подходят к исполнению своих обязанностей и приводят медиатеки в соответствие с требованиями закона», — констатирует представитель ведомства.
Чтобы обеспечить такое «существенное снижение», участникам рынка приходится перераспределять силы и тратить время и деньги, которые, по собственному их признанию в неофициальных беседах, достойны лучшего применения. Например, если библиотека онлайн-кинотеатра содержит 80 000 единиц контента средней продолжительностью час, то чтобы отсмотреть весь этот контент в рабочее время, нужно 40 лет — такие оценки приводит источник в одном из крупнейших российских онлайн-кинотеатров. По его словам, у команды из 20 человек с учетом отпусков на это уйдет два с половиной года: «Для онлайн-кинотеатра это очень большая команда. И вариантов сократить этот срок крайне мало. Кроме того, есть случаи, когда правообладатели не хотят принимать никаких рисков и без четких разъяснений от РКН удаляют в фильмах и сериалах целые сцены или сюжетные линии. Происходит самоцензура и чрезмерное редактирование. И подписчики, конечно, нам жалуются и ругаются на такие исправленные версии».
К моменту принятия нового закона, по словам представителя стриминга «Триколор», компании пришлось выделить дополнительный ресурс на техническую обработку контента — вырезание сцен, заблюривание, редактирование и т.д.
«Поскольку четких критериев оценки контента у нас не было, мы приняли решение отправить редакторский штат компании на обучение, организованное регулятором. Образовательный курс очевидным образом помог редакторам: в формулировании подхода к оценке фильмов, в умении увидеть полифонию факторов, влияющих на присвоение фильму маркировки «18+» или определение его как пропаганды нетрадиционных ценностей. Большому количеству фильмов невозможно дать оценку на основании какого-то одного понятного критерия. Необходимо учитывать как макро-, так и микроконтекст: поведение и мотивацию героя, его позиционирование, последствия, с которыми он сталкивается в ходе развития сюжета, обобщения — прямые или опосредованные, наконец, отношение самого автора к тезисам, излагаемым в фильме. На подобный глубокий взгляд способен лишь человек — автоматизированные системы вряд ли сумеют оценить в совокупности столь обширный набор факторов, часть из которых к тому же считывается неявно, подспудно», — рассуждает представитель «Триколор».
Стриминг Start, по словам руководителя юридического департамента Ольги Куменковой, проверяет «абсолютно весь контент». «Для этого у нас есть штатная команда редакторов-модераторов, которую мы усилили в этом году, и, конечно, команда юристов, которая прошла обучение, организованное регулятором, — рассказала Куменкова. — Если обнаруживаем сцены, которые напрямую попадают под ограничения, где изображено курение, распитие алкогольных напитков, употребление наркотиков, сцен насилия, интимных и других эпизодов, мы в обязательном порядке маркируем их соответствующими возрастными ограничениями. Или, если это возможно, вырезаем подобные сцены, но при принятии этих решений мы стараемся также советоваться с авторами и стремимся максимально сохранить сюжет и художественный замысел. Если выходят новые законы или обновляются действующие, редакторы-модераторы заново отсматривают весь выпущенный контент и сверяют его в соответствие с новыми правилами — это общерыночная практика».
«Закон и нормативные акты, а также полученные разъяснения в текущем виде не дают достаточных точных критериев для определения демонстрации и пропаганды нетрадиционных отношений. Более того, нет ни открытых данных, ни готовых технологий, которые позволили бы отсмотреть около 100 000 единиц контента», — рассуждает представитель «Кинопоиска» (принадлежит «Яндексу»). По ее словам, «Кинопоиск» не вносит самостоятельно изменения в лицензионный контент, переданный правообладателями. «Мы показываем его в том виде, в котором нам передал его правообладатель или партнер», — добавила представитель «Кинопоиска».
Радужное будущее
Впрочем, даже после обучения у сервисов остаются вопросы по модерации ЛГБТ-сцен, признает собеседник Forbes в одном из стримингов. Новые вопросы появились после того, как Верховный суд 30 ноября признал экстремистским и запретил в России «международное движение ЛГБТ».
«Сидели с коллегами у компьютера и пересчитывали полоски на хвосте у пони», — описывает свой рабочий день в декабре 2023 года редактор одного из крупнейших российских онлайн-кинотеатров. Пони зовут Рэйнбоу Дэш — это одна из героев мультсериала «Мой маленький пони: дружба — это чудо». Ее грива и хвост окрашены в цвета радуги, а радужный флаг считается международным символом ЛГБТ. С учетом требований закона в оригинальном изображении Рэйнбоу Дэш можно усмотреть демонстрацию нетрадиционных сексуальных отношений, что, в свою очередь, обязывает онлайн-кинотеатр ставить максимальную возрастную маркировку «18+».
«Ну кто будет на стоп-кадре смотреть, сколько у нее полосок», — возмущается ее коллега, топ-менеджер медиакомпании. Работу по квалификации контента на наличие демонстрации нетрадиционных сексуальных отношений он сравнивает с тем, как если бы сотрудник дорожной полиции измерял скорость автомобилей на глаз. Сотрудники стриминга не уточнили, какое решение приняли в отношении Рэйнбоу Дэш. Пока мультсериала нет в поисковой выдаче этого сервиса. В другом онлайн-кинотеатре, «Кинопоиске», сериал «Мой маленький пони: дружба — это чудо» в декабре получил новый возрастной рейтинг «18+», хотя на российском телевидении его показывали на канале «Карусель» всем детям, отмечает издание «Бюллетень кинопрокатчика».
Больше всего изменилось то, что тема нетрадиционных отношений полностью пропала из новых российских сериалов и фильмов, констатирует источник в одном из крупнейших онлайн-кинотеатров. Никто, по его словам, не хочет рисковать даже с шутками и анекдотами, тема просто «исчезает с экранов».
Из-за нечетких и недостаточно объективных критериев приходится поднимать возрастные маркировки в том числе и на мультфильмы, где демонстрацией нетрадиционных отношений может быть, например, кросс-дрессинг или шутка, сетует собеседник Forbes. «И это особенно удивительно, когда само по себе переодевание мужчин в женскую одежду для маскировки или игры часто встречается в советских фильмах, любимым поколениями зрителей. Это и «Здравствуйте, я ваша тетя», и «Добро пожаловать, или Посторонним вход воспрещен», и т.д. Теперь внезапно в этом видят исключительно смену пола или гендера», — заключает он.