Страна советов: как депутат Горелкин намерен регулировать рекомендательные алгоритмы
«Следить буду строго»
Законопроект, автором которого является замруководителя комитета по информполитике Антон Горелкин, вводит поправки в закон «Об информации». Главная цель документа, по словам Горелкина — «сделать прозрачными механизмы рекомендаций и не допускать их применения в незаконных целях».
Согласно пояснительной записке, рекомендательными являются технологии предоставления информации на основе сбора и анализа сведений о предпочтениях интернет-пользователей на территории России. Законопроект обязывает владельцев информационных ресурсов выполнять ряд требований. Среди них — не допускать применения рекомендательных технологий, предоставляя информацию с нарушением российского законодательства, прав и интересов граждан и организаций. Кроме того, они должны информировать пользователей о применении таких алгоритмов.
Также владельцы ресурсов, которые используют такие инструменты, должны будут разместить правила их применения (помимо контактов для направления юридически значимых сообщений) и обеспечить доступ к ним. Поправки указывают и на то, каким должно быть содержание этих правил: описание рекомендательных технологий, виды сведений о предпочтениях пользователей, источники получения таких сведений.
Следить за выполнением этих правил будет Роскомнадзор; в случае нарушения установленных требований РКН вправе запрашивать у владельца ресурса информацию, связанную с применением рекомендательных технологий, «а также доступ к программно-техническим средства <…> для проведения оценки соответствия». Владелец должен будет предоставить информацию и доступ к системе в десятидневный срок. В случае неисполнения этих обязанностей владелец ресурса получит от РКН уведомление со сроком устранения нарушения. Если он не примет меры, служба направит требование о запрете применения рекомендательных технологий. Если и это требование не будет исполнено, РКН заблокирует ресурс до устранения нарушений. Примечательно, что, согласно пункту 15, нарушение владельцем информационного ресурса, на котором применяются рекомендательные технологии, требований законопроекта влечет за собой «уголовную, административную и иную ответственность».
Поправки должны вступить в силу 1 октября 2023 года и потребуют «выделения бюджетных ассигнований РКН на 2024-2026 годы в размере 24185,31 тысяч рублей», следует из пояснительной записки.
Позиция разработчика
«Мы видим, к чему приводит неконтролируемое применение рекомендательных алгоритмов крупными цифровыми платформами, — поясняет Антон Горелкин в своем Telegram-канале. — Исследователи фиксируют факты манипуляции: и в маркетинговых, и в политических целях. Психологи диагностируют у своих пациентов нервные расстройства, причиной которых становится так называемая «алгоритмическая тревожность». Именно поэтому тренд на регулирование рекомендательных технологий стал общемировым: все чаще законодатели разных стран говорят о необходимости регламентировать эту сферу, указывает он.
«Сегодня граждане подвергаются дискриминации со стороны цифровых платформ, применяя рекомендательные алгоритмы не столько для повышения пользовательского опыта, сколько для сбора данных, которые потом используются в самых разных целях (в том числе становятся предметом купли-продажи). В окончательной редакции законопроект призван ликвидировать эту дискриминацию», — пишет Горелкин. По словам депутата, документ предусматривает инструментарий для воздействия на ресурсы, которые при помощи рекомендаций вводят в заблуждение, распространяют фейки или еще каким-то образом нарушают российское законодательство — вплоть до блокировки. «Подобные злоупотребления должны пресекаться, мы не можем допустить, чтобы алгоритмы были оружием информационной войны. Планируется, что регулятор получит возможности для воздействия на тех, кто при помощи рекомендательных алгоритмов умышленно нарушает законодательство РФ и не реагирует на предупреждения», — обращает внимание он.
Предыстория
Регулирование рекомендательных сервисов обсуждается с 2021 года. Изначально депутаты обосновывали его необходимость тем, что контент, подобранный на основе рекомендательных алгоритмов в Facebook, Instagram (принадлежат Meta, которая признана в России экстремистской и запрещена), на YouTube и других ресурсах повышает риски социальных конфликтов. Против инициативы в разное время выступали владельцы соцсетей и поисковых систем, включая VK и «Яндекс», онлайн-кинотеатры, а также технологические стартапы, разрабатывающие рекомендательные алгоритмы.
На то, что рекомендательные технологии прочно вошли в жизнь пользователей, активно вмешиваясь и решая за них, какой фильм смотреть или в каком магазине купить тот или иной товар, указывали эксперты «Ростелекома» и АНО «Институт развития интернета» (ИРИ) в своем майском исследовании. За рубежом подобная ситуация с алгоритмами тоже тревожит многих. На то, что чересчур вольно обращаться с рекомендациями может и YouTube, указывали в сентябре 2022-го в Mozilla, где проанализировали алгоритмы видеохостинга: по их оценке, рекомендательные алгоритмы YouTube определяют до 70% контента, который попадает на глаза зрителю. Отдельно эксперты отмечают рост спроса на специалистов, занимающихся созданием и продвижением поисково-рекомендательных сервисов, что также «подтверждает значимость этой сферы в экономике и обществе».
«Досталось» и TikTok: по данным исследования NewsGuard, 20% размещаемой в TikTok информации не соответствует действительности, напоминали авторы отчета. Отдельно эксперты отмечали рост спроса на специалистов, занимающихся созданием и продвижением поисково-рекомендательных сервисов, что также «подтверждает значимость этой сферы в экономике и обществе».
Экспертное мнение
Источник Forbes, знакомый с ходом разработки законопроекта, напоминает, что законопроект обсуждался долго. «Непонятно, как можно осуществлять контроль над рекомендательными сервисами, а также как быть с иностранными ресурсами — интересно, как РКН YouTube проверять планирует? А вводить уголовное наказание при полной неясности, что именно Роскомнадзор будет контролировать, просто опасно», — считает собеседник Forbes.
«В финансово-экономическом обосновании (ФЭО) авторы проекта расписали целесообразность проекта — расширить функции РКН для контроля рекомендательных сервисов при нарушении законодательства о персональных данных», — замечает эксперт юридической фирмы DRC Евгений Кравченко, добавляя, что в положениях законопроекта написана более абстрактная норма, нежели в ФЭО. «GR и другим работникам нужно будет доходчиво и просто объяснить, как работают сложные технологии рекомендации. Решение о соответствии рекомендательных сервисов отдано на откуп работнику РКН, никаких четких критериев (не)соответствия нет — это, конечно, риск, так как все будет зависеть от квалификации работника РКН и способности компании объяснить ему ясно и понятно работу технологий», — считает он.
«Объект регулирования выбран заведомо неверно, — полагает независимый IT-эксперт Филипп Кулин. — Невозможно регулировать рекомендательные сервисы, можно регулировать разве что сбор теми или иными ресурсами данных пользователей. Но и это проблематично: как без аудита софта убедиться в том, какие именно данные собирает компания?» Кроме того, Кулин обращает внимание, что требования законопроекта не распространяются на госструктуры, которые не меньше коммерческого сектора подвержены утечкам данных.
Впрочем, по словам генерального директора Института исследований интернета Карена Казаряна, это компромиссная версия законопроекта. Изначально предполагалось, что интернет-ресурсы предоставят возможность пользователям отключать рекомендательные сервисы, что крайне проблематично для компаний с технической точки зрения и грозит им потерей аудитории, поясняет эксперт.
Требование информировать о работе рекомендательного алгоритма для онлайн-торговли не являются нововведением: сообщать, как устроена работа сервиса — привычная практика для онлайн-ретейлеров, комментируют в Ассоциации компаний интернет-торговли (АКИТ). «Фактически эта работа уже ведется — торговые площадки сообщают о политике конфиденциальности, об обработке персональных данных и другой необходимой пользователям информации, — заявили Forbes в АКИТ. — На наш взгляд, в этой новой версии законопроекта действительно найден компромисс: нет речи о главной угрозе для онлайн-ретейла — отключении рекомендаций, на алгоритме которых строится работа не только торговых площадок, но и множества онлайн-сервисов».
«Введение блокировки ресурсов за нарушение требований к рекомендательным сервисам – бессмысленная норма, потому что за те же нарушения ресурс можно заблокировать по статье о фейковых новостях», — добавляет Казарян. По его, в этой сфере нужно развивать саморегулирование, законы в ней работать не будут, так как это очень динамично развивающийся рынок. Реагировать на изменения, по его словам, проще, например, на базе Кодекса этики данных или Кодекса этики искусственного интеллекта.
«Рекомендательные системы помогают пользователям почти во всех современных сервисах. Они делают их удобнее и полезнее. Но текущая версия законопроекта пока не учитывает некоторые технологические особенности их работы, — заявили Forbes в «Яндексе». — Надеемся, что работа над текстом будет продолжена, и ко второму чтению документ будет доработан с учетом отраслевых и экспертных предложений».
В VK, Ассоциации «Интернет-видео» (объединяет онлайн-кинотеатры «Иви», Amediateka, Start, Okko, Viju, «Триколор»), Avito отказались от комментариев.