Роскомнадзор усилит поиск запретного визуального контента искусственным интеллектом

Главный радиочастотный центр (ГРЧЦ, подведомственен Роскомнадзору), планирует в 2022 году запустить систему поиска противоправного контента на изображениях и видео в интернете «Окулус». Об этом пишет «Коммерсантъ» со ссылкой на тендер стоимостью 15 млн рублей на разработку системы. Эксперты предупреждают, что работа такой системы может замедлить работу анализируемых ею с помощью искусственного интеллекта ресурсов. 

Система будет выявлять распространение экстремистских материалов и порнографии, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству, описано в техническом задании к тендеру по разработке. Сейчас поиск нарушений в изображениях и видео происходил вручную, применение в этом процессе искусственного интеллекта (ИИ) позволит «ускорить процесс», отмечается в документации. Завершить работы нужно до 17 декабря 2021 года.

С 2019 года товарный знак Oculus закреплен за Facebook, которая развивает VR-систему под этим брендом. По поводу его использования с интернет-компанией судилась ветеринарная клиника ООО «Эко». Во время спора Facebook подала заявку на товарный знак «Окулус» в кириллическом варианте. Ее одобрили в марте 2021 года, указано в базе Роспатента.

У Facebook теоретически есть возможность запретить компьютерные программы и информационные сервисы под этим названием, если ГРЧЦ будет использовать его при оказании коммерческих услуг, отметил зампред комитета по интеллектуальной собственности Российского союза промышленников и предпринимателей (РСПП) Анатолий Семенов. Однако по его словам, ГРЧЦ не относится к юридическим лицам, осуществляющим коммерческую деятельность.

Материалы на самом Facebook войдут в зону мониторинга системы. Текстовый контент уступает место фото- и видеоматериалам, которые сильнее влияют на сознание человека, объяснили в ГРЧЦ. «По информации TikTok, количество ежемесячных пользователей сервиса выросло с 2018 года на 800%, в Facebook посты с изображениями привлекают пользователей в 2,3 раза чаще, чем сообщения без них, именно в таком контенте появляется все больше запрещенной законами Российской Федерации информации», — отметили в центре.

В интервью газете в мае глава Роскомнадзора Андрей Липов прогнозировал, что к концу года объем информации, которую смогут проанализировать сотрудники на предмет нарушений, увеличится благодаря ИИ в 14 раз. В июле Роскомнадзор уже заказал за 41,7 млн рублей доработку системы мониторинга телерадиовещания, чтобы превращать аудиозаписи в текст, отмечает газета. Это позволит ему эффективнее искать нарушения в телевизионном контенте и радиоэфире. В конце августа было объявлено о закупке «автоматизированной системы мониторинга нарушений прав субъектов персональных данных в сети» за 41,1 млн рублей, а в середине сентября — системы мониторинга сайтов за 58,5 млн рублей.

Разработка системы «Окулус» может стоить от десятков до сотен миллионов рублей, ее внедрение обойдется в миллиарды, а обслуживание — в десятки миллионов в год, оценил совладелец компании «Ланит-Терком» Владимир Уфнаровский. Реализовать такой проект в масштабах рунета будет проблематично, отметил исполнительный директор Artezio (входит в группу «Ланит») Павел Адылин. «Нужно не только разработать систему мониторинга, но и обеспечить прохождение через нее всего интернет-трафика», — сказал он. Но если все видеоматериалы и изображения будут подвергаться предварительной фильтрации, добавил эксперт, скорость доступа в интернет существенно замедлится — пользователям придется ждать, пока ИИ проанализирует контент.