Роскомнадзор запустил систему поиска и классификации запрещенного видеоконтента
Подведомственный Роскомнадзору Главный радиочастотный центр запустил систему «Окулус», которая с помощью технологий искусственного интеллекта должна выявлять противоправный контент на фото или видео, в частности, экстремистские материалы, порнографию или «ЛГБТ-пропаганду». До запуска сотрудники ГРЧЦ анализировали запрещенный контент «преимущественно вручную», обрабатывая больше 200 фото и видео в день, сообщил представитель центра
Главный радиочастотный центр (ГРЧЦ), подведомственный Роскомнадзору, запустил систему «Окулус», которая с помощью технологий искусственного интеллекта (ИИ) призвана выявлять противоправный контент на фото или видео, в частности, экстремистские материалы, порнографию или «ЛГБТ-пропаганду». О запуске систем сообщают «Ведомости» со ссылкой на представителя ГРЧЦ, заказчика по проекту.
«Информационная система «Окулус» уже запущена и выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах», — сказал представитель ГРЧЦ. По его словам, система прошла тестирование в декабре прошлого года, а в январе началась ее интеграция в мониторинговые программы Роскомнадзора.
«Окулус» распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах, рассказал собеседник газеты из ГРЧЦ. Система автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и т.п, уточнил перечислил он.
До внедрения системы специалисты ГРЧЦ анализировали запрещенный контент «преимущественно вручную» и «обрабатывали» свыше 200 фото и видео в день, уточнил представитель центра. Он добавил, что до 2025 года систему планируется усовершенствовать. «Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», — подытожил собеседник.
Разработчиком «Окулуса» стала IT-компания Execution RDC. Ее представитель отказался от комментариев, сославшись на коммерческие отношения с заказчиком. Летом 2022 года ГРЧЦ выделил 57,7 млн рублей на разработку системы поиска противоправного контента «Окулус» Execution RDS. Сделать систему нужно было к 12 декабря, писал «Коммерсантъ» со ссылкой на материалы сайта госзакупок. По технической документации, «Окулус» должен в реальном времени анализировать изображения и видео, переписки в чатах и материалы каналов мессенджеров, URL-адреса и другие данные на предмет противоправного контента.
Система должна уметь находить такой контент как в текстовом виде, так и в «сценах, сочетаниях предметов, композициях образов, лицах, статике и динамике движений». Предполагается, что в «Окулус» должен быть реализован «функционал каталогов определяемой символики, сцен и действий, персоналий». Мощность системы должна составить 200 000 изображений в сутки, то есть в секунду «Окулус» будет анализировать два кадра или картинки.
По данным «СПАРК-Интерфакс», Execution RDS учреждено в 2014 году с уставным капиталом 10 000 рублей. Компания ранее не была исполнителем по госконтрактам. Она реализовывала проекты по внедрению в российских компаниях решений на базе софта немецкой SAP, сообщается на сайте компании.
По словам гендиректора компании «Социальная лаборатория» Наталии Тылевич, «Окулус» работает как классификатор с уже заданным набором источников информации, в которых анализируется контент: программа не занимается сбором данных, она их классифицирует. Риски использования «Окулуса» связаны с тем, насколько корректно или некорректно осуществляется классификация изображений и видео и насколько корректно они будут в дальнейшем интерпретированы в связке с другими компонентами системы и человеком, отметила Тылевич.