Пермского убийцу не смогли выявить из-за «среднего уровня сетевой активности»

Огонь в Пермском государственном национальном исследовательском университете утром 20 сентября открыл 18-летний первокурсник, шесть человек погибли, 29 были ранены. События развивались по сценарию, схожему с казанским расстрелом, с момента которого прошло всего несколько месяцев. Такие теракты настолько участились в России, что для них стали использовать специальные термины — «скулшутинг» (от английского school shooting — расстрел в школе) или «колумбайн» (по названию школы в США, где в 1999 году двумя учениками были убиты 13 человек). 

Для предотвращения подобных трагедий в 2018 году по поручению Владимира Путина был создан «Центр изучения и сетевого мониторинга молодежной среды» (ЦИСМ). Структура, учрежденная Росмолодежью, славится закрытостью и внушительными бюджетами. Руководитель ЦИСМ Денис Заварзин рассказал Forbes, как работает организация, на что тратит бюджетные деньги и почему не смогла предотвратить расстрелы в Казани и Перми.

Как угодить в мониторинг, «красную зону» и к силовикам

— Сколько людей, по вашим оценкам, вовлечены в деструктивные сообщества? 

— Мы в данном случае будем говорить больше не про людей, а про аккаунты. Все прекрасно понимают, что за одним человеком может стоять до пяти аккаунтов. Через свою систему по пяти направлениям, которыми мы занимаемся, видим чуть больше 61 млн аккаунтов, которые хотя бы один раз касались деструктивного контента. Но это не значит, что они его производят или постоянно потребляют. На постоянном мониторинге у нас находится порядка 1,5 млн аккаунтов, которые именно системно потребляют или генерируют этот деструктивный контент.

— Вот эти полтора миллиона — какая это возрастная группа? 

— Это пользователи всех возрастов. Отдельное внимание мы уделяем детям, но в то же время большую часть такого контента генерируют взрослые и вовлекают в него несовершеннолетних.

— Находился ли пермский убийца на постоянном мониторинге ЦИСМ? 

— Аккаунт не находился на постоянном мониторинге. Пользователь имел средний уровень сетевой активности, лайками отмечал публикации, связанные с международной военной повесткой. Характерных маркеров, указывающих на приготовление к совершению нападения, зафиксировано не было. К тому же страница была создана лишь за месяц до трагедии, 21 августа 2021 года. Аватар отсутствовал, сетевой профиль не проявлял аномальной активности.

— Перед расстрелом пермский убийца разместил у себя на странице «ВКонтакте» подробное письмо. Отследил ли его ЦИСМ и, если да, почему не успел среагировать? 

— Письмо на стене — единственная запись в профиле — появилась за 30 минут до нападения, автор использовал функцию отложенной публикации. Поэтому мы, как и представители администрации социальной сети «ВКонтакте» и правоохранительных органов, могли увидеть ее лишь в моменте. После совершения преступления страница была оперативно заблокирована соцсетью. Далее сотрудники центра передавали все выявленные аккаунты и каналы с указанием данных нападавшего в Роскомнадзор для ограничения доступа к информации.

— Вы упоминали, что работаете по пяти направлениям. Каким? 

— Это суицидальный и депрессивный контент, информация о вооруженных нападениях на учебные заведения, анархизм, ультрадвижения и распространение криминальных сообществ.

— Что означает «находятся на постоянном мониторинге»?

— У нас работает нейросетевой комплекс, в базы которого попадают такие аккаунты. И в автоматическом режиме идет постоянное наблюдение за их активностью. Если они увеличивают свою активность, то попадают в «красную зону». Операторы более внимательно их изучают: идет разбор профилей с участием психологов-аналитиков, формируется аналитическая информация и потом передается либо в соответствующие службы для организации профилактической работы с владельцами, если мы видим какую-то суицидальную активность, либо в правоохранительные органы, если мы видим признаки приготовления к совершению преступления.

— А что должны сделать ваши «подопечные», чтобы попасть в «красную зону»?

— Это не наши подопечные. Это может быть группа анонимных аккаунтов, в которой начинает развиваться деструктивная активность. То есть, условно, в аккаунте один комментарий в день был, а тут у него десять появляется. Это аномальная активность. Мы обращаем более пристальное внимание.

— Содержание этих комментариев тоже мониторится или только количество? 

— У нас идет именно семантический анализ этих комментариев, и они анализируются с учетом эмоционального окраса — пропаганда или, наоборот, осуждение.

— Я правильно понимаю, что если человек не интересуется в соцсетях деструктивом, то не попадет к вам в мониторинг? Это ведь как раз случай казанской трагедии. 

— Если анализировать казанскую трагедию, то у него не было активности в социальных сетях с января 2019 года. И каких-то маркеров, по которым мы бы на него сориентировались, точно не было. Свою информацию он разместил не в соцсети, а в мессенджере. И на момент совершения преступления он был там единственным подписчиком.

— В своей группе в Telegram?

— Да, он был единственным подписчиком этой группы. Понятно, что через три часа после совершения преступления там уже порядка 1500 пользователей было, которые подписались на него. Но до этого он был один. Создатель мессенджера Павел Дуров сказал, что за такой короткий промежуток времени, даже обладая кодами, невозможно обнаружить такого пользователя.

— А вы мониторите мессенджеры? 

— У нас нет мониторинга мессенджеров. Мы занимаемся изучением социальных сетей.

— А если ребенок или подросток не состоит в деструктивном паблике, но при этом, допустим, у себя на стене или в ленте пишет, что его бесят одноклассники? 

— Мы это увидим по семантике. Необязательно надо состоять в какой-то группе, чтобы ты попал в поле зрения. Но мы говорим именно об открытом сегменте социальных сетей. Если у человека страница закрыта, мы ее не видим. Если идет личная переписка между пользователями, мы ее тоже не видим.

— В случае если у вас загорается какой-то «красный флажок», ваши дальнейшие действия? 

— У нас готовится информационная справка, мы прикладываем ее к материалам, которые направляем в правоохранительные органы. Там с ними уже ведется точечная работа. На месте представители правоохранительных органов проводят либо профилактическую работу, либо уже какие-то превентивные меры принимаются. Мы можем сказать, что с помощью нашей системы было предотвращено 14 нападений на школы и были привлечены к уголовной ответственности 18 человек.

— Что именно вы передаете силовикам? Ссылку на аккаунт? 

— Они получают подробную информационную справку. Мы отправляем это по закрытым каналам связи, и уже коллеги принимают дальнейшее решение. В том числе самостоятельно устанавливают подлинную личность владельца, устанавливают регион реального пользователя и проводят с ним профилактическую работу.

— С какой частотой вы выявляете и передаете подозрительные аккаунты, скажем, в месяц? Это сотни, тысячи или десятки? 

— Это десятки в месяц. Около ста.

— По году, если грубо, получается около тысячи аккаунтов. А сколько из них конвертируется в уголовные дела? 

— Сложно сказать. Мы зачастую видим это постфактум, когда информация выходит в средствах массовой информации. Здесь нет никакой статистики — каждый случай индивидуален.

— Если были привлечены к ответственности 18 человек, а вы их тысячами выявляете, то получается не слишком высокая результативность. 

— Нет. Это говорит о том, что мы помогаем правоохранителям искать иголку в стоге сена. А дальше вопрос риторический. Если даже одно нападение на школу удается предотвратить — это уже спасенные жизни детей. Это уже большая победа. А мы говорим не об одном и даже не о двух предотвращенных вооруженных нападениях. Вы можете говорить, что это низкая эффективность? Уверен, что родители спасенных детей считают иначе.

— Есть мнение, что силовики движимы «палочной системой» и пачками заводят уголовные дела на основе информации в соцсетях. 

— Про «палочную систему» не нам оценивать. Важно спасти человека, чтобы он не навредил ни себе, ни окружающим. Поэтому система профилактики важнее.

На что уходят деньги

— Если не ошибаюсь, буквально на следующий день после создания ЦИСМ случился массовый расстрел в Керчи. Вы тогда ничего не успели предпринять?

— В первый месяц работы центра произошло это трагическое событие. На том этапе была только команда людей, которая готовилась создать программный продукт. Мы смотрели, какие системы существуют, как это работает, и потом приняли решение, что нам проще создать свою систему для того, чтобы выявлять на ранней стадии такие события. Потому что преимущественно все системы показывают уже постфактум, как распространялась та или иная информация.

— Говорят, у вашей системы нет аналогов? 

— Наша система действительно уникальная. Потому что мы постоянно работаем над тем, чтобы как можно раньше выявлять вещи, которые могут со временем привести к трагическим событиям. По косвенным признакам. Это наша уникальная разработка, коды писали самостоятельно.

— У вас есть какая-то команда программистов? 

— Да, у нас и команда программистов, у нас есть и отдельный аналитический блок, у нас есть и отдельный блок, который занимается методическим сопровождением, то есть выработкой рекомендаций, что нужно делать в случае, если мы видим какие-то отклонения.

— Какой у вас вообще штат? 

— Давайте я не буду называть точную цифру. Скажем, более 40 человек.

— Программистов из них сколько?

— Львиная доля.

— Насколько я понимаю, ваша система базируется на разработках компаний, которые занимаются социальным мониторингом, — «Крибрум», Brand Analytics и «Медиалогия».

— Мы взаимодействуем с несколькими партнерами, которые предоставляют нам информацию. Эти данные мы затем анализируем. Одним из наших ключевых партнеров является «Крибрум». С Brand Analytics и «Медиалогией» тоже работаем.

— Какие именно данные они вам предоставляют?

— Зачем рассказывать подробности? Чтобы преступников проинформировать?

— Тогда скажите, сколько ЦИСМ тратит на услуги подобных подрядчиков?

— Я бы про деньги не стал разговаривать вообще.

— Почему?

— У нас есть контролирующие органы, которые осуществляют аудит, на что и куда мы тратим средства.

— Вы же видели сюжет Ксении Собчак, которая раскритиковала вас за непрозрачность расходования бюджетных средств. 

— Мы не избираемся в парламент, не выходим на IPO, у нас нет необходимости быть публичной компанией. При этом у государства есть вся информация об эффективности вложений в ЦИСМ.

— Я так понимаю, что в 2019 году вы освоили 800 млн рублей госсубсидий на производство некоего контента в интернете? 

— Да, действительно, было 800 млн на создание позитивного контента. Позитивный контент распределялся на четыре основных направления — это интернет-СМИ, создание видеоконтента, программное обеспечение и различные игры, контент в блогосфере. На эти четыре направления были направлены средства. 43 проекта по этим направлениям было поддержано на тот момент. Была сформирована методика оценки проектов, был экспертный совет, конкурсная комиссия. Это многоуровневая процедура распределения средств. Это не то, что я и мои сотрудники по своему внутреннему убеждению принимали решения. Это большая коллективная работа.

— А кто входил в эти комиссии? 

— В экспертную комиссию входили 11 человек, в конкурсную комиссию, по-моему, семь человек.

— Это представители каких-то ведомств? 

— Это представители разных органов, ведомств. Достаточно уважаемые люди в сфере культуры.

— На эти 43 проекта все 800 млн ушли?

— Да.

— Если не ошибаюсь, там были достаточно серьезные плановые показатели по охвату — около 250 млн просмотров.

— Там более 500 млн просмотров было в итоге.

— По факту?

— По факту, да. Это та отчетность, которая вошла в отчет по Нацпроекту.

— Мне попадался отчет Счетной палаты, в котором указано, что там около 93% выполнение плана. А вы говорите, что, наоборот, план в два раза был перевыполнен.

— Оценка результативности была по количественному показателю, по просмотрам, и этот количественный показатель точно был выполнен.

— Почему тогда в дальнейшем эти мероприятия передали в ведение Института развития интернета?

— Было решено определить специального оператора этих денежных средств — Институт развития интернета, сотрудники которого обеспечивают все процессы, связанные с организацией конкурса и сопровождением победителей. Это все-таки другая специфика деятельности. Это правильное решение.

— Вам это как-то объяснили? Может, остались недовольны результатом или тем, как вы распорядились этими средствами?

— Мы выполнили задачу на старте. Теперь этим занимается специализированная организация. Все логично.

— Если говорить про расходы непосредственно на деятельность ЦИСМ. Я так понимаю, это примерно 300 млн рублей в год. Судя по вашим отчетам в Минюст, около 150 млн — это зарплаты и расходы на офис. Остальное, вероятно, программная и техническая составляющие. Можете сказать, как эта сумма расщепляется?

— Вы же сами сказали, что, по многим заявлениям, у нас уникальная система и аналогов ее нет. Поэтому сразу понятно, куда идут деньги. У IT-компаний самая большая статья расходов — это фонд оплаты труда. Это общеизвестно.

Откуда взялся ЦИСМ и чем еще занимается

— Есть мнение, что инициаторами создания ЦИСМ выступили Игорь Ашманов (управляющий партнер компании «Ашманов и партнеры») и его жена Наталья Касперская. Вы как считаете, можно их назвать родоначальниками вашей организации?

— Наталья Касперская, которая давно занимается вопросами безопасности детей в сети и является экспертом в этой области, была на встрече с президентом и действительно выступила с таким предложением. Но, думаю, и она согласится с тем, что наша организация создана по поручению президента.

—  А вы ведь до создания ЦИСМ работали в Росмолодежи?

—  Да, все верно. Я был помощником руководителя.

—  Неужели вам, как людям, которые курируют молодежь, самим не приходила в голову такая идея? Почему надо было дожидаться какой-то частной инициативы?

—  Идеям требуется ресурсное обеспечение. Ресурсы выделены по поручению президента.

—  В общем, Касперская, по сути, сдвинула дело с мертвой точки?

—  Она обратила внимание главы государства на эту проблему.

—  Раз уж зашла речь о Росмолодежи. Вы, естественно, знаете, недавно сменился глава агентства. Были предположения, что это связано с трагедией в Казани, плюс якобы было недовольство тем, что молодежь массово выходила на политические митинги в начале года. Могло это повлиять?

 —  Александр Вячеславович [Бугаев, бывший глава Росмолодежи, сегодня первый замминистра просвещения] хороший, грамотный руководитель. Не вижу зависимости от «казанского шутера» или событий с выходом молодежи на улицы в ходе акции протеста. Думаю, что были приняты управленческие решения на уровне правительства. Нынешний «фронт работы» Александра Вячеславовича с точки зрения социальной и государственной значимости не уступает должности руководителя Росмолодежи, а по иерархии точно не ниже. В сфере школьного образования — так порядком выше.

— Если говорить про протестную активность — это как-то касается сферы деятельности ЦИСМ?

— Нет, мы не занимаемся этим вопросом. Наше внимание направлено на угрозы детской безопасности, когда дети могут навредить сами себе либо окружающим.

— Еще вы занимаетесь блокировками.

— Полномочиями по внесудебной блокировке сайтов наделена Росмолодежь. Мы в данном случае являемся экспертами. Соответственно, подготовив экспертное заключение, мы отправляем его в Росмолодежь, и они уже делают представления в Роскомнадзор.

— Сколько страниц вы уже заблокировали?

— На основании наших экспертных заключений заблокированы 13 724 материала (цифра на 21 сентября 2021 года).

— Это аккаунты или паблики?

— Это очень разные материалы: и группы, и отдельные аккаунты.

— Есть конспирологическая теория, что многие подобные паблики создаются некой единой группой лиц. Ваша аналитика это подтверждает или это больше теории заговоров?

— Есть, конечно, отдельные группы, которые были созданы одними и теми же людьми. Но не могу сказать, что есть всего пяток пользователей, которые создают весь деструктивный контент. Однозначно нет.

— А кто эти люди? Президент говорил, что это какие-то предприниматели, которые как-то это монетизируют…

— Есть люди, которые монетизируют. Например, есть паблики про запрещенную в России экстремистскую организацию, пропагандирующую криминальные идеи, в которых продается разная символика. Что касается депрессивного и суицидального контента, то я всегда говорю, что это люди нездоровые психически, наверное, страдают какими-то отклонениями, мнят себя сверхлюдьми, которые считают, что они могут управлять жизнями. А как по-другому? Какой нормальный человек создаст депрессивную или суицидальную группу? В голове не укладывается.

— Это точно. Еще один момент — так называемые контент-фильтры в школах. Что сейчас происходит с этой инициативой?

— Да, ЦИСМ поручали этот вопрос. Мы его проработали, дали предложения, как мы видим этот контент-фильтр. В правительстве примут решение — кто будет разрабатывать этот аппаратно-программный комплекс, на какие средства, кто будет устанавливать, как будет фильтроваться.

— Я слышал, что вы заключаете с отдельными регионами некие соглашения о сотрудничестве. В чем их смысл?

— У нас как таковых соглашений с субъектами нет. Мы с регионами взаимодействуем преимущественно через федеральный центр. Из некоторых регионов нам бывают иногда звонки, просят посмотреть те или иные аккаунты. Мы оцениваем точечно для них, и они уже дальше начинают работать.

— Есть версия, что вы контактируете с регионами, чтобы они, в свою очередь, запрашивали у школ информацию по соцсетям школьников.

— Мы ее можем самостоятельно установить в сети, нам не нужно ничего запрашивать.

— То есть так задача не стоит: получить какие-то данные от регионов по соцсетям школьников?

— Нет.

— А вам вообще это нужно?

— Мы и так видим все, что нужно.

Forbes поговорил с Заварзиным еще летом, для подготовки другого материала, который готовится к публикации. После трагедии в Перми интервью было актуализировано.