Власти могут потратить 1,6 млрд рублей на выявление социально опасных учащихся

Автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодежной среды» (АНО «ЦИСМ»), может получить из бюджета в ближайшие три года около 1,6 млрд рублей на разработку системы программного обеспечения для анализа письменных работ учащейся молодежи. Об этом сообщает РБК со ссылкой на пояснительную записку к проекту трехлетнего бюджета. 

Центр получит по 551,1 млн рублей в 2022-2023 годах и 555,7 млн рублей в 2024 году по федеральному проекту «Социальная активность», за исполнение отвечает Федеральное агентство по делам молодежи (Росмолодежь). В проекте пояснительной записки к трехлетнему бюджету уточняется, что эти средства пойдут на разработку софта для анализа письменных работ учащихся для выявления «склонности к социально опасному и деструктивному поведению». Из данных Федерального казначейства следует, что Центру в 2021 году выделялось на те же цели почти 245 млн рублей из резервного фонда президента, но они еще не перечислены ЦИСМ.

В беседе с Forbes глава ЦИСМ Денис Заварзин оценил число аккаунтов в соцсетях, которые «хотя бы один раз касались» деструктивного контента, в 61 млн. Он уточнил, что за одним человеком может стоять сразу несколько таких аккаунтов. Заварзин описал работу системы центра таким образом: в базу нейросетевого комплекса попадают разные аккаунты с суицидальным, депрессивным и другим аналогичным контентом, в автоматическом режиме система наблюдает за активностью таких страниц. Если активность увеличивается, аккаунт попадает в «красную зону».

Руководитель ЦИСМ отметил, что аккаунт пермского студента, устроившего стрельбу, не находился на постоянном мониторинге. По его словам, страница была создана лишь за месяц до трагедии, аватар отсутствовал, сетевой профиль не проявлял аномальной активности. «Пользователь имел средний уровень сетевой активности, лайками отмечал публикации, связанные с международной военной повесткой. Характерных маркеров, указывающих на приготовление к совершению нападения, зафиксировано не было», — рассказал Заварзин. 

В основе системы по анализу письменных работ может лежать нейросеть, обученная на большом количестве образов текстов, написанных людьми с психическими или социальными отклонениями, предположил в беседе с РБК руководитель Liquid Studio Accenture в России Арсений Кондратьев. Изучив такие тексты, программа сможет распознавать паттерны, анализируя образцы письменных работ. Работы с высоким процентом совпадения паттерна могут маркироваться соответствующим образом.

Опрошенные эксперты уточнили, что если речь пойдет об оценке текстов несовершеннолетних, сбор и обработка данных возможна только с согласия их законного представителя — родителя или опекуна. Тексты учащихся в таком случае должны быть обезличены, пояснил разработчик поисково-аналитической системы Avalanche Андрей Масалович. Подростку должен присваиваться индивидуальный идентификатор, который может декодировать только доверенная служба разработчиков программного обеспечения, например, в системе правоохранительных органов. В случае утечки данных ответственность за это будет нести именно такая служба, сказал эксперт.

АНО ЦИСМ была создана в 2018 году по поручению Владимира Путина для предотвращения случаев стрельбы в учебных заведениях, после нападения студента политехнического колледжа в Керчи Владислава Рослякова. В Керчи в 2018 году во время устроенной Росляковым стрельбы погиб 21 человек, пострадали более 50. В мае 2021 года 19-летний Ильназ Галявиев открыл стрельбу в казанской гимназии № 175, убив девять человек, более 20 пострадали. СК возбудил дело по статье «убийство двух и более лиц». 20 сентября 2021 года студент Тимур Бекмансуров открыл огонь в кампусе Пермского государственного научного исследовательского университета (ПГНИУ). В результате погибли 6 человек, десятки пострадали. СК во всех трех случаях расследует преступления, квалифицированные как убийство двух и более человек (наказание — пожизненное лишение свободы).