Почему интернет перестает быть свободным и переходит к гиперконтролю

Новая этика для мессенджеров

Недавний арест Павла Дурова и блокировка популярного в среде геймеров мессенджера Discord в России и Турции — события хоть и громкие, но довольно тривиальные. Практика принуждения транснациональных корпораций к соблюдению регионального законодательства в последние 10 лет является регулярным трендом. Например, буквально месяц назад Google проиграл семилетнюю судебную тяжбу с Еврокомиссией и теперь обязан выплатить $2,7 млрд штрафа за нарушение антимонопольного законодательства (для понимания масштаба — по текущему курсу это сумма годового дохода Иркутской области). Но поскольку автор колонки страдает синдромом поиска глубинного смысла, в происходящих событиях усматривается влияние гораздо более фундаментальных глобальных процессов.

Многие, наверное, слышали термин «новая этика». В классическом толковании он излагает концепцию психолога Эриха Нойманна о необходимости отказа от деления на «черное» и «белое» в человеке, которое приводило к подавлению и вытеснению, а значит, к психотравмам. В современном российском толковании он обрел значение идентификации западных трендов по преодолению неравенства и дискриминации. Как известно, экологическая и социальная повестки стали центром внимания не только простых людей, но и крупнейших западных инвестиционных фондов — таких как Blackrock. Они требуют от компаний активнее развивать ESG (Environmental, Social, Governance — «природа, общество, управление») и DEI (Diversity, Equity, Inclusion — «разнообразие, равноправие, инклюзивность») — это обязательное условие включения их в инвестиционный портфель. Второй демографический переход привел к глобальному снижению рождаемости, что требует от общества повышения продолжительности жизни, а значит, и повышает требования к безопасности.

О растущих запросах к поддержанию безопасности и правопорядка говорит рост мирового рынка систем городского видеонаблюдения: по данным аналитиков Business Research Insights, к 2031 году он вырастет в два раза и достигнет почти $60 млрд. Активно внедряются и новые технологии. Так, глобальный рынок наблюдательных дронов для обеспечения общественной безопасности будет расти на 18% ежегодно и к 2032 году достигнет $612 млрд, а рынок ПО для распознавания лиц покажет ежегодный рост в 16% и вырастет к 2032 году до $24 млрд. Таким образом, государства все больше инвестируют в индустрию общественной безопасности. В последние же годы наблюдается тренд по делегированию части обязанностей по обеспечению безопасности самому бизнесу. И если ранее требования в основном предъявлялись медиаплощадкам и заключались в удалении противоправного контента, за размещение которого нес ответственность прежде всего сам размещающий, сейчас же ответственность смещается на сами коммуникационные площадки. Павел Дуров обвиняется французской стороной в соучастии в криминальных активностях, происходящих в его мессенджере. В России с 2020 года действует закон, который обязывает соцсети выявлять и блокировать запрещенный контент, возлагая так часть ответственности за возможные противоправные действия на саму площадку.

Таким образом, недавняя блокировка Discord может быть отнесена к глобальному тренду на обеспечение общественной безопасности. Но к чему это может привести? Обязан ли по этой логике производитель кухонных ножей нести ответственность за непредотвращение пьяных поножовщин «на районе»? Стоит ли продавать бейсбольные биты по лицензии, ведь это одно из самых популярных кустарных орудий криминала? Нужно ли судить руководство Toyota за то, что их пикапы стали самой популярной оружейной платформой в мире?

Что будущее нам готовит

В эпоху глобальной цифровой трансформации социальные платформы являются своеобразным цифровым двойником реальной жизни. Люди прочно соединены со своими учетными записями в соцсетях, существуя параллельно в реальном и виртуальном мире. Discord — это «виртуальный город», со своими домами-серверами и квартирами-каналами в них. Должен ли виртуальный управдом нести ответственность за то, что из 1000 квартир есть одна «нехорошая», где живут асоциальные элементы?

Положительный ответ на этот вопрос может навсегда изменить бизнес и резко затормозить развитие коммуникационных систем. Возможен риск коллапса систем обмена сообщениями, так как полностью исключить публикацию незаконных материалов возможно только при полной премодерации каждого сообщения. Частично это возможно реализовать посредством искусственного интеллекта, но возникает фундаментальная проблема — люди не будут пользоваться мессенджером, в котором нет никакой приватности. Премодерация сообщений даже с помощью ИИ будет означать, что интегрированные боты получают доступ к абсолютно всей информации пользователей, которую корпорации могут использовать в своих целях: все финансовые, личные, деловые и медицинские данные пользователей будут полностью открыты. Также неприкосновенность частной жизни и тайна переписки являются основными конституционными правами граждан России, как и множества других стран. С точки зрения безопасности это может привести к последствиям, совершенно обратным ожидаемым.

Полный контроль общения на крупнейших коммуникационных площадках будет способствовать появлению множества закрытых приватных «фидонетов» и «джабберов» (частных сетей, где данные передаются через домашние серверы их участников), что значительно затруднит поиск экстремистских сообществ. Ведь если сеть официально не существует, ее владелец не будет модерировать контент, и поиск подобных сетей создаст большую нагрузку на спецслужбы.

Остается надеяться, что, как и с другими тектоническими общественными сдвигами, маятник тренда общественной безопасности, раскачиваясь из крайности интернет-вольницы нулевых годов в крайность гиперконтроля годов нынешних, остановится в разумном сбалансированном положении.

Мнение редакции может не совпадать с точкой зрения автора