«Технологии стали еще одним репрессивным инструментом»: как меняется вера в прогресс

Исследователи из Национального научного центра Хэфэй в Китае разработали искусственный интеллект, алгоритм которого может считывать мысли членов Коммунистической партии. ИИ анализирует выражение лица и мозговые волны и определяет «уровень приемлемости идеологического и политического образования», пишет The Telegraph.  Результаты исследования, в котором участвовали 43 человека, опубликовали в открытом доступе, но быстро удалили из сети, столкнувшись с возмущением из-за масштабов вмешательства в частную жизнь. В уже удаленном видео институт заявлял, что программное обеспечение для «чтения мыслей» может быть использовано на членах партии, чтобы «еще больше укрепить их решимость быть благодарными партии, слушать партию и следовать за ней».

О технологиях можно говорить с момента, когда наш далекий предок впервые взял в руку палку. Однако понятие техники как некоего взаимосвязанного класса объектов появляется с промышленными революциями и закрепляется в годы Первой мировой войны. Немецкий философ техники Фридрих Дессауэр писал, что в середине XIX века люди не связывали вместе орудия труда, медицинские инструменты и разные механизмы. То есть понятие технологического прогресса возникает относительно недавно, хотя попытки проанализировать это явление, не называя его, были и раньше. Например, Карл Маркс в «Капитале» клеймит современных ему «технооптимистов», в частности «пиндара автоматической фабрики», шотландского философа Эндрю Юра. Маркс считал, что вера в технологии как благо — лишь форма идеологического прикрытия эксплуататорского класса. Подобные дискуссии продолжаются и сегодня.

Три мировоззренческих кита

Понятие «технооптимизма» возникло в середине ХХ века: в послевоенное время считалось, что ставка на технологии позволит относительно быстро прийти к процветанию, решить экономические и социальные проблемы, добиться если не преуспевания, то хотя бы паритета в гонке за первенство с ведущими акторами международных отношений. Эта концепция прослеживается от тезисов доктора Юра до убеждений в среде современного венчурного рынка. Ее суть в том, что качественное развитие техники ведет к улучшениям в обществе: технология освобождает время и помогает решить ряд социальных проблем.

Технооптимистические взгляды чаще распространены в промышленности и политике, но в академических кругах, как правило, к ним относятся с подозрением: исследователи много пишут о проблемах этики и непредвиденном воздействии технологий на окружающую среду, социальные нормы и даже личное благополучие. Технооптимисты убеждены в том, что технология помогает бороться со всеми формами несправедливости и совершенствовать действительность. Крайней формой технооптимизма является солюционизм — концепция, согласно которой на любую проблему можно найти технологическое решение. 

Технопессимисты, напротив, уверены, что ни одна инновация не решает важную проблему, а только создает видимость: «В 2012 году футуролог Айеша Кханна даже описала «умные» контактные линзы, которые ретушируют бомжей с глаз долой, чем «расширяют возможности нашего базового чувства — зрения» и, без сомнений, делают жизнь беззаботнее. В некотором смысле устройство решало бы проблему бездомности, за исключением случая, когда его обладатель сам был бы выброшен на улицу», — приводит пример Евгений Морозов, автор книги «Техноненависть: как интернет отучил нас думать». По мнению технопессимистов, технология может навредить человеку, коренным образом изменить мир в худшую сторону. Как и в случае с технооптимизмом, термин «технопессимизм» также возник в ХХ веке, подпитанный философией экзистенциалистов вроде Хайдеггера и Ясперса и работами представителей Франкфуртской школы социологии — неомарксистов Адорно, Хоркхаймера, Маркузе, Беньямина и других. Такое отношение к технологиям возникло еще у марксистов XIX века: если общество несправедливо, то оно использует технологию, чтоб еще больше закабалить и использовать человека. 

Техноскептики пытаются балансировать между этими мировоззрениями, консервативно и с подозрением воспринимая инновации. Им присущ страх перед изменениями, который вытекает из сомнения — зато они пытаются увидеть вещи такими, какие они есть, а не такими, какими их хотелось бы видеть. Согласно этому взгляду, ни общество, ни технологии сами по себе не обладают никакой причинностью. Человек несовершенен, и это можно попытаться исправить с помощью той или иной технологии. Философы Фридрих Хайек, Ханс Фрайер, Хельмут Плеснер, Макс Шелер, Арнольд Гелен писали, что человеческая природа отличается своей недостаточностью. В отличие от совершенной кошки, человеку нужна система образования, инструменты защиты, одежда и прочее. Когти и другие приспособления для выживания заменяют технологии, а для выживания вида человек создает города. 

Конечно, мировоззренческих конструкций значительно больше, но в социологических опросах специалисты, как правило, опираются только на три базовые: «Социология может фиксировать только очень крупные вещи, поэтому технооптимизм, технопессимизм и техноскептицизм наиболее часто встречаются в соцопросах, проводимых как в России, так и в Европе, США. Это позволяет оценивать процессы в динамике. Было бы странно спрашивать респондентов для огромного социологического опроса, хорошо ли, что люди вымрут, а на их место придут роботы. Выборка получится нерепрезентативной», — рассказывает кандидат социологических наук, профессор Виктор Вахштайн (внесен Минюстом РФ в реестр СМИ-иноагентов).

Другого рода идеологии более маргинальные, к ним относится численно меньшее количество людей. Яркие, интересные примеры — технофатализм и технорелигия: «Технофаталисты убеждены, что техника представляет угрозу человеческому виду, и слава богу: уже давно пора этим кожаным ублюдкам уступить место прогрессивным формам жизни. Технорелигия связана с поклонением технологиям, где божественное и техническое — синонимы. Так, экс-инженер Google Энтони Левандовски в 2015 году создал церковь поклонения искусственному интеллекту (с 2020 года основатель решил ее закрыть). И таких попыток было множество», — говорит Виктор Вахштайн.

Нейтральность технологий: правда или миф

Технология никогда не была нейтральной, хотя многие технооптимисты верят в этот миф. По их мнению, источником добра и зла является человек, а технология — всего лишь инструмент. Но это не так.

Система, которая обучена на больших данных, может выносить более жесткие приговоры социально угнетаемым слоям населения. Согласно статистике, афроамериканцы совершают преступления в десятки раз чаще, чем белые жители США, однако ряд экспертов считает, что технологии, связанные с распознаванием лиц и вынесением приговоров, более предвзяты по отношению к темнокожему населению. Так, в США постоянно возникают разные скандалы, когда система распознавания лиц ошибочно определяет преступников. Например, в 2018 году афроамериканец Роберт Уильямс был арестован потому, что алгоритм камер наблюдения принял его за другого человека.

Функция распознавания лиц давно используется правоохранительными органами во многих странах мира. Ее применяют как на улицах, так и на стратегически важных объектах вроде метро или аэропортов. Кроме того, на системы распознавания лиц ориентируются при расследовании преступлений еще до того, как выслушают показания свидетелей, с их помощью планируют «предсказывать» потенциальных преступников и принимать решения о трудоустройстве и предоставлении аренды жилья. Из-за множества ошибок технологию уже запретили в нескольких городах США, а IT-гиганты все чаще отказываются предоставлять свой софт для распознавания лиц полиции. В России ситуация развивается противоположным образом. По примеру Москвы, которая входит в топ-30 городов мира по количеству камер на квадратный километр, планируется оснастить системой «умного» наблюдения крупные города страны и подключить их к единому реестру «Национальной платформы видеонаблюдения». 

Предвзятость технологий проявляется и там, где нужно отличать своих от чужих. Несколько лет назад компания Amazon внедрила искусственный интеллект для автоматической проверки резюме. Он построил алгоритм проверки на резюме, которые компания собирала в течение десяти лет. Однако эти резюме, как правило, присылали мужчины. Система посчитала, что женщины не подходят для этой должности. Похожие самообучающиеся алгоритмы определяют, кто и на каких условиях может получать кредит, какую политическую рекламу вы видите в новостной ленте и почему тот или иной пост в соцсетях должен быть заблокирован как нарушающий нормы сообщества.

Если же посмотреть на изменение самих технологий и то, как они внедряются в жизнь, есть большая разница. Они не только могут делать выводы на основе больших данных, но и самостоятельно принимать решения. Виктор Вахштайн советует рассматривать технологии по трем осям: сенсора, алгоритма и актуатора.

• Сенсор, или как технологии считывают вас. Прежде чем сделать вывод, технология должна определить, какой перед ней объект, по ряду характеристик. Например, камера наблюдения выделяет среди разных предметов и считывает в качестве объекта человека, и только потом распознает его лицо. Беспилотная машина определяет объектами пешеходов и останавливается на переходах. Система ПВО считывает один самолет как свой, другой — как чужой. В одних случаях персональные данные неважны, в других они играют ключевую роль.
• Алгоритм, или как учатся алгоритмы и на каких данных. Например, система COMPAS учится на больших данных судебных прецедентов (Correctional Offender Management Profiling for Alternative Sanctions — система, которая оценивает потенциальный риск, прогнозирует возможные правонарушения на основе больших данных и выносит приговор, опираясь на все имеющиеся у нее факты. — Forbes Life). Она анализирует предыдущие похожие случаи и последовавшие за ними решения, а затем выносит похожий приговор. Такая система не учитывает деталей и особенностей, которые могут смягчить наказание. На алгоритмах машинного обучения работает множество девайсов, к которым сегодня прибавляют приставку smart: умные часы, умные холодильники и мультиварки, умная система освещения — такая технология агрегирует данные, чтобы работать по определенному набору правил.
• Актуатор, или делегирование права на действие. Технологический объект может сделать разные вещи исходя из того, что ему позволено. Дроны на основе больших данных легко отличают своих от чужих. Если им делегировано право наносить удар самостоятельно, без разрешения человека, о таких действиях будет известно только постфактум. И здесь возникают проблемы этического характера использования технологий: можно ли осудить дрон, если он самостоятельно принял ошибочное решение об убийстве человека? 

Как вера в технологии определяет поведение

Нередко поведение людей вообще не зависит от веры в технологии. В социальной психологии такое явление получило название парадокса Лапьера. Существуют три уровня установок: вера в технологии, доверие им и собственно практики. Парадокс в том, что на всех трех уровнях могут возникать противоречия — и это нормально. Например, технооптимизм мало соотносится с религиозными установками в России. Есть страны, где технооптимизм и религиозность связаны скорее положительно, чем отрицательно. «Можно быть абсолютным технофобом, но при этом позитивно оценивать развитие медицинских технологий. То есть на уровне конкретных технологических объектов, технических инноваций, действуют не те же самые законы, что и на уровне мировоззрения», — отмечает Виктор Вахштайн.

На третьем, нижнем уровне находятся практики, или поведение. И тут социологи наблюдают еще один разрыв. Можно быть мировоззренчески технооптимистом, а на уровне поведения — технофобом: не загружать ни одного приложения на смартфон, заклеивать камеру на ноутбуке, игнорировать онлайн-покупки. Нельзя с полной уверенностью сказать, что вера в технологии стимулирует их использование. Например, в исследовании «Шаманизм как призвание и профессия» Марии Волковой, посвященном шаманам Бурятии, отмечалось любопытное сочетание шаманских верований в духов и вполне советского технопрогрессизма: духи помогают людям создавать изобретения. «Есть масса примеров, как подобные мировоззренческие конструкции формировались, распадались, воевали друг с другом, в какой-то момент адаптировались друг к другу. В плане социологического исследования мы не сильно ушли от Эдинбурга XVIII века: точно так же найдем формы прогрессистского мировоззрения, консервативного, скептицистского, отчаянно технофобского. При этом чистых технооптимистов или пессимистов не существует», — утверждает Вахштайн.

Как россияне относятся к технологиям 

Отношение россиян к технологиям периодически менялось. Оно было подобно маятнику, который раскачивали события, касающиеся каждого. Интересно, что приобщаться к последним новинкам технологического прогресса свойственно людям в районе 45-50 лет. У людей моложе 35 никакого технооптимизма нет. Верно, что разные поколения используют технику по-разному и для разных целей, но поколенческая разница не настолько невероятная, как об этом пишут некоторые алармисты.

С  2012 года по начало 2020 года в России преобладали технооптимистичные настроения. Это было во многом связано с низким уровнем институционального доверия, а технооптимизм был скорее декларативным, считает Виктор Вахштайн. 

«Когда не работают социальные институты, люди начинают верить, что рано или поздно появится технологическое решение, которое позволит заменить эти неэффективные институты. В отличие от России, США были крайне технопессимистичны. Американцы не верили в справедливость робота-судьи, работающего на основе системы искусственного интеллекта COMPAS — большие данные, на основе которых выносится приговор, могут приводить к ошибке предвзятости. В России люди считают, что робот-судья сделает судебную систему более беспристрастной. «То есть недоверие судам порождало доверие технологическому прогрессу в юридической практике. Недоверие медицине порождало невероятные надежды, связанные с невероятным развитием в медицинской отрасли. И чем меньше люди верили в институты, тем больше они полагались на технологии», — комментирует Виктор Вахштайн.

С 2020 года количество технофобов в России увеличилось практически в три раза. Отчасти на фоне пандемии техника перестала восприниматься как панацея, способная разрешить проблемы государства, подчинить неэффективные институты. Виктор Вахштайн отмечает, что «в сознании людей технология стала синонимом государству, еще одним репрессивным инструментом». Люди стали бояться технологий, потому что техника стала использоваться для их отслеживания. Возник страх камер наружного наблюдения, притом что камеры были установлены довольно давно. Появилось опасение, связанное с утечкой данных. Сегодня технопессимизм в России еще не является доминирующим трендом, но недоверие технологиям все же растет.

Проблема приватного пространства

Границы приватного размылись с пандемией. Прежде коммуникация с людьми, которые были пространственно удалены, никак не ломала понимание приватного и публичного пространства. Если сейчас люди смотрят в метро в смартфоны, то раньше они читали книги или газеты — это один из способов создания приватного пространства в публичном. Но пандемия и средства телекоммуникации изменили зонирование квартиры, архитектуру домов на уровне ее использования и повседневной практики: «Человеку приходится решать, где выходить в Zoom: будет ли это недостроенная баня, или же холодный, неуютный балкон? Включать камеру или нет? Здесь происходит размывание приватного и публичного», — замечает Вахштайн. 

Сегодня это свежая тенденция, которая может и не стать трендом. Нельзя с большой уверенностью говорить, что технологии тотально нивелируют приватное пространство. К тому же практика показывает, что взгляды мыслителей прошлого об этой проблеме себя не оправдали. Немецкий философ Мартин Хайдеггер в работе «Вещь» писал, что из-за технологий исчезает ощущение далекого и близкого, что «спешное устранение всех расстояний не приносит с собой никакой близости; ибо близость заключается не в уменьшении отдаленности. Малое отстояние —  еще не близость. Большое расстояние — еще не даль». Британский академик Фрэнсис Кэрнкросс в работе «Смерть дистанции» еще на заре развития интернета заявляла, что скоро не будет смысла жизни в городе, и телекоммуникации позволят человеку жить наедине с природой и работать удаленно. Все это оказалось не более чем философско-идеологическими клише. Технологическая реальность продолжает оставаться куда более интересной.

Мнение авторов может не совпадать с позицией редакции