Не вчера родился: что такое промывание мозгов и скрытое предубеждение

Для людей возможность коммуникации имеет колоссальное значение. Без нее нам трудно было бы понять, что можно съесть, не рискуя здоровьем, как избежать опасности, кому доверять и т.д. Хотя принято считать, что сегодня эффективная коммуникация важна как никогда, она была критически значима и для наших предков, которым нужно было общаться друг с другом ради охоты и собирательства, воспитания детей, формирования союзов и передачи разного рода технологий. Наши сложные речевой и слуховой аппараты, служащие, без сомнения, совершенной вербальной коммуникации, являются по меньшей мере столь же древними, как анатомически современные люди, — им 300 000 лет. А тот факт, что неандертальцы, с которыми наши эволюционные ветви разошлись более 600 000 лет назад, по всей видимости, имели такое же анатомическое оснащение, заставляет предположить, что вербальная коммуникация значительно старше. 

Начиная с самой ранней стадии своего (до)исторического пути люди извлекали из взаимодействия друг с другом огромные преимущества, но вместе с тем находились под угрозой злоупотребления им. Больше, чем любой другой вид приматов, мы рискуем оказаться обманутыми и управляемыми коммуникацией. Существование всякой эволюционно значимой проблемы создает давление естественного отбора, благоприятствующее, в свою очередь, развитию когнитивных механизмов ее решения. Это относится и к коммуникации со всеми ее потенциальными выгодами и угрозами. 

Действительно, ставки здесь настолько высоки, что было бы странно, если бы мы не выработали специализированные когнитивные механизмы, работающие не только с потенциалом, но и с опасностью общения. В статье, опубликованной в 2010 г., исследователь когнитивных процессов Дэн Спербер и несколько его коллег (включая вашего покорного слугу) назвали эти механизмы эпистемологической бдительностью. Однако я, как уже говорилось, буду использовать термин открытая бдительность, подчеркивающий, что эти механизмы по меньшей мере настолько же связаны с открытостью к сообщаемой информации, насколько и с бдительностью по отношению к ней. Тем не менее даже если мы сходимся на том, что такие механизмы должны существовать, функционировать они могут по-разному. 

Для понимания эволюции коммуникации и, следовательно, механизмов открытой бдительности можно воспользоваться сравнением с гонкой вооружений. Известно, что гонка вооружений — соревнование между некими двумя субъектами, на протяжении которого каждая из сторон в ответ на действие другой неуклонно наращивает свой арсенал. Эта аналогия возникла в период холодной войны, когда Россия и США создавали все больше ядерного оружия в ответ на то, как одна из этих держав создавала больше ядерного оружия, что было реакций на создание большего количества оружия противостоящей стороной и т.д. 

В случае коммуникации «гонка вооружений» может происходить между отправителями сообщений, использующими все более изощренные средства манипулирования получателями, и получателями, использующими все более изощренные средства выявления не заслуживающих доверия сообщений. То же самое происходит, например, с компьютерными вирусами и антивирусным программным обеспечением. В случае же человека эта модель приводит к связи между степенью умственного развития и доверчивостью. Многие наблюдатели на протяжении истории высказывали мысль, что некоторые люди — к ним относили, в частности, женщин и рабов — характеризуются значительной интеллектуальной ограниченностью, которая делает эти группы населения легковерными (по моей терминологии, препятствующими использованию механизмов открытой бдительности). Даже если предположить, что у всех нас одинаковый когнитивный «инструментарий», мы не всегда можем на него положиться. Таким образом, согласно модели «гонки вооружений», если получатели — из-за упадка жизненных сил или отвлекающих факторов — не могут должным образом применить свои самые тонкие и восприимчивые когнитивные механизмы, то они беззащитны перед более продвинутыми когнитивными инструментами отправителей сообщений; так необновленная антивирусная программа оставляет компьютер уязвимым для атак. 

Промывание мозгов

В Америке начала 1950-х гг. страх перед манипулированием отвечал духу времени. Иосиф Сталин еще оставался главой Советского Союза, коммунистическая угроза представлялась максимальной, и Соединенные Штаты достигли пика в политике маккартизма. Считалось, что «красные» проникли повсюду: в правительство, научные круги, оборонные программы. С еще большим коварством они якобы прокрались в умы самых преданных, самых патриотичных американцев — солдат. Во время войны в Корее тысячи американских солдат были захвачены в плен китайцами и корейцами. Сумевшие совершить побег принесли домой истории о жестоком обращении и физических истязаниях, от лишения сна до пытки водой. Когда война закончилась и военнопленные были репатриированы, эти издевательства приобрели еще более мрачный смысл. В них виделись уже не проявления вражеского произвола, а попытки промыть мозги солдатам США, убедив их разделить коммунистические убеждения. Двадцать три человека из американских военнопленных предпочли отправиться с теми, кто захватил их, в Китай, вместо того чтобы вернуться на родину; и это, как утверждала The New York Times, безусловно, «доказывало, что коммунистическое промывание мозгов действует на некоторых людей». 

Механизмом промывания мозгов считалось разрушение у человека способности к высокоуровневому мышлению, поскольку эта операция включала «обусловливание», «истощение» и «внушаемость, вызванную гипнотической диссоциацией». По мнению американского контр-адмирала Дэниела Гэллери, она превращала мужчин в «нечто среднее между человеческим существом и крысой, борющейся за выживание». Предполагалось, что приемы, применяемые корейцами и китайцами, основывались на методах, ранее разработанных русскими, и в итоге военнопленные превращались в «собак Павлова» (физиолог И. П. Павлов прославился тем, что вызывал у этих животных слюноотделение звуком колокольчика). По иронии американцы в своей «войне с террором» впоследствии стали применять многие подобные методы (наглядным примером служит пытка водой), стремясь добыть информацию у подозреваемых в терроризме. 

Мысль, что на людей проще повлиять, когда они не способны думать, распространилась в Америке 1950-х гг. — и в совершенно ином контексте. Объектами воздействия стали уже не военнопленные, перенесшие ужасы корейских лагерей, а кинозрители, с удобством устроившиеся посмотреть последний голливудский блокбастер. По ходу фильма на экране мелькали сообщения вроде «Пейте Coca-Cola!» — настолько быстро, что их невозможно было уловить сознанием. Вскоре эти сообщения будут названы скрытыми или действующими на подсознательном уровне, то есть ниже порога осознанности. Они породили страх, который сохранится на несколько десятилетий. В 2000 г. разразился скандал, когда обнаружилось, что в созданной на средства республиканцев рекламе с нападками на политические предложения Эла Гора — кандидата в президенты США от демократов — незаметно для зрителей присутствует слово «крысы». Сила действующих на подсознательном уровне сообщений использовалась и в благовидных целях. Компании начали выпускать психотерапевтические кассеты, в частности для повышения самооценки, которые можно было слушать во сне. Поскольку спящие не склонны к существенному контролю сознания, записи обращались непосредственно к их подсознанию, поэтому считались особенно эффективными. 

Страхи, связанные с промыванием мозгов и воздействием на подсознание, опираются на убедительную корреляцию сниженной когнитивной способности и доверчивости: чем меньше мы думаем, тем хуже мы думаем и тем сильнее будут на нас влиять вредные сообщения. Эта связь между отсутствием сложной интеллектуальной деятельности и легковерностью традиционно считается не требующей доказательств. Уже Гераклит в 500 г. до н. э., говоря о людях, которые позволяют увлечь себя ораторами в толпе, не задумываясь о том, сколько среди них дураков и воров, имел в виду массы, простолюдинов, а не аристократов. 

Двадцать пять столетий спустя почти то же толкование господствовало в дискурсе специалистов по массовой психологии. Европейские ученые, работавшие во второй половине XIX в., пытались объяснить растущее влияние толпы на политику, обращаясь к текущим событиям — от революционных выступлений до забастовок шахтеров. Мыслители того времени выработали представление о толпе как о жестокой и вместе с тем легковерной, и такой взгляд оказался очень популярным. Он вдохновил Бенито Муссолини и Адольфа Гитлера и до сих пор характерен для тех, кому приходится иметь дело с толпой, в частности для представителей силовых ведомств. Самый известный из этих ученых, стремившихся постичь психологию толпы, — Гюстав Лебон предположил, что любую толпу отличает «неспособность обдумывать, отсутствие рассуждения и критики... которые наблюдаются у существ, принадлежащих к низшим формам эволюции, как то: у женщин, дикарей и детей». Коллега Лебона Габриэль Тард, демонстрируя прекрасный образец мотивированного мышления, заявил, что в силу «своей покорности, своей доверчивости... толпа феминна», даже если, по его признанию, она «состоит, как это обычно бывает, из мужчин». 

Еще один специалист по психологии толпы, Ипполит Тэн, добавил, что люди в толпе низведены к своему природному состоянию и похожи на «подобострастных обезьян, каждая из которых подражает другой». Примерно в то же время по другую сторону Атлантики Марк Твен изобразил Джима как  «счастливого, доверчивого, довольно ребячливого раба». 

В XXI в. мы по-прежнему обнаруживаем отзвуки этих сомнительных концепций. Авторы The Washington Post и Foreign Policy заявляют, что Дональд Трамп стал президентом благодаря «легковерности невежественных» избирателей. Согласно расхожему представлению о Brexit (голосовании Британии за выход из ЕС), этот шаг поддержали «необразованные плебеи», тогда как голосовавшие за то, чтобы остаться в Европейском союзе, — люди «сложные,  культурные, космополиты по убеждениям». 

В современной научной литературе мысль о прямой зависимости между «простотой» и доверчивостью обычно высказывается двумя способами. Первый обнаруживается в рассуждениях о детях, когнитивную незрелость которых часто увязывают с легковерием. В одном современном учебнике по психологии утверждается, что по мере того, как дети овладевают более развитыми навыками мышления, они становятся «менее легковерными». В другом делается решительное заявление, что «дети, кажется, мечта рекламодателя: они доверчивы, беззащитны и их легко убедить». 

Второй способ того, как когнитивное несовершенство связывают с доверчивостью, представлен в популярном разделении мыслительных процессов на два основных типа, так называемые Систему 1 и Систему 2. Согласно этому представлению, давно утвердившемуся в психологии и недавно популяризированному психологом Даниэлем Канеманом в книге «Думай медленно... Решай быстро» (Thinking, Fast and Slow), одни когнитивные процессы протекают быстро, почти автоматически, не требуют усилий и по большей части не осознаются; они и принадлежат Системе 1. Чтение простого текста, формирование первого впечатление о человеке, ориентирование среди хорошо известных улиц — все это работа Системы 1. Интуитивные проявления, формирующие Систему 1, в целом эффективны, однако подвержены регулярным искажениям. Так, мы, похоже, склонны решать, компетентен ли человек либо заслуживает ли он доверия, на основании черт его лица. Такие суждения могут оказаться верными, но их с легкостью перевесят более надежные признаки — например, реальное поведение человека. Как предполагается, именно здесь вступает в действие Система 2. Она основывается на медленных, требующих усилий рефлексивных процессах и вмешивается, когда отказывает Система 2, тем самым исправляя наши ошибочные интуитивные догадки с помощью объективных инструментов и рациональных правил. Таково типичное представление о двойном процессе мышления.

Задача о бейсбольном мяче и бите

Пожалуй, лучше всего функцию двух систем демонстрирует задача о бейсбольной бите и мяче. Бита и мяч вместе стоят 1 доллар 10 центов. Бита на один доллар дороже мяча. Сколько стоит мяч? Если вы еще не решали эту задачу, попробуйте сделать это сейчас, прежде чем читать дальше. 

Она давно восхищает психологов, потому что, несмотря на ее кажущуюся простоту, большинство людей дают неверный ответ, а именно 10 центов. Это идеальный пример ответа по Системе 1: он первое, что приходит в голову многим, прочитавшим условие задачи. Тем не менее ответ «10 центов» не может быть верным, поскольку тогда бита стоила бы 1 доллар 10 центов, а вместе с мячом они стоили бы 1 доллар 20 центов. Как правило, нужно вовлечь в работу Систему 2, чтобы исправить первоначальную ошибку и получить верный ответ—5 центов. 

Если Система 1 состоит из простых, но в целом действенных приемов, а работа Системы 2 представляет собой медленное целенаправленное обдумывание, мы могли бы предположить, что Система 1 связана с доверчивостью, а Система 2 — с критическим мышлением. Психолог Дэниел Гилберт с коллегами провели серию оригинальных экспериментов, чтобы выяснить, какую роль играют эти две мыслительные системы в оценке сообщаемой информации. Участникам экспериментов предлагались последовательности утверждений и сразу после ознакомления с каждым утверждением говорилось, верно оно или ложно. Например, в одном эксперименте утверждения касались слов на языке индейского народа хопи. Участники слышали фразу: «Гхорен — это кувшин» — и секундой позже: «Верно». После оглашения всех утверждений испытуемых спрашивали, что из сказанного было верно и что неверно. Чтобы протестировать роль каждой из двух систем, Гилберт с коллегами намеренно прерывали работу Системы 2. Поскольку она функционирует медленно и требует усилий, этот процесс легко нарушить. В данном случае участникам просто нужно было нажимать на кнопку, когда они слышали определенный звук, раздававшийся обычно именно тогда, когда сообщалась самая значимая информация — является утверждение истинным или ложным. 

Когда пришло время вспоминать, какие из утверждений были истинными, а какие ложными, люди, у которых работа Системы 2 прерывалась, чаще считали услышанные утверждения верными — независимо от того, были ли они в действительности обозначены как таковые. Таким образом, нарушение работы Системы 2 заставило многих испытуемых принять ложные утверждения за правдивые. 

По результатам этих экспериментов Гилберт и его коллеги сделали вывод, что мы изначально склонны соглашаться с тем, что нам говорят, и малейшая помеха для Системы 2 не позволяет нам пересмотреть эту исходную установку. То есть, как сформулировали ученые в названии своей второй статьи на эту тему, «Вы не можете не верить всему, что
читаете». А Канеман подытожил свои наблюдения следующим образом: «Если Система 2 занята чем-то другим, мы поверим практически всему. Система 1 доверчива и склонна верить, Система 2 отвечает за сомнение и недоверие, но иногда Система 2 занята, а часто ленива». 

Эти результаты согласуются с зависимостями, выявляемыми между аналитическим стилем мышления, то есть склонностью скорее опираться на Систему 2, чем на Систему 1, и предрасположенностью отвергать эмпирически сомнительные суждения. Психологи Уилл Джервейз и Ара Норензаян обнаружили — о чем рассказано в их получившей широкую известность статье, — что «аналитики» по ряду признаков, например лучше решающие задачу про биту и мяч и подобные ей, чаще оказываются атеистами. 

В других исследованиях участники с аналитическим, по всей видимости, складом ума демонстрировали меньшую готовность согласиться с верой в разного рода паранормальные явления, от колдовства до предвидения.