Интеллектуальная слепота

Сергей Карелов
13 min readNov 6, 2017

--

«Притча о слепых» (De parabel der blinden) — картина Питера Брейгеля Старшего

Лучше быть слепым глазами, чем умом.
Армянская пословица

Поляризация общества во многих странах достигла небывалой степени. Первопричины раскола, как правило, политические. Однако, его следствия распространяются на многие вопросы, практически, из любой области — экономика, образование, история, искусство, технологии …

При этом характерно, что, вне зависимости от конкретики вопроса, стороны занимают полярные позиции, считая свой поход единственно верным.

Еще раз подчеркну — не важно, о чем идет речь: аборты, ГМО, школьная программа, глобальное потепление, экономический курс, отношение к мигрантам т.д. Позиции сторон, как правило, противоположны, и каждая из них непоколебимо стоит на своем.

Подобную картину можно наблюдать в публичных дискуссиях и соцсетях, в семьях и на работе, в России и США, среди интеллектуалов и малообразованных.

Такая ситуация порождает естественные вопросы:

  • почему так получается?
  • можно ли достичь сближения позиций сторон?
  • возможен ли, хотя бы со временем, выход на консенсус?

До сих пор, на практике, ответы на эти вопросы были отрицательные.

Но вот появляется шанс.

Новое исследование предлагает усовершенствованную методику оценки мотивации, заставляющей людей непоколебимо стоять на своей точке зрения, не взирая ни на какую аргументацию противной стороны.

Эта методика способна, как минимум, предоставить сторонам возможность

понять, как и почему формируется раскол мнений.

А как писали Стругацкие:

понять — значит упростить.

В данном случае, упростить понимание сторон. А в идеале, упростить достижение консенсуса.

Но прежде, чем рассказать о результатах этого исследования, давайте разберемся в фундаментальных истоках мотивации, заставляющей людей, наперекор всему, держаться за уже сложившиеся в голове представления.

Мотивации, — абсолютно универсальной для всех и каждого.

Мотивации, — уходящей корнями в далекое эволюционное прошлое человека, а в будущем способной поставить его в заведомо проигрышную позицию перед искусственным интеллектом, не имеющим тяжелой эволюционной наследственности.

Почему аргументы и логика мало кого переубеждают

«Как наш мозг обманывает нас», художник Jonathon Rosen

“Человек, который в чем-то твердо убежден, трудно меняет свои убеждения. Скажи ему, что ты с ним не согласен — он отвернется. Покажи ему факты или цифры, и он поставит под сомнение источник, откуда они взяты. Апеллируй к логике — он не поймет, о чем ты.”

Эта эффектная фраза из вышедшей в 1956 г. книги выдающегося психолога Леона Фестингера, автора популярного ныне термина когнитивный диссонанс, описывает феномен мотивированного рассуждения, уже хорошо известного в середине прошлого века, когда Фестфингер исследовал психологию людей, верящих в скорый конец света и присутствие на Земле инопланетян.

За прошедшие полвека данный феномен получил много новых убедительных экспериментальных подтверждений. Одним из самых свежих «экспериментов» стала победа Трампа, в которой мотивированное рассуждение стало одним из основных психологических драйверов выборов.

На основе экспериментов была разработана теория мотивированного рассуждения, ставшая ключом к анализу нейропсихологических причин устойчивого существования полярных мнений даже по вопросам, относительно которых существуют неопровержимые доказательства.

Наиболее интересное и познавательное популярное описание данного феномена и теории приводится в знаменитом на западе, но практически не известном у нас эссе Криса Муни «Наука о том, почему мы не верим науке»: его перевод (без ссылки на оригинал) на 10 мин. чтения и авторская лекция на 53 мин., а для тех, кто торопится — короткие презентация на 2 мин. и статья-резюме на 3 мин.).

Воспользуюсь выдержками из этих материалов для прояснения вопроса.

Мотивированное рассуждение — продукт эволюции

«Иерархия внутреннего Блаженства», художник Jonathon Rosen

Мотивированное рассуждение/аргументация (Motivated reasoning) — это мыслительный (когнитивный) процесс, в ходе которого некоторые идеи ставятся конкретным человеком выше других, потому что новая идея не эквивалентна оригинальной идее, уже сидящей у него в голове.

В ходе этого мыслительного процесса у индивида формируется предрасположение:

  • к трактовке предъявленных ему доказательств, как согласующихся с уже имеющимися у него представлениями;
  • к корректировке того, что им считается беспристрастными логическими выводами.

Результат мотивированных рассуждений — самообман, зарождающийся в привязке к уже существовавшим мыслям, к которым человек привык.

Современная нейронаука утверждает, что мотивированные рассуждения вызваны эмоциями и есть результат эволюционного развития человека, требующего от нас максимально быстрых реакций на раздражители со стороны окружающей среды.

  • Эмоции и разум тесно связаны, а бессознательные чувства возникают быстрее, чем сознательные мысли.
  • Объем ежесекундно поступающей в мозг извне информации, получаемой через органы чувств, составляет примерно 10–20 млн. бит.
  • В то же время, анализ времени сознательной реакции человека показывает, что объем информации, обрабатываемой сознанием за секунду, составляет всего лишь примерно 60 бит.
  • Гигантская разница между этими двумя массивами информации фильтруется и обрабатывается человеком неосознанно, влияя на формирование и уровень эмоций.

Эмоции решают быстрее разума — «сражайся или беги»

«Бегущий по лезвию», художник Jonathon Rosen

Весьма важные с точки зрения эволюции эмоции — это страх и агрессия, контролируемые сдвоенным центром управления эмоциональными реакциями и принятием решений — областью мозга, называемой амигдала (миндалевидное тело).

Внешние органы чувств передают сигналы в амигдалу, которые она может классифицировать, как опасность. В этом случае, амигдала выбирает вариант защитной реакции — страх или агрессию. Часто это явление называют “fight or flight reflex” — рефлекс “сражайся или беги”.

Физиологическая реакции в обоих случаях похожая — идет сигнал в гипофиз, запускается реакция эндокринной системы, и в кровь поступает доза адреналина. Только в случае «беги», руки холодеют, а кровь приливает к ногам (чтоб быстрее бежали), тогда как в варианте «сражайся» — наоборот (чтобы лучше было махаться).

Что особенно важно, наличие реальной внешней опасности для такой реакции не обязательно.

У человека может просто возникнуть мысль, ассоциированная с опасностью, но амигдала все равно сработает на один из вариантов “сражайся или беги”.

  • Так оно и происходит при поступлении «на вход» человеку новой идеи, не согласующейся с его привычными представлениями.
  • Возникает страх перед новым и неизвестным. Отрицательным ответом на него выступает инстинкт защиты — нужно сражаться. Но с кем?

Конечно, неплохо было бы отреагировать на физическом уровне и дать в лоб носителю полярной идеи. Но ведь носителя может рядом и не быть, если идею узнал от других (прочел, услышал). Потом ведь за рукоприкладство придется отвечать. А если еще оппонент — солидный человек и, вообще, как-то сразу махаться из-за идей и теорий влом.

И поэтому инстинкт защиты переводится на психологический уровень.

Включается один из видов психологической защиты, называемый рационализацией, при которой человек оправдывает свои спорные поступки или чувства, объясняя их рациональными, логическими причинами.

  • Суть процесса рационализации в том, что это неосознанная попытка личности избежать внутреннего конфликта и поддержать самоуважение к себе любимому.
  • В результате у человека возникает ощущение, что он сделал сознательный выбор, в то время как в действительности его поведение было продиктовано эмоцией — страхом перед неизвестным и нежеланием нанести ущерб собственной идентичности.

Говоря словами политолога Артура Лупиа из университета Мичигана,

“мы отторгаем «враждебную» информацию и сохраняем при себе «дружескую». Мы используем рефлекс «сражайся или беги» не только по отношению к хищникам, но и по отношению к новой информации, не согласующейся с привычным ходом мыслей.”

Логика также бессильна перед эмоциями, как и аргументы

«Чем измерить Чеширскую усмешку», художник Jonathon Rosen

Человек — разумное существо и руководствуется не одними эмоциями. Мы также думаем, оцениваем аргументацию, делаем логические выводы.

Но в том то и фишка, что

рациональное мышление медленное, а эмоциональная реакция несравненно быстрее.

И в тот момент, когда включается рациональное мышление, подсознательная негативная реакция на новую информацию уже сформировалась. Человеку ничего не остается, как, включив психологическую защиту — рационализацию, убедить себя, что он мыслит логично. Хотя на самом деле, он просто подгоняет факты под ту версию, которая не противоречит его убеждениям.

Как хорошо сформулировал психолог из Вирджинского университета Джонатан Хейдт:

“Мы думаем, что рассуждаем как ученые, а на самом деле, мы думаем, как адвокаты. Наши «рассуждения» — это способ получить заранее определенный результат — то есть, доказать, что мы правы, а они нет”.

Однако, все вышесказанное вовсе не означает, что мы не склонны воспринимать мир объективно. Отнюдь! Но на пути к объективности у нас возникают более приоритетная (с точки зрения эволюции) задача — защита собственной точки зрения и собственной идентичности. А решение этих приоритетных задач заставляет нас оказывать сильное сопротивление изменениям своих убеждений, несмотря на то, что факты говорят против них.

Как говорится, если факты не совпадают с нашими представлениями, — тем хуже для фактов.

Люди просто не считают научный источник достоверным, если его выводы противоречат их глубинным представлениям и тем самым создают для них риск ущерба самоуважению.

Характерно, что более высокий уровень образования только ухудшает ситуацию — более образованный еще активней отбрасывает «чужую» информацию.

Социальные психологи Чарльз Табер и Милтон Лодж объясняют это так:

“Малообразованные люди, которым не нравится какое-то явление, — будут его просто отрицать. Зато образованные идут на шаг дальше и начинают выдвигать контраргументы”.

На самом деле, образованные люди — столь же предвзятые и эмоционально «заряженные», как и малообразованные. Но они могут генерировать все новые и новые объяснения того, почему они правы. И поэтому добиться от них изменения убеждений становится еще труднее.

Аналогичным образом сказывается и мнение человека о собственной осведомленности в вопросе. Чем оно выше, тем сильнее эмоциональный заряд защитной реакции.

Инвестбанкир имеет минимальные шансы поменять точку зрения о низких инвестиционных рисках компании Х, даже если ему весьма аргументированно обосновывают обратное. Тогда как студента ВШЭ еще есть шанс переубедить… Но, все равно, не большой.

Итог всего вышеописанного печален. Как и говорил Леон Фестингер:

“Факты, цифры, логика, рациональная аргументация, — ничто не поможет переубедить человека, если у него сработает защитная реакция мотивированного рассуждения.”

Получается, что у нашего интеллекта есть почти непреодолимый барьер — наше собственное мотивированное рассуждение. И это делает мир куда менее разумным, чем он мог бы быть при современном уровне развития науки, культуры и технологий.

Это безумный, безумный, безумный, безумный мир

«Дарвин жив. Наука сражается с креационизмом», художник Jonathon Rosen

Возможно, кто-то из читателей подумает, — ну что такого страшного, ведь тысячи лет люди жили со своими мотивированными рассуждениями и ничего. Выжили, да еще интеллектуально выросли.

Но в том то и штука, что ситуация человечества кардинально поменялась с переходом к постиндустриальному информационному обществу. Рефлекс «сражайся или беги», игравший в прошлой эволюции человека важнейшую роль, уже потерял свой высший приоритет для выживания.

А самое ужасное, — что в информационном мире, в который мы все больше погружаемся,

мотивированное рассуждение становится фактором негативного эволюционного отбора.

Оно мешает познанию, подталкивает к неверным решениям, не позволяет верно оценивать источники новой информации, предрасполагает к вере фейковым новостям (если их элементы уже надежно укоренились в сознании).

В информационном мире мотивированное рассуждение становится примерно таким же негативным фактором для познания, каким в предыдущих эпохах была слепота.

Выжить можно, но дорога к знаниям, сложным профессиям, исследованию мира для слепых крайне затруднена.

Вот несколько примеров того, насколько отличны представления миллионов людей от современной научной картины мира.

Согласно опросам Гэллапа, в США доля людей, придерживающихся научной точки зрения, что человек — продукт эволюции, лишь 15%.
В России, после 70 атеистических лет советской власти, таких
не сильно больше — 26%

Больше всего поражает даже не малость доли людей, знающих об эволюции и признающих эти знания за научную истину.

Самое ужасное, что эта доля почти не изменилась за последние 30 лет.

За это время в мире произошло несколько десятков головокружительных открытий. Проведены сотни авторитетный исследований. Написаны тысячи толковых популярных статей и книг. Все это практически никак не сказалось на представлениях людей о происхождении человека и его эволюции.

Аналогичная ситуация и в других областях науки. Попробуйте ответить на 9 стандартных и, казалось бы, очевидных для образованных людей вопросов (правильные ответы я все же, на всякий случай, написал в скобках 😃).

Правда ли, что:

  • центр Земли очень горячий (правда),
  • вся радиоактивность на Земле — дело рук человека (ложь),
  • лазеры работают, фокусируя звуковые волны (ложь),
  • электроны меньше атомов (правда),
  • континенты движутся в течение миллионов лет и это будет продолжаться (правда),
  • Земля вертится вокруг Солнца (правда),
  • антибиотики убивают и вирусы, и бактерии (ложь),
  • вселенная родилась из Большого взрыва (правда),
  • пол ребенка определяется геном его отца (правда).

Очень было сложно ответить? А вот как отвечали на эти вопросы случайные выборки людей в США и России.

В США с 2001 г. и поныне правильные ответы на все 9 вопросов дают лишь 6% опрошенных (по России данных нет).

Лучше ситуация с людьми, изучавшими физику и биологию в институтах. Однако и среди них только половина смогла правильно ответить на все 9 вопросов.

И опять же, самое ужасное, что, как и в вопросе об эволюции человека, несмотря на колоссальный прогресс в науке, ничего не меняется.

Так в чем же дело — почему прогресс науки, образование, СМИ, Интернет и соцсети не в состоянии повысить уровень знаний населения в очевидных для сегодняшней науки вопросах, имеющих под собой надежные научные доказательства?

Оказывается, проблема вовсе не только в неосведомленности людей. Она преодолевается просвещением.

Другая и непреодолимая пока что проблема — это упёртость людей, не желающих менять свою точку зрения в следствие мотивированного рассуждения.

Чтобы пояснить это на примерах, давайте обратимся к упомянутому в начале статьи новому исследованию.

Проблема не только в осведомленности, но и в упёртости

«Слишком плохо, что мозг — это серая зона», художник Jonathon Rosen

Новая статья «It’s not my consensus: Motivated reasoning and the sources of scientific illiteracy», опубликованная в последнем номере рецензируемого международного журнала Public Understanding of Science, продолжает серию публикаций об исследованиях мотивированного рассуждения, проводимых вот уже несколько лет тремя университетами США (см. «Conspiracy Endorsement as Motivated Reasoning: The Moderating Roles of Political Knowledge and Trust» и «Motivated Reasoning and the Sources of Scientific Illiteracy»).

Автор новой статьи Джош Пасек (университет Мичигана) занимается исследованиями политических коммуникаций, изобретая оригинальные методологии опросов с использованием новейших технологий, медиа-психологии и науки о данных.

Несколько лет назад, Пасек задался вопросом, почему общественный консенсус по многим важным научным вопросам оказывается невозможен, несмотря на наличие прекрасной доказательной базы, подтверждающей современные научные взгляды по этим вопросам.

Исследования привели Пасека к заключению:

современная одномерная модель оценки признанности научных идей и теорий ошибочна.

В одномерной модели основным источником неверного понимания или интерпретации какой-любо идеи/теории считается недостаточная осведомленность (отсутствие или нехватка знаний) в конкретном вопросе.

На самом же деле, основной источник — вовсе не нехватка знаний, а много что еще. И среди прочего, — уже знакомое нам мотивированное рассуждение.

Уважаемые читатели!

Если вы хотите понять, как устроена альтернативная методология опросов, способная, по мнению Пасека, учитывать искажения, вносимые мотивированным рассуждением, и делать поправку на них,

то потратьте еще минут 5 на прочтение следующего далее текста.

Если же вы сейчас не готовы тратить на это время,

то прокрутите текст в конец статьи, переходя к заключительным выводам.

Как показал Пасек, в общем случае, есть несколько причин, по которым люди могут неправильно отвечать на конкретный научный вопрос:

(1) люди не имеют информации по данному вопросу;

(2) люди имеют неверные представления о том, что говорит наука по данному вопросу;

(3) люди знают, что говорят ученые, но это противоречит их собственным представлениям или несет риск для их самоидентификации.

В зависимости от причин ответа, человека можно отнести к одной из следующих категорий:

1. неосведомленный;

2. дезинформированный;

3. несогласный.

Современные методики опросов оперируют лишь двумя противоположностями:

  • ответ либо правильный,
  • либо ошибочный.

Однако, с учетом различных причин, лежащих в основе ошибочных ответов, ситуация оказывается иной. А именно, вот такой:

Делая вывод об ошибочности современной модели оценки научных знаний в обществе, Пасек предлагает распутывать клубок ошибок путем определения 4х мыслительных состояний, свойственных каждому респонденту:

I. 3нание

II. Обучение

III. Незнание

IV. Неверное представление

Теперь нужно понять, какие категории людей попадают в то или иное мыслительное состояние и почему.

Для этого, вместо одного вопроса с множественным выбором (например, правда ли, что центр Земли очень горячий?), нужно задавать парный вопрос (два вопроса вместо одного).

1. по вашему мнению, большинство ученых согласилось бы, что центр Земли очень горячий?

2. а вы сами согласны, что это так?

При таком парном вопросе возможны 4 варианта ответов опрашиваемого:

a) оба ответа правильные;

b) 1й правильный, 2й неправильный;

c) 1й неправильный, 2й правильный;

d) оба неправильные.

Варианты ответов (a-d) на парный вопрос (1–2) можно сопоставить с мыслительным состоянием респондента (I-IV). Это может быть описано в виде матрицы.

А из матрицы получается следующая система уравнений:

Оба правильные = Знание + 0.5 x Обучение + 0.25 x Незнание

Правильно, затем Неправильно = 0.25 x Незнание

Неправильно, затем Правильно = 0.5 x Обучение + 0.25 x Незнание

Оба неправильные = Ошибочное мнение + 0.25 x Незнание

Рассмотрим, в качестве примера, такой парный вопрос.

1. По вашему мнению, большинство ученых согласилось бы, что люди, как мы их знаем сегодня, развились из более ранних видов животных?

2. А вы сами согласны, что это так?

На диаграмме ниже показано, как соотносятся ответы на этот парный вопрос и мыслительные состояния отвечающих.

На основе показанного на диаграмме соотношения ответов и мыслительных состояний,

методика Пасека позволяет с помощью логистической регрессии предсказать долю несогласных среди респондентов,

- т.е. тех, кто знает, что говорят ученые, но с этим несогласных, поскольку это противоречит их собственным представлениям или несет риск для их самоидентификации.

Доля таких несогласных в примере сформулированного выше вопроса об эволюции человека в расчетах Пасека получилась равной 16.5%. Это показано на следующей диаграмме.

А теперь сравните этот результат с общепринятой интерпретацией опросов общественного мнения Гэллапа.

  • Согласно опросам Гэллапа, в США по вопросу, является ли человек продуктом эволюции:

→ доля людей, придерживающихся научной точки зрения, составляет лишь 15%;

→ доля придерживающихся иных позиций, соответственно, 85%.

  • Согласно же Пасеку, расклад куда сложнее и разнообразней:

→ доля людей, придерживающихся научной точки зрения, на самом деле, куда больше — 46,1%;

→ при этом, доля неосведомленных о научной точке зрения — 36,1%;

→ доля упертых (несогласных) в силу собственных мотивированных рассуждений — 16,5%

→ доля дезинформированных (имеющих неверные представления о том, что говорит наука по данному вопросу) — 1.3%

Как говорится, почувствуйте разницу.

Какие же выводы?

«Новые горизонты», художник Jonathon Rosen

Выводы из всего вышеизложенного, в первом приближении, таковы.

Представление о расколе общественного мнения по многим вопросам на два полярных лагеря:

— не соответствует реальности (лагерей больше, и каждый лагерь формируется в силу своих причин);

— является следствием ошибочной методологии проведения опросов и интерпретации их результатов.

В качестве рекомендаций по исправлению ситуации, можно было бы назвать следующее.

  1. Нужно менять методику опросов общественного мнения по всему спектру тем от науки до политики.
    Сохранение традиционной методологии проведения и интерпретации опросов в условиях наблюдаемой поляризации общества будет лишь способствовать нарастанию раскола, повышая доверие к пропаганде и всевозможным конспирологическим теориям.
  2. При анализе результатов опросов, необходимо учитывать неизбежные искажения, вносимые мотивированным рассуждением, и делать поправку на них при формировании итоговых результатов опросов. Иначе, в зависимости от степени консервативности позиций людей, результаты опросов будут лишь повышать уровень их упертости, вплоть до полного мракобесия.

Вышеназванные меры могут способствовать росту понимания оснований, лежащих в основе позиций сторон, и тем самым хоть как-то содействовать сближению этих позиций.

Это особенно важно для вопросов, по которым консенсус по тем или иным причинам невозможен.

Иначе, раскол будет нарастать, а мотивированные рассуждения, подпитываемые пропагандой и фейковыми новостями, переключат наш рефлекс боязни нового из состояния «сражайся или беги» в состояние «сражайся или умри».

Если статья вам понравилась, — не сочтите за труд покликать на значок аплодисментов, помогая своей рекомендацией узнать об этом тексте и другим (а уж как автору будет приятно ☺️).

Много подобных публикаций можно найти на моем телеграм-канале “Малоизвестное интересное” https://telegram.me/theworldisnoteasy

--

--

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации