Слепошарые поводыри

Коллаж на основе картины Питера Брейгеля Старшего «Притча о слепых»

“Можно самому непонятливому человеку объяснить самые мудреные вещи, если он не составил себе о них еще никакого понятия; но самому понятливому человеку нельзя объяснить самой простой вещи, если он твердо убежден, что знает, да еще несомненно знает то, что передается ему.”

Лев Толстой

Рациональные ангелы и постнормальная истина

B завершение эссе «Почему мы не живем в эпоху постправды», знаменитый экспериментальный психолог и автор мировых бестселлеров Стивен Пинкер пишет:

«Люди действительно часто бывают иррациональными, но не всегда и не везде. Рациональные ангелы нашей природы могут и должны поощряться нормами и институтами, пропагандирующими истину».

В качестве одного из важнейших таких институтов Пинкер называет университеты, миссия которых «продвижение истины и рациональности».

Такая позиция Пинкера подразумевает наличие надежных методов и проверенных опытом процедур выявления истины среди потоков фальшивых новостей и политической лжи, иррациональных и/или мотивированных суждений, откровенных заблуждений и результатов предвзятости из-за разнообразных когнитивных искажений человеческого разума.

Но как быть в ситуациях, где проверки фактов оказывается недостаточно для выявления истины из-за наличия противоположных точек зрения?

Ведь еще Платон писал о категориальном релятивизме правильного мнения: идеально истинных представлений не существует, но зато существуют представления то более, то менее истинные в соответствии с тем, что непосредственно представляется тому или другому человеку.

С невозможностью понять, какой из диаметральных взглядов отражает истину, мы сталкиваемся далеко не только в новостной повестке медиа. Истина все чаще становится неразличима в вопросах истории и политики, философии и культуры. И даже в науке вопрос об истинности тех или иных теорий все чаще ведет нас к особому виду постправды —

постнормальная истина.

Это две неразличимые по истинности противоположные точки зрения по какому-либо научному вопросу.

Со времен эпохи Просвещения, постнормальные истины (для которых тогда еще не было специальных определений) становились все более маргинальными. Считалось, что надежные данные и наука могут помочь примирить многие конфликтующие ситуации, предоставив беспристрастную точку зрения, основанную на данных, и что есть некоторые фундаментальные факты, которые нельзя подвергать сомнению.

Однако, на рубеже 20-21 веков постнормальные истины стали вдруг множиться. Спектр непримиримых споров по вопросам, так или иначе связанных с наукой и технологиями, становился все шире. А вопиющие примеры непродуктивности споров ученых о происхождении COVID-19, рисках изменения климата, опасностей автономного оружия и сильного ИИ, влияния соцсетей и многих других важнейших для человечества вопросов уже не оставляют надежды на незыблемость понятия истины в науке, как только дело доходит до принятия конкретных практических решений.

Была даже сформулирована концепция «постнормальной науки» (Post-Normal Science) — новой концептуализации науки для ситуаций, в которых «факты неточны, ценности спорны, ставки высоки, а решения срочны». Т.е. по сути, для ситуаций радикальной неопределенности, в которых появление постнормыльных истин становится неизбежным (подробней см. здесь).

В этой связи в третьем десятилетии 21 века актуализировался вопрос об институтах, долженствующих (по Пинкеру) поощрять рациональных ангелов нашей природы, помогая им прозревать истину.

Самым универсальным и распространенным из институтов, призванных обеспечивать достоверное и надежное выявление истины при принятии важных решений, является институт экспертизы — привлечение компетентных экспертов.

В основании данного института три базовых положения.

  1. Инстанция, уполномоченная принять решение, полагается на результаты экспертизы.
  2. Любой честный и некоррумпированный привлекаемый для экспертизы специалист полагает, что он компетентен и непредвзят.
  3. Применяемые экспертами методы надежны и достоверны, ибо они проверены на практике и одобрены к применению.

И вот здесь скрываются две неприятные проблемы.

1 Даже самые высококвалифицированные и титулованные эксперты — тоже люди, и их решения не свободны от ошибок. Они тоже бывают интеллектуально слепы.

Хотя многие эксперты ошибочно полагают, что они невосприимчивы к когнитивным искажениям, в некотором смысле, эксперты даже более восприимчивы к ним, чем неспециалисты. Факты влияния когнитивных искажений экспертов на принятие решений задокументировано во многих областях: от криминалистов, следователей по уголовным делам и судей до страховых агентов, психологов, инспекторов по безопасности, прогнозистов, кадровиков и врачей.

Т.е. на практике 2-е из вышеназванных трех базовых положений зачастую не выполняется.

2 Ситуация усугубляется еще и тем, что из-за когнитивных искажений экспертов даже самые широко используемые в мире инструменты экспертизы не гарантируют надежных и достоверных результатов экспертизы.

Примеров этого не счесть даже среди, казалось бы, общепринятых и тысячекратно проверенных методов судебно-медицинской экспертизы и криминалистики: тест на психопатию, инструмент актуарной оценки рисков сексуальных преступников, анализ отпечатков пальцев, анализ ДНК, анализ почерка, идентификация огнестрельного оружия и пр.)

Это значит, что на практике и 3-е из вышеназванных базовых положений может не выполняться.

Получается, что два из трех базовых положений экспертизы могут не выполняться. В результате чего экспертиза дает ошибочные результаты. Чтобы понять причины и источники таких ошибок, разберемся с их структурой.

Два компонента экспертных ошибок

B недавно вышедшей исключительно важной книге нобелевского лауреате Даниэля Канемана (в соавторстве с Оливье Сибони и Касс Р. Санстейн) «Шум. Несовершенство человеческих суждений» (которая наверняка повторит успех мирового бестселлера Канемана «Думай медленно… Решай быстро») анализируются два компонента ошибок в экспертных суждениях:

✔️ искажение (bias) — ошибка в результате систематического отклонения от истины;

✔️ шум (nois) — ошибка в результате случайного отклонения от истины.

Канеман и Со. иллюстрируют эти два компонента ошибок в экспертных суждениях метафорой стрельбы по мишени.

  • Одни суждения (выстрелы по мишени), под действием конкретных когнитивных искажений, систематически смещаются в определенном направлении от цели — центра мишени (верного суждения) — на рисунке так стреляет команда В.
  • Другие суждения (их можно назвать зашумленными), вместо систематического смещения в определенном направлении от цели, оказываются беспорядочно разбросанными по всей мишени — так стреляет команда С.
  • Третий вариант суждений сочетают в себе влияние и когнитивных искажений, и шума, в результате чего они смещены в определенном направлении от цели, но при этом еще и разбросаны в данном направлении — так стреляет команда D.
  • Выстрелы (суждения) команды А попадают в цель (верные суждения), что говорит об отсутствии когнитивных искажений и шума.

К этому примеру необходимо сделать два важных замечания.

  1. Зашумленность суждений ни в коем случае нельзя путать с их разнообразием. Без последнего в принципе невозможны инновации и прорывные решения. Говорить о шуме, как источнике ошибок в суждениях, можно лишь при недопустимом разбросе решений в повторяющихся однотипных ситуация и повторяющихся методических ошибках (например, если средняя величина ставки страховой премии составила $200 тыс, но половина андеррайтеров указывают суммы либо ниже $145 тыс, либо выше $255 тыс).
  2. Шум можно обнаружить и измерить, даже не имея информации о расположении цели (верное суждение, символизируемое центром мишени) и влиянии когнитивных искажениях, определяющих направление смещения выстрелов (суждений) от центра мишени. Как указывают Канеман и Со, — для этого достаточно перевернуть простреленные мишени и посмотреть на них с обратной стороны.

Беспорядочность разброса выстрелов (суждений) отражает их зашумленность у команд C и D.

В книге Канемана и Со приведено много примеров пугающих масштабов шума в ситуациях, где суждения должны быть безошибочными: в медицине, при вынесении решений об опеке, в прогнозировании, в решениях о предоставлении убежища, в кадровых вопросах, в решениях об освобождении под залог, в криминалистике. Авторы отмечают, что все приведенные примеры — лишь верхушка огромного айсберга. Ибо когда имеешь дело с человеческими суждениями, вероятность обнаружить шум весьма велика.

А для кардинального повышения качества экспертных суждений при принятии ответственных решений нужно не только устранить шум, но и минимизировать влияние когнитивных искажений.

Сразу уточню. Речь здесь идет не о преднамеренно дискриминационных искажениях (intentional discriminatory bias), в результате которых люди воспринимают мужчину на фото слева менее вероятным подозреваемым в насилии, чем мужчину на фото справа.

Речь также не идет о простых случаях когнитивных искажений, связанных с когнитивным фоном (контекстом и/или последовательностью переключения внимания), типа приведенных на этих двух рисунках.

  • На левом рисунке, в зависимости от принимаемого во внимание контекста (столбца трёх цифр или строки из трех букв), можно увидеть либо число 13, либо букву В.
  • А рисунок справа иллюстрирует эффекта порядка: при чтении слева направо первый (крайний левый) символ может повлиять на интерпретацию среднего символа, так что строка читается как A B 14. Но при чтении справа налево (начиная с 14 в качестве первого символа), многие видят строку A 13 14, т. е. средний символ может восприниматься либо как «13», либо как «B», в зависимости от того, с какого символа вы начнете просмотр строки.

Существуют десятки связанных с принятием экспертных решений когнитивных искажений, таких как предвзятость подтверждения, эскалация приверженности, импульс принятия решения, узкое видение, настойчивость убеждений, образ мышления и эффекты якоря. Все они оказывают сильное влияние на судебные решения, решения медицинских экспертов, следователей, финансовых аналитиков, и аналитиков военной разведки, да и вообще на всех, кто участвует в принятии решений.

Но самым сложным для обнаружения из всего названного (и потому весьма трудно устраняемым) является «суперошибка экспертов».

Суперошибка экспертов

Bозможности человеческого разума ограничены когнитивными искажениями восприятия реальности, толкающими к неверным решениям. Это проявляется тем больше, чем сложнее становится окружающая людей реальность, и чем быстрее в ней происходят изменения. Поэтому не удивительно, что из-за взрывного усложнения мира и нарастания скорости изменений в 21 веке наш разум стал все чаще подводить.

Следствием стало не только лавинообразное нарастание интеллектуальной слепоты масс, но и катастрофическая девальвация точности экспертных решений.

Особенно это ощущается при принятии наиболее важных решений в неопределенных ситуациях при больших ставках (типа выбора стратегии минимизации пандемии).

Что еще хуже, — мы не замечаем, что девальвация точности экспертных решений происходит практически во всех областях деятельности.

И самое ужасное, — суперошибка экспертов: им крайне сложно признавать свои ошибки, возникающие в результате когнитивных искажений и шума.

Подавляющее число экспертов считают свою честность, непредвзятость и компетентность гарантией верности своих решений.

Такая суперошибка экспертов может дорого стоить конкретным людям и всему человечеству. Риски при возрастания интеллектуальной слепоты масс — также чрезвычайно опасный для общества процесс, — в большинстве своем, долгосрочные. А вот риски ошибок экспертов могут вести к крайне быстрым негативным последствиям.

И наиболее ярким примером этого может служить влияние когнитивных искажений и шума на ошибки в решениях судебно-медицинской экспертизы. Уж где — где, а в этой сфере, где решаются вопросы установления виновности людей в преступлениях, цена ошибок экспертов предельно высока. Ведь за них людям приходится платить сломанной жизнью и годами тюремного заключения.

К сожалению, мало кто знает о самой скандальной научной дискуссии 2021 года о роли когнитивных искажений при принятии решений экспертами судебно-медицинской экспертизы.

И мы сейчас об этом скандале расскажем. Ибо он позволит нам пойти даже дальше, чем Канеману и Со в их новой прекрасной книге. Мы попытаемся выявить структуру и источники обоих компонентов экспертных ошибок: шума и когнитивных искажений.

Скандал года

Hебывало горячая дискуссия началась после публикации в феврале 2021 в «Журнале криминалистики» статьи когнитивного нейробиолога Итиэля Дрора и Со. “Когнитивное искажение в решениях судебной медицины”. В статье рассказывалось о результатах большого исследования структуры и источников ошибок судебной медицины в результате когнитивных искажений экспертов.

Итиель Дрор — нейробиолог и специалист в области когнитивного мышления из Университетского колледжа Лондона, — специализируется на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании в целях их практического применения для улучшения восприятия информации, интенсификации обучения, минимизации ошибочных суждениями и принятия ответственных решений. Занимаясь исследованиями и практическими проектами в этой области уже не первый десяток лет, Дрор опубликовал более сотни рецензируемых научных статей в первоклассных научных изданиях. Поэтому неудивительно, что в книге Канемана и Со. «Шум. Несовершенство человеческих суждений» Дрор стал самым цитируемым автором. Нобелевский лауреат отзывается о Дроре как о пионере изучения вопросов структурирования шума и когнитивных искажений, осуществившем широкий ряд экспериментов по ревизии шумовых помех в областях, которые, как считалось, воздействию шума не подвержены.

Dr. Itiel Dror Principal Consultant & Researcher
Cognitive Consultants International (CCI-HQ)

Статья “Когнитивное искажение в решениях судебной медицины” привлекла беспрецедентное внимание профессиональной аудитории «Журнала криминалистики» и вызвала небывалое в истории журнала количество комментариев (порой, весьма гневных и даже не совсем корректных). В статье были издлжены следующие основные результата проведенного авторами исследования.

  • На примере широко известных судебных кейсов, исследование продемонстрировало наличие в выводах судебно-криминалистической экспертизы предвзятости судебного подтверждения (класс эффектов, посредством которых ранее существовавшие убеждения, ожидания, мотивы и ситуационный контекст человека влияют на сбор, восприятие и интерпретацию доказательств в ходе уголовного дела). Данное когнитивное искажение влияет на интерпретацию смесей ДНК, сравнение отпечатков пальцев, токсикологию и другие суждения судебно-медицинской экспертизы.
  • Следствием когнитивных искажений является неправильное использование науки, а иногда даже злоупотребление ею в суде. Мало того, что нерелевантная информация может исказить конкретный аспект расследования, она часто вызывает «каскад предвзятости» от одного компонента расследования к другому и «снежный ком предвзятости», в результате чего предвзятость увеличивается в силе и импульсе по мере того, как различные компоненты расследования влияют друг на друга.
  • Предвзятость также возникает, когда судебно-медицинские эксперты работают в обратном направлении: вместо того, чтобы доказательства определяли процесс принятия судебно-медицинских решений, эксперты работают от целевого подозреваемого к уликам.
  • Эти проблемы в судебно-медицинской экспертизе в значительной степени игнорируются судами. Основным препятствием для принятия действенных контрмер является то, что многие судебные эксперты имеют «слепое пятно предвзятости» к этим скрытым предубеждениям и поэтому склонны отрицать их существование. Судебно-медицинские эксперты часто представляют суду свои решения с большой уверенностью, а затем ошибочно принимают признание судом их выводов как подтверждение того, что они не были предвзятыми или ошибались.

Желающим услышать из уст самого Итиэля Дрора рассказ о результатах этого исследования и о том, как предвзятости могут влиять на мнения и выводы экспертов, рекомендую посмотреть это часовое видео.

Экспериментальные данные, полученные в ходе этого и серии предыдущих исследований Итиэля Дрора и его команды из Cognitive Consultants International (CCI-HQ) легли в основу вышедшей в 2021 книги Брэндона Гарретта (профессор права им. Л. Нила Уильямса юридического факультета Университета Дьюка и директор Центра науки и правосудия Уилсона) «Вскрытие криминалистической лаборатории. Разоблачение недостатков судебной экспертизы».

В ней, как пишет в рецензии Адам Бенфорадо (автор книги “Несправедливо: новая наука об уголовной несправедливости”): «Брэндон Гарретт раскрывает скандал ошеломляющих масштабов и постоянные усилия по его сокрытию».

А сам Итиэль Дрор характеризует книгу так:

«Эту очень своевременную книгу необходимо прочесть всем, кто интересуется преступностью, предвзятостью, судебной экспертизой, неправомерным осуждением и неправильным использованием науки. Это тревожный сигнал для того, чтобы привнести в систему уголовного правосудия науку, прозрачность и справедливость ».

В книге поставлены и рассмотрены следующие важнейшие вопросы судебной экспертизы.

  • Где исследования, подтверждающие надежность и достоверность базовых методик широко распространенных методов, типа идентификации личности по отпечаткам пальцев?
  • Как эксперты могут со 100%-ной уверенностью свидетельствовать об отпечатке пальца, когда нет такого понятия, как 100%-ное совпадение?
  • Где и как осуществляется контроль качества в лабораториях и при сборе улик на местах преступлений?
  • Должны ли мы с такой готовностью внедрять новые мощные технологии, как программное обеспечение для распознавания лиц и быстрые машины ДНК?
  • Почему судьи так неохотно учитывают слабые стороны стольких давно принятых и широко используемых методов?
Анонс книги «Вскрытие криминалистической лаборатории. Разоблачение недостатков судебной экспертизы» и короткое интервью ее автора с Итиэлем Дрором

В свете всего вышеизложенного, с неотвратимостью возникает вопрос:

Как устранить или хотя бы минимизаровать ошибки экспертов, возникающие в результате когнитивных искажений и зашумленности?

Но прежде чем отвечать на этот вопрос, необходимо избавиться от ряда устойчивых заблуждений в данной области.

Шесть заблуждений о природе когнитивных искажений

Hеобходимость борьбы с когнитивными искажениями экспертов (КИЭ) в настоящее время широко признана. Но борьба с ними на практике — это совсем другое дело. Простого осознания и силы воли недостаточно для борьбы с КИЭ. Необходимо разработать эффективные и в то же время практичные контрмеры. И первый шаг на этом пути — признание существования КИЭ и осознание огромного влияния, которое КИЭ могут оказать на честных, трудолюбивых, преданных своему делу и компетентных экспертов.

А чтобы сделать этот шаг, необходимо избавиться от шести заблуждений, описанных и проанализированных в работе Дрора «Когнитивные и человеческие факторы при принятии экспертных решений: шесть заблуждений и восемь источников предвзятости»

1-е заблуждение: КИЭ связаны с изъянами этики экспертов.

Многие ошибочно думают, что КИЭ являются этической проблемой коррумпированных людей или даже злонамеренными действиями недобросовестных людей, тогда как, на самом деле, КИЭ влияют на суждения честных и преданных своему делу экспертов.

Это заблуждение, которое возникает из-за базового непонимания того, что такое КИЭ. Это не вопрос нечестности, преднамеренной дискриминации или преднамеренного действия, вытекающего из основополагающих этических проблем. Конечно, бывают случаи преднамеренных профессиональных проступков. Но в подавляющем числе случаев КИЭ не связаны с этическими проблемами личного характера, честности или преднамеренного неправомерного поведения.

2-е заблуждение: КИЭ связаны с некомпетентностью.

Часто, когда обнаруживаются ошибки и предубеждения, вину за них возлагают на привлеченных экспертов, вместо того чтобы признать наличие каких-либо системных проблем, таких как человеческий фактор в анализе и общая склонность к предвзятости. В реальности, широко распространенные среди экспертов неявные когнитивные искажения никак не связаны с некомпетентностью, и поэтому их особенно трудно обнаружить.

3-е заблуждение: Эксперты беспристрастны и непредвзяты.

К сожалению, никто не застрахован от предвзятости, даже эксперты. Более того. Во многих отношениях эксперты даже более подвержены когнитивным искажениям, чем в среднем в обществе. Хотя эксперты, как правило, очень уверены в себе (иногда даже чересчур самоуверенны), более опытные эксперты на самом деле могут работать хуже, чем новички. Например, при сборе данных решающее значение имеет способность эксперта правильно идентифицировать и собирать образцы. А присущая опытным экспертам излишняя самоуверенность ведет к тому, что новички по факту превосходят экспертов.

4-е заблуждение: Технологии устраняют предвзятость.

Это одно из самых распространенных заблуждений в корне ошибочно. Инструментарий и технологии создаются, программируются, управляются или интерпретируются людьми. И поэтому их использование не является гарантированной защитой от предвзятости и предубеждений. Кроме того, технологии могут даже вносить дополнительные погрешности.

5-е заблуждение: Хороший эксперт не может быть интеллектуально слеп.

Эксперты часто не осознают своих предубеждений и поэтому ошибочно полагают, что они не предвзяты. Исследования показали, что 70% судмедэкспертов признают, что когнитивное искажение является причиной для беспокойства в криминалистике в целом, но только 52% считают, что это вызывает озабоченность в их собственной области криминалистики, и только 25% считают, что это имеет отношение к ним лично, порождая для них «слепые пятна предвзятости».

6-е заблуждение: КЭИ преодолеваются силой воли.

Это т.н. «иллюзия контроля». Попытка свести к минимуму предвзятость с помощью силы воли заставляет эксперта больше думать о ней и в результате лишь усиливает ее эффект. Это похоже на то, как судья инструктирует присяжных игнорировать определенные доказательства. Поступая таким образом, судья на самом деле заставляет присяжных еще больше обращать внимание на эти доказательства.

Перечислив шесть главных заблуждений о КИЭ, перейдем к важнейшему делу — попробуем понять структуру КИЭ, их источники и составные части.

3 источника и 8 составных частей КИЭ

B последние годы тема когнитивных искажений не спускается с вершины хайпа. Консультанты всех мастей вещают из каждого утюга, что когнитивных искажений тьма тьмущая, и что «не существует простого способа их обойти — но можно понять, в чем они заключаются и почему формируются». А в качестве иллюстрации обычно приводятся картинки типа этой.

Подобная структуризация не предполагает сколь-нибудь ясного и осмысленного понимания источников и составных частей когнитивных искажений, позволяющего разработать практические методики минимизации их влияния. Это совсем не мешает бизнесу консультантов по HR, маркетингу, менеджменту и самосовершенствованию. Однако, для минимизации ошибок, возникающих вследствие когнитивных искажений, подобная структуризация бесполезна. Остается лишь сожалеть, что в многоголосом хоре консультантов мало кому удается услышать трезвый голос Итиэля Дрора.

В статье Дрора «Когнитивные и человеческие факторы при принятии экспертных решений: шесть заблуждений и восемь источников предвзятости» он предлагает такую таксономию источников КИЭ.

Таксономия источников когнитивных искажений экспертов (по И.Дрору)
  • Три фактора категории А: (1) данные, (2) эталонные материалы и (3) контекстуальную информацию по анализируемому кейсу.
  • Четыре фактора категории В: (4) базовые показатели прошлого опыта эксперта, анализирующего конкретный кейс, (5) организационные факторы, (6) образование и подготовка эксперта, а также (7) его личностные факторы.
  • Один фактор категории С: (8) когнитивную архитектуру и организацию когнитивных процессов людей.

Вот как выглядит оригинальная общая структура КИЭ по Дрору.

Источник: https://doi.org/10.1021/acs.analchem.0c00704

Важно понимать, что такая структура источников КИЭ и факторов, определяющих их суть, направлена на облегчение их распознавания и диагностики. Не менее важно, что минимизация отрицательного влияния каждого из элементов данной структуры требует вполне конкретных и четко определенных контрмер.

Подробное описание элементов структуры КИЭ и поясняющих их примеров читатель может найти в статье Дрора. Мы же здесь лишь коснемся самых важных и неочевидных моментов таксономии КИЭ.

1 Данные. Могут ли конкретные данные быть источником КИЭ, зависит от типа данных. Например, отпечатки пальцев, сами по себе не подвержены когнитивным искажениям, поскольку не несут никакой информации, кроме отпечатков гребней трения на пальцах. Другие типы данных (напр. анализ голоса, почерка, брызг крови или следов укусов) могут содержать потенциально необъективную информацию. Например, при анализе голоса содержание или даже тон и крик могут выявить жестокое нападение. Точно так же доказательства ДНК группового изнасилования способны вызывать у экспертов эмоции, которые могут повлиять на принятие ими решений.

2 Эталонные материалы. Здесь речь идет о ситуациях, основанных на сравнении с неким эталоном, когда эксперт руководствуется не фактическими данными, а «целью», которую он ожидает (или хочет) обнаружить. Например, если на интерпретацию доказательств ДНК влияет эталонный материал «целевого» подозреваемого (профиль его ДНК). Для лучшей подгонки под эталон эксперт может предвзято интерпретировать биологический материал с места преступления. Этот тип когнитивных искажений не ограничивается «целью» или эталоном, но может быть вызван подгонкой под некую теорию, справочный график или даже неким паттерном, засевшим в сознании эксперта.

3 Контекстуальная информация. КИЭ возникают, когда не относящийся к задаче контекст приводит к тому, что какой-то аспект анализа переоценивается, недооценивается или игнорируется (например, не воспринимается или определяется как шум (аномалия, выброс). Это происходит не только по отношению к субъективным суждениям, но и зачастую ведет к искажению строго установленных процедур и/или критериев принятия доказательств.

Важно понимать, что нерелевантная контекстуальная информация искажает суждения экспертов на бессознательном уровне — они могут не знать об этом. Возникающие КИЭ меняют то, как информация представляется и обрабатывается в мозге. И при этом эксперты не могут должным образом контролировать силой воли возникновение таких искажений (см. выше о шести заблуждениях о о природе когнитивных искажений).

4 Базовые показатели прошлого опыта эксперта. Прошлый опыт похожих кейсов порождает у эксперта некие ожидания в отношении нового кейса. Обычно они не вытекают напрямую из конкретного прошлого кейса или его анализа. Но тем не менее, такие ожидания могут влиять на интерпретацию и анализ нового кейса. Проблема заключается в том, что анализ нового кейса оказывается необъективен, т.к. фактически анализ основан на других кейсах. Суть когнитивного искажения в том, что восприятие нового кейса и решения эксперта не основаны на самом кейсе. Этот тип искажений еще более усиливается, когда сходство с прошлыми кейсами поверхностно и меньше, чем на самом деле, но при этом субъективно переоценивается в глазах эксперта.

5 Организационные факторы. Они могут быть многочисленны и разнообразны. В первую очередь, это факторы административного подчинения и отношения между различными лицами и службами, так или иначе участвующими в анализе кейса или принятию по нему решений. В сознании любого эксперта так или иначе присутствует разделение всех причастных к кейсу на «своих» и «чужих». И это потенциально порождает опасность написания в заключении эксперта того, «что нужно “нашим”», или нежелание оспаривать экспертный анализ или решения “наших”, даже когда их ошибочность очевидна для эксперта.

Другие организационные факторы связаны с нехваткой времени, ожиданиями достижения определенных результатов, стрессом, контролем бюджета, намерением использовать данный кейс в своих публикациях и любыми иными организационными факторами, способными повлиять на работу профессиональных экспертов.

6 Образование и подготовка эксперта. Влияние образования и подготовки экспертов весьма многообразно. Например, они влияют на принципиальное самопозиционирование эксперта: либо в роли независимого ученого, либо в роли профессионального консультанта для конкретной оргструктуры. Другим распространенным примером является приверженность эксперта тем или иным научным школам или практикам трактовки чего угодно: от статистики до инструментальных методов определения убедительности доказательств.

7 Личностные факторы. Среди влияющих на предубеждения и принятие решений личностных факторов, наиболее очевидными являются мотивация, личная идеология и убеждения. Кроме того, на экспертов влияют уровень их склонности к риску, а также уровень терпимости к двусмысленностям. Также играют роль индивидуальные различия восприятия. Например, тесты, использующие цвет, могут быть необъективными, т.к. люди могут совершенно по-разному определять цвет одних и тех же предметов.

Даже когда используются технологии, человеческие предубеждения все еще имеют место. Технология не может быть полностью объективной, поскольку люди участвуют в её создании и эксплуатации, а также в ее калибровке, обслуживании, интерпретации результатов и принятии решения о том, следует ли предпринимать какие-либо действия.

8 Когнитивная архитектура и организация когнитивных процессов людей. Работа нашего мозга имеет архитектурные и емкостные ограничения, которые не позволяют ему обрабатывать всю поступающую информацию. При этом активный характер механизмов познания человека ведет к тому, что мы видим мир не таким, «каков он есть», а таким, «каким мы хотим и можем его представить».

Помимо ограничений когнитивных процессов и особенностей работы человеческого мозга, вызывающими когнитивные искажения факторами могут быть эффекты, связанные с социальными взаимодействиями и групповыми предубеждениями. Особенно сильно такие коллективные когнитивные искажения проявляется в процессах каскадирования (распространение предвзятостей от одних людей к другим, превращающее людей, находящихся под влиянием, в людей, влияющих на других). Предельным результатом каскадирования предубеждений является образование т.н. «снежного кома» предубеждений, в результате чего предвзятость увеличивается в силе и импульсе по мере того, как различные компоненты экспертизы влияют друг на друга (подробней о каскадировании предубеждений с образованием из них «снежного кома» см. в статье Дрора «Предубеждения судмедэкспертов»).

Преодоление интеллектуальной слепоты экспертов

Bо-первых, нужно признать существование предубеждений (когнитивных искажений) в суждениях и выводах экспертов и выйти за рамки заблуждений относительно их природы.

Bо-вторых, нужно понимать, (1) что на ошибки экспертов влияют не только их предубеждения, но и шум, и (2) что роль шума в ошибках экспертов соизмерима с искажающей ролью предубеждений (что качественно иллюстрируется такой диаграммой из книги Канемана и Со. «Шум. Несовершенство человеческих суждений»).

B-третьих, мы можем бороться с различными источниками предвзятости и шума, следуя пяти методическим рекомендациям.

В качестве примеров методов улучшения процесса принятия решений путем минимизации шума и предвзятостей назову лишь два.

1. «Гигиена принятия решений» — метод, рекомендуемый для снижения шумового компонента в человеческих суждениях (см. книгу Канемана и Со. «Шум. Несовершенство человеческих суждений»).

2. Общий подход к улучшению процесса принятия решений, путем одновременной минимизации шума и предвзятостей (см. работа Дрора «Linear Sequential Unmasking–Expanded (LSU-E): A general approach for improving decision making as well as minimizing noise and bias»)

Подробное описание других методических рекомендаций можно найти в работах Итиеля Дрора, перечисленных здесь.

Заключение

✔️ В эпоху постнормальной науки и постнормальной истины полагаться лишь на «рациональных ангелов нашей природы» не следует никому, включая профессиональных экспертов.

✔️ Авторитет, знания и опыт профессиональных экспертов, сами по себе, не гарантируют верных выводов и решений, ибо даже лучшие из экспертов не меньше обычных людей (а подчас и больше) уязвимы для когнитивных искажений и шумов.

✔️ Единственный способ минимизации ошибок общества при принятии сложных и ответственных решений — наличие строгого контроля за тем, насколько неукоснительно все вовлеченные в выработку решений эксперты следуют методам, противодействующим влиянию когнитивных искажений и шума.

✔️ Эти методы, основанные на адаптации самых продвинутых теоретических научных представлений о человеческом разуме, мозге и познании, уже разработаны и многократно проверены. Однако, их практическое применение ограничено (1) в силу незнания о них многими профессиональными экспертами, и также (2) из-за нежелания большинства экспертов признавать влияние собственных предубеждений (когнитивных искажений) и шума на их профессиональные суждения и выводы.

А если в институте экспертизы ничего не менять, оставляя всё как есть (что мы, сожалению, пока наблюдаем на практике), даже лучшие и честнейшие из экспертов легко превращаются для общества в слепошарых поводырей.

Munguia. The Blind leading the blinds. https://www.toonpool.com/artists/Munguia_6485

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях

--

--

--

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Love podcasts or audiobooks? Learn on the go with our new app.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Сергей Карелов

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

More from Medium

WEEK 2 ( by Puan Noor Hasimah )

How to Survive Technological Disruption

CS371p & CS373 Spring 2022: Aimery Methena