ЦРУ ищет 3й путь к интеллекту

Это не формальная логика и не машинное обучение

«Интеллект — это в конечном счете рассказывание историй»

Грегори Тревертон

Полтора года назад я начал писать посто-сериал «ЦРУ создает кентавров для предсказания будущего», посвященный одной из моих любимейших тем, изучаемой мною не один десяток лет. Написал 5 лонгридов, как сначала военные США, а потом и ЦРУ пытались решать кажущуюся нерешаемой задачу предсказания будущего. За 11 лет они профинансировали 2 этапа исследований из 11 проектов в областях рынков предсказаний, поиска суперпредсказателей, коллективного принятия решений, алгоритмизированного краудсорсинга, распределенного оракула, блокчейна предсказаний и др.

Закончив 5й пост сериала обещанием рассказать о новом повороте в этих исследованиях, я замолчал на 1,5 года. Но вовсе не потому, что сорвал обещание. Столько времени потребовалось ЦРУ на поиск нового альтернативного пути исследований и построения «интеллекта кентавра» — коллективного интеллекта людей и алгоритмов.

Ведь не секрет, что оба предыдущие этапа не достигли желаемых результатов. И просто так вбухивать деньги в те же направления исследований руководителям IARPA, финансирующих эти исследования, было опасно, — Госдеп и так точит на них зубы, постоянно грозя урезать бюджет.

И вот, наконец, выбор сделан. Новый этап проекта начинается на этой неделе. Тем самым официально определено то новое направление, которое разведка США считает перспективней, чем все предыдущие, опробованные на 2х первых этапах.

Цель нового этапа исследований — раскрыть роль нарратива в мышлении, рассуждении и принятии сложных решений.

Повествовательное мышление

Это столь необычный поворот, что нужно пояснить, о чем вообще речь.

Что отличает мышление Homo sapiens от всех иных живых и неживых интеллектуальных агентов?

  • Это вовсе не умение статистического распознавания и классификации паттернов. С этим прекрасно справляются нервные системы животных (в том числе, куда более примитивных) и уж совсем примитивный ИИ.
  • Это не формальное и логическое мышление. Оно, опять ж, доступно ряду животных, а уж ИИ в этом вообще дока.

Да и при чем здесь вообще два вышеназванных вида мышления?

Разве с их помощью принимаются действительно сложные решения?

Т.е. такие решения, которые принимают ЛПРы (лица, принимающие решения), эксперты и аналитики, сталкиваясь со сложными, неопределенными и быстро развивающимися проблемами и ситуациями, когда данные и информация могут быть неполными, и где суждения и решения имеют серьезные, а порой даже смертельные последствия для сотен и тысяч людей.

Эти проблемы и ситуации могут, например, быть связаны с тем,

  • как наилучшим образом организовать чрезвычайную помощь при стихийных бедствиях;
  • или при принятии решения, находится ли в конкретном здании, по которому планируется ракетный удар, Усама бен Ладен;
  • или вводить ли против России новые санкции более высокого уровня.

При решении подобных сложных проблем, аналитики используют формально-логическое мышление, распознавание и классификацию лишь на подготовительных этапах к принятию решений. На последнем же, самом сложном и важном этапе принятия решений ЛПРами, важнейшую роль играет нарратив и повествовательное мышление коллективов людей.

Последнее — коллективность, — особенно важно, т.к. из этого следует, вот что.

Высшие формы интеллекта не являются достоянием индивида. А коллективный интеллект подобен памяти человека, являющейся всего лишь частицей огромной сети коллективной памяти, распределенной в пространстве на тысячи километров, а во времени на тысячи лет.

Это и есть вершина мышления, доступная лишь Homo Sapiens и сделавшая его обладателем неисчерпаемых интеллектуальных возможностей. Верно писал Грегори Тревертон, что «интеллект — это в конечном счете рассказывание историй».

Одной из областей комплексного принятия сложных решений, где роль повествовательного мышления уже довольно тщательно проанализирована, является юриспруденция. При принятии решений присяжными, не формальное мышление, а нарратив играет решающую роль в том, как они оценивают доказательства и выносят вердиктные решения.

Другой пример — разведка. Третий — работа инвестбанкиров. Четвертый, пятый … да, собственно, вся «экономика впечатлений» и почти весь фондовый рынок сегодня зависят в принятии решений не сколько от формального, сколько от повествовательного мышления.

Но как оно устроено, формируется и работает?

Оказывается, мы этого пока не знаем.

Проект SWARM

Проект SWARM (рой) начат в 2018 г. и направлен на понимание роли повествования в совместных рассуждениях при разведанализе. Исследование ведется на специальной онлайн-платформе в форме тематических исследований, в которых по две группы аналитиков работают над вымышленными, но реалистичными проблемами из области разведки. Проект нацелен на развитие фундаментальных достижений в области совместного мышления и накопления знаний и является частью зонтичной программы краудсорсинга доказательств, аргументации, мышления и оценки (CREATE), запущенной Агентством передовых исследований в сфере разведки IARPA в 2016 году.

Основным инструментарием проекта SWARM является анализ группового чата работающих на платформе экспертов, который сохраняется и архивируется. Специальный программный инструментарий выполняет роль «микроскопа» и «хирургического робота»,

позволяя в реальном времени анализировать и препарировать поток коллективного нарратива, превращая его в многоструйный поток микроповествований, чтобы исследовать их разветвления и объединения во времени, возникающие из них турбулентности, смерчи и т.д.

Повествование определяется как описание реальных или вымышленных событий, ситуаций, действий и т. д. во временной последовательности. А микроповествования — это своеобразный «конструктор Лего», из которого строятся повествования.

Image for post
Image for post
Схема порождения микроповествований для офицера группы «Purnululu» (см. ниже о кейсе “Проблема Калукистана” . Источник https://doi.org/10.1371/journal.pone.0226981.g003

Эти микроповествования, которые аналитики рассказывают друг другу, представляют собой словесные репрезентации историй о доказательствах, которые аналитики мысленно рассказывают сами себе, в ходе представления ими различных альтернативных гипотез в отношении имеющихся доказательств.

Весьма перспективными частными подцелями препарирования и мониторинга динамики микроповествований являются:

  • квантификация преимуществ и недостатков мотивированных рассуждений;
  • фиксация материализации элементов неявных знаний в момент их проявления в микроповествованиях;
  • трансформация коллективных повествований в заблуждения и их дальнейшая мифологизация.

Научная база проекта

В основе проекта теория Рэймонда Мара и Кит Оутли, что

Анализ стенограмм чата показал, что члены команды «запускали» ментальные симуляции, чтобы протестировать и оценить множество разнообразных, взаимодействующих и часто конкурирующих микроповествований, которые были созданы совместно с другими членами команды с использованием функции чата платформы SWARM. Таким образом, аналитики проверяли правдоподобие этих микроповествований друг на друге, чтобы понять, что они сами знают, а что нет.

В нелинейном и итеративном процессе аналитики использовали идеи, разработанные в процессе генерации и оценки микроповествований, для разработки повествования на макроуровне. Этот нарратив на макроуровне является идеальным в том смысле, что он существует, в основном, в умах членов команды. Его также можно считать «виртуальным», в том смысле, что повествования, представляли собой ментальные симуляции, которые помогали членам команды рассуждать о доказательствах в сложной проблеме.

Image for post
Image for post
Роль нарратива в совместном рассуждении при разведанализе: кейс-стади. Источник https://doi.org/10.1371/journal.pone.0226981.g004

Хотя может показаться, что доказательства естественным образом связаны повествовательной структурой, в юриспруденции, разведанализе, деятельности инвестиционных и финансовых аналитиков это, обычно, совсем не так.

Очень часто данные и доказательства представлены или доступны в отсоединенной и даже фрагментарной форме. Кроме того, каждый член команды, включаясь в общую работу, имеет свои собственные базовые знания, предположения и обобщения о мире, большая часть которых — неявные знания.

Все эти разрозненные источники информации о мире и рассматриваемой проблеме должны быть объединены в единую структуру. Повествование предлагает мощное и естественное средство сделать это.

И альтернативного средства у человека, похоже, не существует.

Подробней о научной базе проекта см. The role of narrative in collaborative reasoning and intelligence analysis: A case study.

Проблема Калукистана

Пилотный запуск проекта состоялся в 2018. 34 участника были разделены на две независимые команды по 17 человек под кодовыми названиями «Purnululu» и «Kakadu» (названы в честь топонимов Австралии). Темой пилота стала «Проблема Калукистана».

Это вымышленная, но реалистичная интеллектуальная проблема, весьма похожая на проблемы, с которыми столкиваются профессиональные аналитики разведки. Задача была представлена двум командам на платформе SWARM, скриншот которых приведен ниже. Каждая группа совместно занималась анализом и составлением отчета, посвященного проблеме.

Image for post
Image for post
Источник: https://doi.org/10.1371/journal.pone.0226981.g002

«Проблема Калукистана» разворачивается в гипотетической стране Центральной Азии, где царит нестабильность, конфликты и терроризм. Обе команды выполняют роль офицеров разведки, работающих в «SOCA» — разведывательном агентстве западной страны, которое недавно выпустило меморандум для своих офицеров, устанавливающем ограничения, которые они должны соблюдать в расследованиях. Согласно постановке задачи, важный аспект работы сотрудника описывается как оценка того, когда дополнительная информация может помочь данному расследованию, как расставлять приоритеты при сборе информации, что означает учет ресурсов, необходимых для сбора информации, и много других ограничений.

Недавно произошел взрыв бомбы, направленный против граждан западной страны, работающих в штаб-квартире Министерства минералов и шахт, в связи с чем были задержаны четверо подозреваемых…

На первом шаге нужно понять новую процедуру принятия решений. Учитывая ограничения меморандума SOCA о протоколах допросов и слежке, офицер должен определить, что и как делать.

На втором основном шаге необходимо оценивать вероятности причастности к террористической деятельности каждого из подозреваемых с учетом данных, которыми в настоящее время владеет офицер.

Подробней см. здесь.

При чем здесь предсказания будущего

Наш мозг постоянно занимается именно этим:

  • конструирует желательную для индивида модель окружения;
  • собирает с органов чувств и анализирует информацию о том, каково реальное окружение и насколько оно близко к модели желаемого;
  • вносит коррективы (а) в действия индивида, (б) в окружение, (в) в образ желаемого будущего.

Успешность вышеописанного процесса сильно зависит от предсказаний:

  1. что может произойти;
  2. как действия индивида скажутся на его положении в окружающей среде;
  3. как изменения в окружающей среде скажутся на индивиде и т.д.

Все это коротко называется — понимать мир.

Согласно Аристотелю,

Повествование — это межкультурный феномен человека, который может развиться

как средство сбора и передачи информации об окружающей среде и создания общих, коллективных и общественных ментальных моделей мира и реальности.

Люди используют повествования и истории, чтобы сравнивать перспективы, организовывать опыт, представлять и «конструировать» реальность и личную идентичность, выяснять цели, оценивать стратегии, интерпретировать результаты и результаты, оценивать доказательства и оценивать обоснованность утверждений о знаниях.

Это важнейшая часть междисциплинарной работы, связывающей изучение нарратива с нашим пониманием человеческого общества, работой человеческого разума и нашим восприятием мира.

_________________________

Всему вышеназванному будет посвящен новый этап проекта SWARM, запускаемый на этой неделе. Что там произойдет, и какие будут получены результаты, планирую вам рассказать.

А пока для интриги (и стимулирования воплей скептиков 😊) упомяну о том, что может происходить на следующем 4ом этапе проекта SWARM.

Следующий шаг — художественная разведка

На следующем шаге проекта SWARM авторы, возможно, поставят еще одну весьма интересную цель — видение будущей войны через общую призму фантастики и разведки.

  • Что будут из себя представлять войны будущего?
  • Традиционные, ядерные, гибридные …?

Слова Черчилля,

— все также верны.

Обычное военное планирование далеко не всегда может дать наилучший ответ на поставленный выше вопрос.

Так каковы же альтернативы?

Одна из них — исследование будущего с помощью художественной литературы, где авторы могут анализировать и разрабатывать сценарии войны с дружественной, вражеской и нейтральной точек зрения.

Например, методика Августа Коула — военного футуриста Атлантического совета и соавтора романа “Призрачный флот: роман о следующей мировой войне”.

Его методика FICINT — сочетание fiction writing и intelligence, для представления будущих сценариев войн способами, основанными на реальности, — уже показала свою эффективность, дав несколько оправдавшихся прогнозов, которые генералам просто не приходили в головы.

Кто-то скажет — бред и распил буджета.

А если нет? Что если эта штука взлетит?

Image for post
Image for post

_________________

Предыдущие посты посто-сериала «ЦРУ создает кентавров для предсказания будущего»:

Пост №1 — “Мистер Q и футбол

Пост №2 “Проект «Карта будущего»”

Пост №3 “Предсказания становятся приоритетом

Пост №4 “Топор под компасом американской разведки

Пост №5 “Третий артефакт. Децентрализованные рынки предсказаний, как фактор эволюции»”

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store