Инфорги Новацена

Результаты первого в мире проекта алгоритмического изменения личности

Сергей Карелов
8 min readMar 15, 2021
Android Jones «HanaHaus»

Сенсационность результатов пятилетнего проекта университетов Цюриха, Санкт-Галлена, Брандейса, Иллинойса и ETH Zurich заключается в следующем.

✔️ Эксперимент показал, что можно в массовом порядке преднамеренно и быстро изменять характеристики личности людей.

✔️ Возможные последствия масштабного намеренного изменения личности скандально-антиутопичны, — вплоть до выведения новых «пород» людей (например, покладистых и неагрессивных).

С тех пор, как в 1910 году Зигмунд Фрейд проанализировал жизнь и искусство Леонардо да Винчи, ученые начали применять психологические инструменты для структурирования свойств личности. Сначала подвергли анализу жизнь известных людей, а потом перешли и ко всем остальным. Сто с лишним лет исследований психологии личности не привели к консенсусу, но позволили зафиксировать следующее.

  1. Существует бесчисленное множество личностных характеристик.
  2. На вершину этого множества договорились (хотя и не единогласно) возвести «большую пятерку» качеств (экстраверсия, доброжелательность, добросовестность, нейротизм, открытость опыту).
  3. В процессе жизни характеристики личности могут меняться. Но для этого требуется много времени и серьезные обстоятельства (например, если доброжелательного и эмоционально стабильного человека посадить на три года в зиндан, названные качества, почти наверняка, сменятся на противоположные).

В этой связи, есть два ключевой вопроса:

✔️ можно ли быстро и просто изменить качества личности человека (образно говоря, не сажая его в зиндан)?

✔️ можно ли масштабировать этот процесс, поставив его на поток?

Источник: https://www.c4dhi.org/projects/snf-personality-change/

Экспериментальные результаты на 1.5 тыс. добровольцев проекта PEACH (PErsonality coACH) (проект ведут 5 профессоров, возглавляющих группу доцентов и аспирантов), —

позволяют удовлетворительно ответить на оба вопроса.

Технология преднамеренного изменения личности в рамках проекта PEACH разрабатывалась 2+ года. Был построен трёхконтурный стратегический фреймворк взаимосвязей черт, привычек и психо-эмоциональных состояний личности [1].

Источник: https://psycnet.apa.org/doiLanding?doi=10.1037%2Fint0000094

Разработы пять классов специальных индикаторов:

  • индикатор адаптации свойств личности;
  • индикатор адаптации состояния на основе социометрических показателей;
  • набор дополнительных ситуационных индикаторов;
  • обобщенные индикаторы;
  • времязависимые индикаторы.

По методике проекта анализ индикаторов комплексный и включает в себя три типа анализа: корреляционный, предиктивный и анализ многовариантных ситуаций.

Пример результата корреляционного анализа индикаторов. Источник: https://doi.org/10.1002/per.2309

После разработки методики еще год писали мобильное приложение для смартфона [2], в которое входит:

  • бот, имитирующий разговор с коучем в чате;
  • цифровой дневник движения к индивидуальным целям, нужный для саморефлексии и мониторинга прогресса;
  • система контролирующих и направляющих напоминаний.
Приложение PEACH и его компоненты. Источник: https://cocoa.ethz.ch/downloads/2018/09/None_Stieger_et_al-2018-PEACH.pdf

В целом, приложение выполняет роль психоаналитика-коуча, алгоритмическим путем направляющего и контролирующего корректировку заданных черт личности.

Написав приложение, проектная команда целый год экспериментировала и анализировала в ходе рандомизированного контролируемого исследования с числом участников равным 1523. А в конце февраля опубликовали результаты того и другого [3].

Итог: все получилось.

За 3 месяца личностные черты изменились до неузнаваемости. Что подтверждается тестами, самооценкой участников эксперимента, а также внешней оценкой их родственников, друзей и интимных партнеров.

Итоговое заключение авторов гласит:

Эта работа предоставляет самые убедительные на сегодняшний день доказательства того, что нормальные черты личности можно изменить путем вмешательства в неклинические выборки испытуемых.

Авторы особо отмечают возможность легкого масштабирования процесса. Полагаю, это может быть совсем не сложно даже при миллионах участников (всего-то и надо — мотивировать людей установить приложение).

В новой версии проектная группа, среди прочего, планирует решить вопрос мотивации (в текущей версии человек должен сам хотеть изменений своей личности, но это, похоже, преодолимо).

Почему эксперимент удался

Станет ли проведенное исследование переломным моментом (в смысле Гладуэлла) для алгоритмического изменения личности, зависит от ответа на принципиальный вопрос:

Почему вообще оказалось возможным столь простое и быстрое изменение глубинных качеств людей, глубоко зашитых эволюцией в человеческий разум?

Развернутый ответ на этот вопрос я планирую дать в готовящемся лонгриде о смене движка эволюции из-за трансформации традиционной культуры Homo sapiens в алгокогнитивную культуру.

Здесь же напишу предельно коротко (но, по возможности, ясно).

В 21 веке кардинально изменилась среда обитания людей и сами люди. Антропоцен — эпоха, в течение которой люди смогли придумать и развить материальные технологии до планетарного масштаба — подходит к концу. Новая эра, названная Джеймсом Лавлоком Novacene, — уже началась.

Джеймс Лавлок — независимый ученый и футуролог, член Лондонского королевского общества, командор Ордена Британской Империи и Ордена Почетных кавалеров, автор Гипотезы Геи и термина Novacene

Если Антропоцен был эпохой технологического освоения материи и энергии, то Новацен будет эпохой технологического освоения паттерна организации материи и энергии, называемого нами информацией.

Подробней смотите в этой книге.

Джеймс Лавлок, «Новацен» (2019). Lovelock J. (with Appleyard B.). Novacene: The Coming Age of Hyperintelligence. Allen Lane, 2019. ISBN: 978–0241399361

В 21 веке (пользуясь терминологией создателя Философии информации Лучано Флориди):

  • средой обитания людей все более становится Инфосфера«информационная среда, конституированная информационными процессами, услугами и объектами, включающая информационных агентов с их свойствами, интеракциями и взаимными связями»;
  • а сами люди, задолго до превращения в киборгов, постепенно превращаются в инфоргов«информационные организмы, связанные с биологическими агентами и инженерными артефактами в глобальной среде — инфосфере».
Лучано Флориди — профессор Оксфордского университета и создатель Философии информации, консультирующий Cisco, Facebook, Google, IBM и Microsoft

Образ личности человека, превращающегося в инфорга, определяется далеко не только личностью его биологичского воплощения, но и информационными следами, оставляемыми инфоргом в течение его жизнедеятельности в on-life. Именно там — в онлайфе инфосферы, — у инфорга формируются характеристики цифровой личности и конструируется цифровая идентичность. Ибо теперь в онлайфе инфорг получает не меньше опыта, знаний и отношений, чем в реальной жизни.

Вследствие такой цифровизации личности, превращающей человека в инфорга, становится возможным простое и быстрое целенаправленное алгоритмическое изменение цифровой личности, ведущее и к изменениям характерных черт биологического воплощения инфорга.

Потенциальные последствия

Сразу оговорюсь. То, какими мне видятся последствия алгоритмического изменения личности, в высшей степени умозрительно. Кое-что из этого уже можно проверить, а кое-что, — в настоящее время, еще нет.

Тем ни менее, я надеюсь, что будет полезно поделиться парой идей с читателями.

Первая идея

Допустим, в Китае решат обязать определенные категории граждан уставливать специальное приложение, чтобы целенаправленно менять черты личности, в соответствии с линией КПК по «неустанному повышению уровней открытости и сотрудничества населения, ведущему к великому возрождению китайской нации».

После появления системы социального рейтинга, шпионящих приложений для туристов в Синьцзян-Уйгурском автономном районе и ковидных приложений — «светофоров», предположение о возможности масштабного эксперимента по массовой корректировке черт личности в соответствие с линией партии вовсе не звучит невероятным.

Не зря же в программном докладе Си Цзиньпина на 19-м съезде КПК указывалось следующее.

В п. 1 первоочередных мер:

«Необходимо эффективнее развивать дальнейшее образование, ускоренными темпами создавать общество, стремящееся к знаниям, всемерно повышать личностные качества населения страны

В п. 3 там же:

«Формировать контингент кадровых работников, обладающих высокими личностными качествами и профессионализмом»

Си Цзиньпин выступает с докладом на 19-м съезде КПК (Синьхуа)

Вторая идея

Допустим, следующим шагом за массовым внедрением приложений по целенаправленному изменению черт личности будет принято решение о «великом возрождении китайской нации» на биологическом уровне.

Проще говоря, — о выведении новой породы людей.

Например, можно применить методику генетического ускорения эволюции в тысячи раз выдающегося советского ученого — генетика, академика Дмитрия Константиновича Беляева ([5, 6, 7] и подробней — книга [8]). 15 тысяч лет эволюции в ходе экспериментов Беляева по ускоренному одомашниванию (доместикации) лис были сокращены до полувека.

Академик Дмитрий Беляев с доместицированными лисами на звероферме экспериментального хозяйства СОАН СССР. Фото: ИЦиГ СО РАН

Суть гипотезы Беляева заключалась в том, что гены, отвечающие за развитие поведения, выполняют в организме особую, регуляторную функцию по отношению ко многим другим генам, и поэтому отбор по таким генам вызывает, вместе с изменением поведения животного, дестабилизацию развития и появление целого комплекса новых признаков, не имеющих отношения к поведению. Именно отбор на усиление дружелюбия к человеку, по мнению Беляева, и вызвал изменения практически у всех видов животных, исторически одомашненных человеком. Те же самые изменения были получены и у лисиц в процессе их экспериментальной доместикации, что подтвердило его гипотезу.

Если же совместить методику Беляева с методикой целенаправленного изменения черт личности, теоретически, за 250–300 лет можно на биологическом уровне изменить породу людей, например, за счет отбора на «особое дружелюбие к линии партии».

Подобный эксперимент на шимпанзе обсуждался Беляевым с Джейн Гудолл — директором знаменитого исследовательского центра в Танзании (подробней об экспериментах Гудолл и ее ученика Ричарда Рэнгема см. мой пост «SAPIENTISSIMUS — Альтернативное будущее человечества»). В переписке Беляева с Гудолл речь шла об отборе шимпанзе по способности к экстраполяции и по сниженной агрессивности. Высказывались оценки, что уже через 100 лет могли быть получены первые результаты, а через 300 лет, скорее всего, уже возникли бы морально-этические проблемы.

С тех пор прошло много лет. И сегодня с развитием у населения Китая «особого дружелюбия к линии партии» проблем не предвидится. И вряд ли они появятся, даже если партия решит усовершенствовать процесс с помощью технологических методик, типа PEACH. Да и с методикой ускоренной эволюции по Беляеву, полагаю, особых проблем не будет.

И если такое случится, то окажется прав Юваль Харари:

«Нет абсолютно никаких оснований считать, что Человек Разумный — конечная остановка. Сравнительно небольших изменений в генах, гормонах и нейронах оказалось достаточно, чтобы превратить Человека Прямоходящего, не способного смастерить ничего сложнее каменного ножа, — в Человека Разумного, создающего космические корабли и компьютеры. Кто знает, каков может быть результат еще нескольких изменений в нашей ДНК, гормональной системе или структуре мозга. Биоинженеры не собираются терпеливо ждать, пока естественный отбор снова сотворит чудо. Они возьмут тело старины Сапиенса и сами перепишут его генетический код, перемонтируют нейронные цепочки, изменят биохимический баланс и даже вырастят совершенно новые органы. Таким образом они создадут божков, которые могут так же отличаться от Человека Разумного, как мы отличаемся от Человека Прямоходящего».

И все это может оказаться возможным за какие-то 300 лет — ничто в истории эволюции.

То, что подобный сценарий имеет все шансы материализоваться, пишут многие весьма неглупые и практичные люди. Причину такого пессимизма Генри Киссенджер объясняет так:

«Просвещение началось с философских размышлений, которые распространялись с помощью новой технологии. Наша эпоха движется противоположным путем. Разработана потенциально доминирующая технология, которая нуждается в направляющей философии».

Но пока такой «направляющей философии» нет, прогресс ждать не будет. А люди тем временем превращаются в инфоргов, алгоритмически изменяют качества личности и проводят рискованные генетические эксперименты.

Каким станет мир, если человечество продолжит следовать этому бездумному пути, не трудно представить. Лучано Флориди описывает его так.

«Представим мир, в котором люди живут 150 лет. О’кей, это утопично, но не абсолютно невозможно. Все люди разделены в этом мире на две категории — тех, кто управляет, и тех, кем управляют. Управляемые счастливы, они играют в видеоигры, постоянно онлайн, все время смотрят фильмы на будущих версиях YouTube или Netflix. Они не особо много работают, потому что их благосостояние им позволяет так жить. Тем временем существует и контролирующий класс. Но то ли это, чего мы хотим?»

________________________

Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!

--

--

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации