Мы должны быть готовы к ещё большим переменам в обществах, государствах и личностях

Android Jones, коллаж из “Hope Street Night Machine” и “I Robot

Этот пост — продолжение моего интервью Марине Токаревой.

В 1-й части разговор был о следующем.

• О теории когнитивной эволюции человека, в которой Мерлин Дональд еще четверть века назад предсказал «фазовый переход», который изменит траекторию эволюции людей.
• О дегуманизации глобальной медиа-среды человечества — переходе управления гиперсетями коллективного разума от людей к алгоритмам.
• О новом бытии, в котором нет абсолютных истин.
• Об алгокогнитивной культуре, в которой волны инфодемий одновременно накрывают страны и континенты, подобно гигантскому радиоактивному облаку.
• О механизмах социальных медиа, разделяющих и поляризующих любое общество на два непримиримых племени.
• О начавшемся переходе жизни на Земле от Антропоцена к Новацену.
• О Джеймсе Лавлоке, что в 1942 нянчил младенца Стивена Хокинга, в 1974 стал Членом Лондонского королевского общества, а в 2019 отметил свое столетие бестселлером «Новацен».
• О том, зачем, по гипотезе Лавлока, машинному супер-интеллекту и в Новацене придется сохранить людей на Земле.

Во 2-й части речь пойдет вот о чем.

  • Алгоритмы способны менять свойства личности и даже нашу биологию.
  • Эксперимент академика Беляева по тысячекратному ускорению эволюции.
  • Можно ли за 300 лет изменить природу людей.
  • Разделится ли человечество на два новых вида, типа «морлоков» и «элоев».
  • Почему о вышеназванном в России так мало пишут.
  • Как изменится соотношение добра и зла, да и сама природа этих понятий.
  • Почему Илон Маск хочет улететь на Марс.
  • Чем занимается загоризонтная наука.
  • О синтеллектуальном краудсорсинге.
  • Почему лет через 300 Карла Фристона будут помнить в одном ряду с Ньютоном и Эйнштейном.

— Сергей, итак футуролог Лучано Флориди предложил термин для того, чтобы обозначить новый тип человека: он будет называться инфоргом. Или он уже инфорг?

— Он уже инфорг.

И какие у него свойства?

— Инфорги — это люди, включенные в сеть людей и алгоритмов. Они по-другому думают, по-другому ведут себя. И то, что они являются инфоргами, меняет биологию их индивидуального мозга, уже сейчас немало работ, которые это доказывают. Тут работает обратная связь, то есть алгоритмы уже меняют нашу биологию.

Подробней см. https://bit.ly/34dyy9G

— Можно понять, какое сейчас соотношение инфоргов и обычных людей?

— Любой человек, который в повседневной жизни и профессиональной деятельности погружен в сеть — выбирает себе новый купальник с помощью сети, материалы для реферата с помощью сети, решает проблему, что делать с ребенком, который себя плохо ведет, с помощью сети, в любом случае включен в сеть, где работают люди и алгоритмы, уже отчасти инфорг. Степень «инфорговости» определяется степенью вовлеченности в новую информационную среду. И есть все основания полагать, что каждое новое поколение сейчас все более включено, все более погружено в свою новую природу. Человек, который уткнулся в экран своего смартфона, гарантированно находится в новой среде. Там, где для принятия наиболее важных решений половина факторов черпается из сетевых знаний, а не из жизненного опыта.

Подробней см. https://bit.ly/3o0Ca82

И сейчас уже выработана программа по изменению свойств человеческой личности и ее характеристик. Это реально?

— Проведены серьезные практические исследования, которые показали, что в принципе это возможно. Сейчас можно с вероятностью в 60% определенное количество персональных черт в течение двух месяцев изменить с точностью до наоборот. Пока это могут сделать, если человек сам мотивирован и хочет, чтобы это произошло. Но, как показывает еще не опубликованная часть исследования, в будущем это можно обойти (подробней см. здесь).

— Значит, вас могут улучшить без вашего согласия?

— Да. Вполне допускаю, если не будет обнаружено непреодолимых препятствий, то через несколько десятков лет перенастроить персонаж по заданному количеству качеств не составит большого труда. Вспомните советский опыт.

— Кого — генетика Беляева, который занимался выведением доброжелательных лис?

— Да, конечно. В первую очередь, академика Беляева. Вы просто не представляете себе, насколько его эксперименты поразительны. Ведь на самом деле он убедительно доказал (просто об этом никто не хочет говорить, поскольку это дурно пахнет евгеникой и чем-то даже еще худшим), что под влиянием изменений у этих самых лис (посмотрите фотографии, их много), даже внешность изменилась!

Академик Дмитрий Константинович Беляев с одомашненными лисами на звероферме экспериментального хозяйства СОАН СССР. Фото: ИЦиГ СО РАН

Дело в том, что он их стал выводить, отбирая по одному критерию — расположенности к человеку. И в течение 20 поколений сумел сделать этих лис, чернобурых хищников, абсолютно добрыми. А дальше выяснилось, что одни гены завязаны с другими, и гены, которые определяют расположение и дружелюбность к человеку, они же, грубо говоря, создают доброе существо. А те, которые делают доброе существо, обнаружилось, превращают существа в подобие детей. Взрослые лисы стали выглядеть как лисятки из мультяшек: курносенькие, с беленькими пятнышками, с вислоухими ушками и хвостами — «бубликами». И самые последние плоды экспериментов Беляева — это поколение веселых, доброжелательных игрушек. Он вёл эти опыты тридцать лет, начал еще в начале 1950-х (подробней см. здесь).

— А почему мы так мало об этом знаем?

— Причины две, и обе страшные. Первая: из опытов Беляева следует, что биологию человека (не психологию, а именно биологию) можно изменить за ограниченное количество поколений. Его и английской исследовательницы Джейн Гудолл расчёты говорят: за каких-нибудь триста лет можно сделать все человечество добрым, неагрессивным, как маленькие дети.

— Гудолл исследовала шимпанзе. Но неужели это достоверно?

— Я читал очень много серьезной научной критики экспериментов Беляева, хотя она стала появляться буквально в последние годы. Высказывается очень много сомнений. Но результаты экспериментов Беляева видели все, и они поразительны… Когда вы видите, что при перемене всего одного признака — дружелюбность к человеку, возникают другие существа. Вы поймите, ведь это же чернобурые лисы…

По-моему, это очень страшно…Тем более, что дружелюбность может быть выбрана к чему и кому угодно.

— Это очень страшно. И это первая причина. А вторая причина — эти открытия категорически противоречит мейнстриму современной науки. Нельзя эволюцию, согласно мейнстриму современной науки, ужать! Нельзя пройти два миллиона лет за двести — триста лет. А Беляев просто открытым текстом писал: да, можно! Можно ускорить эволюцию, сделать ее в десять тысяч раз быстрее. И это вполне может означать, что если когда-то какой-то тиран, новый Гитлер, Сталин, не важно кто…

— Тот, кто обладает электронной мощью…

Сможет выводить новую породу людей.

Ну, а то, что недавно писал Юваль Харари — старика сапиенса скоро возьмут и усовершенствуют биоинженеры?

— Дело в том, что Харари разделяет киборгов и биолого-генетические модификации будущих людей. И то, и другое возможно. Мы уже киборги, уже суставы нам вставляют, органы меняют, а с элементами экзоскелетов люди работают на автопогрузке. Биохакинг — это сейчас одна из очень-очень продвинутых для инвестирования областей, там работают большие деньги, и есть очень серьезные достижения (подробней об этом см. видео с презентацией “Мир химер”).

Слайды презентации можно скачать здесь

Но, Харари считает, что люди могут превратиться в Homo Deus, некое подобие богов за счет большого интеллекта, который они освоят. А есть антиутопические прогнозы. Согласно им, лишь единицы на Земле будут обладать 99% оборудования, на котором будут работать алгоритмы. И вот тогда действительно, эти единицы, превратятся буквально в богов, которые с помощью алгоритмов смогут жить долго, богато и весело, пока все остальное человечество-двадцать миллиардов будет пребывать в состоянии поддерживающих температуру существ, подключённых трубкой, — сидеть в дополненной реальности, играть в игры.

Бесчеловечный прогноз. На чем он основан?

— На том, что весь капитал в обозримые сроки просто утечет в руки нескольких человек, обладающих вычислительной мощью. Жизнь на Земле будет определяться тем, что делают алгоритмы, как решают алгоритмы, а это, в свою очередь, будет зависеть от аппаратуры, на которой они будут работать и которая будет принадлежать все более ограниченному количеству людей и государств. Именно для них алгоритмы и будут вырабатывать новые биохакинговые средства продления жизни, увеличения интеллектуальных возможностей. Остальные будут нужны для поддержания температуры.

— А почему в России так мало об этом говорят? Ощущение такое, что наше мысль о будущем упирается исключительно в то, сколько лет будет еще править Владимир Владимирович. Почему нету никакого общественного дискурса, специалистов? Или это я их не знаю?

— Нет, это не потому, что вы их не знаете, их действительно нет. Понимаете, какая вещь: на самом деле все исследователи и все энтузиасты-просветители, они выбирают свои ниши. В России такая среда сейчас, что если вы хоть каким-то образом хотите вписаться (а любой исследователь хочет вписаться в мейнстрим своей науки) нужно приспосабливаться. Людей, которые готовы все к чертовой матери ломать и создавать новое, единицы всегда и везде. Но сейчас у нас таким людям просто-напросто проще встать и уехать. Потому что работать здесь все равно, что начинать обучаться плаванию, закопавшись по шею в песок. Непродуктивно.

Инфографика: «Левада-центр», июнь 2021. Источник

Ну, а почему нас это так мало интересует?

— Да не мало нас интересует! Я повторяю: как только изменятся условия среды, общественной среды, научной среды, того самого общественного дискурса, — все появится! Сразу все закипит и начнет колоситься. Лишь бы удавку сняли и асфальт не закатывали каждую весну, как это делается у нас.

— А удавка в чем?

— У данной власти удавка одна — финансы.

Перспективная наука не финансируется, и ситуация сейчас ровно такая же, как была в советское время: иди работай кочегаром, иди работай на овощную базу и пиши там свои работы.

— Может, этим занимается служба внешней разведки, мы просто не знаем?

— Нет, мы знаем, и я знаю людей, которые там этим занимаются, но они, как и все остальные, честно пилят бюджет. Ведь когда я говорю об удавке, здесь же не только кнут, здесь слишком большой пряник. Если, извините, к нам канцлер Шредер и бывший министр торговли Австрии едут работать, то это потому, что пилить здесь очень удобно, очень выгодно.

А ваш личный прогноз. Вы исторический оптимист или нет?

— Знаете, я эволюционист. А у эволюции нет оптимизма и пессимизма. Что вслед за ковидом вывалится на нас из будущего, неизвестно. Ведь процесс алгоритмизации, процесс вымывания людей из производства, физического, интеллектуального, все процессы, о которых я говорил, объективно будут идти и развиваться.

Во что они выльются в социуме — голодные бунты или новый национал-социализм на нашей территории или новую Гражданскую войну в Штатах, которая остаётся вполне вероятной, — не может сказать никто. Потому что, повторюсь, технологические и эволюционные тренды определились. И как на них среагирует человечество, в значительной степени будет зависеть от случая. Мы вошли в зону эволюционной сингулярности , у которой всего одно качество — процессы становятся непредсказуемыми. Таким образом, просить меня сделать любой прогноз, легкомысленно: может произойти что угодно.

— А где во всем этом место поэзии, музыки, искусства? Как изменится природа человеческого творчества, на что будет воздействовать?

— Я думаю, никуда не денется, она так же останется, как и все злое и плохое, что есть в человеке. Весь вопрос — как это распределится в обществе и какие ниши это займет. Похоже, что общий тренд на имущественное расслоение и вообще всяческое расслоение будет продолжаться. Но то, что, например, может произойти вытеснение науки, искусства во всех направлениях (музыки, литературы, театра и кино) на ту верхнюю площадку элиты и превращение общества в некое подобие первой Римской империи, возможно. Если пытаться накинуть на будущее некие сценарии, бывшие в прошлом.

Другой вопрос, что челове, как гуманитарная модель, является плодом включения в когнитивную сеть. Существующая культура — это культура коллекетивного разума и распределенного мышления в когнетивных сетях. Насколько изменятся ценности и видение мира, определения добра и зла в когнитивных сетях нового типа, где принимать многие решения будут уже не люди, а алгоритмы, мы не знаем. Но меняться это будет точно.

— То есть соотношение добра и зла и сама формулировка природы этих понятий будут пересмотрены?

— Да. И решающая роль в том, в какую сторону это будет пересмотрено, похоже, принадлежит алгоритмам.

Подробней см. https://bit.ly/2UqoAzR

— А как алгоритмы приходят к решению? Это вопрос дилетанта, понимаю, но меня он беспокоит.

— Те алгоритмы машинного обучения, о которых мы говорим, отличаются тем, что представляют собой «черный ящик», и понять, как они приходят к решению, невозможно по определению. Вот человек придумал игру в кости — там невозможно отгадать, как они лягут… Так же были придуманы алгоритмы. Только в них степень неопределенности еще выше.

— Это видимо то, от чего Маск хочет улететь на Марс.

— Абсолютная правда. Многие его себе представляют способным и удачливым, но при этом человеком якобы не совсем далеким, не все понимающим. Но Илон Маск очень хорошо понимает, что происходит на Земле, он очень хорошо ориентируется в вопросах, которые мы обсуждаем, можете мне поверить на слово. И если вы сядете с Маском за чашкой виски, он вам совершенно четко скажет: фазовый переход на Земле произошел, осталось несколько десятилетий, если за это время отсюда не слиняем и не обустроимся на том же Марсе, человечеству придет хана в том или ином виде, даже если алгоритмы не обнулят нас, а оставят людей, для того чтобы поддерживать температуру.

— Скажите, как именно вы стали собирателем знаний о современности?

— Я с конца 80-х в течение четверти века работал исключительно на американские компании, причем на такие, как IBM, Silicon Graphics, то есть самые-самые продвинутые и передовые. И была уникальная возможность познакомиться с десятками и сотнями людей, которые уже сейчас занимаются только тем, что им интересно. Подавляющее большинство из них открыли свои лаборатории, научные центры. У меня сохранились все эти связи. Последние годы я занимаюсь тем, что поддерживая контакты, «варюсь» в лабораториях и научных центрах, которые занимаются вопросами загоризонтной науки.

— Расскажите об этих лабораториях.

— Ну, они всегда существовали, но в последние двадцать лет их количество просто резко скакнуло. Я уже приводил пример о восьми тысячах фундаментальных теорий, которые нельзя ни подтвердить, ни опровергнуть (см. 1-ю часть интервью). И это не только в физике. То же самое в математике, биологии, генетике, повсюду.

И стало ясно, что либо ты встраиваешься в мейнстрим, либо движешься против течения. Ведь в мейнстриме выдача Гугла значит больше заключения Английской королевской Академии наук. Если в выдаче Гугла вы пятнадцатый, а в рейтинге Английской королевской Академии наук вы третий, вы все равно будете пятнадцатым. И мейнстрим становится способом зарабатывания денег. А если ты хочешь заниматься чем-то реально загоризонтным, надо открывать свои лаборатории, создавать свои стартапы. Я тоже создавал, в 2010 суперинновационный стартап «Витология» (Wotology), изобретший т.н. синтеллектуальный краудсорсинг (подробней см. здесь). Ведь слово «краудсорсинг» не только Греф, но и Медведев с Путиным узнали от меня, все это я здесь запускал. «Активный гражданин» и все эти начинания у господина Собянина — есть не что иное, как результаты проекта «Витология», мы продали продукт московскому правительству, когда стало ясно, что в этой стране даже краудсорсинг заканчивается только распилом, как и все остальное.

Так вот, поддерживая контакты с людьми вне мейнстрима, я очутился в уникальной сети стартапов и лабораторий, которые занимаются исключительно загоризонтной наукой. Ну, а дальше я понял, что попал в среду тех исследований и знаний, которые меня сейчас волнуют больше всего.

— А можно хотя бы несколько примеров?

— Я вам могу привести один пример, который будет весьма и весьма показательным. Есть такой человек, которого зовут Карл Фристон. Это, на мой взгляд, самый замечательный ум XXI века, и я думаю, что в истории где-нибудь лет через 300 и 500 его будут вспоминать, как Ньютона, Эйнштейна, а, может быть, и покруче.

— Как объяснить читателям, кто он?

— Начнем с того, что у него есть формальный статус. Он изобретатель самых продвинутых методов нейровизуализации мозга, используемых для функционального МРТ, и, собственно, каждый, кто идет делать фМРТ мозга, обязан Фристону, всю математику модели придумал он. Но к тому же он автор теории жизни, теории разума. И чем еще замечателен Фристон: у него в день выходит примерно полторы статьи…

Карл Фристон и символическое изображение основных теоретических конструктов, построенных на основании Free Energy Principle. Подробней см. http://bit.do/fJE5k

— Нечеловеческая продуктивность?

— Продуктивность его от 400 до 480 статей в год. И номер один в рейтингах цитирования среди нейробиологов. Он сформулировал так называемый принцип свободной энергии, Free Energy Principle, и на базе этого принципа в разных лабораториях ( он сотрудничает с более чем сорока) делают разные вещи — от искусственного моделирования условий возникновения жизни до моделирования, например, сновидений. Или ему же принадлежит самая совершенная и точная модель эпидемий. Один из самых главных вопросов (среди гениальных физиков им еще в 1943 году озадачился Эрвин Шредингер), — что такое жизнь? Фристон дал на него ответ. Он ответил, что такое разум, интеллект, ответил на вопрос, как моделировать непредсказуемое, как давать наиболее точные прогнозы того, что непредсказуемо. Но это уже другой разговор.

________________________

  • Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.
  • Алгоритм платформы не будет их вам приоритетно показывать, даже если вы подписаны на мой канал.
  • Алгоритм исходит из того, что лучше знает, какие посты вам следует читать, а какие нет.

--

--

--

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Love podcasts or audiobooks? Learn on the go with our new app.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Сергей Карелов

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

More from Medium

The Sci-Fi Now #2

The Double Defection That Shocked China

The Billionaire Space Race Is About Democracy, Not Tourism

Spinoza’s Tractatus Theologico-Politicus – Irfan Ajvazi