У нашего общества уже нет всезнающего Большого Бога — люди лишены стимулов к правильному поведению
Обывателю может казаться, что «британские ученые» как всегда занимаются ерундой, но наука как таковая основана на осмыслении «ерунды»
Интервьюер Александр Суслов (Republic)
– Давайте обсудим научно-технический прогресс. Мне кажется, про него сейчас сложились три мнения. Первое мнение пессимистичное: прогресса нет по разным причинам. Например, наука не развивается, потому что ученые теперь заняты не исследованиями, а отработкой наукометрических показателей. Пишут статьи, которые потом никто не читает, накачивают индекс цитируемости. Второе мнение скорее апокалиптическое: прогресс скоро уткнется в стену из тоталитарного ИИ и экологической катастрофы. Третья точка зрения — «технооптимизм» — пророчит неминуемое наступление «золотого века». К какому лагерю вы примкнете?
– К лагерю осторожных оптимистов, которые ожидают прогресса, но осознают реальность катастрофы. Гиперсложность современной социальной структуры влечет огромные риски, поэтому ответом может стать изменение самой природы человека.
При оценке прогресса важно выбрать подходящую шкалу, на основании которой мы и будем замерять наши научные достижения. Обывателю трудно оценивать научные достижения сами по себе, он их воспринимает по мере изменения своего быта. Раньше ездили на телеге, а теперь на поезде — вот это прогресс! Но появлению железной дороги предшествует несколько веков научных изысканий, незаметных обывателю. Наука всегда была вещью не очень понятной, а современная наука — это прежде всего междисциплинарность: разные научные школы, используя различные подходы, работают над какой-то одной проблемой.
Это иногда тяжело понять даже специалистам. Между тем как раз междисциплинарный подход может стать средством прорыва. Иногда изучается очень абстрактная вещь, никак не связанная, грубо говоря, с «увеличением надоев», но из нее может последовать радикальное изменение нашей жизни. Пример: человечество существует как система двух полов. Если убрать современные гендерные теории, а просто взять систему размножения — есть один пол, есть другой. А+В=С, новый организм. А что, если бы было три особи трех разных полов? Это же была бы совершенно другая цивилизация, фундаментально другое общество. В Йоркшире прошла недавно конференция, и там на эту тему встречались невероятно интересные доклады. Например, выступавшие говорили о том, что трехполое человечество, скорее всего, давно бы избавилось от войн или войны как института не существовало бы вовсе. Обывателю может казаться, что британские ученые как всегда занимаются ерундой, но наука как таковая основана на осмыслении подобной “ерунды”.
Есть хороший пример междисциплинарности, исследования, казалось бы, ерунды и британской науки в одном лице. Рональд Фишер — великий статистик и великий генетик — отличался скверным характером, вечно цеплялся к коллегам. Как-то раз он придрался к тому, что его коллега Мюриэль Бристоль заявила, что она, мол, всегда может различить — налили молоко в чашку с чаем или же это чай добавили в чашку с молоком. Принципиально важная для англичан вещь. Оплаченное налогоплательщиками время ученых было потрачено на дизайн эксперимента, который должен был помочь Фишеру уничтожить Бристоль, но ничего не вышло — она в самом деле понимала, каким образом был получен напиток в чашке. Сейчас этот эксперимент известен как “точный тест Фишера”, он до сих пор используется в статистике для анализа таблиц сопряженности.
Все верно, научное достижение не всегда связано с постановкой великой цели. Это во-первых. Во-вторых, при текущем информационном перегрузе, при такой плотности потока данных мы не видим цельной картины. Проблема нечитаемых статей или научных теорий, которые за пределами академии никто не понимает, на самом деле существует.
А движение новых просветителей и научпоп-публицистов помогает?
И да и нет. Конечно, Юваль Ной Харари — очень умный человек и отличный автор, но он попал в ловушку медиа. Он и подобные ему просветители — в самом деле целое движение — становятся похожи на актеров одной роли, они так часто говорят одно и то же, что самое важное в их выступлениях забалтывается.
Но все-таки их деятельность не наносит вреда обществу, например, из-за редукции информации?
Вред возможен, когда пропорция между сложностью явления и ее упрощением для представления публики слишком смещена в сторону упрощения.
Например, как с хайпом вокруг ИИ?
Да, прямо сейчас это происходит с искусственным интеллектом, особенно с понятием “сильный ИИ”. Это очень активно обсуждается, державы принимают государственные программы, но под термином “ИИ” каждый понимает что-то свое. А еще мы не знаем в принципе, что значит “быть умным”.
Скажем, дельфины очень умные создания. С точки зрения эволюции они умны, потому что вернулись обратно с суши в океан, где у них почти нет врагов. С точки зрения человека они умны, потому что имеют социальное устройство, играют, обучаются, осознают себя, то есть проходят зеркальный тест, могут грустить, общаться с человеком и так далее. Вообще дельфины очень хорошо устроились, можно спекулятивно утверждать, что у них вполне себе построен коммунизм.
Кажется, после внедрения достижений западной цивилизации и идей Просвещения человек уже не может искренне ценить “счастливое опрощение”. Ему, человеку, все равно нужна наука и техника, дворцы из алюминия, марсоходы и прочие материальные выражения величия духа. Охотники и собиратели могут быть счастливыми, но мы считаем их отсталыми: ведь мы их можем наблюдать, как и дельфинов, а они нас — нет.
Вообще говоря, не факт, что дельфины нас не наблюдают. Но даже с поправкой на материальную культуру мы сможем найти нечеловеческий интеллект уже прямо сейчас, не дожидаясь явления “сильного ИИ”. Например, термитники — вполне себе произведения инженерного искусства, которые создаются без таких необходимых человеческому уму вещей как централизованное планирование и проектирование. По всей видимости, у термитов нет прямой коммуникации между особями и вообще осознанности как таковой. Но это не мешает термитам создавать архитектурные комплексы размером с Британию.
Французский ученый Пьер-Поль Гроссе довольно много времени посвятил изучению термитов и выдвинул гипотезу о стигмергии. Если коротко, это особые метки, которые передают информацию от одной особи к другой. То есть, метод непрямой, децентрализованной коммуникации, который позволяет создавать сложные объекты или, например, вести согласованные боевые действия против муравьев.
Эта концепция может быть применена и к человеческому взаимодействию. Создание проектов с открытым исходным кодом — операционная система FreeBSD или появление “Википедии” — похоже на строительство термитника. В том смысле, что у них нет архитектора или главного инженера: “оно само”. Современные цифровые сети позволили нам создать свои собственные метки. Все эти мемы, флешмобы, проекты на GitHub — все это координация без начальника.
Возможно, в этом и есть спасение человечества? Потихоньку мы встроимся в одну большую сеть, спонтанно организуемся и построим межпланетный термитник?
Тут есть много доводов против. Во-первых, мы, кажется, строим не одну, а как минимум, две сети — американскую и китайскую. Во-вторых, человечество куда мощнее влияет на планету, чем термиты. Мы можем легко себя убить сами, если не пройдем через фазовый переход, который изменит мышление и саму природу человека. Это похоже на ту проблему, с которой столкнулись городские цивилизации древности, когда социум резко усложнился.
Вспомним пресловутых счастливых охотников и собирателей, к которым мы запускаем своих антропологов. Они живут небольшими группами, где невозможно быть аморальным. Почему? За убийством непременно следует наказание: тебя выгоняют. Как Каина после убийства Авеля. Но если вы живете в городе Иерихон, где 30 тысяч населения, там очень легко убивать, воровать, говорить неправду и быть при этом в полной безопасности. Кроме того, очень легко быть анонимным.
Но тут на арену выходят “Большие Боги”. Практически у всех крупных религий есть этический кодекс. Ты можешь обмануть людей, но не всезнающих и всемогущих богов. Осознание того, что ты под постоянным наблюдением, влияет на поступки — здесь уже разрабатывается особая этика. С ней усложнившееся общество может преодолеть свою сложность. Постройка пирамид или “цветочные войны” ацтеков с обязательными жертвоприношениями — это не дикость древних обществ, а их мудрость. То, что помогало им выжить.
У меня тогда еще одно обобщение. Насколько я помню, английский историк Эдуард Гиббон как одну из причин гибели античной цивилизации указывал распространение христианства: мол, население Римской империи толпами устремилось в монастыри, молиться и душу спасать, поэтому войска целиком комплектовались из пришлых варваров, защищать границы было некому. Поэтому варвары в итоге заместили греко-римскую классическую культуру своей. Вместе с тем Восточная Римская империя смогла адаптироваться и встроиться в христианскую культуру, что дало ей еще тысячу лет жизни. Это все, конечно, очень спекулятивные утверждения, но сюда хочется притянуть аналогию с довоенным СССР и пламенной верой в коммунизм. Грубо говоря, вот христиан-мучеников терзают львы в Колизее, а вот Сергея Лазо сжигают в топке паровоза. Вера заставляла людей примиряться с неприглядным настоящим ради светлого будущего, но после войны более насущными стали вопросы колбасы.
Примерно так. Тут важно понять, что это не только вера в будущее — в загробную жизнь, в коммунизм или в перерождение в правильной касте. Это еще и вера в неизбежное наказание. Или это должна быть конфуцианская вера в систему, без подчинения которой наступает хаос.
Кажется, Иван Грозный довольно искренне верил в неустроенность своей загробной жизни, раз заказывал поминовение для жертв репрессий. То есть человек был уверен, что после смерти он будет наказан и надо бы подготовиться.
Да, здесь невозможен цинизм, еще раз скажу, что это работает только когда люди в это верят. У нашего общества такого Большого Бога, который все про тебя знает, больше нет, люди лишаются стимулов к правильному поведению. Под “правильным” мы здесь обычно понимаем поведение, которое признается полезным для общества.
Все эти страшные истории про “Мы” Замятина, про китайский социальный рейтинг и так далее — они могут стать неприятной повседневностью. Человечеству придется жить в условиях постоянного наблюдения, ежедневного отчета перед системой, которая определяет всю его жизнь. С одной стороны, да, чудовищно, а с другой — какие альтернативы? Разве что разрушение цивилизации как таковой.
Наверное, оптимистов подводит отсутствие памяти о настоящих катастрофах. Жители бывшего СССР или бывшей Югославии, заставшие крах государственности, могут хотя бы представить, как быстро может кончиться цивилизация и что наступает после. Когда у дедушки есть централизованное водоснабжение, многоэтажное строительство — а у внука нет даже письменности. Кажется, прямо сейчас у нас есть все ингредиенты, необходимые для коллапса. Можем, так сказать, повторить.
Да, и подчинение, регуляция нашего общества с помощью алгоритмов, переход суверенитета к машине — это может быть не так уж и плохо. Мы привыкли думать, что человек прежде всего хочет свободы, но есть теория, что мы состоялись как вид-гегемон только потому, что сами себя одомашнили. Дикие и домашние животные отличаются не абстрактным умом, а оценкой незнакомого. Домашние виды скорее всего будут спокойно оценивать незнакомую обстановку и доверительно относиться к человеку. Здесь очень любопытно посмотреть на прекрасные результаты эксперимента Беляева по одомашниванию лис. Домашние лисы приобрели черты, которые еще описывал Дарвин: ювенильность, то есть детскость облика, сглаженный половой диморфизм и так далее.
Тут хочется указать на те черты современного городского населения, которые очень огорчают консерваторов. Во-первых, говорят консерваторы, Гайдар в 16 лет уже командовал полком, а ты в свои 30 все в компьютерные игры играешь. Во-вторых, по улице идет кто-то, и не разберешь, то ли девушка, то ли парень — куда делись мужественность и женственность? То есть за последние полвека мы сильно прибавили в доместикации себя. Хотя, конечно, это все не выходит за рамки крупных городов, то есть, очень недолгая и социальная вещь.
А социальное тут гораздо важнее, чем физиологическое, социальные факторы для человека, насколько мы можем судить, важнее генетических. Что касается сроков, то у Беляева лисы прошли весь путь от дикой особи к абсолютно домашним зверушкам за неполные 40 лет. То есть генетические изменения могут идти стремительно, если они подкреплены отбором и стимулом.
Которые как раз может взять на себя ИИ — как Большой Бог?
Почему бы и нет? Я уточню: речь не о евгенике, то есть никаких алгоритмически подобранных кандидатов в пары от центрального бюро планирования семьи не будет. Даже в условиях социального кредита мы сами прекрасно сможем выбирать себе нужных партнеров.
Возьмем этого нашего глобального горожанина — он же без всяких натяжек киборг. С момента появления смартфонов, то есть последние лет десять, он образует сцепку с телефоном, системой спутниковой навигации, интернетом, фотокамерой и так далее. То есть, “сильного ИИ” еще нет, но есть довольно могущественные рекомендательные сервисы — как объехать пробку, куда сходить поужинать, тот же Tinder. Имея доступ к сети, я не должен сам помнить рецепт блинов, я его посмотрю на ютубе и забуду. Все мои данные открыты платформам, у меня почти нет своей памяти, я чуть ли не полностью лишен агентности. Возможно, этический кодекс уже не нужен, ведь мы десять лет как киборги и управляемся алгоритмами?
Это и есть стигмергия — все эти рекомендательные сервисы как раз работают по логике непрямого взаимодействия особей. Вы поставили лайк ресторану, другой спустя месяц прошел мимо и получил знание, что ресторан неплохой. Вы пообщались, не видя и не зная друг друга.
Вообще человек стал киборгом раньше, чем научился говорить. Какие десять лет, внешняя память — это основа нашей эволюции! Мы научились генерировать, передавать и сохранять такое море информации, только благодаря изобретению экзограммы, как это явление обозначил канадский нейроантрополог Мерлин Дональд. Экзограмма — внешняя память. Ею может быть совершенно любой артефакт, например, танец. Одними из древнейших экзограмм являются ожерелья, то есть нанизанные в определенной последовательности предметы.
Явление письменности ускорило процесс?
Письменность — просто система передачи информации, который легко утратить. Сейчас видно, что мы можем передавать много данных, упаковывать много смыслов в картинки. В этом плане мемы не настолько глупое явление, как многим кажется.
Способы упаковать информацию могут быть разные, фазовым переходом является само представление, что данные должны быть зафиксированы на внешнем носителе. Например, у зажиточных римлян были специально обученные мнемонические рабы, которых звали “маленькие греки”. Такой человек запоминал какую-то информацию и потом в нужный момент выдавал ее хозяину, то есть извлекал данные из себя.
В разговорах про внешнюю память, про кибернетические улучшения нет ничего нового. Большой Брат нужен, чтобы избавиться от неконтролируемых рисков. Банальный пример — системы навигации могут провоцировать пробки вместо того, чтобы помогать их объезжать. Фейсбук должен был объединять разных людей, а он их запирает в “эхо-комнаты” и создает поляризацию в обществе. Так что алгоритмы — это не выход. Возможный выход — “сильный ИИ”, но — и тут мы вернемся к началу нашего разговора — мы пока что не можем понять, что это значит и как он устроен.
Уильям Гибсон придумал Джонни-мнемоника для киберпанк-будущего, а на самом деле он из античности. Спасибо за содержательную беседу, кажется, после этого разговора многим читателям будет о чем поразмыслить и поспорить.
Оригинал интервью на сайте Republic от 21 февраля 2020 https://republic.ru/posts/95934
________________________________
Если понравился пост:
- нажимаете на кнопку аплодисментов, — автору будет приятно :-)
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
