Техносингулярность становится технорелигией — 2
Где и в чем ошибается «кремниевый пророк» Рэй Курцвейл
Продолжение. Начало см. здесь
Для начала зафиксируем.
Hаступление технологической сингулярности в 2045 году — это всего лишь гипотеза Рэя Курцвейла, представляющая собой последовательность из пяти его прогнозов.
Прогноз №1. К середине 2020-х прогресс в IT позволит создать оборудование и программное обеспечение, позволяющие эмулировать на компьютере интеллект человека.
Прогноз №2. К концу 2020-х компьютер пройдет тест Тьюринга — тест на способность машины демонстрировать интеллектуальное поведение, эквивалентное или неотличимое от поведения человека. Иными словами, к концу 2020-х будет создан сильный искусственный интеллект (ИИ).
Прогноз №3. В течение 2030-х сильный ИИ овладеет всем, что знают и умеют люди, а затем, намного превзойдя по уровню интеллекта все человечество; сильный ИИ превратится в супер-ИИ.
Прогноз №4. С наступлением 2040-х биологический интеллект сольется с машинным, произойдет загрузка мышления людей в виртуальные облака, гибридное небиологическое мышление достигнет непредставимого для биологического мышления уровня.
Прогноз №5. К 2045 году произойдет полное слияние людей и машин; на Земле появится новый бессмертный вид (живых существ?) — совершенный носитель интеллекта.
Все это и ознаменует наступление технологической сингулярности.
Гипотеза Курцвейла
Оспаривать саму возможность наступления техно-сингулярности в 2045 году бессмысленно. Это всего лишь последнее звено в цепочке прогнозов Курцвейла. Нужно разбираться с обоснованностью всей этой цепочки. Но как?
Ведь все пять его прогнозов основаны не на результатах расчетов, не на экспериментах с имитационными моделями и не являются следствием какой-либо экспериментально проверенной теории. Каждый из этих прогнозов либо следствие одного из исходных посылов гипотезы, либо — продукт дедуктивного рассуждения: цепочки логических выводов из этих исходных посылов.
Исходные посылы в основе прогнозов Рэя Курцвейла весьма многочисленны (в его книге их перечислено аж 37). Но ключевыми из них являются лишь три:
- экспоненциальный рост скорости технологических инноваций (примерно вдвое каждое десятилетие), приводящий к аналогичному ускорению парадигмальных сдвигов (фазовых переходов) биологической, социальной и технологической эволюции;
- экспоненциальный рост основных показателей, характеризующих прогресс IT: примерно вдвое каждый год;
- экспоненциальный рост основных показателей прогресса в сканировании мозга: временно́е и пространственное разрешение, а также полоса пропускания, — примерно вдвое каждый год.
В подтверждение этих посылов, Курцвейл приводит десятки графиков. Они демонстрируют разнообразные прошлые тренды. Некоторые из них экстраполированы в будущее, хотя и существуют сомнения, что характер развития экстраполируемых процессов будет продолжаться и дальше в том же темпе. Но поскольку никаких обоснований такой экстраполяции Курцвейлом не приводится, то и спорить здесь не о чем. И мнение «за» обоснованность экстраполяции, и мнение «против», — всего лишь субъективные предположения, которые пока никто не может подкрепить никакими экспериментально проверенными теориями.
Но вот с логическим выводом наступления технологической сингулярности в 2045 году, якобы, вытекающим из этих посылов, — полный провал.
Звенья, не соединенные в цепь
Цепочка логического обоснования гипотезы получается короткая — всего три логических звена.
Звено 1. Очередной парадигмальный сдвиг произойдет в 2029 году.
Это следует из расчета даты очередного парадигмального сдвига при продолжении временного ряда событий (см. табл. 2 в первой части статьи) — обобщение работ 15 известных исследователей (от Карла Сагана до Теодора Модиса), проанализировавших разные последовательности ключевых эволюционных событий и выявивших единый, очевидный тренд. Этот тренд — постоянное ускорение эволюции, выражающееся в плавном сокращении интервалов времени между кластерами главных биосферных событий (парадигмальных сдвигов).
Последние три зафиксированные Модисом канонические вехи в обобщенном временном ряду событий (табл. 2 в первой части статьи) таковы.
Если продолжить временной ряд в будущее, то, как пишет Модис в работе «The Limits of Complexity and Change» [24], на которую ссылается и Курцвейл, следующая каноническая веха приходится на 2038 год. Однако, вместо этой указанной Т. Модисом даты, Р. Курцвейл, будто следуя принципу «артиллерийской вилки», называет две другие: одну на несколько лет раньше, другую — позже 2038 года:
- 2029 год — когда ИИ пройдет тест Тьюринга (для обоснования этой даты в [6] Р. Курцвейл просто ссылается на свою же статью [28], где она фигурирует также в качестве личного прогноза автора);
- 2045 год — когда наступит технологическая сингулярность (и эта дата приведена в [6], как личный прогноз автора).
Каким образом был рассчитан 2029 год, Курцвейл не уточняет. Но это и не требуется. Как доказано в превосходной по тщательности и точности работе А.В. Коротаева [25],
«значение математической сингулярности уравнения, лучше всего описывающего кривую на графике «Обратный отсчет времени до Сингулярности» Р. Курцвейла, соответствует 2029 году».
И каждый может это легко проверить.
Таким образом, датировка следующего парадигмального сдвига 2029 годом непосредственно следует из уравнения гиперболы, наиболее точно описывающей аппроксимацию временного ряда событий Модиса-Курцвейла.
Об истоках второй даты «артиллерийской вилки», 2045 годе, будет рассказано в 3-м звене логического вывода Р. Курцвейла.
Звено 2. Сильный ИИ появится в 2029 году.
Это следует из анализа трендов экспоненциального роста основных показателей прогресса IT и прогресса в сканировании мозга. Это позволит к концу 2020-х определить структуру связей нейронов мозга с точностью, позволяющей ее эмуляцию программным путем.
Звено 3. В 2045 году появится супер-ИИ, что и приведет к технологической сингулярности.
Логика данного умозаключения, по-видимому, такова: наступление технологической сингулярности произойдет в 2045, поскольку «небиологический интеллект, созданный в том же году станет в миллиард раз мощнее, чем весь человеческий интеллект сегодня» [6]. В частности, в 2045 году, предполагает Курцвейл, компьютер стоимостью в 1000 долларов сравнится по вычислительной мощности (производительности) с суммарной вычислительной мощностью мозга всех живущих на Земле людей.
В качестве доказательства последнего, Р. Курцвейл приводит такой график.
Красной стрелкой (добавлена мной для наглядности) показана суммарная вычислительная производительность всего человечества 10^26 cps. Она получена умножением вычислительной производительности одного человеческого мозга (оценивается Курцвейлом в 10^16 cps) на население Земли в середине 2040-х годов (оценивается Курцвейлом в 10 млрд. человек).
Из графика следует, что в 2045 г. компьютер стоимостью в $1000 сравнится по вычислительной мощности (производительности) с суммарной вычислительной мощностью мозга всех живущих на Земле людей.
Объединяя все три логический звена в единый логический вывод, Рэй Курцвейл формулирует его итог.
В силу того, что в 2045 году компьютерный интеллект будет в миллиард раз мощнее, чем сегодняшний интеллект всего человечества, наступит технологическая сингулярность.
Конечно, можно было бы сказать, что убедительность логики Курцвейла примерно та же, что и в известной формуле Ленина: «Учение Маркса всесильно, потому что оно верно». Но это было бы повторением схемы доказательства, использованной самим Курцвейлом. А нам хотелось бы получить доказуемое и проверяемое опровержение его гипотезы.
Непредсказуемая сингулярность
Если коротко, то несостоятельность логического вывода Курцвейла определяется несостоятельностью всех трех его звеньев.
Звено 1. Очередной парадигмальный сдвиг произойдет в 2029 году.
Это утверждение несостоятельно по нескольким причинам. Первая из них, сильно напоминает старый анекдот: «Почему взвод не стрелял? Во-первых, не было патронов…». В нашем случае, причина аналогичная. Почему прогноз сингулярности в 2029 году не верен? Во-первых, сингулярность непредсказуема.
Профильные исследователи, обычно, комментируют непредсказуемость сингулярности двумя способами.
Модис, временной ряд которого Курцвейл использовал при обосновании своей гипотезы технологической сингулярности, контраргумент сформулировал просто: «Прогнозирование сингулярности сводится к чистой спекуляции» [31].
Последние три зафиксированные Модисом канонические вехи (см. выше) датируются 1900-м, 1950-м и 1995-м годами. Расчет экспоненциального прогноза событий в продолжение этих трех дат показывает, что очередная каноническая веха (или парадигмальный сдвиг по Р. Курцвейлу) приходится на конец 2008 года (1995 + 13,4). Следующая за ней эпохальная дата — примерно конец 2015 года (1995 + 13,4 + 6,3). И еще одна — примерно конец 2018 года (1995 + 13,4 + 6,3 + 3).
Но ничего подобного в реальности не произошло. Конечно, были многочисленные научные достижения. Но ни одно из них не сопоставимо по важности с такими разработками, как электроэнергетика, атомная энергетика, транзистор, открытие структуры ДНК или Интернет, резко и мгновенно отразившиеся на жизни общества.
Здесь самое время отметить удивительный терминологический конфуз Р. Курцвейла. В этой связи, вспоминается Остап Бендер, «позорно назвавший ферзя королевой», получив мат в партии с любителем из города Васюки.
Вот и Курцвейл «позорно» называет ведущую к сингулярности кривую экспонентой, заявляя при этом: «Экспоненциальный рост — это особенность любого эволюционного процесса, важнейшим примером которого является развитие технологий». Как мы уже отмечали в предыдущей части статьи, проблема здесь в том, что
график канонических вех, приводимый Р. Курцвейлом в книге «Сингулярность уже близка» [6] (см. рис. 8 справа) демонстрирует вовсе не экспоненциальное ускорение эволюции.
Ускорение экспоненциального типа, действительно, является распространенным для многих природных и социально-экономических процессов. Но при таком ускорении в принципе не бывает точки сингулярности. Зато она бывает при ускорении функции по гиперболическому закону, когда гипербола устремляется в бесконечность при Х стремящемся к нулю.
А.В. Коротаев в [25] пишет по поводу этого графика, снискавшего в массах не меньшую популярность, чем всевозможные разновидности пресловутой «хоккейной клюшки».
«Однако, как ни удивительно, Курцвейл, по-видимому, не заметил, что кривая на рисунке является гиперболической и описывается уравнением, имеющим самую настоящую математическую сингулярность (более того, значение этой сингулярности, 2029 год, не так далеко от того, что предсказывается самим Курцвейлом). Это объясняется прежде всего некоторыми математическими неточностями, характерными для технического директора Google (достаточно упомянуть, что он упорно называет глобальный паттерн ускорения эволюции экспоненциальным, не обращая внимания на то, что экспоненциальная функция не имеет сингулярности)»
Во избежание сомнений у читателя, что не мог же директор по инженерным разработкам Google промахнуться с профессиональным термином подобно О. Бендеру, сразу уточню. В отличие от Р. Курцвейла, А.В. Коротаев приводит подробный математический анализ временного ряда Модиса-Курцвейла. И этот анализ показывает следующее.
«Особо стоит подчеркнуть, что проведенный нами анализ достаточно строго демонстрирует: паттерн ускорения роста глобальной сложности, прослеживаемый во временном ряду Модиса — Курцвейла, является НЕ экспоненциальным (как это утверждает Курцвейл), а гиперэкспоненциальным, или, если быть более точными, гиперболическим.»
Графически этот вывод иллюстрируется А.В. Коротаевым следующим образом.
Ошибка Р. Курцвейла с определением экспоненциальности вместо гиперболичности тем более поразительна, что для пояснения, откуда на графике функции появляется точка сингулярности, Р. Курцвейл использует в своей книге график гиперболы (см. рис. 3). Однако, объяснив на графике, что такое математическая сингулярность, Р. Курцвейл больше не упоминает о гиперболичности приводимых им графиков, называя их, вместо этого, экспонентами.
Но вернемся к непредсказуемости сингулярности. Если Т. Модис, говоря о прогнозировании сингулярности Р. Курцвейлом, называет это чистой спекуляцией, то Г.Д. Снукс в [32] определяет всю книгу Р. Курцвейла «Сингулярность уже близко» [6], как псевдонауку.
«Р. Курцвейл, чья работа являет собой свежий пример псевдонауки, мало чем отличающейся от научной фантастики, утверждает, что сингулярность — это уникальное событие, которое происходит, когда изменяющаяся переменная стремится, но никогда не достигает бесконечной величины…
Из моего понимания истории и ее динамических законов, я чувствую себя в состоянии уверенно предсказать, что такое событие никогда не произойдет, не говоря уже о 2027, 2029 или 2045 годах! …
И причина в том, что концепция сингулярности возникла не из реалистической общей динамической теории жизни, а из простого математического уравнения. У приверженцев метафизического историзма нет реалистических теорий о причинно-следственных связях, участвующих в преобразовании жизни человека и общества. Соответственно, их предсказания нельзя принимать всерьез.»
Но что если все цитированные выше научные авторитеты ошибаются, а Р. Курцвейл прав — сингулярность все же предсказуема? Ведь если вдруг окажется так, то 1-е логическое звено гипотезы Р. Курцвейла может быть признано обоснованным.
Но увы, и это невозможно по причине, исключающей возможность «стрелять при отсутствии патронов». И эта причина такова.
Расчетная дата сингулярности может быть любой
Всё упирается в субъективность выбора «фазовых переходов». Датировка точки сингулярности временного ряда событий, аппроксимируемого гиперболой, сильно зависит от характеристик этого ряда. Субъективно формируя ряд событий, можно получить для точки сингулярности почти любую дату: хоть 2029 год, хоть 2529 год, а можно и 1729 год или вообще до нашей эры.
Как показано в работе Марка Уиддоусона [33], дата точки сингулярности временного ряда событий, аппроксимируемого гиперболой, зависит от 4-х факторов:
- Дата 1-го события ряда.
- Дата последнего события ряда.
- Число событий в ряде.
- Распределение событий равномерно во времени или между событиями в начале ряда более длинные интервалы, а к концу — более короткие.
Как пишет про это в [11] С.В. Добролюбов:
«Здесь возникает простор для спекулятивных интерпретаций «эпох» и разделяющих их «революций», что позволяет выводить эволюцию к сингулярности практически в любой точке.»
Вот замечательный пример, впервые продемонстрированный А.В. Коротаевым на конференции в 2015 г. [34].
«Сингулярность Коротаева — Архимеда»
Давайте представим, что Архимед не погиб от удара меча римского легионера при штурме г.Сиракузы в 212 до н.э. Он был спасен представителями инопланетной цивилизации и наладил с ними контакт, в ходе которого инопланетные существа раскрыли Архимеду глаза на ход земной истории. Они показали ему последовательность знаковых событий (фазовых переходов), произошедших на Земле с момента появления жизни на планете. И так уж у инопланетян получилось, что их ряд знаковых событий (назовем его «ряд Архимеда») был весьма похож на ряд планетарных революций по версии А.Д.Панова (приводившийся нами выше). Хотя, понятное дело, ни про А.Д. Панова, ни про построенный им через 2+ тыс. лет ряд событий, инопланетяне, конечно же, не знали.
Между временными рядами Архимеда и Панова все же была пара отличий.
- Временной ряд Архимеда был короче ряда Панова на 3 фазовых перехода. Это и понятно, поскольку контакт Архимеда с инопланетной цивилизацией происходил в 212 г. до н.э., и те фазовые переходы, что случились в истории после этой даты, к тому времени еще не произошли.
- В то же время, в ряде Архимеда, вместо одного фазового перехода из ряда Панова, оказалось их аж три.
В ряде А.Д. Панова фазовый переход №14 — железный век, эпоха империй, революция Осевого времени, — происходил в течение более трехсот лет 800–500 лет до н. э.
А ряде Архимеда этот фазовый переход чуть расширен по времени и распакован на три отдельных события:
- №14 — железный век: 1 тыс. лет до н.э.; 800 лет до Архимедова настоящего времени;
- №15 — эпоха империй: : 450 лет до н.э.; 240 лет до Архимедова настоящего времени;
- №16 — революция Осевого времени: 250 лет до н.э.; 40 лет до Архимедова настоящего времени.
Это вполне объяснимо, т.к. более близкие в истории события, из-за наличия о них большего объема доступной информации, только за счет этого кажутся более важными, чем дальше отстающие в истории события.
Эти два отличия можно интегрировать в одно: временные ряды различаются составом наиболее близких для современников и наиболее «быстро случающихся» в истории событий.
В итоге, временные ряды Архимеда и Панова, отличающиеся всего лишь составом наиболее близких для современников и наиболее «быстро случающихся» в истории событий, прогнозируют совершенно разные результаты всей «планетарной эволюции».
· Во временном ряде Панова точка сингулярности датируется в районе 2019 года (точнее 2004 ± 15 лет).
Во временном ряде Архимеда она оказывается на 2214 лет раньше — в районе 195 г. до н. э.
Получается, у Архимеда было бы ничуть не меньше оснований в 212 до н.э. считать, что «сингулярность уже близка», чем у Курцвейла в 2005 г. Ведь у Курцвейла до технологической сингулярности в 2029 г. (получаемой из уравнения гиперболы, наиболее точно описывающей аппроксимацию использованного им временного ряда событий) оставалось 24 года. А у Архимеда до «сингулярности Коротаева-Архимеда» — оставалось всего 17 лет. При этом, как показал А.В. Коротаев, высочайшая точность аппроксимации обеих сингулярностей по временным рядам удивительным образом оказывается одной и той же (R2 = 0,999).
Приведем еще несколько примеров, иллюстрирующий, насколько вариабельной оказывается дата точки сингулярности при минимальном манипулировании временным рядом субъективно выбираемых событий.
«Сингулярность Апостола Павла»
В предыдущем примере «сингулярности Коротаева-Архимеда» замена трех последних фазовых переходов (наиболее «быстро случающихся» в истории важнейших событий) была вполне логична с точки зрения современника Архимеда. Теперь давайте еще более усугубим парадоксальность ситуации, воспользовавшись примером из работы С.Ю. Малкова [22].
Как мог бы выглядеть временной ряд знаковых событий в истории, если бы инопланетяне передали его не Архимеду в 212 г. до н.э., а лет эдак через 250 некоему христианину, жившему в 1-м веке н.э. (например, Апостолу Павлу).
Приводимая ниже таблица получена из таблицы планетарных революций А. Д. Панова (см. табл. 1), путем замены пяти последних «быстрых» фазовых переходов на те, которые, весьма вероятно, были бы наиболее важными с точки зрения христианина, жившего в 1-м веке н.э. Эти пять фазовых переходов отмечены голубым фоном.
Гиперболическая аппроксимация этого ряда дает точку сингулярности в 64 году н.э., когда Нерон поджег Рим и потом обвинил в этом христиан.
В результате, манипулируя составом нескольких «быстрых» фазовых переходов, происходивших на временном интервале примерно стотысячной доли процента от всей длительности временного ряда событий, мы получили еще одну дату сингулярности — 64 год н.э.
«Сингулярность Чарлза Дарвина»
Число примеров, показывающих, как различное толкование «быстрых» для современников изменений меняет результат всей «планетарной эволюции», можно продолжать сколь угодно.
Например, как пишет в работе [11] С.В. Добролюбов,
«если бы мы оказались в Англии в разгар промышленной революции XIX в. и не знали о будущей цифровой революции, то фазовые переходы в самых разных сферах деятельности могли интерпретировать как вход технологической эволюции в режим с обострением, и тогда точка сингулярности эволюции оказалась бы в 1834 г.»
Иными словами, продолжая нашу метафору с инопланетянами: если бы представители внеземного разума в 1830-ом г. передали список наиболее значимых событий земной истории молодому Чарлзу Дарвину (ему как раз стукнул 21 год), то он увидел бы, что сингулярность совсем близко — буквально через 4 года.
На рисунке ниже можно сравнить результаты аппроксимации последовательностей фазовых переходов:
- планетарной эволюции по А.Д. Панову с сингулярностью в 2004 г.;
- социальной эволюции и промышленной революции по С.В. Добролюбову с «сингулярностью Чарлза Дарвина» в 1834 г.
Приведенные примеры трех «сингулярностей» показывают:
- насколько сильно датировка точки сингулярности временного ряда фазовых переходов зависит от субъективного взгляда на состав событий, включенных в этот ряд;
- непреодолимость этой субъективности из-за, по определению, субъективного видения человеком своего «настоящего времени».
Из-за разного понимания «настоящего времени» у Архимеда, Апостола Павла и Чарлза Дарвина, у них получались бы разные составы «быстрых событий», приводящий в трем различным точкам сингулярности:
- в 195 г. до н. э.
- в 64 году н.э.
- в 1834 г.
Таким образом, нами было показано и иллюстрировано примерами, что:
1. не существует единого объективного и всеобъемлющего ряда важнейших событий для всех типов земной эволюции (от биосферной до социальной и технологической),
2. как следствие п. 1, — не существует не зависящей от «настоящего времени» наблюдателя точки сингулярности, единой для всех типов эволюции.
Даже если попытаться ограничить прогнозирование технологической сингулярности исключительно важнейшими событиями в истории развития технологий (сократив исторический отрезок эволюции в 100 тыс. раз — с 4 млрд. до 40 тыс. лет), получается все та же ерунда — дата точки сингулярности зависит от «настоящего времени» лица, формирующего временной ряд важнейших событий. Это лицо делает выбор в пользу наиболее известных ему событий предшествующей истории:
- либо по причине их исторической близости;
- либо из-за когнитивных искажений (например, вследствие действия закон Вебера — Фехнера, согласно которому наша способность воспринимать изменение стимула относительно существующего уровня стимула [33])
Например, глядя из «настоящего времени» 2000-го года, временной ряд важнейших инноваций в истории, по версии Википедии, выглядел так, как он выглядит сегодня без двух последних инноваций, относящихся уже к 21 веку.
Этот временной ряд эпохальных событий технологической эволюции прекрасно аппроксимируется гиперболой.
Глядя из «настоящего времени» 2000-го года, точка сингулярности этого временного ряда при аппроксимации его гиперболой приходится на 2010 год.
Зададимся вопросом — а что будет, если «настоящим временем» сделать идущий сейчас 2020 г.?
Да ничего особенного, — к временному ряду Википедии добавится еще пара «эпохальных инноваций»:
- 2007: первое поколение IPhone выпущенно на рынок компанией Apple;
- 2019: IBM запустила IBM Q System One — первую интегрированную систему квантовых вычислений для коммерческого использования.
Не обращая внимание на спорность того, что именно эти две инновации так и останутся в истории важнейшими фазовыми переходами эволюции технологий в начале 21 веке, отметим наиболее для нас важное.
Как и ожидалось, точка сингулярности сдвинулась на 2025 год. И при очередных добавлениях новых фазовых переходов все будет бесконечно повторяться, как в апории про Ахиллеса и черепаху.
- Новое «настоящее время».
- Несколько новых «быстрых» фазовых переходов.
- Новая дата точки сингулярности
Полагаю, примеров достаточно. Потратив изрядно времени, мы детально разобрались с 1-м звеном логического вывода Р. Курцвейла, показав, что рассчитанная им дата техно-сингулярности, на самом деле, может быть любой.
Теперь можем переходить к двумя следующими звеньями, с которыми, к радости читателей, все будет куда быстрее и проще.
ИИ — это еще далеко не мозг
Звено 2. Сильный ИИ появится в 2029 году
Это утверждение несостоятельно в силу того, что все три предположения, на которых Курцвейл построил доказательство истинности 2-го звена, не соответствуют действительности.
Утверждение о том, что прогресс IT позволит к концу 2020-х построить компьютер, обладающий вычислительной мощностью мозга человека, сегодня не имеет под собой никаких оснований.
Современной науке неизвестна вычислительная мощность мозга человека. Неизвестно даже, основана ли работа мозга исключительно на вычислениях. А если все же так, то неизвестен принцип и способы осуществления вычислений мозгом. И даже если мы когда-то это узнаем, то потом еще предстоит понять, что за архитектура позволяет биологической системе, называемой нами мозгом, работать в соответствии с неизвестным пока принципом, реализуя неизвестные пока способы вычислений.
Утверждение о том, что прогресс в сканировании мозга позволит к концу 2020-х определить структуру связей нейронов мозга с точностью, позволяющей ее эмуляцию программным путем, сегодня также не имеет под собой никаких оснований. Подобное знание никоим образом не позволит реализовать программную эмуляцию работы мозга. Современной науке неизвестен даже полный состав и типология всех логических и запоминающих элементов мозга. Кроме того, неизвестно, состоит ли мозг исключительно из логических и запоминающих элементов.
А что значит — сильный ИИ? Ведь и для этого понятия нет не то что формального, а просто более-менее общепринятого определения. Да и критерий прохождение теста Тьюринга, как показатель построения сильного ИИ, не только формально не определен, но и теоретически не верен. Превосходное доказательства этого можно прочесть в работе одного из «отцов» исследований сингулярности А.Д. Панова [35]. А в работе Д. Лангребе и Б. Смита [36] дано альтернативное доказательство.
Так что, хоть по науке, хоть просто по здравому смыслу, но утверждение Рэя Курцвела, являющееся 2-м звеном логического вывода гипотезы технологической сингулярности, такая же спекуляция, как и 1-е звено.
Доллары и операции в секунду
Звено 3. В 2045 г. появится супер-ИИ, что и приведет к технологической сингулярности
Для доказательства несостоятельности этого утверждения не требуется вообще ничего, ибо лежащий в его основе расчет Р. Курцвейла, — очевидная спекуляция. Расчет Курцвейла (если это вообще можно назвать расчетом), приведенный в его книге «Сингулярность уже рядом» [6] таков.
В начале 2030-х годов за 1000 долларов можно будет купить компьютер, обладающий производительностью 10^17 операций в секунду. А с учетом развития интегральных схем специального назначения (ASIC) и распределенных вычислений в Интернете, за 1000 долларов можно будет приобрести компьютер производительностью даже в 10^20 операций/с.
Сегодня мы тратим в год на вычисления более 10^11 (100 млрд долларов). А к 2030 году, по консервативной оценке, эта сумма вырастет до 10^12 (1 трлн долларов). Следовательно, в начале 2030-х мир будет обладать годовой вычислительной производительность небиологических (компьютерных) вычислений примерно 10^26–10^29 операций/с. Это примерно соответствует нашей оценке способности всего живого биологического человеческого интеллекта.
Иными словами, в начале 2030-х годовая производительность небиологических (компьютерных) вычислений примерно сравняется с вычислительной производительностью всего человечества. А еще через несколько лет, к середине 2040-х за 1000 долларов можно будет купить компьютер, обладающий производительностью около 10^26 операций/с. Следовательно, годовая производительность небиологических (компьютерных) вычислений, которую можно будет купить за триллион долларов, будет в миллиард раз выше вычислительной мощности всего сегодняшнего человечества.
Из вышеизложенного Курцвейл делает вывод:
«Я установил дату сингулярности — наступления глубокой и подрывной трансформации человеческих возможностей — в 2045 году. Небиологический интеллект, созданный в этом году будет в миллиард раз мощнее, чем весь человеческий интеллект сегодня».
Что тут добавишь? Бывают самореализующиеся пророчества, а бывают саморазоблачающиеся доказательства. И это, по-моему, замечательный пример последнего.
Здесь изумительно все. От взятых с потолка цифр (например, вычислительная производительность мозга человека 10^16 операций/с), до логики, смешивающей в «салат из коня с рябчиком» доллары с операциями в секунду, годовую вычислительную производительность компьютеров с вычислительной производительностью в секунду мозга человека и человечества, уровень интеллекта с числом операций в секунду.
Судите сами, как оценивать достоверность этого «расчета».
Мне же остается констатировать, что и для 3-го звена имеет то же, что и для первых двух — это чистая спекуляция.
Обобщение всех вышеизложенных аргументов приводит нас к выводу о недостоверности и необоснованности гипотезы техно-сингулярности Рэя Курцвейла, поскольку недостоверны все три ключевых положения, составляющие звенья её логического вывода. Его гипотеза не является научно обоснованной, а выводы, делаемые Курцвейлом на её основе, безусловно ошибочны.
Все доказательства недостоверности гипотезы Р. Курцвейла, представленные нами выше, не являются чем-то новым для специалистов в этой области. И мы не претендуем даже на один единственный лавровый лист в качестве приза за опровержения мифа о техно-сингулярности. Все уже опровергнуто до нас авторитетными исследователями. Вот что они об этом пишут.
Научная фантастика, признанная за научную истину
Развернутую критику несостоятельности гипотезы техно-сингулярности можно найти в работах многих известных ученых, посвятивших десятки лет изучению динамики развития космологических, геологических, биологических, социологических и технологических процессов.
Наиболее свежий пример — опубликованный в январе интереснейший сборник под редакцией А.В. Коротаева и Дэвида Лепуара «The 21st Century Singularity and Global Futures A Big History Perspective» на тему сингулярности в контексте Большой истории [29].
В вошедших в сборник работах известных авторов, среди прочего, содержится глубокий и доказательный анализ несостоятельности гипотезы технологической сингулярности. Среди авторов признанные авторитеты в данной области, ссылки на работы которых вам уже неоднократно встречались в этой статье. Это научный соредактор сборника «The 21st Century Singularity and Global Futures A Big History Perspective» А.В. Коротаев, первооткрыватели знаменитой «вертикали» Г.Д. Снукс и А.Д. Панов, автор использованного Курцвейлом временного ряда «канонических вех» Т. Модис, известные российские исследователи в этой области С.В. Добролюбов, С.Ю. Малков и др.
Будучи истинными учеными, они предельно сдержаны и корректны в высказываемых ими критических оценках. Пожалуй, лишь первооткрыватель этой области исследований бескомпромиссный Г.Д. Снукс позволяет себе называть вещи своими именами. В опубликованной в сборнике статье «Is Singularity a Scientific Concept, or the Construct of Metaphysical Historicism? Implications for Big History» (в открытом доступе эту статью можно прочесть здесь) Г.Д. Снукс пишет следующее.
- Спекуляции об относительной роли человеческого и машинного интеллекта были «довольно обманчиво увязаны Р. Курцвейлом с эмпирическими попытками измерить экспоненциальную скорость генетических / технологических изменений за последние 4 млрд. лет».
- Необходимо «развеять миф сингулярности», которым мы во многом обязаны «антиисторичным и антинаучным работам сингуляристов» и, в первую очередь, Р. Курцвейлу.
А вот эту цитату из другой статьи Г.Д. Снукса «Exploding the Great Singularity Myth» [30] я, пожалуй, приведу полностью, — уж больно она беспощадно конкретна.
«Рэймонд Курцвейл, избирательно цитирующий идеи более осторожных ученых, говорит нам, что сингулярность — это уникальное событие, происходящее, когда изменяющаяся переменная устремляется к бесконечному значению. В случае «технологической сингулярности», которая, как нам говорят, произойдет именно в 2045 году (!), утверждается, что к бесконечному значению устремится скорость технологических изменений. И хотя подобное экономически невозможно, это не остановило вирусное распространение надуманной идеи в Интернете. Научная фантастика оказалась широко признана за научную истину.»
Другой первооткрыватель знаменитой «вертикали» — А.Д. Панов, — в переписке с автором также формулирует свое отношение к гипотезе технологической сингулярности вполне определенно.
«Технологическая сингулярность — чистая спекуляция, основанная на гипотезе о возможности создания так называемого сильного искусственного интеллекта. Но внимательный анализ показывает, что ничто реально не указывает пока на возможность создания сильного ИИ в любом обозримом будущем. Замечу, что производительность вычислительных систем, на которую обычно ссылаются энтузиасты сильного ИИ, не имеет к делу никакого отношения.»
Ответ А.В. Коротаева на вопрос — «следует ли нам вместе с Р. Курцвейлом ожидать, что где-то в районе 2029 года мы будем реально иметь дело с ускорением глобального технологического роста на несколько порядков?» вполне категоричен [25]:
«Я склонен дать на этот вопрос однозначно отрицательный ответ.»
Сергей Васильевич Добролюбов — независимый исследователь, автор ряда научных статей по социологии, исторической социологии, социальной эволюции, теории социогенеза обществ, — отказывает технологической сингулярности в существовании [11].
«Никакие технологические сингулярности сами по себе не меняют ни природы общества, ни места человека в нем. Сингулярность социальной эволюции возможна, но это будет именно социальная, а не технологическая сингулярность, то есть она будет обусловлена не технологическими изменениями, какими бы впечатляющими они ни были, а их органической связанностью с природой социального.»
Сергей Юрьевич Малков — российский математик, специалист по математическому моделированию динамики социальных, экономических и технических систем, а также клиодинамике, — в заключении к работе [19] пишет примерно о том же.
«Для социальной эволюции тоже характерно ускорение, но широко обсуждаемые феномены технологической, демографической, социальной сингулярности во многом носят спекулятивный характер.»
Полагаю, приведенных цитат достаточно для иллюстрации общего отношения специалистов к технологической сингулярности Р. Курцвейла. В этой статье мы лишь попытались обобщить их соображения в единую, по возможности стройную и понятную для непрофессионалов, картину. С тем, чтобы любой из читателей, не имеющих специальной подготовки, мог самостоятельно пройтись по всем фактам и, проанализировав все звенья логического вывода гипотезы Курцвейла, самому прийти к выводу, что эта гипотеза — полнейший фейк.
Экспонента о двух концах
Но может что-то изменилось в позиции Р. Курцвейла за прошедшие с опубликования книги «Сингулярность уже близка» 14 лет?
Ведь вышли десятки новых научных работ весьма заслуженных авторов, в которых не просто высказываются сомнения в состоятельности гипотезы техно-сингулярности, а достоверно показана ее несостоятельность. И такие уважаемые авторы, как Г.Д. Снукс, А.Д. Панов, А.В. Коротаев, Т. Модис (мы специально называем здесь имена лишь тех авторов, с работами которых Р. Курцвейл точно знаком) формулируют свое негативное отношение к техно-сингулярности примерно так: «Технологическая сингулярность — чистая спекуляция, основанная на гипотезе о возможности создания так называемого сильного искусственного интеллекта» (формулировка А.Д. Панова).
Однако позиция Р. Курцвейла не меняется. Единственное изменение с его стороны состояло в том, что теперь он полагает, будто сингулярность не просто близка, а еще ближе, чем он думал 14 лет назад. Что это означает в конкретных датах, Рэй Курцвейл обещает открыть миру в июне 2020 года, когда планируется выход его новой книги «The Singularity is Nearer» («Сингулярность еще ближе»).
Куда больше за прошедшие 14 лет изменилась реакция аудитории на прогнозы Курцвейла. В конце 2000-х слушатели внимали его прогнозам, как гениальным пророчествам. Теперь же преобладает скептическое восприятие.
Орен Эциони, директор «Института искусственного интеллекта Аллена» (детище соучредителя Microsoft Пола Аллена), предостерегая от ажиотажа по поводу сверхчеловеческого ИИ, высказывается довольно едко: «Экспоненты очень важны. Если мы экстраполируем экспоненты, мы можем быть экспоненциально неправы».
Роберт Дж. Маркс, директор «Центра естественного и искусственного интеллекта Уолтера Брэдли», предложил историческую аналогию заявлениям Р. Курвейла. Одной из целей алхимии было создание «гомункула» — искусственного человека, способного думать за нас. Но по мере того, как мы начинали лучше понимать природу, подобные занятия лишь дискредитировали алхимию. «Я полагаю, что сингулярность останется в истории, подобно гомункулу», — заключил Роберт Дж. Маркс.
Миф или мошенничество? Хотелось бы надеяться, что прочитавших эту статью не требуется дальше убеждать, что гипотеза техно-сингулярности — грандиозный миф. Причем именно миф, а не банальный фейк. Ибо для простого фейка эта гипотеза слишком масштабна, слишком долгоиграюща и слишком дорога, в смысле ставок на кону большого бизнеса и большой политики.
Причина того, что мир водят за нос, прогнозируя создание сильного ИИ в ближайшие 20 лет, ясна и понятна. Делается это потому, что более близкие прогнозы создания сильного ИИ генерируют больше финансирования для бизнеса и науки; позволяют политикам пугать общество возможностью «отстать в ИИ гонке», что рождает новые бюджеты и их новые «распилы»; лучше привлекают внимание читателей во всех медиа.
Так что же получается: Рэй Курцвейл и многие его последователи — техносингуляристы поголовно сознательно лгут? Не берусь выносить однозначный приговор. В логике Нассима Талеба — «Если вы видите мошенничество и не говорите, что это мошенничество, то вы — мошенник», — это чистой воды мошенничество. В логике Скотта Александра, считающего, что «понятия ложь и мошенничество в научных дискуссиях становятся все менее применимы», — не совсем.
Осталось уточнить, на мой взгляд, самый важный момент.
Силиконовая долина религий
Буквально на наших глазах техно-сингулярность превращается из скрытого (неосознаваемого) человечеством мифа в новую техно-религию. Прав автор международного бестселлера «Sapiens: Краткая история человечества», израильский военный историк-медиевист Юваль Ной Харари: «Люди движимы общими, часто скрытыми (неосознаваемыми) вымыслами».
Многие из этих вымыслов лежат в основе концепций, организующих общество: таких как стоимость доллара или авторитет национальных государств. Самые фундаментальные из таких вымыслов существовали тысячелетиями в форме главных религий человечества.
Но ведь и вымышленная техно-сингулярность — обретение жизни без старости и болезней, а может быть, и без смерти, путем слияния человека с супер-ИИ, — за полтора десятилетия практически уже стала глобальным мировым мифом. Ни одна религия не смогла навеять единый образ будущего для всего человечества. А техно-сингулярность уже смогла.
«Современному обществу не удалось распространить новые религии за пределы культов личности или ниш саентологии. Но по мере развития цифрового и виртуального миров, это должно измениться. XXI век закладывает основу для нового типа широко распространенной веры — основанных на технологиях религий, — пишет директор-основатель Hub Culture Group Стэн Сталнакер. — Технологии сегодня распространены и гранулированы. Они охватывают наше мировоззрение, и люди адаптируют их в свои духовные представления. Интернет действует как ускоритель этих сил, обеспечивая быстрое перекрестное опыление и мутации. Этот скользкий путь трансмутации обеспечивает новый направляющий рельс для превращения технологий в новый культ или религию, или, по крайней мере, в их компонент».
Тот же Юваль Ной Харари подчеркивает: «Силиконовая долина — это место, откуда берутся самые важные религиозные идеи современности». В качестве примеров таких религиозных идей, Харари называет:
Датаизм — религию данных, утверждающую, что люди выполнили свою космическую задачу, и теперь они должны передать факел прогресса совершенно новым видам сущностей;
Техногуманизм, призванный помочь нам решить многие из сегодняшних проблем, сделав людей менее зависимыми от иррациональных инстинктов, убеждений и логических заблуждений, став более похожими на ИИ — объективными, беспристрастными, основанными на фактах и управляемыми данными.
Еще один пример новой техно-религии называет Сталнакер — «Дополненная осознанность», способная помочь разрушить наше восприятие границ между нами и нашей целью, виртуальной или реальной.
Все три названные претендента на статус новых техно-религий вполне реальны.
Однако и Харари, и Сталнакер, на мой взгляд, не видят главного претендента — техно-религии техно-сингулярности.
Еще в начале первого тысячелетия до н.э. «Заратустра положил начало новому времени, предсказав абсолютный конец света. После решительного боя между силами света и тьмы и страшного суда над всеми когда-либо жившими наступит вечная жизнь без голода, жажды, насилия, рождения и смерти. Герой победит дракона в последний раз, хаос отступит раз и навсегда, и лишь добро пребудет вовеки» [38].
Эта «вечная жизнь без голода, жажды, насилия, рождения и смерти», в той или иной форме вошла непременным элементом эсхатологии большинства мировых религий, дошедших до наших дней.
И вот спустя 2+ тыс. лет, пройдя через «Великое разочарование» (Great Disappointment) и серию «Великих пробуждений» (Great Awakenings), человечество обретает новую техно-веру. И Рэй Курцвейл — «силиконовый пророк» техно-милленаризма, обещает, что грядущая фундаментальная трансформация общества, после которой все изменится, не может не быть совсем близко.
Если так, это проясняет возможную судьбу мифа техно-сингулярности.
Подобно традиционным религиозным догмам, техно-сингулярность, оставаясь скрытым (неосознанным) мифом, так и будет оставаться «пока несбывшимся» пророчеством, оказывая огромное влияние и на мировую правящую элиту, и на образ будущего для большинства.
Как и во всех предшествующих религиях, сроки пророчества будут неоднократно сдвигаться. И со временем конкретные даты — хоть 2045, хоть 2245, — станут уже не важны.
А Рэя Курцвейла, названного Wall Street Journal «the restless genius» (перевод на ваш выбор: от «беспокойный гений» до «суетливый умник») со временем назовут «кремниевым пророком Рэем».
Пост впервые опубликован в выпуске НГ-Наука от 21 апреля 2020.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
