Невычислимая тень будущего
Мир не теорема, которую может доказать алгоритм
Это продолжение поста “Открыта теория относительности интеллекта: биологического и машинного”.
B предыдущей части поста было рассказано об аффордансах — ключевом свойстве интеллектуальных агентов, позволяющем им использовать в своих целях разнообразные возможности, потенциально доступные им в конкретных условиях окружающей среды и текущей ситуации.
Следующим естественным вопросом нашего рассмотрения станет такой .
Каков же этот потенциал возможностей? Насколько он велик и вычислим?
Но прежде, чем продолжить свой рассказ, хотел бы обратить внимание на важное для его оценки читателями обстоятельство.
В своих публикациях я всегда рассказываю о новейших исследованиях, результаты которых публиковались недавно. Что же до рассказа о «теории относительности интеллекта», то импульсом к его написанию стали предельно новые работы, публикуемые рецензируемыми научными журналами параллельно с публикациями продолжений моего поста.
- В 1й части поста мой рассказ начинался с выводов работы «How Organisms Come To Know The World: Fundamental Limits On Artificial General Intelligence» («Как организмы познают мир: фундаментальные ограничения общего искусственного интеллекта»), опубликованной Роли, Йегером и Кауфманом 2-го ноября.
- В этой же 3-ей части поста я опираюсь на выводы новой работы «The World Is Not a Theorem» («Мир — это не теорема»), опубликованной Кауфманом и Роли 6-го ноября.
Таким образом, в этом моем рассказе речь идет о совершенно новых научных представлениях, часть из которых уже прошла через сито рецензирования авторитетных научных журналов, а другая часть еще находится в процессе рецензирования.
Сделав это замечание, перейдем к поиску ответа на поставленный выше вопрос. А сделать это нам позволит рассмотрение аффордансов в контексте теории смежного возможного.
Смежное возможное
Смежное возможное — это своего рода тень будущего, зависшего на краю нынешнего положения вещей, карта всех способов, с помощью которых настоящее может переосмыслить себя…[смежное возможное] отражает как пределы, так и творческий потенциал изменений и инноваций.
Стивен Джонсон “Гений ремесленника”
Kонкретное окружение интеллектуального агента в конкретный момент времени предоставляет ему разнообразные возможности.
- Часть из них он может обнаружить, а другие нет.
- Часть из обнаруженных, он может исследовать, взаимодействуя с ними в физической или в собственной ментальной прогностической реальности, имеющейся у любого интеллектуального агента.
- Часть из исследованных возможностей он может использовать себе во благо: либо взаимодействуя с конкретными элементами среды, либо наоборот, уклоняясь от них, в зависимости от своего опыта и текущих интересов.
Но как бы ни был широк спектр разнообразных возможностей, имеющихся у агента в условиях конкретной среды в конкретный момент времени, — этот спектр не бесконечен. В любой ситуации существует масса ограничений, не допускающих наличия тех или иных возможностей — их просто не существует.
Для физического окружения это интуитивно понятно. Если агент оказался выброшенным за борт корабля в море, спектр его возможностей невелик: можно утонуть, а можно нырять, плыть или просто лежать на поверхности воды (если, конечно, умеешь). Но возможности идти или бежать у него нет. Не говоря уж о возможностях согреться, напиться, найти пищу или смастерить для себя что-то полезное. Характерно, что с изменениями окружающей среды или ситуации, меняется и спектр потенциальных возможностей. Если рядом в воде оказалось плывущее бревно, появляется возможность влезть на него. А если удалось выплыть на мелководье, появляется возможность идти: сначала по дну, а потом и по берегу.
Однако, возможности, например, спрятаться, у качающегося на волнах выпавшего за борт просто нет (ибо нырять — не вариант, так надолго не спрячешься). Но такая возможность может появиться, как только человек доберется до берега. При этом число вариантов спрятаться на песчаном берегу будет минимальным — только закопаться в песок. А при изменении окружения — уйдя с берега и углубившись в близлежащий лесок, — спектр возможностей укрыться возрастает: можно спрятаться в кустах, влезть на дерево или сделать шалаш.
Потенциально доступные возможности, достижимые из текущих возможностей, имеющихся здесь и сейчас (в данном окружении в текущей ситуации), Стюарт Кауфман назвал «смежные возможности». Возможность спрятаться, забравшись на дерево, — смежная для текущей ситуации «человек на берегу». Однако для ситуации выпавшего за борт «человека в воде» возможность спрятаться, забравшись на дерево, не является смежной, ибо нереальна в текущей ситуации.
В реальной жизни число смежных возможностей велико, ибо в общем виде, это все потенциальные возможности получить пользу и избежать вреда для агента. Например, в том же лесу уже просто невозможно представить огромный спектр «смежно возможного».
- Вот агент увидел змею, и спектр «смежно возможного» стал иным (в чем-то он расширился, а в чем-то стал уже).
- Или проголодался, и опять спектр «смежных возможностей» изменился.
- Или вдруг подвернул ногу, и спектр «смежно возможного» резко изменился.
Вот иллюстрация “смежного возможного” в виде графика.
Текущая ситуация (а), допускающая возможности, показанные закрашенными серым кружками, переходит в ситуацию (b). Возможность, показанная незакрашенным кружком на рис. (а), при изменении ситуации, открывает сразу 4 новые возможности — незакрашенные кружки, соединенные зелеными линиями на рис. (b).
Понятие “смежное возможное” было введено Стюартом Кауфманом для объяснения механизма эволюционного разнообразия биосферы еще в 1996 г. в книге «Дома во Вселенной: поиск законов самоорганизации и сложности». Обобщая шестилетний опыт работ в вышедшей в 2002 книге «Исследования», Кауфман показал, что эволюцию можно рассматривать как исследование смежного возможного, и что, говоря словами Кауфман,
“жизнь буквально создает возможности, в которые она затем превращается”.
Пространство смежных возможностей интеллектуального агента является для него локальным фазовым пространством, в котором он решает свои каждомоментные оптимизационные задачи. А любая инновация интеллектуального агента позволяет ему расширить пространство смежных возможностей.
“Смежное возможное” применимо не только к индивидуальным агентам и не только для их материальной реальности (физической среды).
В общем виде:
✔️ “смежное возможное” может быть определено как набор возможностей, доступных отдельным индивидам, сообществам, институтам, организмам, производственным процессам и т.д. в данный момент времени в ходе их эволюции;
✔️ “смежное возможное” применимо далеко не только к внешней физической реальности, но и к внутренней реальности, включающей (для людей и животных) ментальную прогностическую модель внешней физической реальности, а также (только для людей) высокоуровневые образно-концептуальные модели на основе метаязыков, глубинных семантических структур и языка смыслов.
Согласно теории “смежного возможного” Стюарта Кауфмана, и биологическая, и технологическая эволюция людей (развитие цивилизации) представляют собой комбинаторно-комулятивные процессы расширения пространства “смежного возможного”.
В опубликованной на прошлой неделе работе «Мир — это не теорема» Кауфман и Роли резюмируют цикл своих статей, дающих трактовку биологической эволюции с позиций «смежного возможного» и важнейшей роли аффордансов. Авторы показывают, что эволюция биосферы разворачивается как пышный процесс генерации новых живых форм и функций. Организмы адаптируются к окружающей среде и используют новые возможности, которые открываются в этой непрерывной динамике цветения разнообразия. Фундаментальную роль в эволюции биосферы играют аффордансы, поскольку они представляют возможности, которые организмы могут выбирать для достижения своих целей, тем самым актуализируя то, что имеется в потенциале.
А в вышедшей в феврале этого года работе Стюарта Кауфмана, Майка Стила (профессор математики и статистики, директор Исследовательского центра биоматематики при Кентерберийском университете) и Вима Хордейка (независимый междисциплинарный ученый, в н. в. старший научный сотрудник Института эволюции и когнитивных исследований им. Конрада Лоренца) «Динамика процесса рождения–смерти на основе комбинаторных инноваций» резюмирован цикл статей, посвященных трактовке технологической эволюции цивилизации с позиций «смежного возможного» и аффордансов. Авторы демонстрируют, что особенностью человеческого творчества является способность брать подмножество существующих объектов (материальных предметов, идей или методов) и комбинировать их различными способами, чтобы создавать новые объекты, которые, в свою очередь, способствуют дальнейшему росту пространства возможностей. Используя стохастическую модель рождения–смерти таких объектов, авторы показывают склонность подмножеств объектов порождать новые объекты. Этот процесс демонстрирует характерную динамику “хоккейной клюшки”: длительный период относительно небольшого роста, за которым следует относительно внезапный “взрывной” рост. Авторы также показывают в этой работе, как подобный рост связан творческой производительностью людей.
Видеорассказ Кауфмана, раскрывающий эту тему, можно посмотреть в прочитанной им для New England Complex Systems Institute часовой лекции.
Ключевой вывод из теории “смежного возможного” Стюарта Кауфмана таков.
Любые возможности, скрытые в настоящий момент, не могут быть предварительно оценены или предсказаны до тех пор, пока они не станут реальными.
Иными словами.
Все события, кроме самых очевидных, невозможно предсказать заранее, потому что пространство возможного всегда неизмеримо больше пространства фактического.
А можно сказать и так.
Процесс расширения пространства возможностей невозможно рассчитать заранее.
Вся эта непредсказуемость связана с тем, что невозможно заранее адаптироваться к последствиям, того, что еще не только не случилось, но и о чем мы еще не знаем (это всего лишь “тень будущего”, которое может произойти, а может и нет).
Т.е. мы сталкиваемся здесь с невычислимой задачей оптимизации.
Непрерывная идентификация аффордансов и связанных с ними ограничений изменяют фазовое пространство интеллектуальных агентов и расширяют его до смежных возможных. При этом невозможно заранее сформулировать новые функции, возникающие в этом открытом состоянии. Как уже отмечалось, способы использование отвертки не определенны, как и ее аффордансы. Они не определенны потому, что неизвестен новый способ применения отвертки, пока он не придет кому-то в голову.
✔️ Этот кто-то должен увидеть реальность по-другому — по-новому.
✔️ А как только это произойдет, сам мир станет иным — с другим набором смежного возможного и, соответственно, аффордансов для каждого из интеллектуальных агентов.
N.B. Наглядной иллюстрацией этого служат «нёрдботы», ибо совершенно невозможно предугадать, как будет выглядеть новый «нёрдбот», пока его автор не покапается в залежах гаражно-чуланного старья и на него не снизойдет новый дизайнерский аффорданс.
Как показано в работе «Мир — это не теорема»:
«Аффордансы сводят на нет любое разумное определение множества, и поэтому никакая теория множеств (и, следовательно, никакая математика) не может быть использована для моделирования аффордансов».
А в работе «Как организмы познают мир: фундаментальные ограничения общего искусственного интеллекта» анализируются связи между аффордансами и алгоритмами, определяемыми как вычислительные процессы, которые могут выполняться на универсальных машинах Тьюринга.
Результаты этого анализа показывают, что
выявление и использование аффордансов выходит за рамки алгоритмических вычислений.
Из этого делается следующий важнейший вывод.
Хотя теоретически возможно создание мощных ИИ систем, наделенных какими-то общими способностями, истинно общий AGI уровня человеческого не может быть полностью реализован на вычислительных системах, построенных как универсальная машина Тьюринга.
Это ограничение справедливо как для невоплощенных, так и для воплощенных машин Тьюринга, таких как роботы.
В итоге мы пришли к новым вопросам.
- Как же тогда люди справляются с невычислимыми задачами оперирования аффордансами?
- Что за механизм позволяет людям легко и непринужденно решать невычислимые задачи оптимизации?
Забегая вперед, но без спойлеров, ответ на этот вопрос таков — серендипность, сочетающая в себе три аффорданса.
Ну а подробно мы поговорим об этом в следующей части «Что в основе интуитивный прозрений».
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.
