Интрига года — инженерный ксеногенезис
Приведет ли создание осознающего себя робота к AGI?
«Моя мечта — создать своего рода инопланетян, нечто по-человечески разумное, но не являющееся людьми»
Ход Липсон, руководитель Creative Machines Lab в Columbia University
Caмый интригующий прорыв прошедшего года в области ИИ — вовсе не претендующие на интеллектуальность чатботы больших языковых моделей и не замахнувшиеся на художественность ИИ-генераторы изображений.
Оба эти достижения — важные и многообещающие прорывы глубокого обучения 2.0. Но их перспектива более-менее понятна.
Они, как минимум, поменяют две основополагающие сетевые практики:
— как люди ищут информацию
— и как занимаются творчеством.
Hо для попыток «очеловечивания» способностей ИИ оба эти прорыва абсолютно бесполезны. И никакой интриги здесь нет. Ибо чем более продвинутыми будут становиться ИИ-чатботы и генераторы изображений, тем дальше они будут отдаляться от аналогичных способностей людей (примерно, как совершенствование технологий домкратов, никак не способствует прогрессу в подготовке тяжелоатлетов).
А поскольку возможность создания человекоподобного ИИ общего назначения (AGI) вот уже полвека остается самой большой интригой в области ИИ, то самым интригующим событием 2022 можно по праву считать создание командой Columbia Engineering новейшего осознающего себя робота. Ведь самосознание — характерное свойство разума людей.
Инженерный подход к сознанию
Философы, психологи, когнитивисты и нейробиологи используют около 50 разных определений сознания, что сильно мешает попыткам воссоздать это нечетко определенное свойство у ИИ.
Лидер команды создателей 1-го осознающего себя робота проф. механической инженерии и руководитель Creative Machines Lab в Columbia University Ход Липсон— профессиональный робототехник, исповедующий инженерный подход:
чтобы понять, как что-то работает, надо это нечто сделать.
А раз так, значит следует:
✔️ сначала точно определиться с ясным практическим критерием сознания;
✔️ а затем попытаться сделать интеллектуального агента, удовлетворяющего этому критерию на практике.
Практический критерий сознания по Липсону укладывается в три пункта.
1. Сознание — это способность представлять себя в будущем (иными словами, быть имажинавтом).
Сознание не бинарно, а существует в континууме. Иными словами, чем дальше в будущем существо способно представить себя, тем более оно сознательно (и это справедливо для любого типа разума: биологического и нет, человеческого и “чужого”, земного и инопланетного).
2. Даже самое примитивное самосознание должно иметь способность представить, где будет находиться тело в будущем. Следовательно, существо должно обладать способностью самомоделирования — построения модели себя с последующим использованием этой модели в своей деятельности.
3. Способность самомоделирования должна распространятся, как минимум, на два пространства, в которых существует и оперирует агент:
- материальное (окружающая агента среда и его собственное материальное тело, действующее в этой среде);
- нематериальное — информационное пространство, в котором модель планирует свои действия, оптимизируя их под свои нужды).
Принципиально важно, что такое представление сознания вполне согласуется:
✔️ с современными теориями «предсказывающего или прогнозирующего разума» (predictive mind), согласно которым у нас в мозге формируются модели окружающего мира и своего тела (последняя из моделей, представляющая как бы «тело в сознании», служит для мозга единственным источником знаний о собственном физическом теле и единственным посредником для действий с ним) — см. мой пост;
✔️ с принципом свободной энергии Карла Фристона — математической формализацией одной из версий теории прогнозирующего разума, претендующей на звание «единой теории жизни и мозга» — см. мой пост;
✔️ с концепцией сознания как чувства Марка Солмса, отвечающей на два наиболее интригующих вопроса человечества: как разум связан с телом и как можно чувствовать, что нечто — это я — см. мой пост.
Самосознающий робот
Фантастический прорыв команды Хода Липсона в том, что они сделали интеллектуального агента, удовлетворяющего названному критерию сознания на практике. Они создали первый в истории робот, осуществляющий без какого-либо участия людей полное телесное визуальное самомоделирование собственной морфологии.
Этот робот — результат многих лет работы команды Липсона. Он представляет собой механическую двухсуставную руку, прикрепленную к поверхности стола. Используя камеры, установленные вокруг него, робот наблюдал за самим собой в движении — “как младенец в колыбели, наблюдающий за собой в зеркале” (по словам Липсона). Изначально у робота не было представлений о себе и о том, где он находится в пространстве. Но в течение пары часов, с помощью мощного алгоритма глубокого обучения и вероятностной модели, он смог ориентироваться в окружающем мире. Робот сам, без участия людей, создал модель самого себя, просто натыкаясь на предметы и изучая свои движения по изображениям окружающих его камер.
Робот умеет точно выполнять две разные задачи, не требуя специальной подготовки ни для одной из них — собирать и класть маленькие шарики в чашку и писать буквы маркером.
Но главная фишка в следующем.
Когда исследователи имитировали повреждение тела робота, добавив деформированный компонент, робот обнаружил это изменение, соответствующим образом обновил свою собственную модель и смог возобновить выполнение своих задач, как это сделал бы человек, сломав, например, палец.
Инженерный путь к AGI
Ход Липсон считает, что робототехника заставляет исследователя быть предельно конкретным. И если поставлена задача — сделать самосознающего агента, незачем начинать с самого сложного сознательного существа, т.е. с человека. Это как старт в гору — самый трудный способ старта. Куда проще рассмотреть более простые системы, которые потенциально легче понять.
Поэтому его команда начала с самого простого — с робота, имеющего 4 степени свободы. Разработчики смосознающего “чужого” сознания задались вопросом:
«Можем ли мы сделать этого агента самомоделирующим?»
На вопрос — являются ли самомоделирование и самосознание одним и тем же, — разные исследователи отвечают по-разному (в открытом доступе см. здесь).
Липсон отвечает так.
«Система, которая может симулировать себя, в какой-то степени обладает самосознанием. И степень, в которой она может симулировать себя — точность этой симуляции, краткосрочный или долгосрочный временной горизонт, в котором она может симулировать себя — все эти различные факторы влияют на то, насколько система самосознающая.»
Конечно же возникает вопрос — каково соотношение между роботом, который может самостоятельно симулировать собственное тело, и роботом, который может иметь внутренние «мысли» — что больше похоже на неформальное значение «самосознания»?
Для ответа на этот вопрос нужно вернуться к вышеизложенным трем пунктам практического критерия сознания по Липсону.
1-й и 2-й пункты критерия в самом примитивном смысле уже выполняются для «осознающей руки» Липсона.
Совершенствуя такого робота, нужно:
- увеличивать горизонт времени прогнозирования при самомоделировании;
- повышать его точность;
- и конечно же, усложнять самого агента.
Ну а для реализации 3-го пункта критерия, необходимо распространить самомоделирование на второе — нематериальное (информационное) пространство, в котором модель планирует свои действия, оптимизируя их под свои нужды.
Иными словами, необходимо добиться у робота самомоделирования не только физического тела, но и когнитивного процесса. И этим команда Липсона уже занимается.
Двигаясь маленькими шагами в совершенствовании обоих типов самомоделирования (тела и самого разума), Липсон верит, что в конечном итоге можно будет дойти до человеческого уровня сознания и разума. Ну а потом, возможно, и превзойти этот уровень.
Пока это лишь гипотеза, но уж больно красивая и заманчивая.
Инженерный ксеногенезис (проектирование и создание “чужих”: от греческих слов “ксено” — скрытый, чужой, иной и “генезис” — рождение, возникновение), как практический путь создания AGI.
Команда Липсона занимается этим вплотную. Но интрига сохраняется, и в 2023 её накал будет лишь расти.
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях
