Станет ли ИИ Големом 21 века — 2

Условия создания «как бы живого существа»

Image for post
Image for post
Golem Painting by Warren Criswell. Источник: https://www.saatchiart.com/print/Painting-Golem/927740/3308398/view

Человечество тщетно спорит по двум вопросам:

✔️ Когда искусственный интеллект (ИИ) во всем превзойдет нас, превратившись в Супер-ИИ?

✔️ Что после этого произойдет:

  • с помощью Супер-ИИ люди совершат прорыв в рай цифрового бессмертия и всеобщего изобилия?
  • или Супер-ИИ истребит нас за ненужностью, создав на Земле новую супер-цивилизацию машин?

О том, что ответа на эти вопросы не существует, ибо сама их постановка ошибочная, мною написано много (например, «Техносингулярность становится технорелигией — [1] и [2]).

Но есть воистину сакраментальный вопрос –

как определить, что мы создали искусственное, но, как бы, живое своенравное существо (способное хотеть и стремиться), а не очередной, пусть и очень сложный инструмент (алгоритм или робота) для достижения наших собственных целей?

Стюарт Кауффман — современный гений уровня Аристотеля, — совместно с Андреа Роли — исследователем ИИ и сложных систем из Болонского университета, — впервые смогли ответить на этот сакраментальный вопрос.

Развивая идеи гения ХХ века — пионера в исследовании сложных систем Уильяма Эшби, — изложенные им в прорывной монографии «Конструкция мозга», Кауффман и Роли смогли определить минимальный набор необходимых и достаточных свойств «как бы живого искусственного существа», способного эволюционировать в меняющейся среде обитания.

  1. Способность «как бы живого искусственного существа» различать, что ему полезно/выгодно, а что нет (“что такое хорошо и что такое плохо”, — по выражению Эшби). Эта способность заключается в умении классифицировать релевантную информацию из окружающей среды. Данное умение необходимо для создания смыслов, определяющих, что важно для выживания организма в его экологической нише, и направляющих эволюцию специализированных сенсоров. Последние необходимы для улавливания паттернов и определения корреляций между ними, которые затем получают названия, превращаясь в семантическую информацию.
  2. Помимо названной в п. 1 способности, «как бы живое искусственное существо» должно уметь правильно использовать эту информацию. Как следствие, должны быть разработаны механизмы и средства для действий в мире. В роботизированных терминах можно говорить об исполнительных механизмах и эффекторах, но Кауффман и Роли также включают сюда способность принимать решения и действовать, т.е. иметь политику управления, которая подлежит адаптации и изменениям, согласно принципу “что такое хорошо и что такое плохо” из п. 1.

Названный набор свойств «как бы живого искусственного существа» авторы используют в привязке к 3м важнейшим факторам эволюции.

Доступность семантической информации. Это не семантика Шеннона, а корреляции в окружающей среде, полезные для существа, поскольку несут в себе знания. Доступность — ключевое понятие в биосемиотике, отличной от семиотики компьютеров, оперирующих синтаксисом (битами), а не семантикой. Но мир — это не алгоритмы с операциями над битами, кодирующими символы. Мир — это шишки и вмятины, голод и боль … Это и есть семантика по Кауффману.

Создание смыслов путем анализа «смежного возможного», т.е. через новые возникающие функции и динамические паттерны, которые оказываются полезными, но их невозможно заранее предсказать (как использование отвертки неопределенно и непредсказуемо)

Критичность — динамический режим на границе между порядком и хаосом. «Как бы живые искусственные существа» должны быть спроектированы так, чтобы критические динамические режимы были для них «хорошо»).

1я часть — Станет ли ИИ Големом 21 века?

________________________________

Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store