Бенефис Homo в роли Творца провалился

Экспериментально доказано — способностей обрести здравый смысл у современных ИИ нет

Oпубликованное психологами Гарварда исследование — это холодный душ для техноэнтузиастов ИИ. Серия простых, но весьма убедительных психологических экспериментов показала:

1. полное отсутствие у DALL-E 2 (одной из наиболее продвинутых современных нейросетей, имитирующих интеллектуально-творческие способности людей) хоть намека на понимание результатов своей деятельности, многими людьми ошибочно воспринимаемых, как творчество ИИ;
2. полное отсутствие у DALL-E 2 элементарных базовых когнитивных способностей, без которых невозможна трансформация опыта взаимодействия с миром в «здравый смысл» об его устройстве;
3. (как следствие пп 1–2):, подобные DALL-E 2 ИИ-системы, при всех своих выдающихся инструментальных возможностях, не просто «отстает в развитии» от двухлетнего ребенка, а в принципе не способны подняться до его когнитивного уровня.

Нейросеть DALL-E 2 всего за нескольку месяцев обрушила представления человечества о границах творческих возможностей машин. Эта нейросеть иллюстрирует стихи Бродского, дорисовывает картины классиков, научила героев своих картин разговаривать на совершенно непонятном людям языке, создала расширенную версию полотна «Сотворение Адама», способна изображать бессмысленные предложения, типа «бесцветные зеленые идеи яростно спят» или «куриный наггетс курит под дождем» , а давеча создала галерею «последние селфи на Земле».

После всех этих подвигов DALL-E 2 и прочих подобных её нейросетей, имитирующих интеллектуально-творческие способности людей, пришло время поставить вопрос ребром:

✔️ так что ж, эти ИИ-системы начинают приближаться в своих имитациях к способностям людей?

Ответ ИИ-скептиков (типа Гэри Маркуса и меня) — категорическое нет. Нынешний путь не ведет к человекоподобному ИИ. Потребуются иные пути.

Но одно дело, дискуссии энтузиастов и скептиков. И совсем другое дело — грамотный научный эксперимент, поставленный психологами Гарварда.

Авторы исследования пошли тем же путем, что и Гэри Маркус, поймавший нейросеть на том, что “астронавт верхом на лошади” она изображает блестяще, а “лошадь верхом на астронавте” — получается чёрте как.

Авторы провели систематическую проверку 15-и отношений, необходимых для трансформации опыта взаимодействия с миром в «здравый смысл» об его устройстве.

• 8 физических отношений объектов: внутри, на, под, рядом …;
• 7 отношений агентов: толкать, тянуть, трогать ….
  В сценах, запрашиваемых нейросеть изобразить их, фигурировали 6 объектов (коробка, цилиндр, чашка …) и 6 агентов (мужчина, женщина, ребенок …).

А потом исследователи:

• Давали на вход нейросети простенькие задания, описывающие сцены из объектов, агентов и их отношений (типа «ложка в чашке» — см. рис), с тем, чтобы нейросеть генерировала изображения этих сцен;
• Показывали эти изображения людям для их вердикта, насколько каждое из изображений соответствует словесному описанию в задании.

Детальное объяснение методики, собранной статистики, выявленных проблем и предложений по их устранению — читатель найдет в отчете исследования.

Мне же остается лишь резюмировать.
Попытка людей уподобиться Творцу (Богу, природе, эволюции …), создав из «праха земного» (а конкретно, из кремния) разумного агента, обладающего здравым смыслом и способностью познавать мир через его понимание, пока провалилась.

PS 1) Это не умаляет высочайшей значимости ИИ в качестве инструмента для людей.
2) Не исключает создания человекоподобного ИИ, если пойти иным путем.

PPS Когда нам кажется, что нейросеть понимает сложные описания, это лишь статистическая иллюзия (доказано этим экспериментом).

Mиф №3 Объем накопленных цивилизацией знаний можно оценить по динамике наступления событий в хронологическом перечне важнейших научных открытий и артефактов.

У истоков этого мифа также был всё тот же «Леонардо да Винчи ХХ века» — Ричард Бакминстер Фуллер. В приложении 1 упоминавшейся нами книги «Критический путь» Фуллер опубликовал хронологию научных открытий и артефактов за всю историю человечества (Chronology of Scientific Discoveries and Artifacts), составляющих своего рода «критический путь» земной цивилизации за почти 6 тыс. лет. Первая версия этой хронологии была опубликована Фуллером еще в 1938 г. в книге «Девять цепей к Луне». А в «Критическом пути», опубликованном в 1981 г., Фуллер добавил к хронологии ключевые открытия и артефакты, появившиеся после 1937 г.)

N.B. «Критический путь» — это термин, используемый при планировании проектов. Чтобы оценить дату завершения проекта, строится диаграмма всех необходимых подзадач и их продолжительности. Подзадачи располагаются в хронологическом порядке. Каждая из задач не может начаться, пока не будут выполнены все задачи, от которых зависит возможность ее выполнения. Эти задачи, в свою очередь, зависят от других задач. Через такую диаграмму, в общем случае, можно провести множество путей от первой задачи проекта до последней. Но именно самый длинный путь (самая длительная последовательность операций от начала проекта до его завершения), называемый критическим путем, определяет время, которое может потребоваться для завершения проекта.

К сожалению, эта хронология Фуллера впоследствии стала трактоваться совсем не в том смысле, как ее задумывал Фуллер. В исследованиях будущего и истории технологий в 1970х — 1990х годах сформировалось новое направление — «Ускорение изменений» (Accelerating change). Сторонники этого направления (среди наиболее известных, Ханс Моравец, Вернор Виндж и Рэй Курцвейл) представляли увеличение скорости технологических изменений на протяжении истории человечества в виде хронологии экспоненциально ускоряющихся событий самых разных типов. Графики таких хронологий выглядят подобно графику Закона Мура, описывающего экспоненциальный рост сложности интегральных полупроводниковых схем.

Варианты графиков различных хронологий ускоряющихся изменений. Источники: 1) https://seekingalpha.com/article/453871-the-promise-of-accelerating-growth-in-technology 2) https://moondo.info/tuttologi-contro-competenti-la-crisi-del-sistema-ed-il-ruolo-dellinformazione/ 3) https://phys.org/news/2013-05-aliens-star-trekfact.html 4) https://www.kurzweilai.net/the-singularity-is-near

Как видите, в независимости от масштаба хронологий (верхние графики — по 600+ лет, нижние — 4,4 тысячи и 3,5 млрд лет), их графики исправно напоминают экспоненты, а график Курцвейла даже больше смахивает на гиперболу (оно и понятно, — ведь у Курцвейла речь идет о сингулярности, которой на экспоненте просто нет).

Все эти и подобные хронологии событий, цель которых — демонстрация «ускорения изменений», характеризуются одинаковой неубедительностью.

Причины этого, как минимум, две.

1. Волюнтаризм авторов при подборе событий для включения их в хронологию на основе лишь субъективных предпочтений без хоть как-то формально специфицированных критериев отбора.
2. Разношёрстность событий, превращающая их хронологический перечень в «салат из коня с рябчиком», состоящий из событий совершенно разных классов, никак не сопоставимых и объективно не соизмеримых.

По иронии судьбы, первый из подобных перечней событий — впервые опубликованный Фуллером в 1938 г. Chronology of Scientific Discoveries and Artifacts (см. выше Миф №2), — составлялся автором, чтобы преодолеть субъективность при отборе событий. Как писал Фуллер:

«До сих пор все подобные списки изобретений и открытий были искажены в пользу той или иной страны в отношении места или даты происхождения».

Что же до разнородности и формальной несопоставимости включаемых в подобные списки событий, напомним другую цитату Фуллера.

«… существует один-единственный чисто научный набор событий, относящихся к одному семейству [научных открытий], — это история последовательного выделения в чистом виде семейства из девяноста двух химических элементов».

К сожалению, авторы новых хронологий ускорения изменений пренебрегли этими важными замечаниями Фуллера. В итоге все «новые хронологии» лишь послужили их авторам для популяризации своих идей и книг. Но стать количественным доказательством ускорения технологических изменений и, уж тем более, стать прокси, оценивающим объем накопленных землянами знаний, эти хронологии так и не смогли. Просто в силу своей неубедительности и противоречивости.

Ну а самой полной, насколько это возможно, объективной и убедительной хронологией так и осталась хронология Фуллера, целью которой было не доказательство ускорения изменений, а обоснование гипотезы критического пути в технологическом развитии цивилизации.

Рассмотрение этой важнейшей гипотезы в контексте предсказанной Лемом «линии судьбы» человечества позволит нам, наконец, перейти от предсказания к его обоснованию в двух вышедших в этом году научных работах.

Но об этом я планирую рассказать во 2й части поста о том, что у землян всего два варианта будущего: умереть во сне или проснуться.

#инновации #смежное возможное #вызовы 21 века #культура #парадокс ферми #будущее

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях