Непризнанный Бог

И его намерение сотворить новый сверхразумный вид

Владимир Путин и Герман Греф 4го декабря поговорили с Юргеном Шмидхубером (на экране вверху справа) в ходе онлайн-конференции AI Journey. Фото: ТАСС/Алексей Никольский

Уже в 15 лет его «чудесным кумиром» стал Эйнштейн, которого он решил превзойти. Подобно Богу, он захотел создать новых сверхразумных существ, призванных прийти на смену людям для заселения Галактики. Он считает, что уже довольно близко подошел к этой цели. Только достигнув её, он планирует уйти на покой.

Отзывы на мой вчерашний пост о назначении Юргена Шмидхубера научным руководителем создаваемого в России Института ИИ показывают.

✔️ Многие читатели слышали о нем, как о самом экстравагантном и противоречивом из отцов современного ИИ, несомненные заслуги которого признают все корифеи ИИ. Также известно, что почти никто из корифеев ИИ не согласен с научными идеями и публичными высказываниями Шмидхубера из-за их радикальности и безапелляционности, равно как из-за маниакальной одержимости признанием их автора.

✔️ В то же время, подавляющее большинство читателей мало знакомы с основополагающей концепцией и алгоритмической теорией Шмидхубера о создании самосовершенствующегося ИИ, ведущего к появлению нового сверхразумного вида. Вида, качественно превосходящего людей в интеллекте, но способного при этом (как и люди): видеть красоту, обладать креативностью, интуицией, сознанием и вниманием, быть в состоянии творить новые прорывы в науке и искусстве, и даже обладать чувством юмора и умением шутить.

Настоящий пост — попытка в максимально короткой форме познакомить вас с сутью концепции Шмидхубера.

Раз уж он теперь будет главным научным руководителем главного российского Института ИИ (Шмидхубер в частной переписке подтверждает свое намерение принять предложенную позицию, не оставляя позиций директора лаборатории ИИ IDSIA в Швейцарии, профессора ИИ в Университете Лугано, а также соучредителя и научного руководителя компании NNAISENSE),

хорошо бы нашей общественности понимать Who is Mr. Schmidhuber и его авторская «теория всего».

Это действительно что-то типа «теории всего»

Поскольку постулирует:

• наш мир (входящий в бесконечное множество миров) детерминирован, а не случаен; все то, что трактуется как случайность, — лишь результат недостатка информации о явлениях и процессах;
• этот мир управляется иерархией законов (алгоритмов), на вершине которой «главный алгоритм мира» — чрезвычайно короткий (несколько строк) и простой, неизвестный нам пока алгоритм.

Разум — это совокупность алгоритмов сжатия информации

• Поскольку цель живых существ — решение проблем (выживания, репродукции и т.д.), эволюция сформировала у них специальный механизм, оптимизирующий следование этой цели: нервную систему и её центр управления — мозг.
• В мозге записывается весь жизненный опыт взаимодействия существа с его окружением. Эта запись существует в виде базы жизненных ситуаций/сцен (что чувствовал, хотел, делал и что получилось). У человека эта колоссальная информационная база способна хранить записи сцен жизненного опыта примерно за 100 лет, записанных в разумном разрешении.
• Разум проявляется в эффективности алгоритмов сжатия и компоновки базы жизненного опыта: чем выше сжатие, тем совершенней разум.
• Любое новое знание позволяет алгоритму повысить степень сжатия информации. Например, закон всемирного тяготения Ньютона, позволяет заменить тысячи сцен личного опыта (от наблюдения за падением яблока, до собственных ощущений от падения с лестницы) на пять символов объектов, объединенных пятью символами действий. В результате повышения степени сжатия информации в мозге, увеличивается база опыта и, соответственно, разумность. Поиск образцов подобия охватывает все бóльшую базу опыта, что положительно сказывается на оптимизации результатов действий.
• Такая форма организации мозга превращает нейронные сети в устройство хранения информации (памяти о сцене и её контекста), позволяя разуму самосовершенствоваться в результате накопления опыта. Аналогичная схема лежит в основе предложенной Шмидхубером в 1997 разновидности архитектуры рекуррентных нейронных сетей (Long Short — Term Memory, LSTM), используемой сегодня большинством производителей ИИ-приложений в робототехнике, для анализа временных рядов, для распознавания речи, для генерации музыкальных композиций, в грамматическом обучении, в задачах распознавания рукописного ввода, для распознавания человеческой активности, — короче, практически всюду (что подтверждает обоснованность признания Шмидхубера одним из истинных отцов ИИ).
• Взаимодействуя с миром для достижения целей, мозг строит внутренние модели мира, необходимые ему для прогнозирования (т.е. работает, как предсказатель). При этом мозг постоянно пытается ужать историю данных о прошлом опыте (т.е. работает, как компрессор). Если предсказатель / компрессор представляет собой биологическую или искусственную рекуррентную нейронную сеть, она автоматически создает иерархию признаков: нейроны нижнего уровня, соответствуют простым детекторам признаков, а нейроны более высокого уровня соответствуют более абстрактным признакам.
• Работу мозга можно представить, как обучение с подкреплением (RL) агента C, собирающего данные для улучшения его прогнозирующей модели мира M на основе рекуррентной нейронной сети (RNN), обученной на истории действий и наблюдений на данный момент.
• Формальная теория любопытства и творчества, разработанная Шмидхубером, гласит: используйте прогресс в обучении M (прогресс в увеличении сжатия информации) как внутреннюю награду (получаемое удовольствие) C. Этот общий принцип активного обучения без учителя в концепции Шмидхубера объясняет все виды любопытства и творческого поведения в искусстве и науке. Подробней: популярно и сложно.

Трудно быть богом

На вопрос — является ли ИИ инженерной дисциплиной или богоподобным полем на пороге создания нового сверхразумного вида, — Шмидхубер однозначно называет второе. Он утверждает, что основные концепции для таких технологий уже существуют, и что в человеческом сознании нет ничего волшебного. «Вообще говоря, сознание и самосознание переоцениваются», — говорит он, утверждая, что машинное сознание возникнет, когда алгоритмы, подобные тем, что он уже разработал, запустят на более мощных компьютерах.

Шмидхубер называет две причины, почему уже созданный им самообучаемый ИИ, еще не сверхразумный, а все еще находится на интеллектуальном уровне младенца:

1. то, что его ранние исследования часто игнорировались;
2. недостаточно вычислительно мощная аппаратная база, на которой запускаются разработанные Шмидхубером алгоритмы.

Обе названные причины могут исчезнуть с получением Шмидхубером статуса научного руководителя российского Института ИИ. Если Греф (а через него и Путин) благословит идеи Шмидхубера, то игнорировать их уже точно не будут. А финансирование на аппаратную часть, составляющее сегодня у компании Шмидхубера Nnaisense лишь несколько миллионов долларов, вполне может возрасти на пару порядков.

Свое исключительно интересное интервью The Guardian в 2017 году Шмидхубер закончил такими словами:

«Я говорю то же самое с 70-х и 80-х годов прошлого века. Единственная разница в том, что люди теперь начинают воспринимать меня всерьез».

Надо признать, что после его разговора с Владимиром Путиным, ситуация с его признанием может радикально улучшиться.

Улучшится ли после этого перспектива технологического прорыва России в области ИИ — лично я не уверен (это моё субъективное мнение, которым я лишь делюсь и никому не навязываю).

________________________________

Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!