Наш мир — совсем не игра

О колоссальной сложности перехода от ИИ-играющего к ИИ-работающему

Image for post
Image for post
maxuser

Вы не задумывались, почему самые громкие и впечатляющие достижения ИИ лежат в области игр?

Именно здесь уже достигнуто абсолютно подавляющее превосходство нечеловеческого интеллекта над человеческим.

Речь идет не только о немыслимо высоком уровне игры, показываемой ИИ. Но и о нечеловеческой логике и сверхчеловеческой агрессивности игры ИИ, характеризуемой датским гроссмейстером Питером Гейне Нильсеном так:

“Я всегда задавался вопросом, как это было бы, если бы высший вид инопланетян высадился на Земле и показал нам, как они играют в шахматы… Теперь я это знаю”.

Однако, речь не о том, а совсем о противоположном.

Почему ИИ, по человеческим меркам недостижимо умный в области игр, не только не показывает себя сверх-умным за пределами игр, но и даже не в состоянии дотянуть до уровня рядовых людей?

Детальному ответу на этот интереснейший вопрос посвящена довольно малоизвестная статья Джошуа Сокола «Почему самообученный ИИ имеет проблемы с реальным миром» (10–15 мин. чтения по англ.) — весьма рекомендую.

Для тех же, кто хочет узнать шорт-версию ответа на этот вопрос здесь и сейчас, вот отжатый мною сухой остаток.

  1. Ключевым фактором супер-достижений ИИ в играх (от шахмат и го до покера и Dota 2) является его самообучаемость.
    Программа, реализующая ИИ на конкретной машине, учится игре, не перенимая умение от человека, а играя как бы сама с собой или со своей измененной копией.
    Это позволяет преодолеть 2 принципиальных ограничения, непреодолимые никак иначе, чем самообучаемостью машин:
  • ограничение на недостаток данных (это человеку «достаточно прочитать и запомнить» десяток-другой тысяч шахматных партий из предыдущих турниров, а для самообучения ИИ требуются миллионы и миллионы партий — он всех их легко «проанализирует и запомнит»);
  • ограничение медленности времени: мир игры порождается компьютером, а время там течёт тоже со скоростью вычислений, а не как в реальности. То есть сажаем бота играть самого с собой — и у него будет столько данных, сколько пожелаешь, и всё это обучение может происходить немыслимо для человека быстро.

Подробней это прекрасно описал еще полгода назад уважаемый Анатолий Левенчук , придя, однако, к излишне оптимистическому выводу, что, натренировавшись в играх, ИИ начнет показывать тот же сверх-человеческий уровень, решая задачи в реальном мире. Но этого, как хорошо показал Джошуа Сокол, не происходит и не может произойти, поскольку здесь большая засада (см. п.2)

2. Мир кардинально отличается от игр следующим:

  • Сложностью описания цели (целевой функции). Цель любой игры описывается просто. А в жизни, например, для самооправляемого авто, точно ее описать предельно сложно.
  • Игра детерминирована, а мир непредсказуем.
    Тут, во-первых, всего не предусмотришь (представляете, как выглядело бы целеописание в шахматах, если бы нужно было учитывать, например, вероятность, пусть и не высокую, кражи ладьи с доски противником?)
    А во-вторых, в играх, обычно, игроки обладают «идеальной информацией» — знают все обо всем. А в жизни — не так. Здесь царит т.н. «несовершенная информация».
    Представьте ИИ, которому нужно было бы выбирать ход, периодически не зная расположения фигур на части шахматных клеток.
    А успехи ИИ, например, в покере, тоже не решают этой проблемы. Что иллюстрируется текущим фиаско в попытках ИИ обыграть людей в StarCraft II (хотя и пытаются со страшной силой).
  • ИИ для принятия решений должен иметь реалистичную модель того «мира», в котором он принимает решение.
    Для настольных игр — это примитивная модель.
    Для аркадных игр — посложнее, но не весть как.
    Для StarCraft II — сложная (и потому ИИ продувает человеку).
    А реальный мир для моделирования настолько сложен, что без тела и органов чувств, похоже, вообще не обойтись.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store