Король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять

Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать

Image for post
Image for post
Елена Еременко-Угольникова . Голый король. Источник https://artnow.ru/kartina-Golyy-korol-hudozhnik-Eremenko-Ugolnikova-Elena-729753.html

Принципиальная ошибка современной науки и технологий ИИ в том, что они развиваются в условиях, когда:

  • мы так и не договорились, что понимаем под ИИ;
  • у нас нет способа сравнить ИИ между собой и с интеллектом человека.

В результате:

  1. мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька);
  2. мы не в состоянии реально оценивать прогресс в создании ИИ, поскольку:
    — не определились с направлением «куда плывем»;
    — не договорились, как оценивать достигнутое (сравнивать разные интеллекты по «интеллектуальности»).

В итоге мы подобны морякам, отправившимся в далекое плавание, не договорившись, куда плывут, и не имея средств определения текущего местоположения.

Ибо:

  • с машинным обучением все ОК;
  • а с созданием ИИ полная Ж.

И поэтому существующую парадигму ИИ необходимо кардинально менять.

Все вышесказанное — не просто мой очередной призыв к читателям канала «Малоизвестное интересное». Это преамбула к 60ти страничному «манифесту» On the Measure of Intelligence, на днях опубликованном Франсуа Шнолле — известным исследователем ИИ в компании Google, создателем библиотеки глубокого обучения Keras и соразработчиком фреймворка машинного обучения TensorFlow.

Шнолле сделал то, что не может позволить себе Google: открыто заявить — король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.

Ну а теперь о главном.

Главная ценность «Манифеста Шолле» не в его смелости и точности формулировок. А в том, что предложена четкая альтернатива, детально сформулировавшая (1) куда плыть и (2) как измерять свое местоположение на пути к цели (как сравнивать создаваемые интеллекты между собой и человеком).

1) Новое формальное определение интеллекта.

Интеллект измеряется

  • НЕ способностями агента достигать сложных целей в широком диапазоне изменчивости внешней среды,
  • а эффективностью приобретения навыков.

Дело в том, что навыки интеллекта сильно зависят от уже имеющихся у него знаний и опыта. Неограниченные данные при предварительном машинном обучении позволяют разработчикам новых ИИ «покупать» произвольные уровни навыка для своих систем, тем самым маскируя их ничтожную силу обобщения (генерализации).

В новом определении интеллекта делается упор на следующих критических понятиях, подлежащих учету при характеристике интеллектуальных систем: ограничения задачи (scope), сложности обобщения (generalization difficulty), априорная информация (priors) и опыт (experience).

При таком определении интеллектуальность легендарной AlphaZero, в течение 24 часов достигшей сверхчеловеческого уровня игры в шахматы, сёги и го, не столь и высока. Ибо ее сверхчеловеческий навык «куплен» за счет неограниченных, по человеческим меркам, данных.

2) Новый подход к тестированию интеллектов.

На основе нового определения ИИ, предлагается набор руководящих принципов построения «Общего теста ИИ», позволяющего сравнивать разные ИИ между собой и с человеком.

3) Новый инструментарий сравнения интеллектов.

Представлен новый корпус абстракций и рассуждений Abstraction and Reasoning Corpus (ARC), построенный на явном наборе уже имеющихся у интеллектуального агента знаний и опыта с тем, чтобы соотносить его как можно ближе к свойственным человеку знаниям и опыту.

Автор утверждает, что ARC:

  • может быть использован для измерения человекоподобной формы общего подвижного интеллекта (fluid intelligence — способность мыслить логически, воспринимать и запоминать новое, решать новые непривычные проблемы);
  • и позволяет проводить объективное сравнения общего интеллекта между ИИ системами и людьми.

Что теперь на это ответит Google — большой вопрос.

Отмежуется, начнет ИИ-революцию или просто промолчит?

От этого, по гамбургскому счету, зависит траектория развития важнейшей в истории человечества технологии на ближайшие десятилетия.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store