Король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять
Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать
Принципиальная ошибка современной науки и технологий ИИ в том, что они развиваются в условиях, когда:
- мы так и не договорились, что понимаем под ИИ;
- у нас нет способа сравнить ИИ между собой и с интеллектом человека.
В результате:
- мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька);
- мы не в состоянии реально оценивать прогресс в создании ИИ, поскольку:
— не определились с направлением «куда плывем»;
— не договорились, как оценивать достигнутое (сравнивать разные интеллекты по «интеллектуальности»).
В итоге мы подобны морякам, отправившимся в далекое плавание, не договорившись, куда плывут, и не имея средств определения текущего местоположения.
В общем, ситуация тупиковая, не смотря на явный прогресс в прикладном использовании машинного обучения.
Ибо:
- с машинным обучением все ОК;
- а с созданием ИИ полная Ж.
И поэтому существующую парадигму ИИ необходимо кардинально менять.
Все вышесказанное — не просто мой очередной призыв к читателям канала «Малоизвестное интересное». Это преамбула к 60ти страничному «манифесту» On the Measure of Intelligence, на днях опубликованном Франсуа Шолле — известным исследователем ИИ в компании Google, создателем библиотеки глубокого обучения Keras и соразработчиком фреймворка машинного обучения TensorFlow.
Шолле сделал то, что не может позволить себе Google: открыто заявить — король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.
Ну а теперь о главном.
Главная ценность «Манифеста Шолле» не в его смелости и точности формулировок. А в том, что предложена четкая альтернатива, детально сформулировавшая (1) куда плыть и (2) как измерять свое местоположение на пути к цели (как сравнивать создаваемые интеллекты между собой и человеком).
1) Новое формальное определение интеллекта.
Интеллект измеряется
- НЕ способностями агента достигать сложных целей в широком диапазоне изменчивости внешней среды,
- а эффективностью приобретения навыков.
Дело в том, что навыки интеллекта сильно зависят от уже имеющихся у него знаний и опыта. Неограниченные данные при предварительном машинном обучении позволяют разработчикам новых ИИ «покупать» произвольные уровни навыка для своих систем, тем самым маскируя их ничтожную силу обобщения (генерализации).
В новом определении интеллекта делается упор на следующих критических понятиях, подлежащих учету при характеристике интеллектуальных систем: ограничения задачи (scope), сложности обобщения (generalization difficulty), априорная информация (priors) и опыт (experience).
При таком определении интеллектуальность легендарной AlphaZero, в течение 24 часов достигшей сверхчеловеческого уровня игры в шахматы, сёги и го, не столь и высока. Ибо ее сверхчеловеческий навык «куплен» за счет неограниченных, по человеческим меркам, данных.
2) Новый подход к тестированию интеллектов.
На основе нового определения ИИ, предлагается набор руководящих принципов построения «Общего теста ИИ», позволяющего сравнивать разные ИИ между собой и с человеком.
3) Новый инструментарий сравнения интеллектов.
Представлен новый корпус абстракций и рассуждений Abstraction and Reasoning Corpus (ARC), построенный на явном наборе уже имеющихся у интеллектуального агента знаний и опыта с тем, чтобы соотносить его как можно ближе к свойственным человеку знаниям и опыту.
Автор утверждает, что ARC:
- может быть использован для измерения человекоподобной формы общего подвижного интеллекта (fluid intelligence — способность мыслить логически, воспринимать и запоминать новое, решать новые непривычные проблемы);
- и позволяет проводить объективное сравнения общего интеллекта между ИИ системами и людьми.
Что теперь на это ответит Google — большой вопрос.
Отмежуется, начнет ИИ-революцию или просто промолчит?
От этого, по гамбургскому счету, зависит траектория развития важнейшей в истории человечества технологии на ближайшие десятилетия.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
