ИИ не знает, что снеговики не бегают
Таков печальный итог 63 лет развития ИИ
Давно собирался написать об этом. И как это часто бывает, когда слишком долго собираешься что-то сделать, — это сделают другие. Так вышло и в этот раз. Но я не тужу. Сделано хорошо.
Мелани Митчелл (профессор компьютерных наук в Государственном университете Портленда) — не только глубоко разбирается в теме, но и очень ясно мыслит и весьма понятно излагает. И поэтому читать ее тексты интересно, понятно и полезно.
Новая книга Мелани Митчелл «Искусственный интеллект: руководство для думающих людей», выйдет только в октябре. Но уже сейчас можно прочесть важный текст из этой книги, озаглавленный «Как научить самоуправляемый автомобиль, чтобы снеговик не перешел ему дорогу?».
Эта статья, как и вся книга, весьма рекомендуются мною к прочтению тем, на кого они рассчитаны — думающим людям.
Ну а я здесь поразмышляю вокруг главной идеи статьи и книги — что же стало главным итогом развития ИИ за без малого шесть с половиной десятилетий?
Прикольный гаджет, крутой бизнес, кайф для исследователей?
Для разных людей главный итог развития ИИ, естественно, разный.
- Для одних — это новые возможности их персональных ассистентов, автоматических переводчиков, рекомендательных систем и навигаторов … — короче, колоссально упрощающие и услаждающие жизнь гаджеты для бытовухи.
- Для других — это невиданный потенциал заработать на самоуправляемых авто, умных гаджетах, умных городах …— короче, невиданный ранее бизнес гигантских объемов.
- Для третьих — это прорывные научные открытия, воплощаемые в технологиях: все более совершенные алгоритмы, все более продвинутая аппаратура для компьютинга … — короче, шедевриальный кайф научно-инженерного творчества.
Ну а как насчет всего человечества? Тоже бытовуха, бизнес, кайф?
Не думаю. Поскольку есть нечто куда более общее и важное, если вспомнить два важнейших момента.
Что люди собирались сделать, изобретя 63 года назад термин ИИ?
И зачем они собирались это сделать?
Не буду долго про это распространяться. Поскольку вряд ли кто-то из читателей не в курсе, что собирались сделать искусственный аналог человеческого разума с тем, чтобы со временем превзойти его ограничения во благо всего человечества.
ИИ для человечества
Каков же итог прошедших 63 лет, глядя с общечеловеческой позиции?
Тут, как это почти всегда бывает с научными идеями и технологиями, две «новости»: плохая и хорошая.
Хорошая новость.
- Существующий ИИ, основанный на установлении статистических закономерностей в обширных наборах данных, уже вовсю работает и имеет гигантский коммерческий потенциал.
- Развивая и совершенствуя такой ИИ, люди смогут решать любые задачи классификации, распознавания и предсказаний, для которых найдутся необходимые объемы реальных данных.
- Ну а если нужного объема данных в природе еще не существует, можно будет сгенерировать их с помощью компьютерной симуляции (как, например, это было сделано для достижения сверхчеловеческого уровня игры в шахматы, Го и видеоигры типа Starcraft 2, Dota 2 и Quake III Arena).
Плохая новость.
- Есть задачи, для которых
(1) нужного объема данных в природе нет,
(2) сгенерировать данные путем компьютерной симуляции невозможно, поскольку мы не знаем, что за процессы (как они устроены и как работают) нужно сымитировать для их генерации. - Как это ни обидно, создание искусственного аналога человеческого разума — как раз такая задача.
Хорошая новость не требует пояснения. А вот плохую поясню на примере Мелани Митчелл со снеговиком.
Бегающий снеговик
Представьте себя за рулем машины, едущей по городской улице. Вы заворачиваете за угол, не видя, что там за углом дома. И вдруг перед вами что-то посреди дороги. Что вы сделаете?
Ответ зависит от того, что это за «что-то».
- Если это полиэтиленовый пакет, потерянный башмак или какая-то тряпка, вы можете их просто переехать, даже не задумываясь и не сбавляя скорость.
- Но вы обязательно резко крутанете руль, если «нечто» окажется кучей битого стекла.
- Вероятно, вы дадите по тормозам, если это будет стоящая на дороге собака, но лишь чуть сбавите скорость, увидев стаю голубей, зная, что птицы улетят с дороги.
- Вы смело перепашите накиданную дворником кучу снега, но постараетесь объехать симпатично сделанного снеговика. А может и собьете его — нечего на дороге снеговиков строить.
Короче говоря, вы быстро определите действия, которые лучше всего соответствуют ситуации. Это то, что люди и называют здравым смыслом.
А что, если снеговик будет перебегать через дорогу? Собьете?
Ну уж дудки! Лучше уж в столб отрулить, побив машину, чем сбивать человека. Ибо бегущий снеговик — это же человек в новогоднем костюме.
А как вы это, собственно, узнали?
Да никак. Даже ребенок поймет, что бегущий человек — это дядя, одетый снеговиком.
Откуда же ребенок это знает? Да все тот же здравый смысл.
Врожденный здравый смысл
Здравый смысл многогранен. Но одним из важнейших его аспектов являются невербализованные базовые знания — tacit ‘core knowledge’, с которыми
- мы либо уже рождаемся,
- либо учимся им, живя в мире, — но, опять же, по заложенным в нас от рождения программам.
Невербализованные базовые знания включают в себя
(1) обширные знания о свойствах объектов, животных, других людей и общества в целом, а также
(2) способность гибко применять эти знания в новых ситуациях.
Например, вы можете предсказать, что куча битых стекол на дороге не улетит при приближении, а стая птиц, с большой вероятностью, это сделает. Или если вы вдруг видите отскок мяча от дороги перед автомобилем, вы бьете по тормозам, ибо знаете, что за мячом может бежать ребенок или собака, его догоняющие.
Здравый смысл — это то, чего не хватает нынешнему ИИ:
умение использовать общие знания о мире, чтобы действовать вне предварительной подготовки или заранее запрограммированных правил.
Врожденные программы
Люди обладают врожденным знанием определенных базовых понятий, которые помогают начать наш путь к пониманию мира: представление о дискретных объектах и событиях, трехмерной природе пространства и самой идее причинности.
Помимо врожденных знаний, дети также демонстрируют врожденное стремление активно исследовать мир, выяснять причины и последствия событий, делать прогнозы и привлекать взрослых к тому, что они хотят знать. Формирование понятий тесно связано с развитием у детей двигательных навыков и осознанием своего тела.
Люди также рождаются с заложенными в них нейрокодами развития социальности: дети могут распознавать простые выражения лица, способны к быстрому освоению языка, дети интуитивно понимают его роль в общении и располагают врожденными рудиментарными стратегиями, дабы побудить взрослых к общению.
Все это знание настолько естественно вшито в нас от рождения, что мы даже не осознаем, что оно у нас есть. И уж тем более мы не осознаем, что оно формирует основу для всего будущего социального обучения.
Что это, по сути, заложенные в наших генах самораскручивающиеся программы. Не записанные в генах данные, а именно программы. Причем эти программы реализуют не законченные алгоритмы, а саморазвертываемые алгоритмы самообучения.
Именно их Ч.Дж.Ламсден и Э.О.Уилсон назвали эпигенетические правила психического и когнитивного развития человека. Именно они лежат в основе генно-культурной коэволюции, превратившей животное в разумного человека с неограниченными возможностями познания (подробней см. здесь).
Главные уроки
Первый из главных уроков десятилетий исследований ИИ состоит в том, насколько трудно обучать таким концепциям машины.
- Современный ИИ начинает функционировать с чистого листа, работая как пассивный, бездарный ученик статистических моделей.
- Напротив, здравый смысл детей растет благодаря врожденным знаниям в сочетании с обучением, которое является социальным, активным и направленным на создание и проверку теорий мира.
Второй урок в том, что подобно людям, ИИ должны получать «врожденный» здравый смысл и «врожденные» знания о мире.
- Кроме того, ИИ должен обладать архитектурой, реализующей активное самообучение в ходе адаптации и познания мира.
- Помимо этого, ИИ должны «ощущать» не только взаимодействие с физической реальностью, но и все социальные и эмоциональные аспекты человеческого интеллекта, которые не могут быть отделены от наших «когнитивных» способностей.
Попытки хоть как-то нащупать подход к построению «ИИ со здравым смыслом», типа идущей 4х летней программы DARPA «Основы здравого смысла человека» пока что лишь фиксируют пропасть между возможностями существующего подхода к построению ИИ и того ИИ, что будет способен стать искусственным аналогом человеческого разума.
Поставленная в этой программе задача — построить ИИ, который, учась на собственном «опыте» должен достичь познавательных способностей 18-месячного ребенка — включает в себя массу неизвестных. Ведь до этого возраста ребенок уже знает и умеет массу такого, что напрочь отсутствует у современного ИИ.
Например.
✔️ Набор знаний, демонстрируемых уже в возрасте 2–5 мес.
- «постоянство объекта» — если объект заблокирован другим объектом, первый объект все еще существует, даже если ребенок его не видит;
- «материальность объектов» — дети понимают, что когда объекты сталкиваются, они не проходят друг через друга, но их движение изменяется;
- существование «объектов с намерениями», таких, как люди или животные — они могут изменять движение объектов.
✔️ Между 9 и 15 месяцами у детей появляется «базовая теория мышления» — дети понимают, что другой человек может что-то видеть или не видеть.
✔️ К 18 месяцам дети способны распознавать, когда другой человек нуждается в помощи.
Какие данные и в ходе каких процессов можно было бы сгенерировать в нужном объеме на компьютерах, чтобы на них обучить современный ИИ вышеназванным элементарным знаниям 18ти месячного ребенка?
Как заставить компьютеры учиться, как дети?
Как сделать так, чтобы ИИ сам узнал, что снеговики не бегают?
В качестве ответа на эти вопросы, процитирую себя же.
Как писал в завершении своей предыдущей статьи, навеянной текстами Мелани Митчел:
- теория и практические подходы для этого существуют;
- осталось лишь серьезно взяться, не уповая на коммерциализацию в ближайшие 12 месяцев.
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
