Третий Закон ИИ

Будущее вычислительной техники является аналоговым

Image for post
Image for post
Credit: Arterra / Contributor/Getty Images

Что такое аналоговые вычисления?

Представьте, что вам нужно определить, где пролегает середина шоссе.

Вариант 1й — цифровые вычисления

  • вычислить ширину шоссе по результатам своих измерений путем умножений и сложения (нецелого остатка последнего измерительного отрезка);
  • затем разделить найденную величину на 2;
  • затем подсчитать, сколько раз нужно откладывать ваш измерительный отрезок, чтобы получить величину, меньшую вычисленного вами значения полуширины шоссе (т.е. произвести целочисленное деление);
  • потом отложить измерительный отрезок поперек шоссе полученное число и еще один раз, отмечая на нем вычисленное число дополнительных делений — остатка от целочисленного деления в предыдущем пункте;
  • отметить полученную точку, которая и будет серединой шоссе.

Короче, страшный геморрой, но метод работает, как часы.

Вариант 2й — аналоговые вычисления

  • протяните веревку поперек шоссе и отметьте узелком место на веревке, соответствующее полной ширине шоссе;
  • потом просто сложите отрезок веревки до узелка пополам;
  • приложив сложенный пополам отрезок веревки снова к шоссе, узнаете, где пролегает его середина.

По мне, так 2й метод куда проще и элегантней.

Так в чем проблема?

Так бы и дальше жили. Все было терпимо и даже хорошо, пока мы не начали создавать ИИ и не наткнулись на засаду

— вопрос о контроле над вычислениями.

Проблема здесь в том, что цифровые вычисления — это программы, реализующие некие алгоритмы, которые в процессе самообучения самоусложняются до такой степени, что люди уже слабо понимают, как они работают. Какой уж тут контроль.

И даже если нам кажется, что программ нет (как, например, в искусственных нейронных сетях) — это не снимает проблему цифровых вычислений, т.к. мы не понимаем, как работают такие системы при принятии ими решений, а значит мы можем потерять над ними контроль.

Три закона ИИ

  1. 1й известен, как закон Эшби, который гласит, что любая эффективная система управления должна быть такой же сложной, как и система, которой она управляет.
  2. Согласно 2му закону, сформулированному Джоном фон Нейманом, определяющей характеристикой сложной системы является то, что она представляет собой собственное простейшее поведенческое описание. Иными словами, простейшей полной моделью организма является сам организм. А попытка свести поведение системы к любому формальному описанию лишь усложняет, а не снижает сложность.
  3. 3й закон гласит, что любая система, достаточно простая, чтобы быть понятной, не будет достаточно сложной, чтобы вести себя разумно; в то время, как любая система, достаточно сложная, чтобы вести себя разумно, будет слишком сложной для понимания.

Этот 3й закон утешает тех, кто считает, что пока мы не поймем разум, нам не нужно беспокоиться о сверхчеловеческом интеллекте, способном, возможно, возникнуть у машин. И значит у человечества пока что нет проблемы с контролем над ИИ, построенным на цифровых вычислениях.

Но в третьем законе есть лазейка — вполне возможно построить что-то, до конца не понимая, как оно работает (чем мир в последнее время активно занимается, все шире внедряя глубокое обучение).

Нам не нужно полностью понимать, как работает мозг, чтобы построить его работающий аналог. Вопрос только, насколько этот аналог будет функционально близок оригиналу.

Единственный вариант решения проблемы контроля — гибридные вычисления — синтез цифровых и аналоговых вычислений (и IBM уже пошла по этому пути, открыв на прошлой неделе исследовательский центр гибридных вычислений).

__ __ __

Ну а подробней о 3ем законе ИИ и о том, почему будущее вычислительной техники является аналоговым, вы прочтете в эссе Джоржа Дайсона «The Third Law. The future of computing is analog».

Это 4я глава книги «Possible Minds: Twenty-Five Ways of Looking at AI», которая выйдет в свет через 6 дней, но вы можете не ждать, а прочесть эту главу уже сейчас здесь.

То, насколько серьезно я отношусь к идеям Дайсона о перспективах гибридного компьютинга, можно судить по 1му моему посту этого года «Битва за Землю, которая может быть проиграна», посвященному этой же теме, вновь поднятой Дайсоном в его эссе «Конец детства», опубликованном 1го января 2019.

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store