Кто в доме ИИ хозяин?
В Google считают, что они
Статью Бэна Диксона «Ученые DeepMind считают, что обучения с подкреплением достаточно для создания общего ИИ» вчера перепечатал на 6-ти млн аудиторию портал VB. И началось, — Интернет взорвался, якобы, сенсационной новостью. Ведь эта публикация — развернутый обзор статьи 4-х ведущих исследователей DeepMind “Reward is Enough”, планируемой в октябрьском выпуске журнала Artificial Intelligence.
В статье утверждается, будто существующей технологии обучения с вознаграждением (подкреплением), которой DeepMind обязана всеми своими триумфами, достаточно для создания ИИ, подобного человеческому (общего ИИ или AGI).
По сути, эта статья —
заявка DeepMind на перевод собственного видения под кодовым названием «Вознаграждения Достаточно» (Reward is Enough) из статуса гипотезы в дорожную карту Google по созданию AGI.
На первый взгляд, такая заявка DeepMind (а правильнее сказать, Alphabet — в просторечье Google) может быть обоснована сочетанием 2х факторов.
- Продемонстрированная миру серия прорывов AlphaGo, AlphaZero и MuZero.
- Присущая всему гениальному простота объяснения эволюции интеллекта.
Подобно теории Дарвина, «теория DeepMind» объясняет развитие интеллекта вычислительным процессом в нейронной сети, оптимизирующим одну единственную конечную цель — максимизация вознаграждения. А этим вознаграждением является не что иное, как эволюционная приспособленность (способность выжить и дать потомство).
Такой простой, но эффективный механизм привел к эволюции живых существ со всеми видами навыков и способностей воспринимать, ориентироваться, изменять окружающую среду и общаться между собой. К максимизации вознаграждения сводится все: от умения зрения классифицировать образы до понимания языка и воображения (как способа с помощью вычислений заглядывать в будущее — что может произойти дальше).
Однако, при более пристальном взгляде на эту гипотезу, претендующую стать теорией, ее логика трещит по швам.
✔️ Во-первых, такой механизм требует морей данных и громадных вычислительных ресурсов. И это в корне отличает гипотезу «Вознаграждения Достаточно» от реалий биологического интеллекта.
✔️ Во-вторых, интеллекту, построенному на гипотезе «Вознаграждения Достаточно», необходимо, чтобы кто-то формулировал и проблему, и вознаграждение. Сам такой ИИ этого делать не умеет.
С учетом таких ограничений,
утверждение, будто «интеллект — это поведение, определяемое исключительно вознаграждением» — не более содержательно, чем «люди живут, исключительно потому, что дышат».
Но самый интересный вопрос — почему и зачем сенсационная шумиха вокруг превращения одной из гипотез возникновения интеллекта в дорожную карту Google по созданию AGI сделана именно сейчас?
- Не в октябре 2020, когда статься “Reward is Enough” была подана для публикации в журнале.
- Не в декабре 2020, когда главный идеолог, руководитель этого направления в DeepMind и главный автор статьи Дэвид Силвер дал максимально полное описание «гипотезы Вознаграждения Достаточно» в интервью WIRED.
- Не в январе 2021, когда доклад по этой статье был сделан Дэвидом Силвером на M2L (вот это выступление).
- И наконец, не в октябре 2021, после того, как статья пройдет рецензирование и будет опубликована.
Увы, но ответ для меня очевиден. В конце мая WSJ сформулировал это так.
«Подразделение Google DeepMind попыталось (но не смогло) добиться автономности от родителя. Alphabet пресекает многолетние усилия основателей компании, занимающейся ИИ, обеспечить себе большую независимость».
Окончание многолетних переговоров DeepMind об ослаблении диктата Google, ставит точку в вопросе «кто в доме ИИ хозяин».
✔️ Google не ослабит свой контроль над изучением и развитием ИИ.
✔️ Ну а миру предложено отстроиться и следовать объявленной дорожной карте.
Вот только, вопрос:
согласится ли с этим Китай?
________________________
Это полезно знать всем читателям.
- Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете и не комментируете прочитанные вами посты этого канала.
- Medium не будет их вам приоритетно показывать, даже если вы подписаны на мой канал.
- Алгоритм платформы исходит из того, что лучше знает, какие посты вам следует читать, а какие нет.
