Призрак бродит по планете, призрак трансгуманизма

Манифест Джека Кларка на Stanford HAI

Коллаж из источников: “Эксмо”, The Economist

Два весьма знаменательных события этой недели — (1) в литературе и (2) в разработке ИИ, — удивительным образом сошлись в своем базовом тезисе.

  1. Роман Виктора Пелевина TRANSHUMANISM INC., опубликованный вчера в России.

Базовый тезис обоих текстов один и тот же.

Мейнстримный тренд развития ИИ, ведет к тому, что невиданные в истории человечества материальные и нематериальные блага

✔️ получат лишь самые богатые бизнесмены, высокие правительственные чиновники и ведущие разработчики ИИ,

✔️ а подавляющему большинству людей эти сверхценные блага просто не достанутся.

В романе Пелевина:

«В будущем богатые люди смогут отделить свой мозг от старящегося тела — и станут жить почти вечно в особом “баночном” измерении. Туда уйдут вожди, мировые олигархи и архитекторы миропорядка. Там будет возможно все. Но в банку пустят не каждого. На земле останется зеленая посткарбоновая цивилизация, уменьшенная до размеров обслуживающего персонала, и слуг-биороботов».

Мало знакомым с положением дел в разработке ИИ такой прогноз кажется антиутопической пугалкой. Они полагаются на коммодизацию ИИ-приложений, что, по их мнению, приведет со временем к радикальному удешевлению приложений и сделает их доступными для большинства (типа современных бесплатных приложений для перевода, генерации текстов и всевозможных игр с фотографиями себя и других).

Вот типичный пример такого рассуждения.

В отличие от подобных критиков, Джек Кларк, 100%-но согласен с Пелевиным, что никакая коммодизация не спасет.

При этом Кларк — один из самых осведомленных экспертов по ИИ в мире, известностью в кругах ИИ разработчиков не уступающий Пелевину в современном российской литбомонде (погуглите, если кто не знает).

Логика «манифеста» Кларка, представленного им на Stanford HAI, не сложнее логики «Манифеста Коммунистической партии» Маркса и Энгельса.

Зачем большому бизнесу делиться сверхприбылью?

Ведь до сих пор монополисты БигТеха этого не делали и ничего, — лишь увеличивают свою капитализацию на десятки и сотни ярдов в год (см. рис. под заголовком).

Что же предлагает Кларк?

Вот текст слайдов выступления Кларка и видео выступления.

Логика предложений Кларка такова.

А) Дальнейшее развитие ИИ решающим образом зависит от увеличения и совершенствования «Больших моделей» (так Кларк именует базовые модели, которые обучаются на основе масштабируемых «больших данных» и могут быть адаптированы (перенастроены) для широкого круга задач нижестоящего уровня — напр. BERT, GPT-3, CLIP).

Б) Доводка и обучение Больших моделей — весьма дорогое дело. И потому это делается сейчас лишь китами БигТеха. Они забирают себе академические разработки таких моделей и совершенствуют их уже без «академиков».

В) «Академики» далее оказываются вне игры. А киты БигТеха, хоть со скрипом, но все же вынуждены делиться достижениями Больших моделей с правительством.

Г) Если все оставить как есть, основными выгодопреобретателями развития ИИ останутся киты БигТеха и высокие чиновники. А большинство людей будут лишь хлебать негативные последствия внедрения все более мощных приложений (типа тотального контроля и т.п.)

Д) Изменить положение вещей может лишь одно — Большие модели должны обучаться и совершенствоваться не БигТехом, а в академической среде (и Кларк пишет, как к этому идти)

_______________

Скорее всего, на «манифест» Кларка киты БигТеха отреагируют так же, как на роман Пелевина — не заметят или свысока покуражатся (как было с фильмом «Социальная дилемма»).

Что ж. Над манифестом компартии тоже куражились. Но для 1/7 части мира вышло только хуже. Сейчас же речь о всем мире.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации