У ИИ и людей та же проблема, что была у людей с западным черным носорогом — несовпадение целей

Image for post
Image for post
Макс Тегмарк — физик и исследователь ИИ в MIT

Чрезвычайно интересный разговор одного из осведомленнейших в ИИ экспертов — Макса Тегмарка с одним из лучших интервьюеров Ютуба Лексом Фридманом.

0:00 — Введение

2:49 — Искусственный интеллект и физика

16:07 — Может ли ИИ открыть новые законы физики?

24:57 — Безопасность ИИ

42:33 — Вымирание человеческого вида

53:31 — Как исправить ситуацию с фэйковыми новостями и дезинформацией

1:15:05 — Автономное оружие

1:30:28 — Человек, который предотвратил ядерную войну

1:40:36 — Илон Маск и ИИ

1:54:14 — Выравнивание ИИ

2:00:16 — Сознание

2:09:20 — Ричард Фейнман

2:13:30 — Машинное обучение и вычислительная физика

2:24:28 — ИИ и креативность

2:35:42 — Инопланетяне

2:51:25 — Смертность

Главный риск не превосходство ИИ над людьми, а ошибочно отдаваемая ИИ лидирующая роль во многих важнейших аспектах жизни общества.

[00:02:08]

Я считаю, что алгоритмы, которые управляют нашим взаимодействием в социальных сетях, уже обладают интеллектом и силой, намного превосходящими интеллект власти любого человека. Сейчас действительно самое время подумать об этом, определить траекторию взаимодействия техники и человека в нашем обществе. Я думаю, что будущее человеческой цивилизации вполне может быть поставлено на карту именно из-за этого вопроса о роли искусственного интеллекта в нашем обществе.

Если, не дай бог, будет создан общий ИИ, это может привести к катастрофе. Ибо это самый небезопасный и самый безрассудный подход

[00:30:31]

Единственное, что пугает меня до смерти, — это то, что мы просто собираемся создавать все более крупные системы, которые мы все еще не понимаем, пока они не станут такими же умными, как люди. Ведь что-то может пойти не так, верно? И потому я думаю, что это просто безрассудный путь. Ведь, к сожалению, если мы действительно преуспеем в создании общего ИИ, мы создадим его, не понимая, как он работает.

Альтернативный подход — никаких черных ящиков. Только ИИИ (Интеллигибельный ИИ)

[00:33:37]

Альтернативой является intelligible intelligence approach — подход к построению понятного нам ИИ.

Главный урок COVID-19: нужно быть заранее готовым и действовать мгновенно.

[00:57:09]

Вполне возможно, что кто-то сможет создать рукотворную пандемию, которая распространяется так же легко, как ковид, но при этом убивает, как в свое время, убивала оспа — треть инфицированных. Как с этим быть? …

Надо быть готовым к этому и действовать мгновенно. Как это сделала с ковид Южная Корея, вынесшая урок из прошлой эпидемии атипичной пневмонии и теперь потеряла лишь 500 жизней при 50 млн населения.

О пропаганде, манипуляциях и Трампе

[01:02:57]

Пропаганда вообще не нова, и стимулы манипулировать людьми тоже не новы. Что же в этом нового? Новое в том, что машинное обучение встречается с пропагандой. Вот почему все стало намного хуже. Вы знаете, некоторые люди любят обвинять определенных людей, как в моем либеральном университетском пузыре. Многие люди обвиняют Дональда Трампа и говорят, что это была его вина. Я вижу это по-другому. Я думаю, что Дональд Трамп просто оказался первым влиятельным человеком в эпоху алгоритмов машинного обучения, обладающим чрезвычайно высоким навыком манипулятивной игры.

О том, как Facebook, Google и другие IT-киты привели мир к катастрофе.

[01:03:36]

Я не хочу ругать их. У меня много друзей, которые работают в этих компаниях. Хорошие люди, которые внедрили алгоритмы машинного обучения, чтобы просто немного увеличить прибыль, максимизируя время, которое люди тратят на просмотр рекламы. Тогда они совершенно недооценили, насколько эффективными будут их алгоритмы. Это был, опять же, черный ящик, не поддающийся пониманию разум. И потому потребовалось много времени, чтобы понять, почему, как и насколько это вредно для общества. Потому что, конечно, машинное обучение выяснило, что самый эффективный способ приклеить ваше внимание к маленькому рекламному прямоугольнику — показать вам вещи, которые вызывают сильные эмоции, гнев, обиду и т. д. А уж правда это или нет, на самом деле, не имеет значения.

О добре и зле машинного обучения

[01:05:44]

Машинное обучение и технологии в целом — это не зло, но и не добро. Это просто инструмент, который вы можете использовать для того, чтобы хорошие вещи были плохими. И как это бывает, машинное обучение в новостях в основном используется крупными игроками, большими технологиями, чтобы манипулировать людьми, заставляя их смотреть как можно больше рекламы, но которые имеют это непреднамеренное последствие действительно испортить нашу демократию и раздробить ее на фильтрующие пузыри.

О двух страшных итогах триумфа машинного обучения

[01:21:48]

Первый — полное разрушение демократии, когда наш поток информации манипулируется машинным обучением. Второй — начало гонки вооружений автономного смертоносного оружия.

Об Илоне Маске и экзистенциальных рисках

[01:49:02]

Он мыслит более длительной перспективой. Ему гораздо яснее, чем большинству людей, что то, что мы делаем с этой русской рулеткой, в которую мы продолжаем играть с нашими ядерными зарядами, — это действительно плохая стратегия, действительно безрассудная стратегия, а также что мы просто создаем эти все более мощные системы ИИ, которые мы не понимаем… Он такой позитивный провидец. И вся причина, по которой он предупреждает об этом, заключается в том, что он лучше большинства людей осознает, какова альтернативная стоимость провала, что в будущем есть так много потрясающего, что мы можем, и наши потомки могут наслаждаться, если мы не облажаемся. И меня так бесит, когда люди пытаются выставить его каким-то Технофобом Луддитом. Он же просто понимает риск того, что мы создаем невероятно компетентные системы, а это значит, что они всегда будут добиваться своих целей, даже если они вступают в противоречие с нашими целями…

Почему, например, мы, люди, заставили вымереть западноафриканского черного носорога?
Это потому, что мы злобные носорого-ненавистники?
Нет, это просто потому, что наши цели не совпадали с целями тех носорогов.

Image for post
Image for post

________________________

Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store