Сцилла и Харибда развития ИИ
Демис Хассабис и Джек Кларк о развилке главных рисков
Лучший индикатор уровня зрелости ИИ технологий — в чем общество видит их главные риски.
- Во времена младенчества этих технологий общество содрогалось (подобно малышу при громких звуках) от страхов перед злобным Терминатором и хитроумным HAL 9000.
- С наступлением детства главной пугалкой (одновременно страшащей и манящей, как нечто за окном для шестилетки) стала техносингулярность.
- Отрочество (в котором область ИИ сейчас находится) ознаменовалось осознанием истинных корней рисков: они не в технологиях, а в людях.
Кто будет определять вектор развития ИИ?
Кто станет выгодоприобретателем революционных открытий, сделанных ИИ, что способны кардинально изменить мир?
Ответы на эти 2 вопроса и составляют суть текущего момента в понимании главных рисков развития ИИ. Ибо сегодня существует лишь два варианта ответа на оба вопроса:
- Киты Бигтеха (одна или несколько мега-корпораций )
- Правительства (одной или нескольких супердержав)
Такой выбор подобен Сцилле и Харибде. А как пройти между ними — большой вопрос.
Два человека, входящие в число самых информированных экспертов в данном вопросе, — Демис Хассабис и Джек Кларк — бьются как рыба об лед, пытаясь донести свои мысли до человечества.
✔️ Нельзя отдавать сверх-потенциал ИИ в одни руки: и киты Бигтеха, и правительства — одинаково плохи для человечества.
✔️ Сейчас это, к огромному сожалению, именно так: в США ИИ монопольно в руках китов Бигтеха, а в Китае — в руках КПК.
Демис Хассабис хорошо понимает, к каким революционным прорывам подошел DeepMind в кардинально новых направлениях «глубокой науки» (1):
✔️ уже продемонстрированные AlphaFold 2 возможности определения трехмерной структуры белков сулят экономию сотен миллиардов долларов при разработке новых лекарств и революцию в борьбе с пандемиями;
✔️ находящийся в разработке алгоритм удержания плазмы в термоядерных реакторах промышленного масштаба сулит революцию в энергетике, решив задачу управляемого термоядерного синтеза, над которой мир бьется уже 70 лет.
Однако, Хассабис также понимает, что выгодоприобретателем достижений такого уровня не должна стать одна мега-корпорация.
И поэтому Хассабис:
- потратил 4 года на секретный проект «Арбуз» — попытка выйти из-под щедрого, но жесткого крыла материнской компании Google/Alphabet, финансирующей и контролирующей DeepMind (увы, но в апреле эти попытки были окончательно придушены «мамой») (2);
- добился предоставления открытого доступа к алгоритму AlphaFold 2 (хотя все не так просто, и алгоритм пока не может быть сильно полезным исследователям без технических знаний, которыми обладает лишь DeepMind);
- поняв, что из-под «мамы» не вывернуться, в июне призвал на форуме Responsible AI Forum к созданию «всемирного института ИИ» под юрисдикцией ООН, чтобы собрать в нем лучших исследователей в этой области (3)
Джек Кларк (совместно с Институтом изучения экзистенциальных рисков ИИ в Кембридже) 31 августа опубликовал свое видение того же вопроса. Препринт WHY AND HOW GOVERNMENTS SHOULD MONITOR AI DEVELOPMENT (4) сфокусирован на ключевой проблеме прохождения между Сциллой и Харибдой:
✔️ Как преодолеть разрыв между ведущей ролью мировых правительств в определении путей развития ИИ и хроническим непониманием правительств текущего состояния и трендов ИИ
Они подобны инженерам, пытающимся с Земли управлять марсоходом в реальном времени при том, что сигнал с камер марсохода идет до Земли 7 мин, и столько же обратно идет управляющий сигнал с Земли.
Итог — «поспешное, неточное и неосведомленное законотворчество».
Как это можно исправить описано на 13 стр.
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.
