Впереди ИИ-национализм и ИИ-национализация

Анализ влияния технологий ИИ на геополитику

Credit: Nicole Gray

ИИ как геополитический фактор

2018 год стал переломным. Ранее основное внимание СМИ, общества и политиков при обсуждении будущих угроз и вызовов развития ИИ было направлено на:

  • грядущее вытеснение людей из многих профессий когнитивными агентами ИИ (роботами и программами);
  • правовые и этические проблемы автономных ИИ-устройств (например, беспилотных авто);
  • проблемы кибербезопасности;
  • пугающе манящую перспективу то ли далекого, то ли не очень «бунта машин».
  • вместо всестороннего международного сотрудничества, глобального разделения труда, внедрения открытых платформ и взаимного перетекания талантов, делается ставка на ИИ-национализм, декларирующий главной целью национальных ИИ-стратегий приоритет экономических и военных интересов своей страны;
  • вместо распространенного в развитых странах разделения государства и бизнеса, взят курс на ИИ-национализацию — интеграцию ресурсов государства и частных компаний, выравнивание скоростей внедрения ИИ-инноваций и рефокусировка стратегических целей на получение государством экономических, геополитических и военных преимуществ на международной арене.

Краткий техно-геополитический прогноз

Во-первых, поменяются геополитические и военные доктрины большинства развитых стран. Произойдет кардинальная трансформация многих экономико-политических процессов, объединяемых понятием глобализация. Не исключено, что глобализация, резко ускорившаяся вслед за взрывной динамикой развития технологий после Второй мировой войны, ИИ-технологиями будет вообще остановлена. И тогда на смену глобализации придет «глобальная балканизация».

  • ИИ-неоколониализм во взаимоотношениях стран-лидеров и стран-аутсайдеров в ИИ-технологиях;
  • Гонка ИИ-вооружений между странами-лидерами, определяющая и направляющая дальнейшее развитие ИИ-технологий.
  1. Вариант «Большая война», в результате которой следующая война будет вестись уже камнями и палками.
  2. Вариант «AI Сингулярность» (или «приход лесника»), при котором все ускоряемое гонкой вооружений развитие ИИ-технологий породит «сильный» ИИ, а тот поступит, как лесник в анекдоте, устранивший обе соперничающие стороны за ненадобностью.

О каких ИИ-технологиях идет речь

«Искусственный интеллект» (ИИ) — всего лишь многозначная метафора, в которую вложено много смыслов. Исследователи, журналисты, эксперты и аналитики дают десятки различных определений этого термина. В данном исследовании предлагается определение, суммирующее большинство распространенных трактовок.

Примеры некоторых из ИИ-технологий и решений, создаваемых на их базе. Источник: Accenture.
  1. В СМИ и соцсетях в качестве цели широко распространено стремление к достижению превосходства над возможностями человечества во всех его возможных действиях и решениях. Именно с такой интерпретацией цели связаны всевозможные алармистские сценарии вплоть до «бунта машин».
  2. В среде разработчиков, создающих коммерческие ИИ-системы (всевозможные приложения и гаджеты для частных пользователей и разнообразные «умные» ИИ-устройства и платформы для госсектора и корпоративного сегмента), под целью понимается достижение превосходства над действиями и решениями усредненных индивидов или групп специалистов с последующей автоматизациейэтих действий и решений, вплоть до (в идеальном случае) полной замены людей.
  3. И, наконец, распространенная интерпретация целей среди военных и государственных деятелей — достижение военного и экономического превосходства над другими странами для получения за счет этого максимальной выгоды от своего доминирующего положения.
Значимые вехи за 78 лет развития ИИ. Источник: Accenture.
  • максимально универсальные и горизонтальные (т.е. применимые почти повсеместно): распознавание образов и речи, их обработка и генерация, интеллектуальная обработка текстов (поиск, перевод, извлечение семантических связей) и т.п.
  • не только позволяющие создавать все новые и новые «умные» устройства, но и позволяющие встраивать возможности этих решений в постоянно расширяющийся спектр новых приложений, сервисов и бизнес моделей.
  • одно дело проиграть в конкуренции на рынке какого-то нового класса устройств (например, голосовой ассистент) и потерять на этом относительно немного;
  • другое дело — проиграть в конкуренции за военное и экономическое превосходство; здесь, в принципе, можно потерять очень много, а иногда — почти все.

Почему именно ИИ способен радикально изменить мировую геополитику

Логика здесь примерно одинакова, что у военных, что у гражданских экспертов, изучающих потенциал влияния ИИ на экономику, международные отношения, национальную безопасность и оборону [1–4] (ссылки на использованные при подготовке поста отчеты указаны в конце текста).

ИИ — это универсальный подход с потенциально неограниченной отдачей.

Неограниченность потенциала отдачи от ИИ определяется тем, что это не просто совокупность многообещающих технологий (коих сегодня не мало), а нечто принципиально иное и небывалое.

Синергия между универсальностью инноваций (GPTs) и возможностью их использования в качестве метода создания других инноваций (IMIs) [5]

ИИ обладает уникальной привлекательностью не только для бизнеса, но и для государства.

Выше уже отмечался особый подход военных и государственных деятелей к целеполаганию технологического развития. Их главная цель — достижение военного и экономического превосходства над другими странами, обеспечивающего получение максимальной выгоды для государства от своего доминирующего положения.

Динамика финансирования проектов национального уровня в текущих долларах (голубым) и в долларах 2008 года (красным) [6]
  1. в Бюджетном запросе Президента на 2019 год [7] ИИ, автономные и беспилотные системы названы приоритетами для НИОКР со стороны Администрации США;
  2. в официальной Стратегии национальной безопасности [8]Президента Трампа объявлено об особой важности ИИ для будущего военных сил США;
  3. в официальной Стратегии национальной обороны [9] указаны приоритетные обязательства инвестировать в военные приложения автономных вооружений, ИИ и машинного обучения.

Военные видят в ИИ «Святой Грааль» мирового могущества.

Второй и третий из вышеназванных документов касаются национальных стратегий обороны и безопасности. Да и первый из документов — Бюджетный запрос Президента — с учетом указанных в нем цифр, говорит исключительно в пользу военных. Единственная статья из классификации федеральных агентств, получившая двузначный рост бюджета (31%) — это статья «Оборона».

Меморандум заместителя министра обороны Патрика Шэнахэна о создании Объединенного центра искусственного интеллекта Министерства обороны
Эрик Шмидт — председатель «Совета по инновациям в области обороны» США, бывший руководитель Google и Alphabet
Министр обороны США Джеймс Мэттис
  • в «Summary of the 2018 White House Summit on Artificial Intelligence for American Industry» заявлено что администрация Трампа «уделяет приоритетное внимание финансированию фундаментальной исследовательской и вычислительной инфраструктуры ИИ, машинного обучения и автономных систем»;
  • а 31 июля 2018 г. Белый дом выпустил меморандум для глав департаментов и агентств №M-18–22 о бюджетных приоритетах R&D на 2019–2020 [15], в котором назвал ИИ первым среди трех высших национальных технологических приоритетов (2-й — квантовая информатика, а 3-й — суперкомпьютинг) и обязал Административно-бюджетное управление (OMB) совместно с Управлением науки и технологической политики (OSTP) обеспечить высший бюджетный приоритет этих направлений для всех федеральных агентств в 2019–2020 гг.

2018 — год великого ИИ-перелома

Так уж получилось, что ощущение «момента Спутника» испытало в 2018 году не только правительство США.

Страны мира, разработавшие свои национальные стратегии развития AI.
Источник https://politicsplusai.com/
Три фазы создания к 2030 г. национальной системы ИИ as a service в Японии.
Дорожная карта приоритетного направления «Продуктивность» из национальной ИИ-стратегии Японии.
Планируемый технологический прогресс и социальные изменения на каждой их трех фаз реализации национальной AI стратегии Японии.
  1. 180-страничный отчет «AI in the UK: ready, willing and able?» [18], опубликованный администрацией Палаты Лордов в апреле 2018 г. и во многом отталкивающийся в своих идеях от 77-страничного отчета профессора Computer Science в университете Саусхэмптона Dame Wendy Hall и CEO компании BenevolentAI доктора Jerome Pesenti «Growing the Artificial Intelligence Industry in the UK» [19]
  2. Два тома письменных и устных свидетельств специалистов и экспертов в подтверждение положений отчета (1-й том содержит 223 письменных свидетельства, изложенных на 1 581 стр. [20], 2-й содержит 57 устных свидетельства, полученных в ходе 22 сессий и изложенных на 423 стр. [21])
  3. 40-страничный ответ Правительства на отчет и свидетельства, представленные Палатой Лордов [22] Парламенту Великобритании, Secretary of State for Business, Energy and Industrial Strategy by Command of Her Majesty
Так представлено понятие AI в национальной стратегии Великобритании
  • 170+ профессоров с мировым именем, специализирующихся на ИИ;
  • 40+ мировых корпораций, связанных с ИИ;
  • 20+ элитных университетов, обучающих в области ИИ;
  • 15+ некоммерческих организаций в области ИИ;
  • представители правительств Канады, Китая, Японии и Южной Кореи.

ИИ-национализм

Первый источник ИИ-национализма — сверхвысокие ожидания.

Термин ИИ-национализм стал популярным после июньской публикации Яном Хогартом одноименного эссе [23]. Хогарт — серийный инвестор в ИИ-ориентированные стартапы и соавтор (вместе с Натаном Бенайхом) лучшего на сегодня, по мнению автора, аналитического материала о текущем состоянии ИИ-технологий.

Ян Хогарт — серийный инвестор в AI ориентированные стартапы

Второй источник ИИ-национализма — технологическая запутанность.

Беспрецедентно высокая важность ИИ может сделать политику в этой области ключевым элементом государственной политики. Однако, на данном пути возникает крайне неприятная проблема т.н. технологической запутанности (Technological entanglement), присущей ИИ-технологиям, как никаким другим (подробнее см. в [25]).

  • технологическим локомотивом США является частный бизнес;
  • международные гиганты частного бизнеса, такие как Alphabet, в рамках глобализации располагают свои исследовательские лаборатории по ИИ в главном конкуренте в этой области — Китае и нанимают на работу тысячи китайских специалистов;
  • китайские инвесторы, среди которых крупнейшие ИИ-компании Китая, владеют существенными долями во многих самых перспективных в области ИИ компаниях Кремниевой долины;
  • китайские студенты и аспиранты тысячами учатся в лучших университетах США.
  1. Китай развернул обширную практику «инновационных меркантилистов», которая направлена на несправедливое получение преимуществ китайскими производителями. К ним относятся:
  • требование о том, чтобы иностранные компании для доступа к китайскому рынку передавали свои технологии китайским фирмам;
  • кража иностранной интеллектуальной собственности;
  • манипулирование технологическими стандартами;
  • массовые государственные субсидии;
  • поддержанные правительством приобретения иностранных предприятий.

Кто в авангарде ИИ национализма

  • Китай — в рамках национального Плана 13 пятилетки, программы «Artifcial Intelligence 2.0» Плана Научно-технического и инновационного развития 13-й пятилетки, 3-летнего Action Plan for Promoting Development of a New Generation Artifcial Intelligence Industry (2018–2020) — и все это под зонтиком национальной стратегии «военно-гражданского сплава» [26].
  • США — в рамках Стратегии национальной безопасности [8], Стратегии национальной обороны [9] и Меморандума замминистра обороны от 27 июня 2018 г. о создании Объединенного центра искусственного интеллекта Министерства обороны (JAIC) [14].
  • Индия — в рамках Национальной стратегии развития ИИ, подготовленной для правительства Индии аналитическим центром NITI Aayog [27] и «Дорожной карты развития ИИ для обеспечения обороны и безопасности Индии», подготовленной «Tata Sons» по поручению Министерства обороны.
  • Франция — в рамках (1) объявленного министром французских вооруженных сил Флоренсом Парли резкого увеличении расходов страны на ИИ для развития будущих систем вооружений (1,83 млрд долл.); (2) парламентского «отчета Виллани» [28], фиксировавшего, что «ИИ теперь является центральным политическим принципом обеспечения безопасности», «поддержки господства над нашими потенциальными противниками» и «поддержки нашей позиции по отношению к союзникам»; (3) дорожной карты изучения возможностей ИИ для вооружений и ее первого этапа — проекта Man-Machine Teaming (MMT).
«Моя цель — воссоздать европейский суверенитет в ИИ» — президент Франции Э. Макрон. Источник.
  • Великобритания надеется в области ИИ стать частью военных программ США и в рамках этой кооперации решением Министра обороны в мае 2018 г. открыла AI Lab — единый исследовательско-внедренческий центр ИИ при Defence Science and Technology Laboratory (Dstl).
  1. Политика, гарантирующая сохранение экономических и военных преимуществ первопроходцев (first mover advantages) ИИ, которыми эти страны себя, не без оснований, считают.
  2. Политика препятствования копированию новых ИИ-технологий, и, в первую очередь, тех, что легко воспроизводимы любыми странами, обладающими аналогичным технологическим уровнем.
  3. Политика ослабления стимулов международной торговли, автоматически ведущих к распространению ИИ-технологий по миру.

ИИ-национализация

Повестка лидеров гонки ИИ — США и Китая

Некоторые эксперты приводят аргументы, что Китай пока что чуть ли не вдвое отстает в области ИИ от США [29].

Расчет Индекса ИИ-потенциала по методике из [29] показывает почти двойное отставание Китая от США.
При рассмотрении девяти наиболее прорывных классов технологий двойного применения эксперты Конгресса США отнесли ИИ к группе из 3-х классов технологий, по которым между США и Китаем примерный паритет [31]
  1. В долгосрочной стратегии развития вооружений Китая автономные беспилотные системы и ИИ обладают высшим приоритетом развития.
  2. Особенности китайской дорожной карты развития ИИ, отдающей высокий приоритет созданию «интеллектуального (智能化) оружия», включив его в перечень 4-х критических технологических областей «strategic frontier» (战略前沿), в которых ставится цель превзойти американских военных, используя стратегию «leapfrog development» (跨越发) — перепрыгивания через несколько стадий развития.
  3. Намерение Китая использовать ИИ для ускорения совершенствования так называемого «козырного оружия» — «accelerate the development of shashoujian (杀手锏) armaments», по иронии судьбы, переводимого на английский как Trump Card.
Роберт Ворк, бывший замминистра обороны США с 2014 по 2017 гг.
Кай-Фу Ли — главный идеолог, бизнес-практик, венчурный гуру и проводник на пути превращения Китая в мирового лидера в области ИИ.
  1. Использование протекционистских мер по защите своего рынка от импорта и конкуренции в области ИИ.
  2. Спонсируемое государством незаконное или «околозаконное» приобретение интеллектуальной собственности в области ИИ посредством: физической кражи, кибер-шпионажа, нарушения экспортного законодательства США, контрафакции и пиратства.
  3. Навязывание или принуждение американских компаний передавать ИИ-технологии китайским компаниям, как правило, в обмен на ограниченный доступ к китайскому рынку.
  4. Выкачивание ценной открытой информации непосредственно из первоисточников научных инновационных идей (университеты, лаборатории, исследовательские центры), а также через скупку талантов из всех смежных областей: бизнес, финансы, экспертиза.
  5. Господдержка инвестиционной деятельности китайских компаний в перспективные ИИ-технологии за пределами Китая.

Повестка аутсайдеров гонки ИИ

Реальное положение таково, что в аутсайдерах AI гонки оказались все, кроме ее лидеров — США и Китая. И хотя технологически развитые страны, типа Франции и Германии или Индии и Южной Кореи, казалось бы, несопоставимы со странами третьего мира по уровню развития ИИ-технологий, — и тем, и другим уготована участь превратиться в ИИ-колонии стран лидеров.

Абсолютное лидерство США и Китая по числу научных публикаций по теме глубокого обучения. Источник: Digital Transformation Monitor
  • В июне 2018 г. 600 ведущих европейских экспертов в области ИИ призвали европейских и национальных лидеров резко увеличить поддержку исследований в области ИИ, отмечая, что они имеют решающее значение для будущего Европы. Инициатива предусматривает создание Общеевропейской конфедерации лабораторий по исследованию ИИ (CLAIRE).
  • Также в июне директор Германского национального центра исследований ИИ выступает за объединение усилий европейских стран и создания «ЦЕРНа в области ИИ».
  • В августе уже 1000 ведущих европейских экспертов в области ИИ призвали к разработке общеевропейского подхода и созданию European Lab for Learning and Intelligent Systems (ELLIS).
  • 7 сентября в Брюсселе прошел симпозиум по ИИ, цель которого — обсуждение с Европейской комиссией путей сокращения радикального отставания Европы от США и Китая.

«Особый аутсайдер». Позиции России в гонке ИИ.

Вопрос о потенциале и перспективах России несколько сложнее простого отнесения её к аутсайдерам гонки.

К чему ведет ИИ-национализация?

При всем различии повесток гонки ИИ лидеров и аутсайдеров, они предполагают одни и те же шаги, ведущие, по сути, к ИИ-национализации по китайской схеме.

Старший советник НАТО, основатель и директор Digital Society Institute при ESMT, Сандро Гайкен (Dr Sandro Gaycken)
  • ИИ-стартапы, работающие на гигантские ИИ-корпорации;
  • Гигантские ИИ-корпорации, работающие на военных;
  • ИИ-специалисты, по требованию военных работают там, где скажут (как «шарашки» при Сталине).

Заключение

В начале поста я уже привел развернутый техно-геополитический прогноз последствий возобладания тренда ИИ-национализма вкупе с трендом ИИ-национализации.

  1. Главным следствием тренда ИИ-национализма станет ИИ-балканизация.
  2. Главным следствием тренда ИИ-национализации станет новая модель сосуществования государства и бизнеса, которую можно было бы условно назвать авторитарно-демократический ИИ-капитализм.
  3. Главным интегральным следствием действия обоих трендов станут новая геополитика и новый мировой порядок, основанные на ИИ-неоколониализме.
  4. Главным следствием гонки ИИ-вооружений видится
  • либо вариант «Большой войны», в результате которой следующая война будет вестись уже камнями и палками.
  • либо вариант «ИИ Сингулярности» (или «Приход лесника»), при котором все ускоряемое гонкой ИИ-вооружений развитие ИИ-технологий породит «сильный» ИИ, а тот поступит, как лесник в анекдоте, устранивший соперничающие стороны за ненадобностью.

Ссылки на упоминаемые в посте отчеты.

1. «Artificial Intelligence and National Security» отчет подготовлен экспертами Congressional Research Service для Конгресса США в апреле 2018 г.

--

--

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store
Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации