Остановитесь, — это путь к гибели цивилизации!

Разработана 1я дорожная карта спасения

Великий космолог и астрофизик, обладатель премий Эйнштейна и Фарадея, золотых медалей Ньютона и Брюса, кавалер Ордена Заслуг, автор десятка выдающихся открытий, 500 научных работ и восьми книг лорд Мартин Джон Рис два года назад поставил вопрос ребром [1]:

Нам всем конец?

Мысли проф. Риса просты, как все гениальное.

  • Экзистенциальные риски для выживания человечества подошли к тому пределу, когда само уже не рассосется.
  • Ждать, что правительства развитых стран всерьез возьмутся за поиск возможностей снижения этих рисков, не приходится. Они озабочены лишь ближайшей перспективой. А все, что за пределами очередного электорального цикла, их вообще не волнует.
  • Только общественность своей активностью может заставить правительства озаботиться этими рисками не на словах, а на деле.

Наивысший из этих рисков несет разработка Автономных систем вооружений (AWS): систем вооружений, которые после активации могут сами выбирать и атаковать цели без дальнейшего вмешательства человека-оператора.

То, что цивилизация на Земле еще существует, — огромная удача. Ей мы обязаны конкретным людям.

  • Василий Архипов — единственный из 3х ответственных за пуск ядерной торпеды офицеров подводной лодки Б-59. Он отказался нанести удар по США 27 октября 1962, когда капитан Савицкий уже принял решение пустить эту торпеду, а торпедный офицер, задыхаясь от нехватки воздуха и адской жары, прохрипел: “Мы сейчас по ним шарахнем! Сами погибнем, их потопим
    всех, но флот не опозорим!”[3]. Но Архипов остановил ядерный удар, имевший все шансы начать ядерный апокалипсис на планете.
  • Станислав Петров — дежурный офицер системы раннего предупреждения. Он поверил своей интуиции, что США вряд ли стали бы атаковать всего лишь 5ю ракетами, и нарушил инструкцию, не доложив командованию, что на СССР уже летят 5 ядерных ракет США. Потом выяснилось, что это была ошибка — спутник принял солнечные блики от облаков за пламя ракетных двигателей. Петров остановил начинающуюся ядерную войну.

✔️ И вот теперь, с появлением Автономных систем вооружений, в цепочке принятия решений не будет Архипова, Петрова… никого не будет, кто мог бы остановить ИИ, самостоятельно принявшего решения стрелять.

Сегодня под Открытым письмом специалистов по ИИ и робототехники о необходимости запретить все автономные системы вооружений стоит уже 26215 подписей [4].

Но как провидчески писал Мартин Рис, на правительства полагаться в этом вопросе бессмысленно.

Какая же альтернатива?

Давить на правительства, чтобы все же запретили?

Бессмысленно. Все равно какие-то страны или фанатики не последуют запрещению. А там и все остальные спохватятся.

Тогда, как обычно с технологиями — война план покажет?

Но это путь к гибели цивилизации.

Третий вариант — дорожную карту из 5 компонентов [5], предложила «великолепная семёрка» спецов по ИИ. Это результат работы, института FutureOfLife после выпуска ими меморандума в марте 2019 [6] и проведения 28–29 августа с.г. воркшопа на эту тему.

Предлагается.

• ограниченный по времени мораторий;

• исключения для определенных классов оружия;

• протоколы против непреднамеренной эскалации;

• стратегии по предотвращению распространения;

• разработка «кентавров» людей и ИИ.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store