Вот мы и стали Богами

И выяснилось — единобожия нет, а разные Боги видят проблему жизни и смерти по-разному

Image for post
Image for post

Уже ездящие по дорогам самоуправляемые авто постепенно превращают человека в Бога. А как иначе сказать? Ведь это инженер-программист теперь должен запрограммировать решение вопроса, ранее бывшее всегда за Богом — кому жить, а кому умереть?

Это решение (точнее, сценарные варианты оценки решений) инженеры должны заложить в самоуправляемый автомобиль.

Кому подарить жизнь, а кому даровать смерть:

— пешеходам или пассажирам?

— молодым или старым?

— богатым или бедным?

— тем, кого больше (например, пятерым пешеходам) или меньше (водитель и его жена с маленьким ребенком в автокресле)?

И тут человечество ждал сюрприз — с единобожием не задалось.

Боги, решающие, кому выжить в конкретном сценарии, думают по-разному, в зависимости от страны проживания, уровня доходов, вероисповедания, национальности и расы.

Самый крупный из когда-либо проведенных обзоров «машинной этики», опубликованный на днях в Nature, обнаруживает, что многие моральные принципы, которые определяют решения водителя, зависят от страны. Например, в сценарии (всего сценариев 13), в котором некоторая комбинация пешеходов и пассажиров погибнет при столкновении, люди из относительно зажиточных стран с сильными институтами с меньшей вероятностью пощадят пешехода, который незаконно вступил в движение. Т.е. например, в Финляндии и Японии пешехода раздавят, а в Нигерии или Пакистане — спасут.

Опрос 2,3 миллиона человек со всего мира показал, что проблема 21 века — какой должна быть «машинная этика» — не имеет единого решения. Как и в старые времена, этика не универсальна или варьируется между культурами.

Более того. Здесь существует парадокс, впервые вскрытый еще 2 года назад. Опросы показывают:

— во многих странах люди отдают предпочтение самоуправляемым автомобилям, сохраняющим жизнь пешеходов, даже если это означает жертвовать своими пассажирами;

— но те же люди говорят, что они не будут себе покупать самоуправляемый авто, который запрограммирован таким образом.

Опрос показал, что в вопросе сохранения жизни при автокатастрофах люди разделяются, как минимум, на три разных вида Богов.

Боги А живут в Северной Америке и несколько европейских стран, где христианство исторически было доминирующей религией.

Боги Б живут в таких странах, как Япония, Индонезия и Пакистан, с сильными конфуцианскими или исламскими традициями.

Боги В живут в Центральной и Южной Америке, а также Франции и бывших французских колониях.

Image for post
Image for post

Эти три вида Богов сильно разные, и решают проблему «кому жить, а кому умирать» принципиально по-разному. Например, Боги А предпочитают жертвовать пожилой жизнью, чтобы спасти молодых. А Боги Б — наоборот.

Значит ли вышесказанное,

✔️ что общемировой консенсус по «машинной этике» невозможен?

✔️ и что настройки выбора «жизни и смерти» для пассажиров, водителя и пешеходов будут прошиваться автодиллером конкретной страны?

— все это остается под большим вопросом.

Подробней:

• Видео на 4,5 мин (просто и понятно) Moral Machines: How culture changes values

• Популярно How should autonomous vehicles be programmed?

• С деталями Self-driving car dilemmas reveal that moral choices are not universal

•Полное описание The Moral Machine experiment — скайхаб вам в помощь.

Сайт опроса (на всех языках, включая русский) — думайте сами, решайте сами, давить или не давить.

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store