ИИ не умеет делать моральный выбор, а люди не договорятся

Итог — невиданное неравенство

Image for post
Image for post
Источник: Adoption Dynamics and Societal Impact of AI Systems in
Complex Networks https://dl.acm.org/doi/abs/10.1145/3375627.3375847

Создание ядерных технологий породило орудие для суицида человечества. И единственным сдерживающим фактором самоуничтожения цивилизации стало устройство общества, гарантирующее взаимное уничтожение и тем, кто войну начнет, и тем, кто будет защищаться.

Но вот появились ИИ-технологии, по мощи не уступающие ядерным и ведущие к небывало быстрому росту неравенства между «ИИ-обладателями» и «обычными людьми».

  • Первые будут принимать решения, пользуясь наставлениями ИИ и его сверхскоростными возможностями анализа и действий (как это уже сегодня делают, например, брокеры и онлайн-платформы).
  • Вторые по старинке будут думать и действовать сами, — может, из консерватизма, а может, и в силу дороговизны билета в стан «ИИ-обладателей» (наличие у вас умной колонки и смартфона не только не дает вам такого билета, но делает для вас все более неподъемной его цену).

Прискорбно, но факт: в истории земной цивилизации есть два неизменных тренда: рост технологической мощи и рост неравенства. В обоих были временные замедления и реверсы. Но в историческом масштабе оба тренда неумолимы, как смерть.

С развитием ИИ-технологий, разделяющих мир на «ИИ-обладателей» и «обычных людей» тренд роста неравенства только усилился.

  • «Обычные люди» генерируют большие данные через все возрастающее разнообразие цифровых устройств.
  • «ИИ-обладатели» совершенствуют алгоритмы и методы монетизации собранных данных.

Возникает вопрос.

Может ли устройство общества с помощью регулирования каким-то образом повлиять на процесс неизбежного роста неравенства вследствие развития ИИ?

Моделирование сценариев различных форм и видов взаимодействия «ИИ-обладателей» и «обычных людей», с учетом возможных регуляторных ограничений со стороны общества, дало отрицательный ответ на поставленный выше вопрос. Увы!

Модель разработана для анализа т.н. «Проблемы выравнивания общественных ценностей».

Эта проблема не менее сложна, чем пресловутая «трудная проблема сознания». Ее суть такова.

  • Возможность встраивания в ИИ собственных моральных принципов пока под большим вопросом. Конечно, есть методы IRL и CIRL … Но их возможности на практике пока весьма ограничены.
  • Значит в вопросах морального выбора (типа, кого убьет самоуправляемый авто: пассажира, старушку справа или ребенка слева) будут решать люди (авторы алгоритмов, политики, регуляторы, владелец авто …)
  • Но какие варианты решений они будут выбирать, ведь ценности у всех разные? Возможно ли достижение некоего равновесия выгод для себя-любимого и всех остальных?
  • Моделирование процесса выравнивания ценностей, в котором решения принимаются конкретными людьми и конкретными ИИ-системами, показывает, что равновесия не будет — победит меньшинство «ИИ-обладателей», которое навяжет свои ценности большинству «обычных людей».

Попытка найти равновесие ценностей, путем включения в модель ИИ 3го типа, также не привела к успеху.

Поясню.

1й тип ИИ — эгоист. Сталкиваясь с интересами «обычных людей», он блюдет «свою выгоду» (выгоду «ИИ-обладателей»). А при конфликте интересов «ИИ-обладателей» выходит на равновесие Нэша.
2й — прагматик (в отличие от альтруиста, он одинаково блюдет и свой интерес и интересы других).
3й — сознательный. Средний путь между 1м и 2м: блюдет свой интерес, минимизируя вред остальным.

Важный момент. Модель — это безмасштабная сеть (таковы все социальные сети в онлайне и реале, где правит закон Матфея). И как в жизни, модель постоянно перекоммутируется: часть старых связей рвется, и образуются новые.

Сеть состоит из людей и ИИ. Люди, подобно ИИ, тех же 3х типов (эгоист …)

У людей есть две стратегии перекоммутации: консервативная (рвутся лишь вредные связи) и алчная (рвутся и вредные и бесполезные связи)

Как и ожидалось, обе стратегии плодят неравенство, но алчная быстрее.

Резюме — в заголовке.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store