Быть ли ядерной войне, — все больше зависит от алгоритмов

«Принцип Златовласки» перестает работать в практике военных эскалаций

ИИ сильно увеличивает шансы человечества самоистребиться путем ядерной войны. Тогда как кибер-операции могут оказаться наиболее эффективным путем деэскалации военных конфликтов.

Согласно новому отчету Bloomberg, американские военные активизировали использование инструментов ИИ после атаки ХАМАС на Израиль 7 октября. Алгоритмы машинного обучения помогли Пентагону определить цели для более чем 85 воздушных ударов на Ближнем Востоке в этом месяце. Однако, по словам американских военных, люди в обязательном порядке проверяют целевые рекомендации систем ИИ. И окончательные решения о способах и времени нанесения ударов остаются исключительно за людьми.

Еще более многообещающим видится применение самых современных IT-технологий не только на оперативно-тактическом, но и на стратегическом уровне, вершиной которого является выбор оптимальной стратегии эскалации конфликтов.

Как пишут во 2й части отчета RAND «Managing Escalation», существующий западный опыт войн основан на универсальном подходе к выбору стратегии эскалации конфликтов, называемом «Принцип Златовласки» (Goldilocks Challenge). Такое название отсылает к сказке «Три медведя», в которой девушка по имени Златовласка пробует три разные тарелки каши и выбирает ту, которая не слишком горячая и не слишком холодная, а в самый раз.

Концепция выбора «золотой середины» (“Sweet Spot”) интуитивно понимаема и применима к широкому кругу дисциплин. В области же выбора стратегии эскалации конфликтов она заключается в поиске точек для ударов или давления на соперника. Точки, находящиеся в «золотой середине», должны быть:

• достаточно ценны или чувствительны для соперника, чтобы ваши удары по ним склоняли его к нужным вам решениям или действиям;
• но все же не настолько ценны или чувствительны, чтобы ваши удары или давление на них спровоцировало соперника на неприемлемую для вас эскалацию (включая потенциальное использование ядерного оружия).

Происходящий колоссальный прогресс IT–технологий существенно затрудняет для военных и политиков использование старых привычных подходов к разруливанию и эскалации конфликтов (о чем пишут в 1й (закрытой) части отчета RAND).

Это выражается в следующем:

1) границы «золотой середины» становятся «текучими» (постоянно меняются в непредсказуемом направлении);

2) в отдельных точках внутри области «золотой середины» вдруг возникают «кротовые норы» — мгновенные переходы в зону неприемлемой эскалации (включая потенциальное использование ядерного оружия);

3) временные рамки существования конкретной «золой середины» становятся непредсказуемы (вот она была, а вот уже и нет).

Другим удивительным следствием применения IT–технологий при выборе и реализации стратегий эскалации конфликтов является значительная непредсказуемость оказываемого ими влияния и на процесс выбора, и на результаты реализации стратегий.

Вот два наиболее ярких характерных примера.

✔️ Использование широкого спектра кибер-операций (через кибер-пространство наносящих противнику военный, материальный, информационный, политический, социальный или психологический ущерб) зачастую не только не способствует эскалации военных конфликтов, но и стабилизируют ситуацию, предоставляя возможности избежать дорогостоящих, затяжных конфликтов.

✔️ Использование автономных ИИ-агентов на основе генеративных моделей (в частности, GPT-4, GPT-3.5, Claude 2, Llama-2 (70B)) резко увеличивает шансы эскалации конфликтов (включая использование ядерного оружия в каждом 3ем конфликте), демонстрируя при этом труднопредсказуемые формы и паттерны эскалации конфликтов.

________________________________

Ваши просмотры моих новых постов быстро уменьшаются до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях