ИИ ведет мир к новой перманентной холодной войне

1-е из пророчеств Оруэлла снова сбудется в 21 веке

Джордж Оруэлл

О 1-м из двух великих пророчеств Оруэлла знают немногие.

Для большинства он — автор знаменитого романа антиутопии “1984”. В нем он пророчески описал появление “Министерства Правды”, переписывающего историю, “Полицию Мысли” и “Большого Брата”, под колпаком которых живет общество, и появление ставших супер-популярными мемов “мир есть война”, “час ненависти”, “мыслепреступление” и “новояз”.

Но этот роман — 2-е великое пророчество Оруэлла. 1-е же было опубликовано на несколько лет раньше (в 1945) в форме эссе «Ты и атомная бомба» .

Это поразительное по точности предсказание грядущего поворота истории мира, в результате появления сверхоружия — атомной бомбы. Результатом этого, как пророчествовал Оруэлл, станет «долгий мир» без крупномасштабных войн. И ценой установления этого «мира, который не будет миром» станет перманентная холодная война, между США и «русскими» (у которых «пока нет секрета изготовления атомной бомбы, но всё указывает на то, что они получат её в течение нескольких лет»).

Так оно всё и произошло. Но еще более поразительное заключается в следующем.

В эссе «Ты и атомная бомба» Оруэлл лаконично и точно описал механизм зависимости хода мировой истории от прогресса технологий.

• Мировая история — это в значительной степени история оружия.
• Появление все более мощного оружия — результат развития технологий.
• Новое оружие может быть «простым» — относительно дешевым и доступным для производства любой страной (луки, ружья, автоматы, гранаты …) или «сложным» — дорогим и доступным для производства лишь «супердержавам» (как танки, линкоры и бомбардировщики — примеры 1945 года)
• «Сложное» оружие по своей природе «тираническое» (оно делает сильных сильнее). А «простое» по своей природе «демократическое» (оно, «пока на него не нашли управы, дает когти слабым»).
• Ядерное оружие — «суперсложное» и потому «супертираническое».
  «Атомная бомба может окончательно завершить процесс отъёма у эксплуатируемых классов и народов способности к восстанию и в то же время заложить основу военного равенства между обладателями бомб».
• Обладатели же ядерного оружия, «раз невозможно победить друг друга, они, скорее всего, продолжат править миром порознь». И в результате этого, «мир придет не ко всеобщему самоуничтожению, но к эпохе такой же ужасающей стабильности, какими были рабовладельческие эпохи древности» (с поправкой на рост благосостояния из-за прогресса).

Почему я сегодня об этом пишу?

Да потому, что это сбывшееся в 20-м веке предсказание, в точности повторится в 21 веке с появлением нового «сверхоружия» — «суперсложного» и «супертиранического». Это генеративный ИИ больших моделей.

О том, что большинство решений о будущем этих сверхмощных технологий будут принимать все более крошечные группы капиталоемких субъектов частного сектора двух стран, предупреждали в феврале авторы отчета Predictability and Surprise in Large Generative Models.

Новый большой и серьезный (100+ стр) отчет AINOW «Ландшафт 2023: Противостояние технической мощи» пишет о том же.

✔️ «Только горстка компаний с невероятно огромными ресурсами может строить крупномасштабные модели ИИ.»

✔️ «Даже если Бигтех в своих проектах будет делать свой код общедоступным, огромные вычислительные требования этих систем сохранят за этими проектами доминирование на коммерческих рынках».

Хорошо ли это?

Не факт. Хотя кто знает.

Как писал Оруэлл:

«Если бы атомная бомба оказалась чем-то дешевым и легко производимым, как велосипед или будильник, возможно, мир снова погрузился бы в варварство, но с другой стороны это могло бы привести к концу национального суверенитета и основанию высокоцентрализованного полицейского государства.»

Это 100%-но применимо и к ИИ.

И значит впереди:

• новая холодная война США и Китая
• торжество Большого Брата там и там.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях