Сломанный компас в головах

Сетевые алгоритмы перенастроили эволюцию идей в пользу кликов, коалиций и кассы — и это путь к самоистреблению

Мы привыкли думать о человеческих убеждениях как о маленьких компасах в головах: показывают на «правду» — значит, помогают выживать. Но в цифровую эпоху эти компасы стали шалить, как в магнитных полях. Умные сетевые алгоритмы» (а теперь и ИИ) — те самые невидимые магниты — перенастраивают экологию культурной эволюции так, что отбор всё чаще предпочитает не точность, а вирусность, коалиционную полезность и монетизируемость идей. Как это происходит демонстрирует модель Сергея Гаврилеца и Пола Сибрайта: меняется не природа людей, меняется сама среда отбора.

У этой среды три «ручки» настройки.

· Первая — ассортативность: алгоритмы склеивают «похожих с похожими», превращая публичную сферу в мозаичный зал, где каждый смотрит в зеркало собственного лагеря.

· Вторая — конформизм: метрики одобрения, лайки и репосты выступают как мгновенная социальная мотивация (а то и санкции), подталкивая нас говорить то, что усиливает принадлежность, а не проверку реальностью.

· Третья — культурные авторитеты: соцсети, инфлюенсеры и политтехнологи, вооружённые алгоритмами и платформами онлайн-экспериментов, удешевили производство «убедительного» контента и научились точечно его встраивать в нервные узлы сообществ.

Результат — мультистабильность: культура всё чаще застывает в двух устойчивых «долинах» мировоззрений.

▶️ Одна долина описывает мир как нуль-суммный: если кто-то выигрывает, значит, кто-то проигрывает.

▶️ Другая верит в положительную сумму: правильно устроенные правила делают пирог больше для всех.

В прежних условиях реальность, как медленный, но суровый судья, со временем выталкивала менее точные картины мира. В новых условиях алгоритмической экологии судья потерял голос.

· Эхо-камеры ослабили перекрёстную валидацию фактов

· Конформизм переписал критерии успеха

· Авторитеты научились монетизировать трение между лагерями.

В итоге побеждать стало то, что легче растёт, лучше мобилизует, выгоднее продаётся.

Яркий пример — США: общественное поле разошлось на две долины, и между ними пролегла сеть ущелий, где теряются общие смыслы и общие блага. Но это не американская специфика, это новый антропо-алгоритмический климат формирующейся алгокогнитивной культуры.

В нём национальные общества становятся менее кооперативными, а мировая система — более хрупкой. Коллективные задачи — климат, биориски, ядерное сдерживание, ИИ-безопасность — как никогда требуют согласования интересов, а мы переносим в эти зоны логику нуль-суммной войны мемов, оптимизированную на эмоции, клики и ренту внимания.

Так культурная эволюция, ещё вчера верившая в мягкую силу «правды», оказывается перекошенной в пользу «виральной пригодности».

ИИ лишь ускоряет этот дрейф: дешевле убеждать, проще таргетировать, быстрее масштабировать. Парадокс, — но чем совершеннее становятся алгоритмы влияния, тем шумнее становится среда, в которой истина должна отбиваться. Сигнал тонет, и лишь коалиционный маркер «свой» светит как маяк.

Мы стоим у края, где системные ошибки могут стать глобальными катастрофами. Разделённые долины видят в кооперации слабость, а в уступках — предательство.
Но физика риска равнодушна к нашим мифам: вирусу, атомной триаде и несогласованному ИИ не важны лайки.

Если мы не сменим критерии успеха — не переориентируем инфомедиа рынки на проверяемость, мосты и общие выгоды, — эволюция культурных идей продолжит отбирать не то, что верно, а то, что выгодно.

Как тут не вспомнить о «Великом фильтре» цивилизаций и прогнозе лауреата премий Эйнштейна и Фарадея, а также золотых медалей Ньютона и Брюса Мартина Риса [1, 2]:

Мы единственная высокоразвитая цивилизация во Вселенной, т.к. все другие уже самоистребились. И то же самое ждет земную цивилизацию. Ибо при достижении высокого технологического уровня, цивилизация подходит к порогу, после которого она не в состоянии справиться с экзистенциальными рисками, опережающими прогресс [3, 4].

#Раскол #Хриски