Мы на шаг ближе к открытию ОТО ноосферы

Модели генерации изображений работают усилителями предубеждений

Три года назад я рассказывал об интереснейшем американо-британском исследовании, обнаружившем искривление пространства субъективной реальности.

Его источник — социальные сети. А его суть — индуцируемая алгоритмами деформация (изменение кривизны) субъективного инфопространства миллионов людей.

И «кривизна» здесь не гипербола, а измеряемый параметр, характеризующий искривление инфопотоков.

Только опубликованный препринт интереснейшего американо-итальянского исследования делает следующий шаг, приближающий нас к общей теории кривизны субъективного инфопространства цифровых медиа.

Т.е. по сути, — к своего рода, общей теории относительности ноосферы (ибо по ходу тотальной оцифровки реальности цифровые медиа становятся ключевым элементом ноосферы).

Авторы исследовали предубеждения, которые проявляются в моделях генерации изображений типа Stable Diffusion и DALL-E.

• 1-й результат исследования — не удивителен и лежал на поверхности: генераторы изображений увековечивают предубеждения, прорастая навечно в тысячах приложений и становясь частью новой цифровой реальности.
• 2-й результат — не то чтобы совсем сюрприз, но уж больно тревожен: генераторы изображений усиливают предубеждения (например, они имеют тенденцию отображать более острые предубеждения, чем базовые наборы данных, используемые для обучения моделей).

Механизм искривления генераторами изображений субъективного инфопространства миллионов людей прост и непреодолим своей положительной обратной связью:

1. человеческие предубеждения, всегда содержащиеся в обучающих наборах данных, порождают предубеждения моделей генерации изображений (чем больше предубеждений в данных, тем больше предубеждений у моделей);
2. предубеждения моделей обостряются их алгоритмами;
3. обостренные предубеждения моделей влияют на миллионы людей, увеличивая их предубеждения;
4. переход к п. 1

Комментируя эти результаты, Джек Кларк написал, что это не столько техническая проблема, сколько социотехническая. И это действительно так.

Поскольку проблема технически неустранима, начнутся политические баталии о том, какие предубеждения «правильные» для различных моделей, а какие нет.

И все это кончится полной идеологизацией ноосферы: подходов, определяющих «правильные» предубеждения, и моделей на их основе, будет столько же, сколько идеологий на планете.

Закончу той же фразой, что и 1-й пост про ОТО ноосферы (теперь это стало еще более очевидно).

Антиутопия будущего — не Черное зеркало, а кривое.

________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях