Скачок мутаций языка и подмена когнитивных микроэлементов на помои снов ИИ

3 min readMar 30, 2024

Живя среди синтетического инфомусора, люди все же остаются людьми, способными остановить этот тренд. Но смена типа культуры ведет к необратимому для Homo sapiens — мы будем все более лишаться 2го слова.

Недавно я писал, что цунами инфомусора накрывает науку [2].

Но как ни противно жить в таком мире, у людей все же остается шанс на интеллектуальное выживание, путем инфогигиены и здорового инфопитания хотя бы для себя и детей.

Со сменой типа культуры с «человеческой» на алгокогнитивную (культуру двух носителей высшего интеллекта, в которой доля человеческой составляющей неумолимо сокращается в пользу алгоритмической) трансформация жизни людей куда драматичней из-за необратимости. Ибо это, по сути, — разворот вектора генно-культурной эволюции Homo sapiens (десятки тысяч лет направленного в сторону повышения разумности) на 180 градусов.

Ведь как ни изощряйся с определениями интеллекта, ума, разума, но интуитивно мы понимаем мудрость приписываемой Эйнштейну фразы:

«Если вы хотите, чтобы ваши дети были умными, читайте им сказки. Если же вы хотите, чтобы они были очень умными, читайте им больше сказок»

Но что будет происходить с ребенком, когда малыш будет питаться, в основном, помоями снов ИИ? — задается вопросом известный нейробиолог Эрик Хоэл во вчерашнем эссе «Генерируемый ИИ мусор загрязняет нашу культуру» [1].

И этот синтетический инфомусор — еще не худшее следствие массового внедрения генеративного ИИ в жизнь людей. Разве невозможно — пишет Хоэл, — что человеческая культура содержит в себе «когнитивные микроэлементы» — такие вещи, как связные предложения, повествования и преемственность персонажей, — которые необходимы развивающемуся мозгу?

Вымывание таких «когнитивных микроэлементов» не восполняется «помоями снов» ИИ. А доля таких «помоев» ощутимо нарастает уже в самой «форме жизни — языке» (по определению Витгенштейна).

Например, исследование «Мониторинг масштабов ИИ-модифицированного контента: исследование влияния ChatGPT на рецензирование статей конференций по тематике ИИ» [3] показывает:

Уже не только сами научные статьи по тематике ИИ пишутся в соавторстве с ИИ-чатботами, но и рецензии на статьи также уже пишутся (примерно в 10% случаях) в соавторстве с ИИ-чатботами.
Фиксируется процесс быстрых «мутаций языка» за счет активного участия ИИ-чатботов в создании и рецензировании научных статей. «Любимые» прилагательные ИИ-чатботов (типа “похвальный”, “тщательный” и “замысловатый”) показывают 10-ти, 5-ти и 11-ти кратное увеличение вероятности появления в научных публикациях 2023 по сравнению с 2022.

Что же до «лженауки», то она просто входит в зону собственной сингулярности.

Помните коллекцию из десятков абсурдных, но неотличимых от правды «ложных корреляций», собранных 10 лет назад Тайлером Виген? [4]

Например:

между потреблением маргарина на душу населения в США и уровнем разводов в штате Мэн;
между числом людей, получивших удар током от линий электропередач и числом заключаемых в Алабаме браков;
между количеством людей, утонувших, упав в бассейн, и количеством фильмов, в которых снялся Николас Кейдж.

В 2024, с приходом генеративного ИИ, ложные корреляции уже не смешат.

Как показывает Тайлер Виген, каждый ложнокорреляционный бред теперь запросто подтверждается вполне «научной» статьей (с теорией, кейсами, ссылками на другие работы и т.д.) или сразу дюжиной таких статей, “тщательно” и “замысловато” обосновывающих 100%-ю научную достоверность полного бреда.

Полюбопытствуйте сами, каков уровень доказательств [5].