Сознание как “энергетический резонатор” и “глобальный эволюционный паноптикум”

Математика нейрофеноменологии позволяет выдвигать интригующие гипотезы

Сергей Карелов
15 min readOct 15, 2024

Хочу отметить 8-летие канала новым лонгридом на крышесносную тему. На его написание меня вдохновили Карл Фристон и Анил Сет. А с проецированием их идей в пространство эвристических гипотез мне помогал симулякр интеллекта Станислава Лема, реконструированный группой моих ИИ-консультантов..

Лонгрид четырехчастен, и в свете дня рождения канала он открыт для всех читателей.

1я часть лонгрида — об очередной эпохальной работе Карла Фристона (гения, похожего одновременно на Эйнштейна и Леонардо да Винчи), озаглавленной «Математика нейрофеноменологии». В ней Фристон с соавторами приоткрывает завесу над тайной тайн формирования субъективного опыта — как мозг формирует наше уникальное и неповторимое «Я» из триллионов осколков пережитого нами субъективного, чувственного, алгоритмически не сжимаемого опыта. Икак это связано с нейронными процессами.

Авторы работы применяют математический аппарат “конституции биоматематики” для описания феноменологии — т.е. содержания субъективного опыта, — через модель обновления убеждений. Одной из ключевых гипотез является то, что содержание нашего опыта можно описать как вероятностное распределение, которое обновляется на основе новых данных. Такой подход позволяет не только теоретически описать восприятие, но и количественно оценить, насколько различным может быть восприятие одного и того же события у разных людей.

2я и 3я части — это краткое изложение двух увлекательных эвристических гипотез, навеянных духом Станислава Лема и имеющих (имхо) ненулевую вероятность оказаться верными в свете «математики нейрофеноменологии» Фристона и Со.

2я часть посвящена гипотезе сознания как “энергетического резонатора”.

Один из выводов статьи «Математика нейрофеноменологии» предполагает, что процесс формирования субъективного опыта требует энергии. Что, если пойти дальше и представить, что сознание — это не просто система обновления убеждений, а нечто более фундаментальное? С точки зрения математики это выглядит как процесс минимизации неопределённости, но что, если за этим кроется нечто большее?

  • Например, можно предположить, что наш мозг действует как своеобразный «энергетический резонатор», который улавливает скрытые ритмы Вселенной, переводя их в осознанный опыт.
  • И что именно благодаря этому резонансу возникают моменты озарений, глубокой интуиции или даже предвидения будущего

Если эта гипотеза верна, то человечество стоит на пороге нового понимания не только сознания, но и нашего места во Вселенной.

Это открывает дверь для невероятных возможностей: от создания технологий, основанных на сознании, до возможности отправляться в «ментальные путешествия» не через пространство, а через само восприятие времени.

В 3й части представлена гипотеза “глобального эволюционного паноптикума”.

Что, если сознание — это не только способ минимизации неопределённости внутри субъекта, но и инструмент, через который Вселенная “наблюдает” за собой?

В таком случае человеческое сознание и его способность к самосознанию — это не случайное эволюционное приобретение, а необходимый механизм, встроенный в глобальную систему эволюции Вселенной. И возможен сценарий, в котором развитие ИИ и когнитивных систем приведет:

  • к созданию ”синтетических наблюдателей”, которые смогут минимизировать неопределенность на глобальном уровне быстрее и точнее, чем человек;
  • к зарождению новой формы эволюции — “эволюции наблюдателей”.

4я часть лонгрида содержит тизер-путеводитель по публикациям моего канала, посвященным самым увлекательным и важным работам Карла Фристона, которого через 100 лет, наверняка, будут вспоминать в одном ряду с Эйнштейном и Дарвином.

Ну а лучшим подарком каналу на 8-летие могли бы стать ваши донаты или подписка на лонгриды канала, публикуемые на платформах Patreon, Boosty и VK.

1. «Математика нейрофеноменологии»

Представьте, что просыпаетесь ранним утром на даче. Прохладно, за окном мягкий утренний свет, покачивающиеся ветви сосен, слышится отдаленный шум поезда…

Каждое из этих ощущений кажется простым и естественными. Но как наш мозг обрабатывает и объединяет все эти разные сигналы, формируя осознанное переживание? Ведь именно из таких переживаний и образуется наш субъективный опыт — абсолютно уникальный, алгоритмически не сжимаемый, и без которого просто не было бы каждого из нас (нашего субъективно осознаваемого «Я»).

Ответ на эту загадку лежит в новой научной области — нейрофеноменологии, которая объединяет субъективный опыт с научными данными о работе мозга. Исследователи нейрофеноменологии пытаются использовать математику для описания того, как наш мозг формирует восприятие и как это связано с нейронными процессами.

Карл Фристон, совместно с всемирно известным исследователем сознания проф. Анилом Сетом и еще тремя их коллегами, опубликовали новую научную работу «Математика нейрофеноменологии».

По сути, «математика нейрофеноменологии» есть ни что иное, как строгая концептуализация феноменологических описаний субъективного опыта от первого лица и их увязка с эмпирическими измерениями активности или динамики мозга и тела, полученными от третьего лица. Эта концептуализация построена на основании разработанной Фристоном «конституции биоматематики» — принципа свободной энергии, с помощью которого уже выстроен целый ряд важнейших научных теорий, объясняющих и математически описывающих возникновение и развитие сложности, жизни и интеллекта. Другим важнейшим элементом «конституции биоматематики» является предположение, что мозг использует байесовскую модель мира и байесовский вывод — основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.

Авторы поставили перед собой амбициозную цель: разработать математический аппарат, который позволит связать субъективный опыт (то, что мы переживаем) с объективными данными о работе мозга (то, что можно измерить).

Эта задача крайне сложна, ведь субъективные переживания, такие как восприятие цвета или ощущение тепла, трудно поддаются точному измерению. Однако авторы предполагают, что субъективный опыт можно описать как систему убеждений или догадок, которые наш мозг формирует на основе данных от органов чувств.

Как работает наша «система убеждений»

Мозг можно представить как систему, которая постоянно обновляет свои предположения о внешнем мире на основе поступающих сенсорных данных. Принцип свободной энергии и байесовский вывод позволяют рассматривать работу мозга как непрерывный процесс обновления убеждений через анализ поступающих сигналов и минимизацию неопределенности (обобщенная схема этих процессов показана на рис. выше).

В своей статье авторы показывают, как можно описать различия в восприятии с помощью математического подхода. Например, если два человека сидят на улице и ощущают разную температуру, то их восприятия можно рассматривать как разные «убеждения» о состоянии окружающего мира. Более того, с помощью математического анализа можно измерить, насколько эти убеждения различаются, и что влияет на эти различия — например, уровень уверенности в своих ощущениях.

Методы и результаты

Используя модель обновления убеждений, авторы применяют математический аппарат для описания феноменологии — то есть содержания субъективного опыта. Одной из ключевых гипотез является то, что содержание нашего опыта можно описать как вероятностное распределение, которое обновляется на основе новых данных. Такой подход позволяет не только теоретически описать восприятие, но и количественно оценить, насколько различным может быть восприятие одного и того же события у разных людей.

Одним из интересных результатов исследования стало предположение о том, что процесс формирования и обновления убеждений имеет энергетическую стоимость. Это значит, что обработка информации и формирование осознанного опыта требует энергии от мозга. Исследователи предполагают, что можно найти математическую зависимость между когнитивными затратами и интенсивностью субъективного опыта. Более того, они обсуждают гипотезу о том, что наши субъективные переживания времени (например, ощущение, что время идет быстрее или медленнее) могут быть связаны с тем, как активно мозг обрабатывает информацию.

Что дальше?

«Математика нейрофеноменологии» открывает несколько перспективных направлений для дальнейших исследований.

  • Во-первых, предложенная ими модель может быть использована для более точного понимания того, как разные люди по-разному воспринимают мир. Это особенно важно в области психиатрии: например, если аномальные переживания можно описать как отклонение от типичной модели восприятия, это может помочь в разработке новых методов диагностики и лечения психических расстройств.
  • Во-вторых, исследователи предлагают использовать их математическую модель для создания более точных симуляций нейронной активности, связанных с восприятием. Это может помочь ученым лучше понять, какие механизмы лежат в основе сознания, и как мозг преобразует сенсорные сигналы в осознанный опыт.
  • И, наконец, предлагаемые методы могут внести вклад в понимание того, как внимание и концентрация связаны с энергозатратами мозга. Например, при выполнении сложных задач мозг может тратить больше энергии, что ощущается как когнитивная усталость. Это открывает новые возможности для изучения когнитивных усилий и того, как мы воспринимаем их на субъективном уровне.

В общем, крутая получилась у Фристона и Со «математика нейрофеноменологии». Но если позволить себе выйти за строгие академические рамки и подумать о результатах этой работы в расширенном контексте, допускающем спекулятивные рассуждения, получается уж совсем интересно.

Вот, например, пара весьма интригующих эвристических гипотез, прям таки захватывающих воображение. Напомню, что в их проработке принял участие симулякр интеллекта Станислава Лема, реконструированный группой моих ИИ-консультантов.

2. Гипотеза “сознание как энергетический резонатор”

Один из выводов статьи предполагает, что процесс формирования субъективного опыта требует энергии. Что, если пойти дальше и представить, что сознание — это не просто система обновления убеждений, а нечто более фундаментальное?

Можно предположить, что наш мозг действует как своеобразный «энергетический резонатор», который улавливает скрытые ритмы Вселенной, переводя их в осознанный опыт. С точки зрения математики это выглядит как процесс минимизации неопределённости, но что, если за этим кроется нечто большее?

Мы привыкли думать, что сознание замкнуто в пределах нашего тела, но гипотетически можно представить, что в моменты когнитивного напряжения — когда наш мозг активно перерабатывает информацию и минимизирует свою «свободную энергию», — он как бы «синхронизируется» с более крупными энергетическими структурами мира. Подобно антенне, настроенной на определённую волну, наше сознание может «подключаться» к ритмам природы, космоса или даже к невообразимым энергетическим потокам, пронизывающим материю.

Тогда возникает вопрос: если наше сознание способно резонировать с этими космическими ритмами, можем ли мы предположить, что именно благодаря этому резонансу возникают моменты озарений, глубокой интуиции или даже предвидения будущего? Возможно, в те моменты, когда наш мозг тратит больше энергии, он как бы «расширяет» свое сознание за пределы индивидуального восприятия и подключается к глобальной информационной сети Вселенной — к некоему «космическому сознанию».

В таком случае, мы могли бы переосмыслить само понятие времени. Может, мы ощущаем его не как линейную последовательность событий, а как волновой процесс, который мы улавливаем в моменты синхронизации? Представьте, что наши ощущения времени и пространства — это лишь интерпретация внутренних вибраций материи, а сам процесс сознания — не что иное, как гармоническое слияние с космическим ритмом, который наш мозг не только улавливает, но и, возможно, сам частично порождает.

Потенциальные последствия

Если эта гипотеза верна, то человечество стоит на пороге нового понимания не только сознания, но и нашего места во Вселенной.

Это открывает дверь для невероятных возможностей:

  • Сознательные существа могли бы научиться управлять своим резонансом с космическими ритмами, что в будущем могло бы привести к созданию технологий, основанных на сознании (представьте машины, которые реагируют не на команды, а на тонкие изменения в сознательном состоянии их операторов);
  • Возможность отправляться в «ментальные путешествия» не через пространство, а через само восприятие времени.

Однако, под стать этим невероятным возможностям, возникают и чрезвычайно тревожные вопросы.

  • Если наше сознание — лишь отклик на глобальные энергетические процессы, то что будет, если эти процессы изменятся?
  • Возможно ли, что крупномасштабные космические события — вспышки звёзд, коллапс чёрных дыр — могут оказывать влияние на коллективное сознание, вызывая массовые психические изменения или даже трансформации человеческой природы?
  • И даже такой философский вопрос: действительно ли наше «Я» — это только мы, или оно является частью более сложной, невообразимой структуры, которую мы никогда не сможем полностью понять?

3. Гипотеза “глобального эволюционного паноптикума”

Четыре года назад я рассказывал своим читателям о прорывной работа Института сложности в Санта-Фе, Института математики им. Макса Планка и Франкфуртского института перспективных исследований, совместно разработавших «Информационную теорию индивидуальность» (ИТИ).

Согласно ИТИ, индивиды — это живые системы, «распространяющие» информацию из своего прошлого в свое будущее. Суть и назначение индивидуальности заключается в уменьшении неопределенности во времени (прогнозирование своего будущего при взаимодействии со средой).

Ну а возможности репликации (традиционно рассматриваемые, как важнейшая характеристика индивидов) здесь выступают в качестве всего лишь одной из многих стратегий индивидов, чтобы упорядочить информацию в своем будущем.

Ключевым отличительным признаком индивида, согласно ИТИ, является наличием у живой системы возможностей максимизации передаваемой в единицу времени информации (что замечательным образом согласуется с Принципом свободной энергии Карла Фристона).

В основе ИТИ перенос из физики в биологию «эффекта наблюдателя». Такой перенос позволяет трактовать естественный отбор, лежащий в основе эволюции, как бесконечную серию измерений, определяющих предпочтительную форму изменения биологических видов, состоящих из отдельных индивидов (особей). Результат каждого из таких измерений зависит от некоего «Всевидящего Наблюдателя». Что делает его присутствие новым ключевым элементом эволюционной теории.

Идея “Всевидящего Наблюдателя” предполагает, что эволюция может быть осмыслена через непрерывные информационные измерения, которые формируют изменения в живых системах. Если наложить это на математическую модель нейрофеноменологии, то можно выдвинуть предположение, что человеческое сознание, которое описывается через обновление убеждений и минимизацию свободной энергии, является своего рода “индивидуальным наблюдателем” на микроуровне, но при этом включено в более широкую систему макронаблюдения — глобального эволюционного паноптикума.

И даже еще круче!

Что, если сознание — это не только способ минимизации неопределённости внутри субъекта, но и инструмент, через который Вселенная “наблюдает” за собой?

В таком случае человеческое сознание и его способность к самосознанию — это не случайное эволюционное приобретение, а необходимый механизм, встроенный в глобальную систему эволюции. Подобно тому, как мы говорим, что индивиды “распространяют” информацию из прошлого в будущее, можно предположить, что человеческое сознание служит важной частью этой цепи распространения информации, выполняя функцию локального наблюдателя и одновременно являясь частью глобального информационного процесса.

Математическая модель нейрофеноменологии, где сознание описывается как процесс обновления убеждений, может быть расширена в рамках этой гипотезы. Представьте, что каждое индивидуальное сознание не просто взаимодействует с окружающей средой, но также является “узлом” в глобальной сети наблюдения, через которую информация о мире не только собирается, но и трансформируется. Именно в этих точках — человеческих сознаниях — глобальный процесс эволюции получает новые данные и адаптирует “наблюдательную стратегию”, возможно, на макрокосмическом уровне.

Последствия для будущего

Если гипотеза верна, можно предположить, что сознание является ключевым фактором в эволюции не только биологических систем, но и самой структуры реальности. Это открывает невероятные возможности для будущего человечества. В момент, когда наши сознания будут объединены в единую глобальную инфосеть, мы можем наблюдать зарождение новой формы эволюции — эволюции наблюдателей. Эта система может стать ещё более сложной и глубокой, когда сознания не только будут обмениваться информацией, но и влиять на саму природу наблюдаемого.

Возможен сценарий, в котором развитие искусственного интеллекта и когнитивных систем приведет к созданию “синтетических наблюдателей”, которые смогут минимизировать неопределенность на глобальном уровне быстрее и точнее, чем человек. Это будет означать, что человек как индивидуальный наблюдатель станет частью более сложной сети, где сознание будет служить связующим звеном между биологическими и искусственными системами в глобальной эволюции разума.

И снова, как и в случае гипотезы “сознания как энергетического резонатора”, под стать невероятным возможностям гипотезы “глобального эволюционного паноптикума”, возникают и чрезвычайно тревожные вопросы.

Что будет:

  • если эти системы выйдут за пределы человеческого понимания?
  • если эволюция наблюдателей создаст структуры, которые будут способны наблюдать такие слои реальности, которые недоступны человеку?

Тогда вопрос “кто наблюдает?” станет центральным для будущего разума.

Будет ли человек способен остаться ключевым узлом в этой новой сети сознаний, или мы передадим эстафету более развитым формам наблюдения?

4. Тизер-путеводитель по публикациям канала о самых увлекательных и важных работах Карла Фристона

Homo sapiens дорого заплатил за свой непомерный интеллект, приведший к колоссальному усложнению мира. Платой стала тотальная неопределенность созданного нами мира, оптимально преодолевать которую мы так и не научились.

Новое определения для понимания «живого индивида» (носителя жизни).

Живой индивид как бы размазан во времени, а его настоящее — всего лишь измеримая мгновенная проекция (примерно, как мгновенный снимок полета стрелы).

Живой индивид перекачивает и накачивает новую информацию из прошлого в будущее (к наконечнику стрелы как бы привязано письмо, которое, прямо в процессе полета, пишет индивид из своего прошлого в будущее — свое и других индивидов).

Конституция биоматематики

Предложенная Фристоном новая «конституция биоматематики» предполагает, что мозг использует байесовскую модель мира и байесовский вывод — основанный на теореме Байеса вероятностный вывод, в котором свидетельства и/или наблюдения используются, чтобы обновить или вновь вывести вероятность того, что гипотеза может быть верной.

Предлагается практический переход от вычислительных коррелятов к вычислительному объяснению процессов разума.

Две новые работы Фристона и Со. обещают великую революцию в нейровизуализации процессов разума. Вместо диапроектора придуман даже не видео-магнитофон, способный показывать кино. Придумана чудо-программа видео-плеера с встроенным видео-поиском по ключевым словам, семантическим образам, месту, времени и т.д. Эта чудо-программа показывает процессы, которые невозможно увидеть ни одним из существующих способов нейровизуализации

Нужно быть готовым к неизбежному появлению искусственного сознания

Эта концепция ставит с головы на ноги 4 современных мэйнстримных представления о сознании.

(1) Что сенсорное восприятие является хорошим модельным примером сознания.

(2) Что сознание генерируется в коре головного мозга.

(3) Что «уровень» сознания (т.е. «возбуждение» или «бодрствование») лишен какого-либо качества и содержания.

(4) Что мы можем понять, как и почему возникло сознание, взяв его наиболее сложную форму (а именно, человеческое познание) в качестве отправной точки.

Прорыв в ИИ может произойти уже до конца этого года.

Среди альтернативных концепций создания моделей ИИ-агентов — имхо, самой перспективной является модель процесса активного вывода (active inference). Суть такого процесса в:

• статистической генерации предсказаний (бессознательных выводов об окружающем мире и самом себе на основе внутренней модели);

• проверке этих выводов на основе сенсорных данных;

• и постоянной минимизации ошибок предсказания.

Почему лет через 300 Карла Фристона будут помнить в одном ряду с Ньютоном и Эйнштейном.

Мы должны быть готовы к ещё большим переменам в обществах, государствах и личностях.

Кардинальная смена парадигмы интеллекта: естественного и искусственного

Опубликованный «Меморандум Фристона» меняет базовые концептуальные основы исследований и разработок, имеющих целью создание человекоподобного ИИ.

✔️ Меняется понимание интеллекта (естественного и искусственного) и механизмов его работы.

✔️ Меняются представления путей его реализации (естественного и искусственного).

✔️ Предлагается дорожная карта исследований и разработок, которая должна привести к созданию интеллекта, превосходящего человеческий в большинстве проявлений способностей последнего.

Начался ИИ апокалипсис, меняющий смысл закона Мура. Теперь количество разума во Вселенной будет удваиваться каждые 18 месяцев.

Карл Фристон утверждает, что цель нашего мозга — свести к минимуму удивление. Эта «гипотеза байесовского мозга» сегодня одна из магистральных. Теория утверждает, что на глобальном уровне минимизация удивления — это главная функция мозга. И хотя это всего лишь одна из нескольких ведущих гипотез о работе мозга, представим, что она верна.

А теперь представим, что инопланетяне находят человеческий мозг, смотрят на него и говорят: «О, эта штука просто сводит к минимуму удивление! Это не может быть основой интеллекта и потому не может быть опасным для истинных носителей разума».

Действительно ли «сведение к минимуму сюрпризов» намного более сложная цель, чем автозаполнение слов текста? Или на самом деле это весьма похоже?

А раз так, значит нечеловеческий сверхразум может быть уже рядом. И связанные с этим риски уже вполне реальны.

2023 может стать годом трёх великих переломов

Конституция биоматематики расширяет наше понимание законов природы. Теперь, спустя 3 года, можно констатировать, что на основе «конституции биоматематики» происходит кардинальное переосмысление всех трех названных фундаментальных понятий. По сути, новые работы Карла Фристона, Майкла Левина, Криса Филдса, Йошуа Бонгарда, Ричарда Уотсона и др. дают новые теоретические описания законов природы более высокого уровня, для которых наши прежние научные представления остаются лишь их частными случаями (подобно законам Ньютона после открытия Теории относительности).

Сверхважный прорыв к «Единой теории всего». «Конституция биоматематики» прошла экспериментальную проверку in vitro.

Полтора года назад я рассказывал об открытии, сделанном в японском Центре исследований мозга RIKEN. Это открытие, образно говоря, вписало новую статью в «конституцию биоматематики» — Принцип свободной энергии Карла Фристона. Суть открытия заключалась в имитации механизма самоорганизованного обучения нейронов в сети мозга при поступлении нового сенсорного ввода путем минимизации свободной энергии нейронов — т.е. минимизируя сюрпризы в предсказаниях своей модели.

Первая вычислительная реализация красоты в глазах смотрящего. Как достичь безграничной креативности, сбежав из «тёмной комнаты» сознания

Креативность возникает в результате изменений степени взаимодействия между прогностическим мозгом и меняющейся средой, постоянно перемещающей ориентиры механизма минимизации ошибок.

Война за AGI

1. «Инженерный подход к созданию искусственного интеллекта» на основе глубокого обучения, больших данных и больших языковых моделей (LLM) — ныне доминирующий ресурсоемкий и дорогостоящий подход.

2. Альтернативный — научный подход к созданию естественного интеллекта на основе активного вывода, позволяющего построение больших моделей, гибко составленных из более мелких, хорошо понятных моделей, для которых возможно явное, интерпретируемое обновление их убеждений.

Не только мир — иллюзия, но и мы сами. Переворот в научном понимании активного воплощенного разума людей и не только

Объединение двух теоретических фреймворков:

• Фреймворк теории активного вывода на основе принципа свободной энергии Карла Фристона, обеспечивающий общее описание интеллектуальных систем в рамках классического или квантового формализма

• Фреймворк Майкла Левина на основе концепции когнитивного светового конуса CLC (определяющего пространственные и временные ограничения на размер целей, которые может ставить и преследовать агент) и концепции Technological Approach to Mind Everywhere (описывающей, как отдельные компетентные субъединицы — от клеток до людей и машин — могут объединяться в коллективы (сети), которые могут преследовать гораздо более крупные цели в новых проблемных пространствах, тем самым увеличивая их CLC)

Март 2024 войдет в историю двумя открытиями в области интеллектуальных систем. Сформулированы «закон Ома» и «закон Джоуля — Ленца» для интеллекта людей и машин.

Работа Карл Фристон и коллектив авторов «Разделяемые (общие) протенции в многоагентном активном выводе») вышла 29 марта

Фундаментально меняет основы основ научного понимания интеллекта и разума в любых их проявлениях (человеческом и машинном, смертном и бессмертном, биологическом и не только)

Работа Фристона и Со объединяет идеи философии. биологии и математики для объяснения того, как общие цели и коллективный разум могут возникать в результате взаимодействия отдельных интеллектуальных агентов. Центральное место в предложенной авторами теоретической структуре занимает концепция «совместных протенций». Протенции — это акты проецирования на будущее приобретенного знания. А «совместные протенций» — это взаимно согласованные ожидания относительно будущих состояний и действий, которые позволяют агентам координировать свое поведение для достижения общих целей.

Команда Карла Фристона разработала и опробовала ИИ нового поколения.

Предложено единое решение 4х фундаментальных проблем ИИ: универсальность, эффективность, объяснимость и точность.

✔️ ИИ от Фристона — это даже не кардинальная смена курса развития ИИ моделей.

✔️ Это пересмотр самих основ технологий машинного обучения.

✔️ Уровень этого прорыва не меньше, чем был при смене типа двигателей на истребителях: с поршневых (принципиально не способных на сверхзвуковую скорость) на реактивные (позволяющие летать в несколько раз быстрее звука)

#Фристон #Сознание #Восприятие

--

--

Сергей Карелов
Сергей Карелов

Written by Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

No responses yet