Почему ИИ сложнее, чем мы думаем

✔️ ИИ не знает, что снеговики не бегают, — таков печальный итог 63 лет развития ИИ [1]

✔️ Машинное обучение — это современная алхимия [2]

✔️ Сильный ИИ — не хайп, а фейк, и его невозможно создать [3]

Если смешать (но не взбалтывать) эти три моих поста, украсив полученный коктейль прекрасным научным слогом и авторитетом профессора компьютерных наук ряда университетов Мелани Митчелл, — получится отличная статья «Четыре заблуждения об ИИ. Исследователи ИИ обманывают себя, утверждая будто интеллект человеческого уровня вполне достижим. И вот почему».

1. Триумфализм (ИИ лучше нас в шахматах, го, различных компьютерных играх, некоторых типах распознавания изображений и…


Раскол и озлобление растут, а фейкам хоть бы хны

слева — фейковая новость, справа — сообщение от фактчекера

Представьте, что люди, наконец, добрались до чужой планеты, которая к тому же оказалась очень похожей на Землю. Можно дышать. Есть вода и пища. Тепло и в меру влажно. Красота!

Но через месяц после высадки члены экспедиции начали замечать странности. На этой планете как-то иначе работает восприятие информации людьми, её оценка и дальнейшая передача в ходе социальных коммуникаций.

Дальше больше … и хуже. Члены экспедиции стали впадать в ересь, озлобляться и объявлять несогласных с ними недочеловеками. Произошла поляризация и раскол.

Потом с Земли срочно прибыла спецгруппа психологов — спасателей. Довольно быстро они нашли причину происходящего.

На этой планете люди иначе оценивают…


Почему поляризацию общества можно остановить только через контроль «гигантов»

«Представьте, что у вас тигры бегают по Москве, временами они кого-то съедают. Вы понимаете, что они это делают не оттого, что они плохие, а оттого, что они так устроены. Google и «Яндекс» такие вот тигры. И если вы не решите эту проблему, не посадите их в зоопарк, не накормите их мясом, то они так и будут бегать по улицам».

О том, можно ли остановить поляризацию общества, я рассказываю в большом интервью главреду блога TexTerra Юлии Рыбниковой.

Мы говорим вот о чём (время чтения: 16 минут).

✔️ Почему стычки в Facebook нарастают, на научных советах все обвиняют друг друга в лженауке…


За пару веков на Земле может смениться носитель культуры и обладатель высшего интеллекта

Коллаж из фрагмента Android Jones, Hyperdigital «Marty Party»

Через век или два на Земле будут доминировать существа, гораздо больше отличающиеся от нас, чем мы от неандертальцев и даже от шимпанзе.

Эта самая интригующая фраза из недавнего диалога Юваля Харари и Даниэля Канемана ломает догматику современного мейнстрима академической науки о человеке и человечестве.

И тем не менее, мысль о том, что довольно скоро «венцом природы» на Земле будут уже не люди, а какие-то иные существа, звучит все чаще из уст весьма известных интеллектуалов.

Этих новых, обладающих иным типом интеллекта существ создатель «Философии информации» Лучано Флориди назвал инфорги. …


Новый отчет Intrusion Truth подтверждает худший прогноз RAND

Эффективно бороться с хакерами на службе у государства cмогут лишь хакеры на службе у другого государства.

Опубликованный вчера отчет Intrusion Truth (таинственной структуры, разоблачающей операции кибершпионажа Китая) проливает свет на конкретные детали китайской стратегии шпионажа, основанной на создании глобальной сети киберпреступников — специалистов на краже интеллектуальной собственности.

В декабре 2015 года в Китае было создано интегрированное подразделение космической, кибернетической и радиоэлектронной борьбы, получившее название Силы стратегической поддержки. Фронт экономического (т.н. гражданского) шпионажа был поручен Министерству государственной безопасности Китая (МГБ) — его герб на картинке поста; узнаете щит и меч?.

МГБ разработало инновационную стратегию «гибридного шпионажа».

— КПК ставит цели и…


Новый шаг ИИ к превосходству над людьми

Потенциал способностей ИИ позволит ему:

✔️ либо превзойти людей только в отдельных областях,

✔️ либо превзойти во всем, и тогда привет.

Прояснение этого вопроса происходит этапами. И только что начался 3й — решающий этап.

Дело было так.

Этап 1

Сначала ИИ превзошел людей в состязательных играх (где стороны интеллектуально противостоят друг другу).

Первым пал бастион игр с открытой информацией, в которых игроки обладают полным знанием всех прошлых событий и нынешней ситуации в игре: шахматы, Го — всюду ИИ от DeepMind сумел выйти на недостижимый людям уровень игры.

Этап 2

Взят бастион игр с неполной информацией. В таких играх игроки знают не все: напр., в…


Супер-высшая математика повседневной жизни

Распределение времени между прибытиями лифтов F(∆Т) в сравнении с ∆Т (левая панель), дискретное преобразование Фурье f(ꙍ) распределения времени между прибытиями при нормированной частоте ꙍ /M, где М-общее число интервалов (средние панели) — расчет 6-лифтовой системы

Mир настолько парадоксален, насколько парадоксально наше сознание. А оно предельно парадоксально. Вот довольно типичный пример.

Мы убеждены, что расчет траектории полета на Марс несравненно сложнее расчета оптимального оснащения высокого здания лифтами. Но это не совсем так, ибо марсоходы уже вовсю ездят по Марсу, в то время как алгоритмы расчета оптимального оснащения лифтами лишь пытаются разрабатать.

Представить, насколько сложна супер-высшая математика «лифтовой жизни», нам довольно трудно. Но если пролистать многие страницы многоэтажных формул интегралов в новой работе профессора неравновесной статистической физики Сидни Реднера «Когда приедет лифт?», сложность этого нагромождения формул здорово прочищает мозги.

Оказывается, что мы просто не представляем уровень сложности…


И все в мире увидят, каким ему быть через несколько лет

90%+ населения Сингапура уже используют приложение или брелок TraceTogether

Споры о границах приватности и правах Большого брата в постковидном мире можно заканчивать. Через несколько лет во всех развитых странах будет так, как уже с 1 июня в Сингапуре:

✔️ обязательное приложение на телефоне и/или специальный брелок, без которых закрыт вход во все людные места, за исключением маленьких магазинчиков и аптек;

✔️ это приложение (или брелок) отслеживает и пишет в специальную базу данные о перемещениях человека и его «контактах» (всех людях, с кем человек был в пределах 2 метров не менее 30 мин — эти два параметра настраиваемые).

Собираемые данные считаются анонимными.

Однако:

  1. как только у кого-то появится положительный тест…


GLOM — революционная теория Джеффри Хинтона (о которой в России почему-то никто не знает)

KIEL MUTSCHELKNAUS

· Можно научить ИИ понимать окружающий мир так, как его понимают люди. Ключом к этому станет техника восприятия мира, подобная человеческой.

· Человеческое восприятие построено на интуиции, и чтобы ИИ понимал мир, нужно смоделировать для ИИ интуицию.

· Интуиция — это способность легко проводить аналогии. С её помощью ИИ, подобно человеческому мозгу, будет понимать мир и обладать проницательностью.

· С детства и на протяжении всей жизни мы осмысливаем мир, используя рассуждения по аналогии, отображая сходство одного объекта (идеи, концепции …) с другим — или, в терминологии GLOM, — сходство одного большого вектора с другим.

· Современные теории исходят либо из…


Это новый аргумент в пользу вычислительной теории разума

Источник: “Sensitivity to geometric shape regularity in humans and baboons: A putative signature of human singularity”

Мы — не венец природы, а лишь один из возможных вариантов разума, созданных эволюцией по различным «техзаданиям».

✔️ Но что конкретно, что за уникальное качество было «записано в техзадании» Homo, чего не было в «техзадании» человекообразных обезьян?

Есть несколько гипотез, отвечающих на этот вопрос. Но точного ответа мы никогда не узнаем. Ибо земная эволюция — неповторимый эксперимент. И как там было в точности никто уже не докажет.

При этом все согласны, что уникальность людей в умении создавать и манипулировать очень сложными структурами: языка, математики, музыки … Но такой ответ лишь порождает новые вопросы.

✔️ На чем основаны эти уникальные умения…

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store