Как стать кентавром

Вся история AI была о противоборстве интеллекта человека и компьютера. Новая история IA будет об их сотрудничестве. Мир устроен иначе, чем шахматы. Это не игра с нулевой суммой, и здесь могут выигрывать одновременно оба игрока.

Сергей Карелов
17 min readMar 12, 2018

Oчень давно собирался написать вводно-обзорный лонгрид про интеллектуальных кентавров — симбиоз интеллекта человека и AI (одна из самых волнующих меня тем), но все руки не доходили.
И вот дождался, —
этот текст за меня написал Ники Кейс.

Особо отмечу — превосходно написал. Ничего не забыл и все акценты правильно расставил.

Короче, получился мастрид на совсем малоизвестную тему, имеющую к тому же все шансы в недалеком будущем переключить на себя основное внимание в области AI. Да так переключить, что сегодняшний «обычный AI» просто станет всем малоинтересен.
Как когда-то вдруг всем стали неинтересны пейджеры, и внимание переключилось на сотовые телефоны.

Конечно же я говорю о «младшем брате обычного AI» по имени IA, которому при раздаче научно-технологических перспектив во 2й половине прошлого века не досталось ни мельницы, ни осла, а всего лишь жалкий кот по прозвищу Усилинтел — «Усилитель интеллекта».

О том, как обзаведясь сапогами за счет военного бюджета, этот «кот» вдохновил своего хозяина привязать к кирпичу карандаш, в результате чего человечество получило: персональный компьютер, мышь, всемирную паутину, видеоконференции, гиперссылки и, наконец, интеллектуальных кентавров, — обо все об этом за меня написал великолепный Ники Кейс.

Ну а я не смог отказать себе в удовольствии пересказать вам по-русски этот увлекательный изысканный мастлонгрид.

Enjoy it!

Пролог

Гарри съежился, как будто бы кто-то плюнул ему в тарелку. А потом таки съел пешкой белого слона на f5. «Темно-синий» молча и, будто снова плюя в его тарелку, пошел ладьей на e7, съедая ферзя Гарри.

Это была уж 6я игра матча, а нервы Гарри надорвались еще во 2й, когда «Темно-синий» лишил его какой-либо контригры. И с тех пор все игры заканчивались вничью.

Гарри сделал еще один, как оказалось, последний ход — съел слоном ладью на е7, только что отожравшую его ферзя. «Темно-синий» ответил пешкой на c4. И Гарри осознал, что после вскрытия вертикалей для белого ферзя, у черных не остается никакой надежды на спасение.

И Гарри Каспаров сдался, не сделав в этой игре и 20 ходов.
11 мая 1997 года разработанный компанией IBM шахматный суперкомпьютер «Deep Blue» (темно-синий, англ.) стал первым AI, победившим чемпиона мира по шахматам.

Из документального фильма ESPN «Человек против машины»: момент, когда проигравший Гарри Каспаров, пожимая плечами, покидает матч

… Прошел 21 год. И сегодня каждый может установить себе на ноутбук шахматную программу, играющую куда лучше, чем Deep Blue, победивший чемпиона по шахматам среди людей.

История AI

Вся история AI крутится вокруг одной интриги, которую люди не устают обсуждать уже несколько десятилетий:

  • человек против машины,
  • создатели против своих созданий,
  • помятый мешок из мяса и костей против отполированного блока с кремниевой начинкой.

И о чем бы мы ни говорили,

— об уже просматривающихся неприятностях от внедрения AI: лишающие нас работы роботы, давящие нас на дорогах самоуправляемые авто, автономные дроны-убийцы …,

— или о далеких и надуманных опасениях машинного апокалипсиса: намерениях AI захватить мир и избавиться от людей, превратив их в домашних животных или примитивных рабов …,

все это произрастает из одного и того же корневого страха:

страха, что AI не разделяет наши человеческие цели и ценности.

И что еще хуже, мы убедили себя, что наши отношения с AI похожи на шахматную игру. А говоря по-научному, на игру с нулевой суммой, где победа одного игрока — это поражение другого.

_ _ _ _ _

Гарри Каспаров потребовал реванша. Он обвинил людей из «команды Deep Blue» в тайной поддержке шахматного суперкомпьютера. А поскольку, проигранный Каспаровым матч 1997 года был реваншем «команды Deep Blue» после проигрыша Каспарову в 1996 году, было бы справедливо провести еще один, третий матч.

Компания IBM отрезала — нет и все. Они убили «Темно-синего», расчленили его на части, упаковали в коробки и уехали в свои лаборатории («Спи спокойно дорогой Deep Blue, 1989–1997 гг.»).

Однако Гарри не мог не заподозрить: а что, если вместе с суперкомпьютерным AI все же играл человек?

И уже в следующем 1998 году, Гарри Каспаров провел первое в мире соревнование «Шахматы Кентавров» [1] Подобно тому, как мифологический кентавр был получеловек полуконь, эти кентавры были шахматными командами, состоящими из людей и AI.

Но если люди все же хуже играют в шахматы, чем AI, не будет ли пара “человека + AI” играть слабее, чем только один AI?

Разве компьютер не будет замедляться человеком, как если бы Усэйн Болт (восьмикратный олимпийский чемпион и 11-кратный чемпион мира по бегу — СК) пытался ускорить бег за счет увеличения числа ног, привязав к своей ноге толстую панду?

В 2005 году онлайн-шахматный турнир, вдохновленный кентаврами Гарри, попытался ответить на этот вопрос. Они пригласили участвовать в борьбе за большой приз все типы интеллектов — суперкомпьютеры, гроссмейстеры, смешанные команды из людей и AI [2]

И вот ведь сюрприз. Оказалось, что кентавр (человек + AI) обыгрывает не только человека, но и AI.

Это связано с тем, что, вопреки всяким ненаучным интернет-тестам на IQ, интеллект имеет вовсе не одно измерение. Он многомерен. Так называемый «g-фактор», также известный как «общий интеллект», определяет лишь 30–50% производительности индивида на различных познавательных задачах [3]. То есть «общий интеллект», хоть и является одним из важных показателей, но это далеко не единственный показатель интеллекта.

Например, гроссмейстеры сильны в построении долгосрочной стратегии в шахматах, но не в состоянии обозреть наперед миллионы возможных ходов, в то время как обратное верно для шахматных AI. И поскольку люди и AI сильны в разных измерениях интеллекта, объединившись в шахматных кентавров, они могут побеждать и людей, и суперкомпьютеров.

Но разве AI не прогрессирует и в том аспекте (измерении) интеллекта, который отличает людей?

Возможно. Однако рассмотрим теорему «Халявы не будет» (“No Free Lunch”) из области машинного обучения [4].

В теореме утверждается, что не существует алгоритма для решения конкретной проблемы (поиска, оптимизации и т.п.), который работает лучше других на всем множестве задач. Если некоторый алгоритм работает лучше (быстрее, точнее) на одних задачах, значит, на других задачах он будет хуже.

Из этого следует, что интеллект должен специализироваться. Интеллект белки специализируется на том, чтобы быть белкой. А человеческий интеллект специализируется на том, чтобы быть человеком. И если у вас когда-либо был тщетный опыт уберечь от белок кормушки для птиц, вы знаете, что белки все же могут кое в чем перехитрить человека. Это может быть обнадеживающим, поскольку люди также будут стараться перехитрить компьютеры в определенных аспектах интеллекта.

Однако, объединение интеллектов человека и AI в интеллект кентавра позволяет решить не только техническую проблему преодоления слабостей и синергии сильных сторон этих двух интеллектов. Помимо этого появляется возможность решить также и моральную проблему AI: как люди могут быть уверенными, что AI разделяет их человеческие цели и ценности?

Ответ прост. Если вы не можете победить AI, присоединяйтесь к нему!

Оставшаяся часть этого эссе будет посвящена забытому младшему брату AI — IA или Intelligence Augmentation (Усиление интеллекта).

Вся история AI была о противоборстве интеллекта человека и компьютера. Новая история IA будет о их сотрудничестве. Мир устроен иначе, чем шахматы. Это не игра с нулевой суммой, и здесь могут выигрывать одновременно оба игрока.

В следующих нескольких разделах я расскажу о прошлом, настоящем и возможном будущем IA — как мы, люди, создавали инструменты для усиления наших интеллектуальных сил и преодоления наших интеллектуальных слабостей. Я покажу, как люди уже работают с IA в различных областях, от искусства до инженерии. И, наконец, я упомяну несколько черновых идей о том, как вы могли бы достичь эффективного партнерства с AI, т.е. стать интеллектуальным кентавром.

Действуя совместно, люди и AI могут превратиться из соперников, стремящихся лишь к победе друг над другом, в игроков одной команды, имеющих общие цели и помогающих друг другу.

История IA

Даг Энгельбарт приклеил скотчем карандаш к кирпичу и попытался им писать [5] Он твердо знал, как с толком использовать деньги военного бюджета на холодную войну.

Историческое фото из “Института Дага Энгельбарта”

В 1962 году — за несколько десятилетий до того, как Гарри Каспаров сыграл в шахматы с кентаврами, за несколько лет до того, как был изобретен интернет, и до создания первого суперкомпьютера — Даг Энгельбарт изучал, как инструментарий формируют наше мышление. В то время большинство коллег Дага относились к компьютерам, как к способу ускоренного перемалывания цифровых данных. Но Дагу в компьютерах открылось нечто более глубокое:

он увидел в них способ усилить человеческий разум.

Не то чтобы усиление человеческих возможностей было чем-то новым. У нас нет когтей и клыков. И поэтому наши предки усилили эту недостачу копьями и стрелами. У нас нет большой рабочей памяти. И поэтому наши предки увеличили свои познавательные способности с помощью счетов и письменности. И эти инструменты не просто облегчали жизнь человека — они полностью изменили то, как жили люди. Особенно письменность: это был не просто способ записи событий. Этот инструмент привел к созданию математики, науки, истории, литературного искусства и других столпов современной цивилизации.

И чтобы наглядно доказать это, Даг привязал кирпич к карандашу. Сделав это, он не просто хотел проиллюстрировать высочайшую важность письма для увеличения интеллекта.

Он хотел показать, как ослабление инструментария (в данном случае, ослабление функциональных возможностей карандаша для выполнения процесса письма) делает весьма затруднительным даже написание одного единственного слова.

И что ослабление функциональных возможностей инструментария на низшем уровне просто перечеркивает возможность его применения на более высоком уровне. Например, для организации ваших мыслей, изучения новых идей и выражений, вычленения из них самого важного.

Даг Энгельбарт показал:

инструмент не «просто» делает какую-то деятельность проще — он допускает новые, ранее невозможные способы мышления, жизни, бытия.

Даг Энгельбарт носился с этой идеей в течение нескольких лет. Наконец, 9 декабря 1968 года он предъявил миру новую компьютерную систему, материализующую на практике идею усиления интеллекта.

Это событие вошло в историю, как «Мать всех демо» (The Mother of All Demos) [6], и это верное название. Впервые мир увидел: компьютерную мышь, гипертекст, видеоконференцию, совместную работу в режиме реального времени и многое другое.

Позвольте вам еще раз напомнить — это был 1968 год!

Это было за 16 лет до Apple Macintosh, за 35 лет до Skype и за 44 года до Google Docs.

Кадр из презентации «Мать всех демо», транслировавшейся из Сан-Франциско Дагом Энгельбартом (справа) в 1968 году.

B течение следующих нескольких десятилетий чудесные «вещицы», показанные в «Матери всех демо» медленно приходили в жизнь людей.

Оригинальная вещица, названная персональный компьютер, дала рядовым людям возможность вычислять, причем так, как раньше это могли позволить себе только правительства и крупные корпорации.

Лаборатория физики элементарных частиц в Швейцарии дала миру другую вещицу под названием «Всемирная паутина» (World Wide Web), позволяющую людям делиться знаниями посредством вещиц, прозванных «веб-страницами», причем люди могли теперь даже создавать связи между отдельными порциями знаний, используя вещицы, называемые гиперссылками.

Стив Джобс однажды назвал компьютер велосипедом для ума. Обратите внимание на метафору велосипеда, а не на что-то вроде автомобиля. Велосипед позволяет вам двигаться быстрее, чем с помощью только вашего тела. Но, в отличие от автомобиля, велосипед работает исключительно с помощью вашего тела, являясь его усилителем (а заодно и оздоровляя ваше тело).

Вот оно — объединение силы металла и колес с человеческим сердцем и мышцами. Вот оно — сотрудничество людей и вещиц, и вот он — кентавр.

Все эти «вещицы» были серьезными основаниями рассчитывать на грядущее усиление интеллекта. Но увы, — всего лишь были :(

Всего лишь были

B настоящее время мало кто даже слышал об IA, особенно по сравнению с его удачливым старшим братом AI. А ведь это не просто смена букв местами.

Даг Энгельбарт предполагал, что компьютеры станут инструментами интеллектуального и художественного творчества.

А получилось, что современные компьютеризованные устройства, в основном, ориентированы не на созидание, а на потребление.

Забудьте о том, что AI не разделяет наших ценностей — сегодня даже технологии, не содержащие элементов AI, перестают поддерживать наши ценности, а зачастую их активно подрывают [7].

Мы надеялись обрести велосипед для ума, а получили кресла-реклайнеры для ума.

Но, к счастью, история IA на этом не заканчивается.

В последние годы наблюдается возрождение интереса к IA. По иронии судьбы, это отчасти связано с опасениями, что люди «отстают» от AI. Именно по этой причине Илон Маск основал Neuralink, занимающуюся исследованием того, как сделать мозговые имплантаты, которые связывают наш ум напрямую с компьютерами.

Но Даг Энгельбарт и Гарри Каспаров уже доказали:

нам не нужен прямой интерфейс мозг — компьютер, чтобы увеличить наш интеллект.

Интерфейс, которым эволюция уже одарила нас — глаза, уши, руки и все тело — работает довольно хорошо. Вы можете ездить на велосипеде для ума, без вмонтирования в мозги железок.

Но так же, как IA должен сотрудничать, а не противостоять человеку, он должен сотрудничать, а не противостоять AI.

Многие десятилетия история AI и история IA шли параллельными курсами, но в следующем десятилетии эти истории могут выйти на встречно-пересекающийся курс.

И наконец, главное — как же стать кентавром

Для Гарри Каспарова в жизни был еще один шок. Помните упоминавшийся ранее онлайн турнир по шахматам 2005 года между суперкомпьютерами, гроссмейстерами и кентаврами?
Я забыл упомянуть, кто в итоге выиграл главный приз турнира.

Сначала Гарри особенно не удивлялся, что гроссмейстер со слабым ноутбуком может побить суперкомпьютер мирового класса. Но результат турнира просто ошеломил Гарри.

Главный приз получил не гроссмейстер с мощным компьютером, а команда из двух любителей и трех слабеньких компьютеров.

На этих трех компьютерах работали три разных шахматных программы (т.е. три разных AI), и когда они расходились во мнении о том, каков должен быть следующий ход, подключались люди, «инструктируя» компьютеры сделать более глубокое исследование предлагаемых ими ходов.

Как понял Гарри:

Слабый игрок + компьютер + хороший процесс их координации превосходят сильный компьютер и, что еще более удивительно, превосходят сильного игрока + компьютер + посредственный процесс их координации.

Кентавр, из древнегреческой мифологии, был величественным рождением богини. Конь БоДжек из анимационного сериала Netflix, был законченным алкоголиком, причиняющим вред всем окружающим. Несмотря на то, что оба они были полулюди полукони, один из них, несомненно, был более успешной комбинацией, чем другой. И это подводит нас к самому важному уроку о человеко-машинной кооперации:

Когда вы создаете команду Человек + AI, самым трудном элементом является не AI и даже не Человек.

Самый трудный для реализации элемент — это объединяющий их «+»

Корпус квадрокоптера, разработанный командой Человек + AI. (слайд из выступления Мориса Конти в 2016 году)

Tаким образом, приходим к двум вопросам:

  • как же добиться лучшего «+» для людей и AI?
  • как комбинировать индивидуальные сильные стороны людей и AI, параллельно преодолевая их индивидуальные недостатки?

Чтоб понять это, для начала, нужно разобраться, что является сильными и слабыми сторонами людей и AI. К лучшему или худшему, но человеческая природа не сильно меняется от тысячелетия к тысячелетию. И если вы хотите увидеть сильные стороны, которые уникальны и универсальны для всех людей,

не смотрите на всемирно известных лауреатов — смотрите на детей.

Дети, даже совсем маленькие, уже владеют: интуицией, аналогиями, творчеством, сочувствием, социальными навыками.

Кому-то акцент на эти «простенькие навыки» (“soft skills”) может показаться смешным. Но тот факт, что мы можем сделать AI, прекрасно играющий в шахматы, но не в состоянии вести нормальный пятиминутный разговор, является доказательством того, что эти навыки только кажутся нам «простенькими». Ведь за этой «простотой» стоят 3,5 миллиарда лет, затраченных эволюцией на их развитие и совершенствование.

А если вы хотите увидеть, в чем слабости людей, идите в школу. Здесь вы увидите все то, что чрезвычайно сложно для человеческого интеллекта, и потому требует многолетнего обучения для получения даже базового уровня: арифметика, способность ко всевозможным вычислениям, память, логика, способность к количественному мышлению. Обратите внимание, что всё это ваш телефон может делать лучше и быстрее, чем самый умный из людей (а мы еще спрашиваем, почему дети чувствуют, что школа не имеет смысла …).

Tеперь, поняв кое-что о сильных и слабых сторонах людей — как насчет сильных и слабых сторон AI?

Честно говоря, это довольно безумное занятие пытаться предсказать, какие конкретные вещи AI сможет или не сможет делать в далеком будущем. Тридцать лет назад никто не предсказывал, что у нас будут самоуправляемые авто (зато предсказывали, что у нас будут летающие машины). Поскольку мы не можем предсказать ничего конкретного, давайте подумаем в целом о том, в каких задачах, AI до сих пор имел относительное преимущество или отставание от человека.

Компьютеры, очевидно, лучше всего подходят для вычислений. Они умеют перемалывать триллионы чисел, просматривая миллиарды точек данных, учитывая миллионы возможностей.

Оперирование с числами может быть наиболее сильной стороной AI, но это также может быть и их наибольшей слабостью.

Вы можете тренировать AI только в том случае, если у вас есть численно измеримая целевая функция (в оригинале, “штрафная” функция за качество обучения (cost function) — СК). Иными словами, если есть численное различие между лучшими и худшими ответами. Вот почему AI побеждают гроссмейстеров в шахматах и Гo — там, где ясно, что победа > ничьи > поражения. Но при этом AI, в лучшем случае, неловко разговаривают, изобретают, создают предметы искусства, ведут переговоры о бизнесе, формулируют научные гипотезы… Т.е. всюду, где вы не можете просто оценивать все ответы в одном измерении от лучшего к худшему. В таких задачах вам нужен человек, который может отказаться давать однозначный ответ на вопрос и вместо этого сам спросит: «почему?» или «как?» или« что, если?».

Другими словами:

AI лучше всего подходит для выбора ответов, а люди — для выбора вопросов.

Именно так победившая в онлайн-турнире 2005 года команда «Человек + AI» реализовала свой «+». Два любителя задавали вопросы трем слабым компьютерам, и когда компьютеры выдавали разные ответы, люди задавали им еще более глубокие вопросы.

Шахматная доска — это не единственное место, где кентавры «Человек + AI» уже достигли успеха. От искусства до инжиниринга — таков диапазон областей успеха кентавров.

  • В 2002 году Sung-Bae Cho создал инструмент, в котором вы и AI совместно создаете модную одежду. Инструмент имитирует процесс эволюции, но применительно к одежде. AI обеспечивает «генетическую вариацию», случайным образом создавая новые варианты одежды. Вы же, используя свое чувство эстетики, выполняете роль «естественный отбор», отбирая одежду, которая будет эволюционировать дальше и «размножаться», давая начало следующим поколениям одежды.
  • В 2016 году Морис Конти продемонстрировал еще один случай эволюционного AI, работающего совместно с человеком при создании корпуса квадрокоптера (см. картинку выше). Человек устанавливает цели и ограничения для AI («постарайся сделать корпус максимально легким, оставаясь крепким и имеющим четыре пропеллера»), а AI организует процесс эволюции корпуса квадроцикла в соответствии с заданными целями и критериями. Затем человек может вмешаться, установив дальнейшие цели или ограничения.
  • В 2016 году Чжу и др. создали инструмент рисования, в котором вы рисуете грубые очертания, а фото AI реалистично дорисовывает остальное. Человек и AI ведут через картину художественный «диалог». Например, человек может нарисовать несколько зеленых линий внизу картины, а AI в ответ предложит несколько вариантов фотореалистичных травянистых полей на выбор. Затем человек может нарисовать черный треугольник над этим, и AI предложит несколько вариантов изображений гор, расположенных за заросшим травой лугом. Так в результате попеременных изобразительных действий человека и AI создается картина.

Во всех этих примерах кентавров человек выбирает вопросы в форме постановки целей и ограничений, в то время как AI генерирует ответы, демонстрируя в реальном времени несколько вариантов возможных ответов на заданный человеком вопрос. Но это не просто односторонний разговор: человек может отреагировать на ответы AI, задавая ему более глубокие вопросы, собирая и комбинируя ответы, а также направляя AI с помощью своей интуиции.

Итак, когда вы думаете об усилении человеческого интеллекта с помощью AI, поменьше думайте, как приспособиться в обществе боргов, и побольше обращайте внимание на пылкие диалоги лихого капитана Кирка с рассудительным Споком (эту метафору с персонажами культовой американской научно-фантастической медиафраншизы «Стартрек» трудно понять тем, кто его не смотрел — СК).

Но суть в том, что

сочетание возможностей интуиции и логики, качественно превосходит их возможности в отдельности.

Проектирование систем «Человек + AI» является совершенно новым полем (на самом деле, это довольно щедро назвать эту область «полем», поскольку она скорее похожа на небольшой участок травы с массой проплешин, символизирующих обилие нерешенных проблем).

Например, пока что лишь нащупываются ответы на такие вопросы.

1) Какие типы вопросов должен задавать человек?
Во всех приведенных выше примерах обычно возникает вопрос: «Какие возможные решения соответствуют этим целям и ограничениям?»

2) Как люди и AI должны общаться?
Вряд ли стоит использовать слова и, тем более, программный код.
В примере с рисунком человек и AI ведут диалог, обмениваясь картинками

3) Как организовать совместную работу многих людей и многих AI?
Во всех приведенных выше примерах был только один человек, работающий с одним AI. Но у победителя турнира шахматных кентавров в 2005 года было два человека и три AI. И отсюда, возможно, главный вопрос — как это масштабировать на десятки, тысячи и даже миллионы людей и/или машин?

Но одно понятно: AI выбирают ответы, а люди — вопросы.

И теперь, учтя все возможности, перспективы и подводные камни технологий на ближайшие десятилетия, люди выбирают свой следующий вопрос -

Что будет дальше?

«Колеса для разума» Плакат компании Apple, 1980 г.

Наша история

Чем была история старшего брата — AI течение последних десятилетий — историей восхождения героя или историей возвышения злодея?

1997 году AI обыграл Гарри Каспарова в шахматы, а в 2011 и 2016 годах AI победил лучших игроков мира в Jeopardy! и Го. И теперь многие опасаются, что AI заберет себе многие наши рабочие места, а то и вообще захватит власть над человечеством.

Между тем история младшего брата — IA была историей одного из самых трагических падений.

Показав феноменальный старт демонстрацией «Матери всех демо» Дага Энгельбарта, идея IA постепенно забывалась по мере того, как технологический фокус неуклонно смещался с инструментов для создателей на инструменты для потребителей.

Какая-то сволочь свинтила колеса у велосипеда для нашего разума (((

Oднако сейчас эти две истории имеют шанс переплестись в единую технологическую оплетку истории развития разума:

AIA — Усиление Искусственного Интеллекта (Artificial Intelligence Augmentation) [8].

IA может дать AI человеческое партнерство, в котором последний весьма нуждается, чтобы продолжать соответствовать нашими целями и ценностями.

В свою очередь, AI может дать IA новые колеса для велосипеда нашего разума, взамен кем-то потихоньку украденных.

Я хотел бы рассказать вам, что ожидает вас в будущем.

  • Но если рассказать кому-то, что нечто хорошее для него неизбежно, это может стать для него источником обрекающего на провал самодовольства.
  • А если рассказать кому-то, что нечто плохое для него неизбежно, это может быть воспринято им, как обрекающее на безысходность самореализующееся пророчество.

Ну и кроме того, ответы — это скромный удел AI. А вы, читатель, будучи человеком, достойны ставить вопросы.

Например:

— IA может позволить увязать цели AI с целями людей. Но как согласовать цели людей с усиленным интеллектом с целями обычных людей?

— Оно нам нужно — просто заменить раскол по целям между людьми и AI на такой же раскол между обычными людьми и «людьми 2.0»?

— Нужно ли вообще озадачиваться вопросом, как обеспечить мир между людьми и AI, имея неразрешенной вопрос, как заставить людей и людей жить в мире?

— Мы знаем, как создавать инструменты для усиления нашего интеллекта, но можем ли мы создавать инструменты для усиления нашей эмпатии? Нашей общности? Наших чувств смысла и цели?

Я не знаю… Я не знаю ответы ни на один из этих вопросов.

Однако человечество имеет долгую историю заимствования идей от природы. Например, в области машинного обучения искусственные нейронные сети были навеяны биологическими нейронными сетями, а генетические алгоритмы были вдохновлены самим процессом биологической эволюции.

Итак, если выбирать только одну — саму важную идею в этом лонгриде, пусть это будет идея о самом недооцененном трюке матушки-природы — идея симбиоза.

Это древнегреческое слово, которое означает «жить вместе».

  • Взаимный симбиоз — это когда цветы кормят пчел, а пчелы, в свою очередь, опыляют цветы.
  • Это когда вы едите здоровую пищу, чтобы накормить триллионы микробов в кишечнике, и взамен эти микробы перерабатывают эту пищу для вас.
  • Это когда 1,5 миллиарда лет назад клетка поглотила бактерию, не переваривая ее, а бактерия решила, что это ровно то, что надо; и с тех пор потомки этих бактерий, которых мы называем «митохондриями», производит энергию для своих хозяев — клеток.

Симбиоз показывает нам:

— вы можете иметь плодотворное сотрудничество, даже если у вас разные навыки, разные цели и даже если вы принадлежите к разным видам;

— мир зачастую не является игрой с нулевой суммой. Наш мир вовсе не навязывает нам обязательное противостояние людей против AI, против кентавров или против других людей.

Симбиоз — это когда двоим хорошо не вопреки, а вследствие их различий. Симбиоз — это знак «+» между ними.

Новая глава в истории человечества только начинается, и нам — живущим вместе — предстоит написать, что будет дальше.

Послесловие пересказчика

Этот вводно-обзорный лонгрид (написанный Ники Кейсом) я планирую продолжить циклом публикаций об интеллектуальных кентаврах и Усилении Искусственного Интеллекта (AIA).

В следующем лонгриде этого цикла планирую рассказать об использовании кентаврав разведслужбами США в их экспериментах по предсказанию будущего.

Опубликованные ранее посты моего канала на тему кентавров:

1) «Интеллект кентавра» — это и есть «Розовый фламинго» в области ИИ» и его продолжение.

2) «Интеллект кентавра борется с раком»

3) «Простой и понятный метод оценки экономической эффективности AI»

_________________________

Хотите читать подобные публикации? Подписывайтесь на мой канал в Телеграме, Medium, Яндекс-Дзене

Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”.

--

--

Сергей Карелов

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации