ИИ — это идеология, а не технология

Автономный интеллект не существует, - ни наш, ни машинный

Image for post
Image for post
Фото: QILAI SHEN/BLOOMBERG/GETTY

Эта тема куда более долгоиграющая, чем COVID-19. И трудно даже предположить, что случится раньше:

  1. люди научатся с опережением нейтрализовать потенциальные эпидемии коронавирусов,
  2. или люди поймут, как устроены и работают интеллект, разум, сознание.

Обе темы пока в тумане. А специалисты лишь спорят, как эти проблемы правильно сформулировать и с какого бока к ним подступиться.

По коронавирусам я не спец. А вот про 2й сабжект кое-что понимаю. И поэтому имею основания предположить, что статья Глена Вейла и Джарона Ланье «ИИ — это идеология, а не технология. По своей сути, ИИ — это опасное убеждение, не принимающее во внимание деятельную роль людей», — важный шаг в прояснении постановки 2й из названных проблем.

Вот конспект этой интересной и важной работы.

  1. Одна из главных техно-проблем Запада — опасение, что Китай обгонит их в ИИ-гонке из-за тоталитарной централизации ресурсов и беспредела в конфиденциальности данных.
    Но что если это не так? Что если это опасение — лишь плод ошибочного понимания концепции ИИ?
  2. Вот уже 10 лет техно-мир воспринимает ИИ исключительно через призму маркетинга — стоит назвать разработку программ термином «ИИ», как она волшебно преображается: на разработку куда охотней дают инвестиции, а пользователи, еще не видя результатов, кричат «хочу такое!»
  3. Но весь этот маркетинг — обман. ИИ — вовсе не технология (и не спектр технологий). Это одна из множества конкурирующих философий (а если хотите, идеологий), направляющих наше мышление о природе и использовании вычислений.
    — Если программа способна отличить кошек от собак, это вовсе не значит, что машина (выполняющая эту программу) научилась видеть.
    — Если программа способна переводить, это вовсе не значит, что машина научилась понимать тот или иной язык.
    — и т.д.
  4. Без людей, чье умение отличать кошек от собак, переводить с языка на язык и т.д. в виде тысяч и тысяч примеров загрузили в эти программы, они сами бы не смогли научиться ничему. По сути, эти программы — просто автоматизация какой-то деятельности с помощью вложения в машины кусочков интеллекта людей. Но данный метод, однако, сильно зависит от человеческих данных. Например, знаменитый алгоритм генерации текста Open AI прошел обучение на миллионах веб-сайтов, созданных людьми.
  5. Даже не пытайтесь приводить в пример программы типа AlphaZero, которым не требуются образцы деятельности людей, т.к. одна программа вырабатывает образцы для оценки другой. ИИ без человеческих данных возможен только для узкого класса проблем, которые можно определить точно, а не статистически, или основываясь на текущих измерениях реальности. Обычные примеры — настольные игры, такие как шахматы и некоторые научные и математические задачи. Но даже в этих случаях человеческие команды, использующие так называемые ресурсы ИИ, обычно превосходят автономный ИИ. И потому, хоть самообучаемые примеры могут быть важны, они редки и не представляют собой решение реальных проблем в жизни и деятельности людей.
  6. Из-за ошибочной недооценки роли людей в ИИ, возникают химерические виды некоммерческой деятельности. Например, недавние исследования показали, что без созданной человеком Википедии ценность поисковых систем резко упала бы (поскольку именно здесь часто можно найти лучшие результаты для релевантного поиска). Но при этом поисковые сервисы рекламируются как передовые примеры уникальной ценности AI. А несчастная Википедия остается нерентабельной некоммерческой организацией, в то время, как поисковые системы являются одними из самых ценных активов современной цивилизации.
  7. В свете всего вышеназванного, ИИ лучше всего понимать как политическую и социальную идеологию, а не как корзину алгоритмов. Суть идеологии заключается в том, что набор технологий, разработанных технической элитой, может и должен стать автономным ИИ, который, в конечном итоге, заменит (а не дополнит) большую часть человечества.
  8. Прискорбно, но не удивительно, что лидеры западных технологических компаний и правительств так быстро приняли эту идеологию, поддерживающую интересы гиперконцентрированного богатства и политической власти.
  9. Однако перспективы совсем не радужные для человечества: расцвет цифрового авторитаризма и AI-driven (ИИ-стимулируемая) новая холодная (как минимум) война.
  10. Противоположностью такой «маркетинговой идеологии ИИ» может стать «гуманистически-плюралистическая идеология ИИ».

Ее гуманизм в понимании того, что

только люди (а не машины) являются конечным источником и определителем ценностей, от которых, в конечном счете, зависит любой ИИ.

Ее плюрализм в том, что

никакой разум (человека или машины) никогда не будет по-настоящему автономным: все, что мы делаем, зависит от социального контекста, созданного другими людьми, которые определяют смысл того, что мы хотим достичь.

Резюмировать можно так.

Если «плюралистические общества» хотят выиграть гонку не против Китая как нации, а против авторитаризма, где бы он ни возник (в том числе, в их собственной стране), они не могут победить в гонке за развитие такого ИИ, который бросает игру еще до ее начала. Они должны сделать это, победив на своих собственных условиях, условиях, которые являются более продуктивными и динамичными в долгосрочной перспективе, чем иерархическая технократия, как это было продемонстрировано во время Холодной войны.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store