ИИ — самое большое и опасное недопонимание человечества

Ключевая дискуссия на проходящей в Нью-Йорке AAAI-20

Image for post
Image for post
Источник: https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-bias-in-artificial-intelligence-and-in-humans

Сегодня ИИ — самое важное и многообещающее научно-технологическое направление, способное кардинально изменить земную цивилизацию и даже самого человека, как вид.

В то же время, ИИ — самое большое недопонимание в истории человечества, последствия которого крайне опасны для общества.

Дело в том, что:

✔️ ИИ-исследователи и ИИ-инженеры понимают под ИИ одно;

✔️ а полисимейкеры, «властители умов» и элита, от которых зависит настоящее и будущее общества (политики, общественные деятели, журналисты, публицисты, всевозможные селебрити и даже ученые из иных областей знаний) понимают под ИИ совсем другое.

Первые видят в ИИ техническую сторону и функциональные возможности интересного, перспективного и многообещающего технологического направления с шикарными и почти безграничными практическими приложениями.

Для вторых ИИ — это нечто (машины, алгоритмы или гибриды), способное имитировать человеческое мышление и поведение (а в перспективе и сознание) и, что самое главное, способное превзойти людей в чем угодно: от выигрыша в настольные игры до победы в мировой конкуренции, а придется, и в мировой войне.

Последствие этого недопонимания ужасны:

  • создание эффективного регулирования в области ИИ обречено на провал;
  • ножницы между ожиданиями людей в контексте ИИ и реалиями будут неуклонно нарастать;
  • последствия развития и, главное, применения ИИ становятся все менее прогнозируемы.
Image for post
Image for post
Модератор дискуссии проф. Mike Katell рассказывает о типологии определений ИИ

Необходимо новое единое для всех определение и понимание ИИ, отвечающее трем критериям:

  1. ориентация на инклюзивность, как уже созданных, так и будущих приложений ИИ (именно приложений, а не технологий);
  2. доступность для понимания широких аудиторий, не являющихся экспертами;
  3. приоритет прозрачности, отчетности и надзора при создании и совершенствовании любых ИИ-приложений (именно приложений, а не технологий)

Вот один из возможных примеров такого определения.

ИИ-системы — это компьютерные системы:

· способные при конкретном наборе определяемых человеком целей, делать прогнозы, давать рекомендации или предлагать решения, влияющие на процессы, происходящие в реальных или виртуальных средах;

· предназначенные для работы в широком диапазоне автономности, уровень которой четко определен и жестко закреплен для каждой конкретной ИИ-системы.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store