ИИ — самое большое и опасное недопонимание человечества

Ключевая дискуссия на проходящей в Нью-Йорке AAAI-20

Источник: https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-bias-in-artificial-intelligence-and-in-humans

Сегодня ИИ — самое важное и многообещающее научно-технологическое направление, способное кардинально изменить земную цивилизацию и даже самого человека, как вид.

В то же время, ИИ — самое большое недопонимание в истории человечества, последствия которого крайне опасны для общества.

Дело в том, что:

✔️ ИИ-исследователи и ИИ-инженеры понимают под ИИ одно;

✔️ а полисимейкеры, «властители умов» и элита, от которых зависит настоящее и будущее общества (политики, общественные деятели, журналисты, публицисты, всевозможные селебрити и даже ученые из иных областей знаний) понимают под ИИ совсем другое.

Первые видят в ИИ техническую сторону и функциональные возможности интересного, перспективного и многообещающего технологического направления с шикарными и почти безграничными практическими приложениями.

Для вторых ИИ — это нечто (машины, алгоритмы или гибриды), способное имитировать человеческое мышление и поведение (а в перспективе и сознание) и, что самое главное, способное превзойти людей в чем угодно: от выигрыша в настольные игры до победы в мировой конкуренции, а придется, и в мировой войне.

Последствие этого недопонимания ужасны:

• создание эффективного регулирования в области ИИ обречено на провал;
• ножницы между ожиданиями людей в контексте ИИ и реалиями будут неуклонно нарастать;
• последствия развития и, главное, применения ИИ становятся все менее прогнозируемы.

Модератор дискуссии проф. Mike Katell рассказывает о типологии определений ИИ

Необходимо новое единое для всех определение и понимание ИИ, отвечающее трем критериям:

1. ориентация на инклюзивность, как уже созданных, так и будущих приложений ИИ (именно приложений, а не технологий);
2. доступность для понимания широких аудиторий, не являющихся экспертами;
3. приоритет прозрачности, отчетности и надзора при создании и совершенствовании любых ИИ-приложений (именно приложений, а не технологий)

Вот один из возможных примеров такого определения.

ИИ-системы — это компьютерные системы:

· способные при конкретном наборе определяемых человеком целей, делать прогнозы, давать рекомендации или предлагать решения, влияющие на процессы, происходящие в реальных или виртуальных средах;

· предназначенные для работы в широком диапазоне автономности, уровень которой четко определен и жестко закреплен для каждой конкретной ИИ-системы.

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь