Скандал лучше незамеченного зла

Страшная сила великой безответственности

Image for post
Image for post
Illustration by Alex Castro / The Verge

Прочтя за праздники больше сотни разнообразных материалов с анализом итогов 2018 и прогнозами на 2019 в области ИИ, я попытался как-то отжать из них общий сухой остаток для своих читателей.

Заголовок поста — это то, что получилось.
• 1е предложение — взгляд оптимистов
• 2е — пессимистов.

Для иллюстрации взглядов оптимистов я использую итоговый отчет по ИИ за 2018 издания The Verge.

В роли пессимистов, как и положено по названию, — у меня выступит редакция The Guardian со своим прогнозом ИИ «Мир в 2019».

The Verge

2018 ознаменовался парадом негативных заголовков о скандальных результатах и перспективах ИИ проектов.

Эти и многие другие примеры сподвигли исследовательскую группу AI Now охарактеризовать 2018, как год «каскадных скандалов» в области ИИ. И это точное, хотя и удручающее, определение.

В то же время, The Verge считает, что лучше уж публичные скандалы, чем заметание сора под ковёр. И если открыто клеймить все скандалы и обличать жадность и дурь тех, кто пытается использовать ИИ для своих низких целей или просто из-за суетливого желания застолбить за собой поляну с помощью недостаточно проработанных решений с непродуманными последствиями, — есть шанс, что всё понемногу образуется.

А другими словами, — ИИ может и сгубит мир, но не сразу, а мы еще успеем как следует помучиться. Вот такой оптимизм получился.

Теперь про анализ The Guardian

1) 2018 показал, что уровень ИИ технологий и человеческой глупости растут неимоверно быстро. И в 2019 нужно более всего опасаться слияния этих двух трендов.

2) Правительства, похоже, для себя вопрос с ИИ решили. Прагматический Китай не стесняясь заявил, что будет максимально использовать ИИ для «прогнозирования траекторий развития интернет-инцидентов … превентивного вмешательства и управления общественным мнением для предотвращения массовых вспышек общественного мнения в Интернете и улучшения возможностей социального управления». Скромные правительства Запада вслух такого пока не говорят, но с интересом смотрят, что у Китая получится, чтобы сделать работу над ошибками.

3) В 2018 произошел концептуальный прорыв Google DeepMind в создании AlphaZero — самообучаемого класса программ, способных без участия человека в течение всего нескольких дней достигать сверхчеловеческого уровня в любой игре с «идеальной информацией», где все факты игры известны всем игрокам. Этот прорыв ставит крест на попытках сменить курс разработки ИИ систем в сторону понимаемого человеком способа решения задач ИИ программами. AlphaZero подход делает окончательно невозможным реконструировать процесс, по которому программы приходят к своим выводам, как решать задачу.
Вот превосходный рассказ всей истории AlphaZero

4) Второе великое событие прошлого года немерено повышает риски от использования ИИ. В 2018 рост мощности HW и SW, сопровождаемый повсеместным триумфом облачных технологий, привел к полной демократизации ИИ технологии (они теперь доступны практически всем), но на самом деле это полная анархизация использования ИИ. Теперь все, от авторитарных правителей до криминала, получают в руки мощнейшие инструменты, и то, как они их применят, зависит лишь от уровня креативности их консультантов.
Вот свежий превосходный пример демократизации ИИ

________________________________

Если вам понравился этот пост — не забудьте:

- нажать “палец вверх”;

- подписаться на обновления канала на платформе Medium;

- оставить комментарий.

Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store