Превращение ИИ в АК-47

SeekNet — мать SkyNet, ведет нас к Большому Брату — сыну Большого Бога

Image for post
Image for post

Самая серьезная и непростительная ошибка большинства экспертов по ИИ, футурологов и стратегических аналитиков — их видение потенциальных проблем ИИ лишь в средне-далекой перспективе десятков и более лет. Эта ошибка может дорого стоить человечеству, поскольку главная потенциальная проблема ИИ уже существует и, экспоненциально укрепляясь, растет со страшной скоростью.

Эта проблема — быстрое удешевление ИИ систем.

В сочетании с биологической сущностью самого агрессивного, хитрого и властолюбивого животного, дешевый ИИ уже в ближайшие годы превратит Большого Брата в главный инструмент, определяющий политику, экономику, социальную жизнь общества и повседневную жизнь индивидов. Тем самым ИИ, на новом витке технопрогресса, повторит эпохальную судьбу автомата Калашникова, ставшего национальным символом пяти государств 3-го мира.

Image for post
Image for post

Но ИИ куда мощнее АК-47. И для него, что страны 3-го мира, что США с Китаем, — все одно.

Комодизация ИИ (типа умных колонок и т.п.) только кажется благом. Ведь современный ИИ (а вовсе не общий ИИ неблизкого будущего) способен показывать поразительную мощь в решении задач, требующих вычислений.

А как только это сильно подешевеет — тут же начнут массово применять (и ничьего разрешения просить не потребуется).

Ну а в первую очередь, будет сделан SkyNet. Только будет он вовсе не голливудским бредом про спонтанное превращение слабого ИИ в сильного, а самым востребованным в пост-ковидном мире инструментом тотального общественного контроля. Тем самым, что я именую Большой Брат — сын Большого Бога.

И в доказательство того, что все это вполне реально и совсем рядом, — вот прекрасный пример.

Разработана система SeekNet — вполне заслуживающая стать матерью SkyNet.

Это система наблюдения и контроля, способная уже не просто на тупое распознавание номеров автомашин или лиц, а на самостоятельное (!) слежение и контроль за людьми. И сделано это (кто бы сомневался) для контроля в людных местах за людьми с симптомами COVID-19.

Воплощенное визуальное распознавание

Image for post
Image for post
(А) Обнаружен некто, похожий на искомого человека, но его плохо видно (В) Робот менят точку наблюдения (С) Теперь видно хорошо — и это искомый человек. Источник: https://arxiv.org/pdf/2011.08682.pdf

Разработанную в Университете Мэриленда программную систему SeekNet можно представить по-разному:

  1. скромно — это новый способ решения задач амодального распознавания;
  2. или как оно на самом деле — это новое поколение систем распознавания, заслуживающее название «Воплощенное визуальное распознавание».

Амодальное распознавание — это способность систем обнаруживать частично загороженные объекты. Большинство современных систем визуального распознавания не способны выполнять амодальное распознавание. Лишь немногие из них способны кое-как осуществлять амодальное распознавание с помощью пассивного прогнозирования или воплощенных подходов к распознаванию. Однако, все эти подходы сталкиваются с проблемами в реальных приложениях, таких как динамические объекты.

В SeekNet же придуман улучшенный метод оптимизации для амодального распознавания.

Воплощенное визуальное распознавание объединяет две задачи.

  1. Распознавание (не только визуальное, но и, возможно, в комплексе со звуком и запахом — были бы датчики).
  2. Роботизированное слежение: аппаратное и программное.
    ▪️ Аппаратное — это когда простейший робот (поворотно-фокусирующий механизм камеры) меняет угол обзора и фокус или продвинутый робот (который может двигаться, как на картинке выше).
    ▪️ Программное — это когда алгоритм сам придумывает, как нужно изменить точку обзора, например, переключившись на определенную камеру, откуда будет видно то, что нужно алгоритму для лучшего распознавания.

Как ни трактуй SeekNet, она способна следить за людьми в сложной социальной среде, где они перемещаются и взаимодействуют (толпа, многолюдная улица, метро, дискотека, митинг, шествие …).

SeekNet состоит из сети восприятия и сети движения. Вместе эти две сети способны учиться, примерно, таким образом.

  • Сеть восприятия распознает частично загороженного человека, похожего на Васю К. (например, виден лишь нос, один глаз и щека).
  • Сеть восприятия передает команду роботу сети движения (аппаратному или программному — см. выше) так переместить точку обзора, чтобы были видны недостающие детали лица.
  • Робот сети движения решает эту задачу (аппаратно или программно).
  • Сеть восприятия завершает решение задачи распознавания: это Вася К.
  • Но Вася куда-то бежит, его заслоняют другие люди и предметы, — короче, теряется из виду.
  • Но сеть восприятия уже не проведешь. Она не отстанет и будет со скоростью несколько раз в секунду давать роботам сети движения команды по ведению Васи в пространстве (при наличии карты местности м прочих пространственных деталей ландшафта слежения).

В итоге Васе не уйти от тотального контроля. И все это SeekNet делает сама без вмешательства людей.

Прототип делался, чтобы отслеживать людей с COVID-19, дистанционно следя за симптомами: температура тела, частота дыхания, частота сердечных сокращений и т. д. Но уж поверьте, применяться новый метод слежки будет повсеместно.

Совсем недавно я писал про визионерский прогноз сценариев для Большого Брата 21 века, сделанный Джеком Кларком из OpenAI. Перечитайте и его прогноз, и мой комментарий. Оно того стоит, ибо как раз про SeekNet — мать SkyNet’а.

Как и я, Кларк считает:

✔️ сейчас наибольшую угрозу демократии представляют не противостоящие политические идеологии, а широко доступные недорогие технологии слежки;

✔️ пандемия COVID-19 привела к быстрому развитию и внедрению технологий эпиднадзора, которые в настоящее время в основном разрабатываются и продаются авторитарными странами;

✔️ это уже не остановить;

✔️ открытым остаются лишь 2 вопроса:

  • станет ли та или иная страна или часть мира доминирующей в развитии этой технологии;
  • как западные правительства решат использовать эту технологию после того, как кризис закончится и будут доступны все эти дешевые, мощные инструменты наблюдения.

Пока что все говорит в пользу того, что системы контроля, внедряемые для борьбы с COVID-19, усилят авторитарные режимы и подтолкнут либеральные режимы к авторитарной трансформации.

Ну а поскольку проблема превращения ИИ в “АК-47 21 века” мало кого волнует (да и, вообще, ее мало кто видит), постепенное внедрение SeekNet в качестве основы построения SkyNet — выглядит вполне вероятным сценарием самого ближайшего будущего.

________________________________

Спасибо за просмотр! Ставьте лайки и подписывайтесь на канал. Всего доброго!

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store