Следующая фаза ИИ — фальсификация всего мира

И Китай здесь впереди

Image for post
Image for post
Человек смотрит на телеэкране железнодорожного вокзала Сеула (Южная Корея) новостную программу, показывающую изображение станции запуска спутника Sohae в Tongchang-ri, Северная Корея, среда, 6 марта 2019. Источник: https://goo.gl/pMoJW1

Самым важным мировым событием в области ИИ за март месяц был AIC — проведенный DARPA коллоквиум по ИИ с приоритетом на военных и разведку.

Выбрать что-то одно из 2х дюжин интереснейших тем 2х дневного коллоквиума трудно. Возьму в качестве тизера, например, эту тему — непрерывное и надежное машинное обучение.

В чем тут фишка и почему это так важно.

— Ключевые проблемы современных ИИ в том, что:

• ИИ сначала учатся, а потом работают, тогда как люди продолжают учиться и набирать опыт, пока живы;

• ИИ не понимают контекст информации и, в частности, изображений;

• ИИ не обладают, не строят и не совершенствуют моделей мира.

— Результатом этого является то, люди всегда могут обмануть ИИ, ибо:

• он уже кончил учиться и тупо работает, делая то, чему научился, обрабатывая данные, которые ему скормили люди или он сам нагенерил;

• а люди продолжают учиться и, в частности, на том, как эффективней обманывать уже обученного ИИ.

— В итоге страшная перспектива для многих областей, где работает ИИ. Самый понятный и ужасающий пример — фальсификация спутниковых и не только фотографий со всего мира, миллионами хранящихся в открытом доступе в сети.

• Те же алгоритмы, что учатся отличать на фото, например, реальные мосты, могут создать поддельные мосты, которые ИИ не сможет отличить от настоящих.

• Такие «глубокие фейки», будучи подсунуты в открытые сетевые наборы изображений, куда опасней видео-обманок для СМИ, где известные люди, говорят и делают то, что они не говорили и не делали.

• Дабы понять уровень угроз, достаточно сказать, что такая подтасовка открыто хранящихся в сети гео-изображений способна спустить в унитаз десятки миллиардов долларов, вкладываемых в разработку самоуправляемых авто.

• Сегодня Китай является признанным мировым лидером в использовании технологий генеративных состязательных сетей, способных заставить компьютеры видеть объекты в ландшафтах или на спутниковых изображениях, которых там нет.

Резюме простое:

1) ИИ должен, как и люди, быть способным постоянно учиться и набираться опыта, понимать контекст и формировать свои внутренние модели мира.

2) Ох не зря Китай приоритетно вкладывается в GAN. Это позволяет создавать на основе ИИ оружие, пострашнее автономных роботов-убийц.

Подробней:

________________________________

Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на
обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное».
Подпишитесь

Written by

Малоизвестное интересное на стыке науки, технологий, бизнеса и общества - содержательные рассказы, анализ и аннотации

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store