Следующая фаза ИИ — фальсификация всего мира
И Китай здесь впереди
Самым важным мировым событием в области ИИ за март месяц был AIC — проведенный DARPA коллоквиум по ИИ с приоритетом на военных и разведку.
Выбрать что-то одно из 2х дюжин интереснейших тем 2х дневного коллоквиума трудно. Возьму в качестве тизера, например, эту тему — непрерывное и надежное машинное обучение.
В чем тут фишка и почему это так важно.
— Ключевые проблемы современных ИИ в том, что:
• ИИ сначала учатся, а потом работают, тогда как люди продолжают учиться и набирать опыт, пока живы;
• ИИ не понимают контекст информации и, в частности, изображений;
• ИИ не обладают, не строят и не совершенствуют моделей мира.
— Результатом этого является то, люди всегда могут обмануть ИИ, ибо:
• он уже кончил учиться и тупо работает, делая то, чему научился, обрабатывая данные, которые ему скормили люди или он сам нагенерил;
• а люди продолжают учиться и, в частности, на том, как эффективней обманывать уже обученного ИИ.
— В итоге страшная перспектива для многих областей, где работает ИИ. Самый понятный и ужасающий пример — фальсификация спутниковых и не только фотографий со всего мира, миллионами хранящихся в открытом доступе в сети.
• Те же алгоритмы, что учатся отличать на фото, например, реальные мосты, могут создать поддельные мосты, которые ИИ не сможет отличить от настоящих.
• Такие «глубокие фейки», будучи подсунуты в открытые сетевые наборы изображений, куда опасней видео-обманок для СМИ, где известные люди, говорят и делают то, что они не говорили и не делали.
• Дабы понять уровень угроз, достаточно сказать, что такая подтасовка открыто хранящихся в сети гео-изображений способна спустить в унитаз десятки миллиардов долларов, вкладываемых в разработку самоуправляемых авто.
• Сегодня Китай является признанным мировым лидером в использовании технологий генеративных состязательных сетей, способных заставить компьютеры видеть объекты в ландшафтах или на спутниковых изображениях, которых там нет.
Резюме простое:
1) ИИ должен, как и люди, быть способным постоянно учиться и набираться опыта, понимать контекст и формировать свои внутренние модели мира.
2) Ох не зря Китай приоритетно вкладывается в GAN. Это позволяет создавать на основе ИИ оружие, пострашнее автономных роботов-убийц.
Подробней:
- про The Newest AI-Enabled Weapon: ‘Deep-Faking’ Photos of the Earth
- доклад на эту тему на коллоквиуме AIC (25 мин)
- 2 дюжины других докладов на AIC
________________________________
Если понравился пост:
- нажмите на “палец вверх”;
- подпишитесь на обновления канала на платформе Medium;
- оставьте комментарий.
Еще больше материалов на моем Телеграм канале «Малоизвестное интересное». Подпишитесь
